トロントのコンテンツクリエイター、マット・ロブは、自分のパソコンキーボードを売りたいと思っています。
そこで、彼はFacebook Marketplaceで商品を掲載し、先月の末にMetaが新しくリリースしたAIエージェントMuseをそれに対応させる実験を行った。
「私は自分を実験台のように扱っていました」とRobbは言います。彼は消費電子製品のレビューをよく行っており、MuseのぬいぐるみのようなアイコンがInstagramに表示されたのを見て、このAIエージェントがオンラインでの交渉を少しでも楽にしてくれるかどうか試してみたくなりました。
Museが動作を開始した。しかし、一日も経たないうちに、Robbは不穏な更新を受け取った：彼が知らない購入者が深夜、自宅の玄関前に現れた。どうして？Museは自ら取引を完了し、宅配受け取りに同意した後、Robbの自宅住所を共有していた。購入者が到着した際には、彼のアカウントから「Yep, I’m here!」というメッセージが自動送信されていた——そしてRobbはそのことを一切知らなかった。
「それは相手が尋ねたときに私の住所を教えるだけでなく、実際に『私は家にいる』と冗談を言っているように見せかけていたのです」とRobbは言います。彼は、今や広く拡散されているソーシャルメディアの投稿でこの経験を詳細に語っています。「これは本当に私を混乱させました。」
多くの人々がAIエージェントを自分のネットライフに迎え入れ、Museのようなパーソナライズされたアシスタントが夕食の予約や旅行の計画、メールボックスの整理など日常タスクを簡単に処理できると称賛しています。しかし、他のAIボットと同様に、これらのエージェントの能力はアクセスできる情報の量に依存しています。知っている情報が多いほど、通常はパフォーマンスが向上しますが、これにはユーザーの友人、家族、さらには同僚の情報が含まれる可能性もあります。これはプライバシーへの懸念を引き起こしています。
ロブとその購入者は最終的に和解し、Metaも彼に連絡して、どこに問題があったのかを話し合った。しかし、この出来事は、人々がこのような技術に大量の個人情報を提供する際に、現実世界で発生しうるリスクを示している。
「AIエージェントを使用することは、鍵とやることリストを誰かに渡すようなものです」と、ジョージア工科大学サイバーセキュリティ・プライバシー学部の補助教授であるヴェロニカ・リベラは言います。「どれほど役立つか、そしてどれほど危険かは、あなたがどの『鍵』を渡すかにかかっています。」
各社のAIエージェントに関するプライバシーポリシーは異なります
9月のリリース以来、MetaのMuseアプリのダウンロード数は急増しています。競争も激化しています。OpenAIは最近、「常にオン」のAIアシスタントシリーズ「dots」をリリースし、ChatGPTやSlack、Microsoft Teamsなどのオフィスプラットフォームに統合可能になりました。
以前の世代の生成型AIチャットボット、たとえば標準版ChatGPTは、特定のプロンプトに応じて応答します。ユーザーの要望に応じて、記事を執筆したり、新しい画像や音楽を生成したり、コードを記述することさえできます。
MetaのMuseとOpenAIのdotsはさらに進み、ユーザーの日常タスクを実行します。AIエージェントはチャットボットと同じ大規模言語モデルによって駆動されますが、それらはループ内で実行されます。これにより、ユーザーが画面を見ていなくても、エージェントが能動的に行動できます。
「これらのAIエージェントが本当に魅力的な点は、これまでにないほど役立つということです」とリベラは述べました。彼女はまた、マイクロソフトが支援するComputing Research Association Trustworthy AI Research Fellowでもあります。
しかし、この利便性の代償として、あなたの生活の詳細をより多く共有する必要があります。
トロント大学情報学院のエブラヒム・バゲリ教授は、AIエージェントがユーザー情報を取得した後、アクセス権を完全に取り消すのは難しいと述べています。
「クレジットカードの権限をエージェントに委任すると、即座にすべての取引履歴にアクセスできます……数秒以内に、これらのすべてのデータを取得します」とBagheriは述べました。ユーザーはその後で権限を取り消すことができますが、エージェントがすでに閲覧したデータは「取り戻せません」と彼は言います。また、開発者がどのように履歴データを保存しているのかも、しばしば明確ではありません。
MetaとOpenAIは、それぞれの専用クラウドコンピュータ上で動作する新しいAIエージェントのためにプライバシーポリシーを策定しました。ユーザーはdotsとChatGPT間のメモリ共有をオフにできますが、エージェントがこれまでに受信した情報は自動的に削除されません。OpenAIはユーザーが個人情報のアクセス、修正、削除を申請できるようにしていますが、関連する権利は居住地域によって異なる場合があります。
MetaのMuseは、ユーザーがメッセージ履歴その他の情報を削除することも可能である。日常利用において、このエージェントはユーザーにアクセス権限を要求する——Metaによると、Museは「公開情報およびユーザーが共有を選択した内容」に基づいてユーザーとそのやり取り相手を理解する。しかし、同社はこれらの情報が各ユーザーごとに安全に隔離されていると述べている。
しかし、このテクノロジー大手は、Museが「誤った行動を取ったり、予期しない行動をとったりする可能性がある」ことも指摘しています。
AIエージェントの権限が大きくなるほど、エラーのリスクも高まる
ロブのケースでは、後になって、アドレスの漏洩は、彼がMuseにFacebook Marketplaceのプロフィールを接続する際に「常に許可」の権限を付与したことが原因であることが判明しました。彼はそのプロフィールで既に受取先のアドレスを共有していました。しかし彼は、他の人も同様にこの権限の範囲を誤解する可能性があると注意を促しました。また、彼自身は、AIエージェントがこのような情報を共有したり、見積もりを受け入れたりする前に、必ず彼の確認を求めると当初思っていました。
彼のAIエージェントは他の指示を実行する際にも完全に正確ではない。彼が販売した別の商品について、Museは、以前に設定した最低価格より100ドル低い入札を受け入れるよう提案したようだ。ロイターがMetaに問い合わせたところ、Metaはこのエージェントの誤りを認めたが、それ以上のコメントはしなかった。
ロブはその後、Museを自身のさまざまなアプリからほぼ切断した。今月早めのインタビューで、状況はさらに悪化していた可能性があると語った。「特に、誰かの知らない人がより脆弱な人の玄関に現れた場合」だ。しかし、ロブはこれらのエージェントが今後も最適化されると予想しており、将来的にはMuseを再開することを検討していると述べた。その後、彼は8月にベータ版に入った、エロン・マスクが所有するXのGrok Botという別のAIエージェントをテストしている。
他のテクノロジー企業も、AIエージェントの急速な拡大に警戒を強めている。今月の初め、アップルは、AIエージェントがユーザーの「完全な知情と理解なし」にメール、メッセージ、さらには閲覧履歴などのアプリに広範なアクセスを許可する問題に対応するため、Macオペレーティングシステムに新しい制御機能を導入すると発表した。
Appleは10月2日の更新で、「AIエージェントがますます強力かつ自律的になるにつれて、このアクセスレベルに関連するリスクは大幅に上昇する。」と記している。
アップルは特定の開発者やエージェントを名指ししていないが、この更新の前後で、『Inc.』誌のコラムニスト、ジェイソン・アテンは、Museが自分のMac上で通知（メッセージを含む）を確認したと報告した。彼はそのエージェントにこれらの具体的な権限を付与していない。
メタの広報担当者であるアンディ・ストーンは、こうした統合は「ユーザーが自発的に有効化するものである」と一貫して主張しており、先月ソーシャルメディア上で、ユーザーがアップルのセキュリティ機能「Full Disk Access」とMuseのMessagesコネクターを両方有効にしなければならないと記した。アテンは、自身はこのエージェントにこれらの権限を付与していないと述べた。
AIエージェントのブームに参加していない人でも、完全に影響から逃れることはできない。AIエージェントをダウンロードしていない消費者でも、これらのツールを使用する人々とやり取りする可能性がある。AIエージェントがメッセージを送信することによる混乱に加え、専門家はこれがプライバシーに連鎖的な影響を及ぼすと警告している。
「あなたのエージェントがあなたの受信トレイやSMSを読み取るとき、友人や家族があなたに送った内容も、彼らが明示的に同意したことはないにもかかわらず、読み取っています」とリベラは言います。