OpenAIがChatGPTデスクトップ版にAppleメッセージプラグインを追加したことで、ユーザーはMac上でチャットボットに過去のメッセージを検索させ、グループチャットを要約し、返信を起草して直接メッセージを送信できるようになりました。この機能はインストーラーが手動で権限を付与する必要がありますが、同じ会話に参加している他のユーザーには通知が送られません。これにより、プライバシーとセキュリティに関する議論が急速に広がりました。
解読後のアクセスに焦点
複数のセキュリティ専門家は、議論の焦点はChatGPTがAppleのエンドツーエンド暗号化を破ったことではなく、メッセージが受信者のデバイスに到達した後、その内容がローカルソフトウェアによって読み取れるようになる点にあると指摘している。つまり、暗号化された通信自体は破られておらず、第三者ツールがデバイスの権限を取得した場合、対話の双方みたくしか見えなかったコンテンツが、追加のシステムによって検索・分析される可能性がある。
セキュリティとプライバシーの専門家であるポール・ウォルシュは、Fortuneに対して、このようなアクセス方法の最も懸念される点は、認可者が自身のデータだけでなく、長年にわたるチャット記録に含まれる他のユーザーの発言まで第三者システムに暴露してしまうことだと述べた。暗号化通信を用いて機密事項を処理している人々にとって、これは秘密のコミュニケーションに対する期待を損なうものとなる。
OpenAIはデフォルトでローカルに保持すると述べました
OpenAIは、プラグインを有効にしても、ChatGPTはユーザー情報のインデックスを自動的に作成せず、すべての会話内容を主動的に読み取ることはないことを示しています。ユーザーが情報の内容に関連する明確なリクエストを発した場合にのみ、システムが該当するメッセージにアクセスします。
同社はまた、ChatGPT デスクトップ版では関連する会話がデフォルトでローカルコンピューターに保存され、Appleメッセージの内容は自動的にOpenAIサーバーに同期されないと述べています。ただし、ユーザーがChatGPTの会話をクラウドに保存を選択した場合、これらのメッセージは同じ保存および保持ルールの対象となり、クラウドメモリ機能にも含まれる可能性があります。
- デフォルトで、メッセージ内容はユーザーのMacローカルに保存されます。
- 明確な質問が行われた場合にのみ、システムは情報内容にアクセスします。
- 会話がクラウドに保存される場合、関連するコンテンツもクラウドに取り込まれます。
セキュリティ企業は権限のさらなる拡大を懸念している
モバイルセキュリティ企業Lookoutの最高技術責任者であるDave Richardsonは、この機能を「スパイウェア」と直接呼ぶのはやや過剰であると述べた。これはデフォルトで無効になっており、ユーザーの明示的な許可が必要だからである。しかし、彼はこの機能が従来安全とされてきた通信チャネルに明白なリスクをもたらす可能性があると認識している。
彼は、エンドツーエンド暗号化は、メッセージがデバイス間を送信される過程を保護し、プラットフォーム側やネットワークプロバイダーが途中で内容を読み取れないようにするが、メッセージが端末に到着した後、デバイス自体は依然として内容にアクセス可能であると指摘した。ユーザーがこれらの内容をOpenAIやAnthropicなどのサードパーティサービスに開示した場合、エンドツーエンド暗号化の実際の保護範囲は狭まる。
プライバシー企業のProtonは火曜日に発表した分析で、このようなリスクはChatGPTを一度も使用したことのない人にも及ぶ可能性があると指摘した。これは、対話の相手がプラグインを有効にしている場合、その人が送信したメッセージもアクセスされる可能性があるためである。Protonはまた、インストール時に求められる「完全なディスクアクセス権限」自体が、より広範なセキュリティ上の懸念であると述べている。
AIがさらに多くのセンシティブなアプリケーションに導入されています
この論争は、AIツールがチャットボックスからより深いデバイス権限へと進展していることを示している。LookoutがFortuneに提供した調査によると、過去1年間、AI関連アプリが要求するデータ権限と高リスク機能は継続的に増加しており、iOSプラットフォームにおけるこの傾向も拡大している。
OpenAIは、このプラグインがAppleがChatGPTのために新たに構築したiMessageインターフェースではなく、macOSの既存の機能を呼び出して実現していると説明しています。インストール時に、ユーザーはAppleScript、アクセシビリティ、完全なディスクアクセスなどの権限を承認する必要があります。
AIエージェントがより多くのデバイス制御機能を獲得するにつれ、議論は「ユーザーが許可を承認するかどうか」にとどまらず、対話の他の参加者がそのことを知っているかどうか、そしてプライベートな通信がAIによって検索・要約・長期保存された後に新たなデータ出口が生じるかどうかを含むようになった。