セキュリティ専門家、AnthropicのAI説明責任モデルを批判

iconKuCoinFlash
共有
AI summary icon概要
ME AI メッセージ、動察 Beating の監視によると、セキュリティサンドボックス専門家でCloudflareのチーフアーキテクトであるKenton Vardaは、Anthropicのエージェントアイデンティティモデルを批判し、AIに専用アカウントを割り当てる行為は大規模なタスクに対応できないだけでなく、人間の説明責任メカニズムを損なうと指摘した。Kenton Vardaは、新しいセキュリティアーキテクチャが多人数協働における権限の不正使用問題に対処しようとしているが、基盤設計に致命的な欠陥があると述べている。エージェントは法的・行政的に責任主体となり得ず、すべての操作権限は本質的に具体的な生きた人間からのみ付与されるべきである。AIに独立した専用アカウントを直接生成すると、AIがデータベースの削除などの破壊的操作を実行した場合、システムログにはAIが操作を実行したという記録しか残らず、実際の指示を出した従業員に責任を帰属させることが不可能になり、人間の説明責任メカニズムが完全に機能しなくなる。独立した権限パッケージの設定による設定疲労に対し、Kenton Vardaは能力ベースのセキュリティモデルの採用を提唱している。システムはAIにグローバルまたはデフォルトの権限を与えるのではなく、権限を「能力」として動的に伝達すべきである。たとえば、従業員が会話の中でAIに特定のドキュメントのリンクを送信した場合、システムは従業員自身の認証情報を使ってその特定ファイルへの一時的な読み取り専用参照をAIに渡す。能力モデルは、AIのあらゆる行動を具体的な発信者に遡及可能にするだけでなく、低権限の従業員が自身が持たないデータベース認証情報をAIに渡すことを防ぎ、基盤レベルで権限越えのリスクを根本的に遮断する。 (出典:BlockBeats)
免責事項: 本ページの情報はサードパーティからのものであり、必ずしもKuCoinの見解や意見を反映しているわけではありません。この内容は一般的な情報提供のみを目的として提供されており、いかなる種類の表明や保証もなく、金融または投資助言として解釈されるものでもありません。KuCoinは誤記や脱落、またはこの情報の使用に起因するいかなる結果に対しても責任を負いません。 デジタル資産への投資にはリスクが伴います。商品のリスクとリスク許容度をご自身の財務状況に基づいて慎重に評価してください。詳しくは利用規約およびリスク開示を参照してください。