マイクロソフトCEOのサティア・ナデラは、『20VC』ポッドキャストで、かつてはAIの能力向上が自然に人間の価値観との整合性の進展をもたらすと考えていたが、現在その見解を変更したと明かした。彼は、モデルの規模が継続的に拡大している一方で、整合性の問題はむしろより難しくなっており、能力の向上に伴って制御性が並行して向上していないと指摘した。彼はAIを内部的なセキュリティ脅威と見なし、信頼できるシステム設計、人間による管理、運用プロトコルの三重の防衛線を構築する必要があると主張し、業界標準の確立を呼びかけた。この見解は、オルトマンやアモデイを含む業界リーダーたちの警告と一致しており、AIガバナンスがスローガンから硬性のエンジニアリングと制度的制約へと移行していることを浮き彫りにしている。文章作者、出典：AIBase
マイクロソフトCEOのサティア・ナデラは、AIの「アライメント」問題に関する見解を公に転換した。新シリーズの『20VC』ポッドキャストで、ホストのハリー・ステビンズは、過去1年で彼の考えがどのように変わったかを尋ねた。ナデラは、かつてAIがより強力になれば、その行動が人間の価値観や目標に合致することは自然に解決されると信じていたと率直に語った。
「自然解決」から「より難しい」へ
しかし現実は脚本通りには進まなかった。ナドラは、モデルの規模が拡大し、能力が継続的に向上した点については確かに予想通りだったと認めたが、「アラインメント」、つまりAIの行動を規則に従わせることについては、いまだに解決されていない。彼は「かつて私は、アラインメントの問題は自然と解決されると信じていた。しかし、もはやそうは思わない。アラインメントは、より難解で性質の異なる問題かもしれない。」
アライメントとは、AIの行動が人間の指示に従うかどうか、人間の目標に合致するかどうかに関わる。モデルが巨大化し、設計者でさえその行動を完全に予測できなくなると、能力の向上と制御性の向上が分離し、ナドラが直面せざるを得ない新たな現実となった。
AIを「内鬼」として防ぐ
この警戒の兆しは以前からあった。10月10日、ナドラはXプラットフォームでAIのリスクを警告し、外部セキュリティ対策を強化するよう呼びかけた。彼の核心的な提案は非常に鋭い：企業はAIモデルを「内部セキュリティ脅威」と見なし、モデルが既に攻撃されていると仮定して防護策を講じるべきである。
彼は投稿で、行動を完全に予測できないモデルには「信頼性があり、決定的なシステム設計、人為的管理、そして完璧な操作手順」の三重の防衛線を設ける必要があると述べ、基準が不十分な部分については速やかに業界規則を定めるべきだと呼びかけた。
ナドラは孤立した存在ではない。OpenAIのオルトマン、Anthropicのアモデイも、AIの潜在的な脅威について警告を発してきた。今年7月には、1000人以上の業界関係者が公開書簡に署名し、AIの能力の急激な進化が、人類がそれを理解または制御する能力をすでに上回っている可能性を警告した。トップトレーダーたちが「強ければ安全」という信頼を一斉に引き下げた今、AIガバナンスはスローガンから、より堅固な工学的・制度的な対応へと移行しなければならない。