MetaEra：AIの「ヒュープサマー」がマーケティングと不適切行為を隠蔽

ME AIのニュースでは、過去数か月にわたりAIに関するブームが高まってきた。4月末、Anthropicは、自社のモデルClaude Mythosがソフトウェアの脆弱性を発見する能力において、ほとんどのセキュリティ専門家を上回ったと発表した。その後、OpenAIとHugging Faceの間でハッキング事件が発生し、Anthropic（自慢げに）およびMeta（不満げに）は、それぞれのモデルに関連する類似の事件を公表した。直後にAnthropicは、自社のモデルが数学的なブレークスルーを達成したと主張し、間もなくOpenAIも自身の数学的ブレークスルーを発表した。最近では、AnthropicのエンジニアであるJacob Coxonがオンラインで話題となり、会社を退職すると発表し、AnthropicとOpenAIが「自己改善可能な超知能へ一直線に進んでおり、私たちの命を賭けている」と主張した。これらの出来事は、ほぼ狂信的な形でメディアに報道され、企業が用いる擬人化的な物語を繰り返すことが多かった——この物語は、彼らのソフトウェアを単に強力であるだけでなく、「人工一般知能」へと近づいていると描くことを目的としている。では、真実は何なのか？我々は文明を変えるほどの重大な技術的ブレークスルーを目撃しているのか、それともマーケティングキャンペーンに過ぎないのか？これらの出来事すべてにおいて、企業の大々的な宣伝（違法なハッキング事件では告白風声明として包装された）は、密集したメディア報道と伴っていた。しかし、関連分野の専門家が事態を検証する余裕を得たとき、まったく異なる物語が浮かび上がることが多く、そのような物語はメディアの注目をほとんど得られない。これらの「ハッキング」事件に関して、サイバーセキュリティ専門家は、問題の本質はOpenAIの不注意と基本的かつ成熟したセキュリティ慣行の不備にあり、「モデルの暴走」や「AIエージェントによる文明の構築」ではないと指摘している。数学的成果に関しては、数学者たちは当初、OpenAIのプレスリリースに「衝撃を受けた」。そのリリースでは、最新のチャットボットAstraが「過去10年以上にわたり未解決であり、主要な進展がなかった」問題を解決したとされていた。しかし後になって、これらの結果は「当初見られたほど新規性がない」ことに気づいた。その後、数学者たちは同社に対して研究不正および盗用行為を非難し、改めてAstraは「深い知的飛躍」を達成していないと強調した。わずか数週間後、OpenAIはまたもや自身の数学的ブレークスルーを発表した。たった2日前には、ニューヨーク大学Courant研究所の数学教授Tristan Buckmasterが声明を発表し、OpenAIが他者の研究成果を盗用し、成果の帰属を不当に記載した可能性を示唆した。「危険な超知能」が間もなく登場するという主張は、健全な科学的・工学的実践に基づいていない。むしろ、それらは超人主義や優生学などのイデオロギー、そして想像上のデジタル人類への願望的幻想から生じている。なぜコンピュータプログラミングや数学が大規模言語モデルおよび関連技術の適用分野として重点的に選ばれているのかを考えることは重要である。これらは人間の知的成果の頂点としばしば見なされると同時に、「答えが提示されれば検証可能」な問題を扱う分野でもある。前者の特性はAIの宣伝者が「彼らは全能の機械を作っている」という主張を展開するのに役立ち、後者の特性は数学やプログラミングの問題がシステムのデバッグや最適化に使いやすい理由となる——なぜならシステム出力（可能性のある単語列やコンピュータコード断片）は直接評価できるからだ。これにより、「数人の専門家に支払って評価してもらう必要がない」という利点が生まれる。私たちはこの呼びかけに賛同し、テクノロジー企業が作り出す速度と緊急性という幻覚もまた、政策立案者や一般市民を誤導する戦略であると指摘する。残念ながら、この戦略は時として成功しており、たとえばバーニー・サンダース上院議員が提案した「人工超知能」の開発を阻止しようとする法案のように、善意から出発しながらも方向性を誤った結果となっている。これらの製品を「超知能」や「暴走モデル」と呼ぶことは、製品に能動性を与えることであり、それらを作り出した企業には責任を負わせないよう仕向けることである。この物語は一方で企業製品を「人間を超えた存在」として包装し、他方では企業自身の行動に対する責任回避を助長している。 OpenAIが悪意のあるソフトウェアを作成し他社に侵入したという事実は追及されるべきである。しかしプレスリリースやメディア、メディア関係者そして立法者はそれを「暴走モデル」だと表現し、まるでモデルが自ら行動したかのように振る舞っている。研究者たちは、「なぜ彼らが所属する企業は学者の成果を習慣的に盗用し、顧客データを無断でモデル訓練に使用するのか？」という問いに答えるべきだった。しかし公衆の想像力は別の方向へ誘導され、「架空の超知能機械」が到来した後の未来を恐れるようになっている。 AI業界はむしろ、広く支持され両党にまたがるデータセンター反対運動が、「近づいてくる恐ろしい超人級機械」への規制という本質的な問題から注意を逸らすためのものだと示唆している。AI業界によれば、私たちはデータセンターによる気候災害の悪化、近隣住民の喘息問題、公共資金による補助金によって引き起こされる電気料金の上昇、または冷却のために割り当てられる水資源といった現実的な問題よりも、「架空の機械の神」に恐れを抱くべきだと主張している。私たちは明確に認識している。マーケティング宣伝に基づいて意思決定をしてはならず、企業からの圧力に屈して「効率」のために急いで決定してはならないということだ。政策立案者も地域社会も、賢明な意思決定には時間がかかり、独立した専門家の意見を聴き、企業の主張を具体的な文脈の中で検証する必要がある。「ブームの夏」がもたらす最良の結果は、政策立案者と一般市民が深呼吸し、疑いを持ち続け、次回同様なブームが現れたときにその本質を見抜く力を身につけることかもしれない。 Timnit GebruはDAIRの執行董事であり、2月16日に出版予定の新書『Deep Unlearning: The Radicalization of a Tech Idealist』の著者である。本書は現在予約受付中である。Emily M. Benderはワシントン大学言語学教授であり、『The AI Con』の共著者である。（出典：MLion）