ダリオ・アモデイは、一般大衆にはより良いPRが必要だと考える他のAI経営者たちに向け、問題はメッセージではなく製品であると語っている。
AnthropicのCEOは、「AIの指数的成長に関する政策」と題した長文のエッセイを公開し、人工知能に対する反発の拡大に直接向き合った。ネガティブなメディア報道や業界リーダーによる悲観的なフレーミングを非難するのではなく、アモデイは、一般市民がAIに対して抱く不安は、正当で文書化されたリスクに基づいていると主張している。彼の診断は、AI業界がコミュニケーションの危機ではなく、信頼の危機に直面しているということである。
本当のリスク、本当の恐怖
アモデイのエッセイは、彼が深刻な懸念を抱くべきと判断する4つの具体的なリスクカテゴリを特定している：サイバーセキュリティ脅威、生物兵器の開発、AIシステムに対する人間の制御の喪失、および完全自動化された研究開発の可能性である。
アモデイは本質的に、この論理を逆転させている。人々が心配しているのは、AIのリーダーたちが警鐘を鳴らしたからではない。警鐘が正当だからこそ、人々は心配しているのだ。
その保有資産を裏付けるために、彼は、大量の計算リソースで訓練されたモデルに対して、第三者による必須評価を提案しています。このテストは、同じ4つのリスクカテゴリをカバーし、AIラボと一般市民の間に独立した検証層を設けます。
2億ドルと政策のブループリント
Anthropicは、Amodeiの言葉に資金を投じています。同社は、AIのより広範な社会的影響を理解することに焦点を当てた研究に2億ドルを投資することを約束しました。
この投資は、技術的安全性を超えた幅広い課題の解決に資金を提供します。アモデイは、AIの自動化によって引き起こされると予想される労働市場への混乱を和らげるために、賃金再保険プログラムとターゲットを絞った税制措置の導入を明確に呼びかけています。
エッセイの発表とタイミングを合わせてABCニュースとの独占インタビューで、アモデイは追加の政策提案を示した。その中でも特に注目されるのは、安全でないと判断されたAIの導入を政府機関が停止する権限を与えることである。
彼が好むフレームワークは、既存の規制モデルを基にしています。FAAの例えは意図的なものです。航空安全規制は航空業界を破壊しませんでした。むしろ、飛行を地球上で最も安全な大衆輸送手段にしました。