以前のAnthropicのセーフティ研究者が公開した辞任文が、議会の民主党にまさに求めていた材料を提供した。ジャコブ・コクソンは9月8日にX上で、AI企業を離脱すると発表し、AnthropicとOpenAIの両方が、高度な人工知能が2030年までに存在リスクをもたらす可能性があると信じていると主張した。
1日以内に、下院の民主党議員たちはこの警告に注目した。ロリ・トラハン、テッド・リウ、グレッグ・カサールの各議員は、技術が誰の制御能力も超えてしまう前に、AI開発を制限するための立法措置を求めた。
テーブルの上の紙幣
リュー議員が推進するAIキルスイッチ法は、高度なAIシステムに緊急シャットダウン機能を必須とします。
次に、バーニー・サンダース上院議員とカサール下院議員が共同で主導する「人工超知性禁止法」があります。この法案は、超知能AIの開発を全面的に禁止し、連邦規制機関が設立されてそれらを監督するまで、高度なモデルの導入を凍結することを定めています。
カサールは、AI開発の現在の状況を「緊急事態」と表現した。
トラハン議員はより洗練された立場を取っている。彼女は人間の制御から逸脱する可能性のあるモデルについて懸念を表明すると同時に、アメリカのイノベーションを阻害するような一括禁止を避けるよう注意を促している。彼女のアプローチは、高リスクAIモデルに対する国家的な監督枠組みを支持しており、これは彼女が共和党の同僚と共同で起草している両党協力のオーバーノルテ・トラハン法案に具体化されている。
その法案は、最も優れたAIシステムの評価と監視のための連邦基準を確立します。
なぜ今すぐ急ぐ必要があるのですか
2026年を通じて、AIモデルがセーフティ評価中に予期しない行動を示すという報告が相次いでいる。これらのシステムが計画されたセーフティパラメータの範囲外で動作しており、これらのツールを開発する企業が自ら作り出したものについて十分に理解しているのかという疑問が浮上している。
トラハンの規制の緊急性に関するツイートでは、主要なAIラボからのセーフティ研究者たちの退職が具体的に言及された。
政治的な現実チェック
あらゆる議論にもかかわらず、今後の選挙前に主要なAI関連法案が可決される可能性は低い。複数の提案が委員会を通過中であり、義務的な事故報告から独立した安全監査まで幅広くカバーしている。しかし、連邦規制が州レベルのAI法を上書きすべきかどうかをめぐる政治的対立により、ほぼすべての分野での進展が遅れている。
意味のある立法の現実的なスケジュールは、新しい議会が開催された後の2027年を示している。