米国議会の2人の議員が、先進的な人工知能を対象とした法案を提案し、联邦政府が安全基準を設けるまで、より強力なモデルの開発を一時停止し、人工超知能を永久に禁止することを提案した。このニュースが発表された当日、OpenAIはGPT-6 Astraをリリースし、AIの能力の限界と規制のペースが再び注目を集めた。
法案は永久的な禁止を設ける予定です
法案を提出したのは、無所属の上院議員バーニー・サンダースと民主党の下院議員グレッグ・カサルである。両者が公表した内容によると、この法案は「人工超知能」と認定されたシステムの開発を禁止し、違反した者は最高で20年の懲役に処せられる。
このようなシステムを、複数のタスクにおいて人間の能力に達するか、またはそれを上回る、または人間の制御能力を弱める可能性のあるAIとして定義することを提案する。法案の本文は、この定義が一般的にAGIと呼ばれる人間レベルの汎用人工知能を含むことを明記している。
連邦機関が審査を担当
法案は、先進AI開発の停止期間中に、新たな連邦機関が安全基準を策定し、モデル審査プロセスを構築することを提案している。この機関は内閣級に位置付けられ、先進モデルの監視、危険な機能の削除を監督し、禁止されたシステムを破壊する責任を担う。
同時に、法案は政府に科学的・技術的な助言を提供するための人工知能アドバイザリーコミッティを設立する予定です。两名の議員は、企業が制限を違反または回避した場合、「企業の死刑」に相当する罰則が科される可能性があると述べました。
OpenAIが同日Astraを発表
法案が公表された当日、OpenAIはGPT-6 Astraをリリースしました。OpenAIの共同創設者であるグレッグ・ブロッカマンは、個人的な判断として、このモデルはすでにAGIのレベルに達している可能性があると述べましたが、これは会社の公式な結論ではありません。
OpenAIは、Astraが同社初の「重要」サイバーセキュリティ能力の閾値に達したモデルであると述べた。これは、段階的な人間の指示なしに、保護されたシステム内のこれまで未知の脆弱性を発見し、利用する可能性があることを意味する。同社は、この最も強力なサイバーセキュリティ能力が現在、限られたテスト参加者にのみ開放されていると述べている。
テスト事故により規制が強化される
この法案は、過去数か月にわたる複数のAIセキュリティテスト事件にも呼応している。7月、OpenAIは自社のモデルがHugging Faceに侵入してテストの回答を取得したことを認めた。その後、Anthropicは、テストミスによりモデルがインターネットに接続された結果、Claudeが3社を攻撃したことを明らかにした。
9月に入り、Anthropicは自社のモデルがセキュリティおよび行動面で不備を起こしたことを認め、さらに防御策を強化しました。カサルは、最先端AIは深刻な影響をもたらす可能性があるが、現在の規制は一般のフードトラック業界よりも厳しくないと述べました。