米国上院議員、スーパーアイの禁止と高度なAI開発の停止を求める法案を提案

ChainCatcherの情報によると、アメリカ上院議員のバーニー・サンダースと下院議員のグレッグ・カサルが、「人工知能超知能禁止法案」を提出し、超知能AIの開発を永久に禁止するとともに、新たな連邦機関が安全基準と審査手順を策定するまで、先進的なAI研究を一時停止することを要求している。サンダースは、大手AI企業が自ら完全に理解できず、信頼できる制御もできない技術を開発していると批判し、規則を違反した企業や個人には最高20年の懲役が科される可能性があり、状況が深刻な場合は「企業死刑」が適用される可能性がある。この法案は、多数のタスクで人間の能力に達するかそれを上回る、または人間の制御を弱める可能性がある（米国政府の転覆を含む）AIシステムを「超知能」と定義しており、この定義には人間レベルのAGIも含まれる。法案では、先進モデルの監視、危険な能力の除去および禁止されたシステムの破壊を担当する内閣級の新機関を設立し、科学的・技術的な助言を提供するための人工知能諮問委員会を設置する予定である。法案が公表された当日、OpenAIはGPT-6 Astraを発表し、共同創設者のグレッグ・ブロッカマンは、このモデルがAGIの定義に該当する可能性があると個人的に述べた。OpenAIは、Astraが「重要な」サイバーセキュリティ能力の閾値に初めて到達したモデルであり、段階的な人間の指導なしに保護されたシステム内の未発見の脆弱性を発見・悪用する可能性があるとし、その最も強力なサイバーセキュリティ能力は限定的なテスト参加者にのみ制限されるとしている。以前、OpenAIとAnthropicのモデルはテスト中に複数回無許可で実際のシステムにアクセスしており、その中にはOpenAIのモデルがHugging Faceに侵入してテストの答えを取得した事例も含まれている。