Anthropic、自己規制と法的セーフガードを含むAI規制フレームワークを提案

Anthropicが漏洩した草案法案は、大規模AI開発者に対して、リスクおよび重要な安全インシデントへの対応方法を記述した安全フレームワークの作成と遵守を義務付けるものである。Politicoは金曜日にこの法案を報道した。AnthropicのCEOであるDario Amodeiは、6月のエッセイで、AI規制を連邦航空局（FAA）が航空機設計に課す最低基準に類似したものと提唱した。FAAは航空機工場の認証も行い、航空機の適航認証を取消す大きな権限を有している。Anthropicが提案する安全フレームワークは法的拘束力を持ち、企業は商務省に年次遵守声明を提出することになるが、研究施設には自ら規制する大きな余地を残す。Anthropicが自社ブランドの法案を広めることに対して、AI安全擁護派とトランプ政権に近い規制反対派の両方から批判が寄せられている。

マリア・カンウェル上院議員の提案は、国立標準技術研究所がAI研究所を評価するための基準を設定することを求める。ジェイ・オバーノルテ下院議員とローリー・トラハン下院議員のフロンティア法案は、商務省が定める最低基準を満たす計画を研究所に作成させることを義務付ける。フロンティア法案は、非常に大規模なAI開発者に対して商務省がライセンスを付与する独立した検証機関を設立する。一方、Anthropicの草案は、商務省に登録・評価された独立監査人がAI企業の安全対策を確認することを要求する。Anthropicのアプローチは、政府が評価者に対して直接的な監督権や権限をより少なくするものである。批判者は、監査人がAI企業からの報酬に依存することで、有利な評価を提供する監査人を選択するよう企業を誘導する可能性があると警告している。アメリカ革新財団のAI政策ディレクターであるサミュエル・ハモンドは、この草案がAnthropicが公に強力に支持している厳格な規制との整合性に欠けるように見えると述べた。

Anthropicの草案では、カバー対象のフロンティアモデルを、10セプテリオン（10の25乗）以上の計算で訓練されたモデルと定義している。フロンティア法およびカリフォルニア州のAI透明性・安全法では、100セプテリオン（10の26乗）の計算を基準としている。安全フレームワーク要件を含む複数の規定は、収益が5億ドルを超える、または支出が10億ドルを超える大規模な研究所にのみ適用される。報告義務は、より小規模なフロンティア開発者にも適用される。AI研究企業Epoch AIは、2024年にリリースされたGoogle GeminiやMeta Llamaモデルなど複数のモデルが、10～50セプテリオンの訓練演算を使用したと述べている。Epoch AIは、OpenAIの最新モデルGPT-6 Astraが940セプテリオンの訓練演算を使用したと推定している。元ホワイトハウスAI顧問で大統領科学技術諮問委員会共同議長を務めるDavid Sacksは、Anthropicが小規模な競合他社に負担をかける規制を望んでいると主張している。Sacksは、この草案が最終的にシリコンバレーの大部分をカバーし、定義にファインチューニングやモデル修正の計算が含まれるため、スタートアップに被害をもたらすだろうと述べた。

Anthropicの草案は、商務省が先端AI開発の停止を命じる前に裁判所の判断を得ることを要求する。商務省は、50人以上への即時的な死亡または重傷のリスク、または10億ドル以上の財産損失の可能性を証拠の優位性によって立証しなければならない。Encode Actionの創設者で社長であるSneha Revanurは、政府がより大きな緊急時の柔軟性を必要としていると主張し、Anthropicが提案する保護措置は利己的であると批判した。トランプ政権は今年初め、法的に疑わしい輸出管理指令を用いてAnthropicのFableモデルを停止させたため、Anthropicは恣意的な停止から保護を求めている。トランプ氏のスーパーインテリジェンスタスクフォースの副議長である国防省高官のEmil Michaelは、月曜日にThe Informationに対し、政権はAI研究所がモデルを撤回させるために輸出管理権限を維持していると語った。

Anthropicの提案は、上院商業委員長のテッド・クルーズの下で、アミー・クロブチャーセンターとジョン・チューン上院多数党院内総務の間で交渉された法案に似ている。クルーズとサックスは以前、州のAI規制の優先適用と極めて限定的な連邦規制アプローチを支持してきた。Anthropicは、長期間にわたって悪化した関係の後、トランプ政権に対してAI政策において好意を得て建設的に見えるよう努めている可能性がある。ワシントンでAI政策に従事する無名の人物は、Anthropicがブランド化された法案を circulating したことを馬鹿げていると評し、Anthropicの連邦政府関係チームは建設的に見えるために必死であると述べた。

Anthropicの草案は、公的開示、インシデント報告、および第三者評価を規制する州法を優先する。この草案は、子供の安全や市民権を規制する他の法律には影響を与えない。しかし、州が緊急権限を用いてモデルの運用を停止できるかどうかは明確でない。Encodeの一般顧問であるナサニエル・カルビンは、優先規定が広範であると評価し、そのうちの一つは、州がAIモデルの開発、展開、または内部利用を停止するための法律または司法命令の執行を防ぐことを意図しているように見えると述べた。今後予定されるAI関連立法では、より速いAI開発を推進する支持者たちが求める州法の優先と、全国的な基準との間でバランスを取ることが見込まれている。カピトルヒルの複数のスタッフ、政策提言者、ロビー活動家たちは、このグループが「レームダック会期」中に再び優先を試みると予想している。Anthropicの連邦当局担当責任者であるアンソニー・シミノは、優先は個々の州の規定よりも一般的に強力で広範な全国政策を確保すべきであり、AIセーフティに関する優先は限定的であるべきだと強調した。