カリフォルニア州知事ニューソンが、兆パラメータ級のモデルを上線させる前にレッドチーム演習と第三者監査を必須とする画期的なAI規制法案に署名。

文章作成者、出典：AIBase

アメリカ合衆国カリフォルニア州知事ギャビン・ニューソンが、画期的な人工知能規制法案のパッケージに正式に署名した。注目すべきは、この新法案が最先端の大規模モデルのセキュリティリスク評価の強化、透明性の開示、および災害的なネットワーク攻撃の防止を目的としており、これまでの立法交渉において、OpenAIやAnthropicを含む複数のシリコンバレーのAI大手企業が珍しく背書し、公開で支持を表明した点である。

兆単位のパラメータを有するモデルを導入するには、「レッドチーム演習＋第三者監査」を通過する必要がある

近年、生成AIの計算能力が指数的に拡大し、最先端の基礎モデルの自律能力が飛躍的に向上したことに伴い、AIが重要なインフラ破壊、自動化された生化学兵器の開発、大規模なディープフェイク操作、深刻なサイバーセキュリティ脆弱性の悪用に利用される可能性に対する懸念が高まっている。米国議会における連邦レベルのAI立法が継続的に停滞する中、カリフォルニア州議会は近年、全米におけるAI立法の先駆者としての役割を担ってきた。

今回署名された複数の法案は、超大規模基礎モデルの安全テスト基準を法的規制化することに焦点を当てており、モデル開発者は、兆パラメータ級の最先端システムを訓練および展開する前に、標準化されたレッドチーム対抗演習を実施し、深刻なリスク緩和プロトコルを確立し、第三者による独立監査済みのコンプライアンス安全報告書を州政府規制機関に提出することを義務づけています。

これまでシリコンバレーで激しい議論を呼び、テクノロジー大手やベンチャーキャピタルから強い反対を受けていた過激な規制案とは異なり、この一連の法案は、最先端のAIラボからの技術的提言を深く取り入れて起草・修正された。AnthropicおよびOpenAIは、過度に硬直的でオープンソースコミュニティの発展を阻害したり、民事上の連帯責任を無制限に拡大する可能性のある条項について以前から深刻な懸念を示していたが、密集したロビー活動と条項の微調整を経て、最終的に採用された法案は、直接的な技術的上限値の設定や現実性に欠ける罰則措置を導入するのではなく、透明性のある「事前リスク評価フレームワーク」と「業界最適なセキュリティ実践基準」の構築に重点を置いた。これにより、主要なAI研究機関の協力的支援を法的枠組み内に得ることに成功した。



ディープフェイクにはウォーターマークを付けること、通報者は法的保護を受ける

基盤のセキュリティレビューに加え、法案はAI生成コンテンツのトレーサビリティとウォーターマークの基準を含み、プラットフォームおよび主要なコンテンツ配信チャネルにディープフェイクの音声・動画コンテンツに対してシステムレベルのデジタルファインダープリントを付与することを要求し、選挙における偽情報の拡散や悪意のある個人詐欺を防止する。また、法案は、モデルの潜在的な重大なセキュリティ脆弱性を発見・報告する内部従業員や研究者に対して、より明確な「通報者」法的保護を提供し、企業が厳格な機密保持契約を通じて技術者が規制当局に災害的なセキュリティリスクを報告する権利を奪うことを禁止する。

この措置は、グローバルなAI研究開発の中心地であるカリフォルニアが、厳格なセーフティーラインと産業のイノベーション活力とのバランスを取る上で、業界から比較的評価された規制の道を模索したことを示している。