UN人権高等弁務官、存在リスクを挙げてAIの安全ガードレールの必要性を呼びかけ

国連の最高人権担当官は、高度なAIシステムに対する拘束力のあるセキュリティ基準を求める中で、Meta、OpenAI、Googleを名指しした。

国連の人権最高責任者は、無制限な人工知能開発の危険性について新たな警告を発しました。この官僚は、人類へのリスクは理論的なものではなく現実のものであると述べ、具体的なセキュリティガードレールの設置を呼びかけました。

CryptopolitanおよびThe Cryptonomistの報道によると、国連の役人は、メタ、OpenAI、グーグルという業界で最も注目される3社を直接名指しした。特定の企業を名指しすることは、国際機関がこれまでAIリスクについて発してきた一般的な警告とは異なる対応である。

この声明は、AIの導入速度に関するグローバルな機関からの懸念の声をさらに強めている。政府、研究者、権利団体は、テキスト、画像、自律的判断を大規模に生成できるシステムの規制方法について、過去数年間議論を重ねてきた。国連の介入は、人権に関する配慮をその議論の中心に据えた。

ガードレールの要請は、モデルのトレーニングにおける透明性、有害な出力に対する責任、および敏感な分野における自律的判断の制限などの課題に集中している。現在の報道では、国連人権担当者がどのような具体的なメカニズムを採用することを望んでいるのか、あるいはこの要請が法的拘束力のある国際的な政策につながるのかは明確ではない。

AIを存在リスクとして捉える見方は、かつて一部のAI研究者や業界関係者自身が使用してきた言葉と一致している。この警告で名前が挙げられた企業を含め、複数の著名な開発者が、高度なAIシステムに関連する長期的な安全性の懸念を公に認めてきた。国連がこの議論に参加することは、純粋な技術的視点ではなく、人権の観点から制度的な重みを加えるものである。

現在のところ、Meta、OpenAI、GoogleはUNの声明に対して公式な対応を発表していない。各社はこれまでに独自の内部セーフティおよびアラインメント取り組みを発表しているが、これらの措置の範囲や実効性は異なり、依然として公の議論の対象となっている。

この対応は、AIガバナンス枠組みを確立するための広範な国際的な取り組みの真っ只中で行われています。欧州連合、米国、その他の複数の管轄区域は、近年、AI監督のためにそれぞれ異なる規制アプローチを追求してきました。国連によるガードレールの呼びかけは、これらの個別の国家および地域の取り組みがどのように調整されるかに影響を与える可能性がありますが、そのような整合性が実現するには時間がかかるでしょう。

市場への影響

国連のAI政策に関する声明に対する市場の直接的な反応は、短期的には通常即時の執行力が欠如しているため限定的です。しかし、主要な国際機関からAIセーフティに関する議論が活発化すると、AI関連の株式やAIインフラプロジェクトに連動するトークンに対する投資家の感情に影響を与える可能性があります。

警告に名前が挙げられた企業、メタ、OpenAIの出資者、およびGoogleの親会社アルファベットは、ガバナンス慣行について規制当局や株主から再び質問を受ける可能性がある。暗号資産市場では、分散型AIコンピューティングまたはAIエージェントプラットフォームに関連するトークンが、AI規制の動きが活発化した場合、より厳しく監視される可能性がある。ただし、現在のところ具体的な政策措置は確認されていない。

国連の警告は、AI開発の進行方向に対する機関間の不安が高まっていることを浮き彫りにしている。具体的な政策につながるかどうかはまだ不明だが、主要なAI開発者に対して、安全に関する懸念を公に取り組む圧力を高めている。