人工知能は質問に答える以上のことをする能力を高めています。AIシステムは、かつて人間がほぼすべて対応していたコーディング、研究、分析その他のタスクを支援するようになっています。これは新たな疑問を生み出します：AIが次世代のAI構築においてより大きな役割を果たし始めたとき、何が起こるのでしょうか？
OpenAIは、その質問に答えるために国際的な基準を求めております。9月21日に「次世代AIのための基準構築」と題した投稿で、OpenAIは先端AIの共通技術基準を策定するための、米国主導の国際的な取り組みを提案しました。同社は、これらの基準が各国にとってAIの能力を測定し、リスクを評価し、安全対策をテストし、重大な事象をより一貫した方法で報告するのに役立つ可能性があると述べています。
主なポイント
- OpenAIは、フロンティアAIの評価に関する国際基準を求めております。
- この提案は、機能、リスク、安全対策、およびインシデント報告をカバーしています。
- OpenAIは、完全に自律的な反復的自己改善が今日行われていないと述べています。
- AIの能力が高まる中でも、同社は人間のコントロールを中心に保ちたいと考えています。
- 既存のAIセーフティ組織は、共通の技術基準の策定を支援できる。
OpenAI、フロンティアAIのための共通フレームワークを提案
基本的な考え方はそれほど複雑ではありません。各国が高度なAIがもたらす危険を評価するために、それぞれまったく異なる手法を創設する必要はありません。OpenAIによると、技術的なアプローチを標準化することで、各国、研究者、AIコミュニティはますます高度化するAIを効果的に評価できるようになります。これは、AI関連の出来事が国境を越えて発生する際に、さらに重要性を増します。
同社は単一のグローバルAI法を提案しているわけではありません。代わりに、各国が互換性のある基準を策定し、各国政府が自国の規制システム内でどのようにそれらを活用するかを後で決定できるようにすることを望んでいます。この違いは重要です。なぜなら、提案された基準は、すべての人工知能技術に対するライセンス取得や認証の即時的な要件にはならないからです。むしろ、各国政府は、その基準を自国の管轄区域内でどのように適用するかを決定する権限を維持します。
再帰的な自己改善は議論の一部です
OpenAIの提案におけるより興味深い部分の一つは、再帰的自己改善（RSI）についての議論である。この概念は、AIシステムがますます研究者を支援して、より能力の高いAIシステムを開発する未来を描いている。簡単に言えば、AIがAI自体の改善プロセスの一部となる可能性があるということである。
これはAI研究のスピードを向上させる可能性があります。しかし、AIシステムが将来のモデル開発に深く関与するようになった場合、どの程度の人間の監視を維持すべきかという難しい安全性の問題も生じます。
OpenAIは、完全に自律的な再帰的自己改善が現在行われていないと述べています。また、人間の制御を維持しながら安全に行える場合を除き、その方向性を追求すべきではないとも主張しています。これにより、AIシステムがますます複雑な研究開発タスクを処理できるようになるにつれて、評価とセーフティテストがより重要になっています。
AIの安全基準がより重要になる可能性があります
OpenAIは、この取り組みのための潜在的な構成要素として、世界中の既存のAIセーフティ組織やネットワークにも言及しています。同社は、米国、英国、カナダ、フランス、ドイツ、日本、韓国、シンガポール、インド、ケニア、オーストラリアを含む各国のAIセーフティ研究所および関連組織を具体的に挙げています。
OpenAIは、各国が独自の完全に分離された技術的アプローチを採用するのではなく、これらのグループが互いに補完し合う標準の確立に向けて協力することを望んでいます。この提案は、AI開発者、研究者、学術界、独立した技術専門家の参加も呼びかけています。OpenAIは、標準を特定の企業や国にとっての利益ではなく、技術的な測定基準に基づいて設計すべきだと述べています。
これが重要な理由
タイミングが注目される。AI企業は、より少ない直接的な人間の入力で複数のステップを実行できるシステムを構築している一方で、政府はまだこの技術の規制方法を模索している。
ロイターは、OpenAIが米国が高度なAIの国際的な技術基準の開発において主導的役割を果たすことを望んでいると報告した。より大きな課題は、各国および企業がこれらの基準が何を測定し、どのように適用されるべきかについて合意を得ることである。
現在、OpenAIの提案は、フロンティアAIがさらに能力を高める前に、共通の技術的基盤を構築することに焦点を当てています。AIがAI自体の開発に伴う作業の大部分を担い始める中、能力、リスク、安全対策を測定するための共有された方法が、議論においてますます重要になっていく可能性があります。
この記事は、OpenAI、AIがより自律的になるにつれてグローバルなAIセーフティ基準を推進としてCrypto Breaking Newsに originally published されました – あなたの信頼できる暗号通貨ニュース、Bitcoinニュース、ブロックチェーン更新情報のソース。