動察 Beating AI ニュース：Anthropicは11月2日に更新されたIPOの公開書類で、AIが「再帰的自己改善」（RSI）に関連する重要な閾値をまもなく超え、AI開発の速度が大幅に加速する可能性があると警告しました。過去にも、開発の著しい加速に気づかず、加速が発生した後にようやく認識された事例が存在しました。現在、Claudeはコードの作成、実験の実行、トレーニングデータの処理に参加し、より強力な次世代モデルの開発を支援しています。新しいモデルは、その後の開発をさらに加速させ、継続的なスピードアップの循環を生み出します。Anthropicのセキュリティポリシーによれば、この重要な閾値に到達するには以下の2つの状況があります：1. AIが同等のコストでAI研究チーム全体の作業を完了できるようになること。2. またはAI技術の進歩速度を少なくとも2倍にし、本来2年かかる進歩を1年で達成すること。AIが自らの開発にますます深く関与するにつれ、モデルの能力はセキュリティ評価、アライメント研究、および防護措置の更新よりも速く向上する可能性があります。Anthropicは現在、既存のモデルがこのレベルに達しているとは認定しておらず、今回の警告は主に内部の推定と将来のモデルに対する予測に基づいています。現在、重要な開発プロセスが引き続き人間の監督と制御下に置かれるよう、セキュリティポリシーの見直しを検討しています。
Anthropic、AIがまもなく自己加速段階に入ると警告
MarsBit共有
概要
Anthropicは11月2日に更新されたIPO届出書で、AIが再帰的自己改善（RSI）を通じてまもなく自己加速段階に入る可能性があると述べました。同社は、Claudeのようなモデルがすでにコード作成やデータ処理を支援し、開発を加速していると説明しました。同社のセーフティポリシーでは、AIが完全な研究チームと同等の出力に達したり、進捗速度を2倍にしたりした場合にこの閾値が達成されると定められています。Anthropicは、まだこの基準を満たすモデルを見つけておらず、人間の監督を維持するためのポリシーを見直しています。同社は、今後導入されるMiCA規則がAIツールと規制された暗号資産市場との相互作用に影響を与える可能性もあると指摘しました。CFT措置は、AI駆動の金融システムの監督をさらに形作る可能性があります。
出典:原文を表示
免責事項: 本ページの情報はサードパーティからのものであり、必ずしもKuCoinの見解や意見を反映しているわけではありません。この内容は一般的な情報提供のみを目的として提供されており、いかなる種類の表明や保証もなく、金融または投資助言として解釈されるものでもありません。KuCoinは誤記や脱落、またはこの情報の使用に起因するいかなる結果に対しても責任を負いません。
デジタル資産への投資にはリスクが伴います。商品のリスクとリスク許容度をご自身の財務状況に基づいて慎重に評価してください。詳しくは利用規約およびリスク開示を参照してください。