OpenAI、METRを委託して最大規模の強化学習トレーニングを監査

iconChaincatcher
共有
AI summary icon概要
オンチェーンデータとChainCatcherによると、OpenAIは最大規模の強化学習トレーニング実行の監査のためにMETRを採用しました。METRは、一回限りのパイロットとして、モデルのスナップショットと内部トレーニングログをレビューします。The Defiantは、より広範な監視条件が未解決であると報告しています。METR(旧ARC Evals)は以前、OpenAIの内部システムをテストしています。AIセーフティの進展に反応する可能性のあるアルトコインに注目してください。

ChainCatcherの情報によると、OpenAIは、これまでで最大規模の強化学習トレーニング実行に対して、AIセキュリティ評価機関METRに安全審査を委託しました。この審査は単一実行のパイロット評価として実施され、METRはモデルのスナップショットとトレーニング中の内部ログを入手します。The Defiantの報道によると、両者はより広範な監視評価について合意に至っておらず、評価の範囲は今後協議される予定です。METRは元々ARC Evalsであり、前線のAIラボに対してデプロイ前独立評価を長年提供してきました。これまでには、OpenAIの内部不適切監視システムに対してレッドチームテストを実施したことがあります。

免責事項: 本ページの情報はサードパーティからのものであり、必ずしもKuCoinの見解や意見を反映しているわけではありません。この内容は一般的な情報提供のみを目的として提供されており、いかなる種類の表明や保証もなく、金融または投資助言として解釈されるものでもありません。KuCoinは誤記や脱落、またはこの情報の使用に起因するいかなる結果に対しても責任を負いません。 デジタル資産への投資にはリスクが伴います。商品のリスクとリスク許容度をご自身の財務状況に基づいて慎重に評価してください。詳しくは利用規約およびリスク開示を参照してください。