source avatarSad Creator

共有

OpenAIは、自社の研究モデルをどのように停止しているかを説明した。これは「コントロールルーム」と呼ばれている。 エージェント推論を行うすべての研究ジョブは、承認されたセーフティケースに関連付けられたジョブIDを登録しなければならない。推論エンジンは、毎回のリクエスト前にコントロールルームと確認を行う。ジョブが停止された場合、エンジンはそのジョブのコードが継続して実行されていても、ただ拒否するだけである。彼らによると、決定から出力が完全に停止するまで35秒である。また、コントロールルーム自体がダウンした場合、すべての処理が停止する(ファイールクローズ)。 スケールの観点から、彼らの9月のインシデントレポートによると、フラグが付いたトレーニングランは、誰かがアラートのレビューを開始してから2.5時間後に停止され、「予想通り自動停止しなかった」とされている。 したがって、このキルスイッチは、ジョブがスキップできない、毎回のリクエスト前の権限確認である。まったく複雑ではない。 プロダクションでエージェントループを実行している誰もが、Ctrl+Cではない停止手段を持っている。

免責事項: 本ページの情報はサードパーティからのものであり、必ずしもKuCoinの見解や意見を反映しているわけではありません。この内容は一般的な情報提供のみを目的として提供されており、いかなる種類の表明や保証もなく、金融または投資助言として解釈されるものでもありません。KuCoinは誤記や脱落、またはこの情報の使用に起因するいかなる結果に対しても責任を負いません。 デジタル資産への投資にはリスクが伴います。商品のリスクとリスク許容度をご自身の財務状況に基づいて慎重に評価してください。詳しくは利用規約およびリスク開示を参照してください。