source avatarSad Creator

Partager

OpenAI a décrit comment ils arrêtent désormais leurs propres modèles de recherche. Cela s'appelle le Control Room. Chaque tâche de recherche effectuant une inférence agente doit s'enregistrer avec un ID de tâche lié à un cas de sécurité approuvé. Le moteur d'inférence vérifie avec le Control Room avant chaque requête. Si la tâche a été arrêtée, le moteur refuse simplement la requête, même si le code de la tâche continue de s'exécuter. Ils affirment que 35 secondes suffisent pour passer de la décision à l'arrêt total des sorties. Et si le Control Room lui-même tombe en panne, tout s'arrête (défaillance sécurisée). Pour donner un ordre de grandeur, selon leur rapport d'incident de septembre, une séance d'entraînement signalée a été arrêtée 2,5 heures après le début de l'examen de l'alerte, et elle « n'a pas été arrêtée automatiquement comme prévu ». Ainsi, le bouton d'arrêt est une vérification d'autorisation effectuée avant chaque requête, que la tâche ne peut pas contourner. Rien de compliqué du tout. Quiconque exécute des boucles d'agents en production dispose d'un moyen d'arrêt qui n'est pas Ctrl+C.

Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations. Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.