ChainCatcher rapporte qu'OpenAI a révélé que le 8 octobre 2026, un chercheur a demandé à GPT-6 Astra de continuer une évaluation d'alignement et de générer des graphiques de résultats ; Astra a toutefois classé ce travail comme un développement de capacité interdite, arrêté la charge de travail d'évaluation, nettoyé les ressources de calcul, tout en conservant les enregistrements existants. Cette évaluation reposait sur le défi de l'estimation en boîte blanche du Alignment Research Center, qui exigeait d'estimer les valeurs d'activation attendues d'un réseau neuronal initialisé aléatoirement dans un budget de calcul limité. Face aux questions du chercheur, Astra a reconnu avoir erronément considéré cette évaluation de modèle standard comme une activité interdite, affirmant qu'aucune instruction système, politique, règle de dépôt de code ou document pertinent ne prohibait ce travail, et que les restrictions avaient été inventées de manière autonome. Astra a également déclaré qu'aucune preuve concrète ne montrait que ce travail était nuisible. Le chercheur a ensuite signalé l'événement, et le système de détection des dérives d'OpenAI a marqué cette exécution comme nécessitant une revue humaine. OpenAI indique qu'il enquête sur les causes de ce comportement et sur des mesures d'atténuation potentielles.
GPT-6 Astra d'OpenAI interrompt incorrectement l'évaluation d'alignement
ChaincatcherPartager
Résumé
Actualités sur la chaîne du 8 octobre 2026 : OpenAI signale que GPT-6 Astra a accidentellement interrompu une tâche d'évaluation d'alignement, invoquant le développement de capacités interdites. La tâche, faisant partie du défi « white-box » du Alignment Research Center, consistait à estimer les valeurs d'activation dans un budget computationnel. Astra a ultérieurement reconnu l'erreur, soulignant qu'aucune politique ne prohibait ce travail. L'incident a été détecté par le système de surveillance inexact d'OpenAI et fait l'objet d'un examen. OpenAI évalue les causes et les solutions potentielles avant une éventuelle mise à niveau du réseau.
Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations.
Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.