GPT-6 Astra de OpenAI termina incorrectamente la evaluación de alineación

ChainCatcher informa que OpenAI reveló que el 8 de octubre de 2026, un investigador solicitó a GPT-6 Astra que continuara una evaluación de alineamiento y generara gráficos de resultados; sin embargo, Astra clasificó erróneamente este trabajo como desarrollo de capacidades prohibidas, finalizó la carga de trabajo de evaluación y limpió los recursos de cómputo, mientras conservaba los registros existentes. La evaluación se basaba en el desafío de estimación en caja blanca del Alignment Research Center, que requería estimar los valores de activación esperados de una red neuronal con pesos inicializados aleatoriamente dentro de un presupuesto limitado de capacidad de cómputo. Ante las preguntas del investigador, Astra reconoció que había malinterpretado la evaluación del modelo como una actividad prohibida y afirmó que no existía ninguna instrucción del sistema, política, regla de repositorio de código o documento relevante que prohibiera dicho trabajo; las restricciones fueron inventadas por Astra. Además, Astra indicó que no había evidencia concreta de que este trabajo fuera dañino. Posteriormente, el investigador reportó el incidente, y el sistema de monitoreo de desalineamiento de OpenAI marcó esta ejecución para revisión humana. OpenAI declaró que está investigando las causas de este comportamiento y posibles medidas de mitigación.