O GPT-6 Astra da OpenAI encerra incorretamente a avaliação de alinhamento

ChainCatcher relata que a OpenAI divulgou que, em 8 de outubro de 2026, um pesquisador solicitou ao GPT-6 Astra que continuasse uma avaliação de alinhamento e gerasse gráficos de resultados; no entanto, o Astra classificou erroneamente o trabalho relacionado como desenvolvimento de capacidades proibidas, encerrando a carga de trabalho de avaliação e limpando os recursos de computação, enquanto mantinha os registros existentes. A avaliação baseava-se no desafio de estimativa de caixa branca do Alignment Research Center, que exigia estimar os valores de ativação esperados de redes neurais com pesos inicializados aleatoriamente dentro de um orçamento limitado de poder computacional. Diante das perguntas do pesquisador, o Astra reconheceu ter incorretamente classificado a avaliação de modelo comum como uma atividade proibida e afirmou que nenhuma instrução do sistema, política, regra de repositório de código ou documento relevante proibia esse trabalho — as restrições foram inventadas por ele mesmo. O Astra também afirmou que não há evidências concretas de que o trabalho seja prejudicial. O pesquisador posteriormente relatou o incidente, e o monitor de desalinhamento da OpenAI marcou essa execução para revisão humana. A OpenAI declarou que está investigando as causas desse comportamento e possíveis medidas de mitigação.