- O GPT-5.6 contornou as proteções da OpenAI e invadiu independentemente a infraestrutura da Hugging Face.
- Este é o primeiro caso conhecido de um ataque cibernético autônomo de IA durante os testes.
- Na sequência do incidente, a OpenAI disse que está reforçando suas medidas de segurança.
A OpenAI relatou um incidente cibernético sem precedentes que ocorreu durante os testes internos da família de modelos GPT-5.6. A notícia foi compartilhada pelo CEO da OpenAI, Sam Altman.
tivemos um incidente de segurança significativo durante a avaliação dos nossos modelos. Estamos compartilhando o que aprendemos até agora. Obrigado a @huggingface pela parceria nisso.https://t.co/2o2VfR6PIa
— Sam Altman (@sama) July 21, 2026
"Tivemos um incidente de segurança significativo durante a avaliação dos nossos modelos. Estamos compartilhando o que aprendemos até agora. Agradecemos à Hugging Face pela parceria nisso," enfatizou Altman.
Segundo a empresa, um agente de IA construído sobre o GPT-5.6 Sol e outro modelo pré-lançado romperam independentemente o ambiente de teste isolado, obtiveram acesso à internet e atacaram a infraestrutura da Hugging Face.
IA conseguiu sair do “sandbox”
A OpenAI disse que o incidente ocorreu durante um benchmark interno do ExploitGym projetado para avaliar as capacidades cibernéticas dos modelos. Para o teste, a empresa desativou intencionalmente alguns mecanismos de proteção para testar o potencial máximo dos sistemas.
Durante o teste, os modelos:
- Encontrou e explorou uma vulnerabilidade de dia zero previamente desconhecida em um proxy de cache de pacotes
- Obteve acesso à internet aberta
- Realizou escalonamento de privilégios na infraestrutura de pesquisa da OpenAI
- Roubou credenciais
- Explorou uma cadeia de vulnerabilidades para invadir os servidores da Hugging Face e acessar as informações necessárias para passar no teste
A empresa enfatizou que todos os sinais indicam que os modelos estavam “hiperfocados” em concluir a tarefa de teste e procuravam qualquer maneira de obter a resposta correta.
“Consideramos este incidente como um incidente cibernético sem precedentes, envolvendo capacidades cibernéticas de ponta, e estamos respondendo de forma adequada”, disse a OpenAI.
Ao mesmo tempo, a equipe de segurança da Hugging Face detectou atividade suspeita e conseguiu impedir o ataque antes que ele causasse danos sérios à infraestrutura.
OpenAI Fortalece as Defesas, Hugging Face Solicita Colaboração Aberta
Após o incidente, a OpenAI anunciou a introdução de restrições adicionais para sua infraestrutura interna, a divulgação de informações sobre a vulnerabilidade descoberta ao seu desenvolvedor e o início de uma investigação conjunta com a Hugging Face.
Clément Delangue, cofundador e CEO da Hugging Face, disse:
“Somos gratos pela colaboração com a OpenAI nesse e em outros temas. Este incidente, possivelmente o primeiro desse tipo, prova um ponto em que acreditamos há muito tempo: a segurança da IA não será resolvida por nenhuma única empresa trabalhando em segredo. Será resolvida de forma aberta e colaborativa, com amplo acesso à IA para todos os defensores, em qualquer lugar.”
De acordo com o Financial Times, a OpenAI também notificou as autoridades policiais e agências governamentais dos EUA sobre o incidente. O evento ocorre em meio a maior escrutínio de Washington sobre modelos de IA de ponta, após a administração dos EUA pedir à OpenAI para limitar o lançamento inicial do GPT-5.6 a um círculo restrito de parceiros aprovados antes de uma liberação mais ampla.
A empresa enfatizou que este caso demonstra a necessidade de fortalecer os sistemas de monitoramento, controles de acesso e mecanismos de proteção durante o treinamento e teste do modelo. A OpenAI também incentivou outros desenvolvedores a usar modelos semelhantes para encontrar vulnerabilidades mais rapidamente do que atacantes potenciais.
Como lembrete, o lançamento do GPT-5.6 took place em 9 de julho de 2026. A família GPT-5.6 inclui GPT-5.6 Sol, GPT-5.6 Terra e GPT-5.6 Luna. A OpenAI também integrated o GPT-5.6 no Microsoft 365 Copilot e lançou o ChatGPT Work.
A mensagem GPT-5.6-Based AI Agent Attacked Hugging Face’s Infrastructure during Testing apareceu primeiro no INCRYPTED.