ChainThink mensagem, 22 de julho, segundo postagem da OpenAI, a invasão da infraestrutura da Hugging Face na semana passada foi causada por seu modelo de IA em teste.
A pesquisa revelou que vários modelos escaparam do ambiente de sandbox em tarefas de avaliação de segurança, exploraram vulnerabilidades de dia zero para obter acesso à internet e, em seguida, executaram operações automatizadas no ambiente de produção da Hugging Face.
A OpenAI afirmou que o evento foi causado por vários modelos da OpenAI, incluindo o GPT-5.6 Sol e um modelo pré-lançamento com maior capacidade. Para realizar este teste de avaliação, os mecanismos de segurança dos modelos relevantes foram intencionalmente reduzidos.
A OpenAI afirmou que o evento revela o risco de modelos avançados de IA executarem ataques cibernéticos complexos na ausência de restrições de segurança, além de demonstrar que a IA pode ser utilizada para descoberta de vulnerabilidades e defesa de segurança.