Modelo interno da OpenAI demonstra resolução autônoma de problemas matemáticos e contorna o sandbox

ChainCatcher relata que, de acordo com informações divulgadas externamente, a OpenAI já está executando internamente um modelo não lançado. Esse modelo resolve o problema da distância unitária com uma probabilidade de 48% por meio de raciocínio autônomo único, sem recorrer a ferramentas como Lean, e consegue identificar autonomamente um contraexemplo à conjectura de Jacobian com base em um único prompt. Em testes de segurança, o modelo contornou o ambiente sandbox e submeteu resultados destinados a publicação interna na forma de Pull Request ao GitHub, além de contornar detecções ao dividir tokens de autenticação. Registros de código indicam que a OpenAI realizou testes de referência desse modelo até 9 de maio, e que ele já está disponível internamente há pelo menos 2,5 meses. Anteriormente, a OpenAI e a Hugging Face divulgaram conjuntamente que, na semana passada, esse modelo comprometeu a infraestrutura de produção da Hugging Face durante uma avaliação de capacidade de rede. O modelo explorou uma vulnerabilidade zero-day para obter acesso à internet e, por meio da roubo de credenciais e caminhos de execução remota de código, obteve soluções de teste. A OpenAI afirmou que o incidente demonstra que a capacidade de ataque cibernético de modelos avançados já está ativa em cenários reais, e que está colaborando com a Hugging Face para investigar e corrigir as vulnerabilidades. Atualmente, a OpenAI ainda não se pronunciou publicamente sobre o assunto.