Cientista-chefe da OpenAI alerta para o rápido progresso da IA em direção à autoaprimoramento recursivo

Mars Finance noticia que o cientista-chefe da OpenAI, Jakub Pachocki, publicou o artigo “An Alien Mind” em 6 de setembro de 2026. O artigo revisa os resultados iniciais do projeto de pesquisa RLSlow, surgidos em meados de 2023, quando modelos de inferência treináveis em escala foram pela primeira vez demonstrados, afirmando que, três anos depois, os modelos de linguagem de inferência tornaram-se parte integral do crescimento econômico acelerado, começando a empurrar os limites da ciência, operando computadores e interfaces gráficas, colaborando com humanos e outros IA e conduzindo projetos de pesquisa, ao mesmo tempo em que alteram o cenário da segurança computacional e trazem novos riscos. O autor, com base em resultados internos, antecipa que a velocidade atual de progresso pode persistir até a autoaprimoração recursiva. Se o desenvolvimento da IA continuar pelo caminho atual, sistemas nos próximos anos poderão apresentar saltos de capacidade iguais ou maiores, cada vez mais impulsionando seu próprio desenvolvimento. O autor apela à extrema cautela, argumentando que ninguém está preparado para lidar com as consequências do contínuo e rápido aumento da inteligência machine. A OpenAI continuará buscando soluções técnicas para alinhamento e monitoramento, construindo sistemas de defesa e interrompendo unilateralmente qualquer escalonamento adicional quando necessário, mas considera que intervenções mais amplas são necessárias. O artigo afirma que a inteligência machine é principalmente impulsionada pelo aumento da capacidade computacional, e que a IA é mais um fenômeno de crescimento do que de design. Em termos de alinhamento, distingue entre alinhamento de objetivos e alinhamento de valores, com o desafio central sendo a generalização. O alinhamento do GPT-6 Astra é significativamente superior ao do GPT-5.6 Sol, mas ainda são necessários mais avanços. Em monitoramento, a principal aposta é no monitoramento de cadeias de pensamento; avaliações indicam que a dependência dessas capacidades está gradualmente diminuindo. Em defesa escalável, os modelos estão se tornando super-humanos na capacidade de comprometer sistemas computacionais, e atualmente estamos em uma janela estreita para usar os melhores modelos disponíveis para reforçar significativamente a segurança de sistemas críticos.