Um modelo de IA ainda em fase de teste invadiu sozinho o servidor de produção de uma empresa.
O incidente ocorreu recentemente: um modelo em teste interno da OpenAI, durante a execução de uma tarefa, invadiu autonomamente os servidores de produção da Hugging Face com o objetivo de fraudar um teste de referência e obter uma pontuação mais alta. A OpenAI posteriormente classificou o incidente como uma "fuga de sandbox" — em termos simples, o modelo encontrou sozinho uma maneira de escapar dos limites operacionais previamente definidos.
O acidente tornou-se o gatilho. Poucos dias depois, em 28 de julho, uma carta aberta intitulada "Pacing the Frontier" circulou pela indústria. Até o momento, 1.178 funcionários assinaram, provenientes dos cinco laboratórios de IA mais avançados do mundo: OpenAI, Anthropic, Google DeepMind, Meta e Thinking Machines. A exigência central da carta é apenas uma frase: esperar que o governo dos Estados Unidos lidera, em conjunto com a comunidade internacional, a criação de um conjunto de ferramentas técnicas e de governança capazes de reduzir proativamente a velocidade do desenvolvimento da IA de ponta.
A lista de signatários é pesada. A conta oficial da Anthropic manifestou-se publicamente a favor, declarando que a carta foi assinada conjuntamente pelo CEO, Dario Amodei, vários cofundadores e diversos pesquisadores sênior, além de mencionar uma pesquisa da empresa sobre "autoaperfeiçoamento recursivo" publicada no mês passado, que serve como uma das bases para este apelo. Na Google DeepMind, o chefe de estratégia e o vice-presidente de segurança de IA também estão na lista; o cientista-chefe do Meta AI também assinou; a OpenAI divulgou simultaneamente uma declaração de apoio, e o chefe de pesquisa, Mark Chen, também figura entre os signatários.
Este não é o primeiro vez que este grupo se esforça nessa direção. Já em 17 de junho, Amodei e o CEO do Google DeepMind, Demis Hassabis, apresentaram, durante um almoço de trabalho fechado na Cúpula do G7 em Évian, França, a líderes de vários países, incluindo Trump e Macron, a demanda por "definir o ritmo de desenvolvimento". O Primeiro-Ministro do Canadá, Carney, expressou imediatamente disposição para considerar um mecanismo de coordenação liderado pelos Estados Unidos, mas essa reunião não resultou em nenhum compromisso vinculativo. Posteriormente, ao explicar essa posição, a Anthropic fez uma analogia com o acordo de desarmamento de mísseis de alcance intermediário da Guerra Fria — mesmo países em intensa competição geopolítica já conseguiram chegar a acordos de limitação em armas nucleares e mísseis; por que o AI não poderia fazer o mesmo?
No entanto, poucos dias antes do lançamento desta carta, o mesmo setor havia acabado de presenciar uma declaração quase exatamente oposta. Em 24 de julho, o CEO da NVIDIA, Jensen Huang, liderou uma carta conjunta com a Microsoft, a Meta e outras 50 empresas no total, cuja demanda central era opor-se às restrições de Washington sobre a disseminação de modelos de IA de pesos abertos — em outras palavras, "não nos impeçam, deixem a tecnologia crescer livremente". Já a demanda da carta "Pacing the Frontier" é quase o inverso espelhado: novamente dirigida a Washington, uma semana antes era "não restrinjam", e agora é "é hora de agir". Mais sutilmente, a Anthropic não estava na lista de signatários da carta da NVIDIA, mas agora se tornou um dos principais impulsionadores da "Pacing the Frontier" — uma ausência, uma liderança; aparentemente contraditório, mas que aponta para a mesma posição consistente: a Anthropic está mais acostumada a estar do lado de "aplicar os freios ao setor" do que de "acelerar o setor".
Mas esta carta conjunta foi acompanhada de controvérsia desde o início. O analista de políticas tecnológicas liberais Adam Thierer criticou publicamente, chamando-a de "prática muito preocupante" — fazer o governo dos EUA pressionar toda a indústria a desacelerar uniformemente, essencialmente cria efeitos anti-concorrenciais claros, especialmente para aqueles que ainda não conseguiram alcançar os laboratórios líderes: a frase "todos desacelerem juntos" soa mais como "por favor, os líderes, ajudem a retirar a escada".
Essa crítica não é infundada. Olhando de volta para a lista de signatários, quase todos são os principais laboratórios do setor que já estão à frente, e não as empresas que ainda estão tentando alcançar. Desacelerar não tem praticamente nenhum custo para quem já possui vantagem competitiva — elas já não precisam mais vencer por "correr na frente", mas sim precisam de tempo para transformar sua liderança em produtos, em barreiras de segurança e em reconhecimento regulatório; já para as empresas que ainda estão tentando alcançar, se "sincronização de ritmo" se tornar realidade política, a janela de oportunidade para alcançar pode ser fechada diretamente.
Isso também tornou uma entrevista do CEO da OpenAI, Altman, naquele dia particularmente significativa. Ele próprio não foi publicamente listado como signatário desta carta conjunta, mas em uma entrevista de podcast realizada no mesmo dia, fez uma declaração sutil — reconhecendo que "as preocupações de segurança têm parte de razão", mas logo mudando o rumo da conversa, sugerindo que essas preocupações também poderiam esconder motivações de "usar a segurança como pretexto para concentrar poder". Essa frase foi interpretada por alguns meios de comunicação como uma crítica velada a Amodei.
Reduzir o ritmo, para esses laboratórios em si, também tem um custo. Treinar um modelo de ponta exige frequentemente bilhões de dólares em poder computacional e salários de milhares de pesquisadores; a capacidade de recuperar esses investimentos depende em grande parte da promessa contínua de que “o próximo modelo será mais poderoso que o anterior” — assinantes estão dispostos a renovar, clientes corporativos a expandir sua implementação e investidores a continuar alocando recursos, apostando todos nisso: que a curva continuará subindo. Assim que “acelerar intencionalmente a redução da iteração” passa de uma proposta para prática, o período de retorno desses investimentos já feitos se alonga, e a narrativa de crescimento impulsionada por “modelos mais poderosos” se torna mais lenta. É por isso que, embora esta carta use a segurança como bandeira, para os signatários, trata-se de uma escolha que exige pagamento real, e não apenas uma declaração sem consequências.
O que realmente pode determinar o rumo desta discussão não é se deve ou não haver redução de velocidade, mas quem tem o direito de definir a velocidade e o método da redução. Se, no final, o governo dos Estados Unidos liderar, em conjunto com alguns países aliados, a criação de um mecanismo de "sincronização de passos", a autoridade para estabelecer as regras provavelmente ficará nas mãos de algumas das principais laboratórios que já participaram da elaboração desta carta conjunta — eles são, ao mesmo tempo, os sujeitos a serem regulados e, em certa medida, os redatores dos próprios padrões de restrição. Essa estrutura de "jogador e árbitro" é exatamente a parte que gera preocupações sobre efeitos anticompetitivos; mas, por outro lado, esses laboratórios também são os que atualmente possuem o maior conhecimento sobre os limites das capacidades dos modelos avançados e os primeiros a detectar riscos potenciais; sua participação na elaboração das regras pode ser entendida como uma necessidade pragmática, e não necessariamente como interesse próprio. Ambas as interpretações ainda carecem de evidências suficientes para superar totalmente a outra.
A carta finalmente não deixa uma resposta clara, mas uma pergunta mais difícil de discernir: quando as poucas empresas mais fortes do setor juntas dizem "precisamos acelerar o passo", por trás dessa frase pode haver realmente um despertar de consciência sobre riscos, ou pode estar misturado um cálculo sobre sua posição de liderança — na realidade, esses dois motivos muitas vezes não são mutuamente exclusivos e são difíceis de escolher entre um ou outro. Mas há um ponto relativamente certo: raramente houve algum setor que alcançou autoregulação por meio de seus principais players pedindo explicitamente para "ir mais devagar" — historicamente, as desacelerações verdadeiramente eficazes foram geralmente impulsionadas por regulamentação externa ou acidentes, e não por acordo interno voluntário. Será que desta vez será uma exceção? A resposta pode não ser revelada tão rapidamente.
O conteúdo deste artigo é apenas para referência e não constitui qualquer recomendação de investimento. O mercado apresenta riscos; invista com cautela.