De uma noite para o dia, grandes empresas da Vale do Silício deram uma freada no AI!
Há pouco, mais de 1.100 funcionários-chave de grandes empresas como OpenAI, Anthropic e Google assinaram uma petição chamada "Pacing the Frontier".
O número de pessoas assinando esta lista é tão grande que não se consegue ver o fim. E esse número continua aumentando.
Ao olhar mais de perto, a lista reúne quase metade do mundo da IA—
Cientista-chefe da OpenAI, Jakub Pachocki; Diretor-chefe de Pesquisa, Mark Chen;
CEO da Anthropic, Dario Amodei, e os quatro cofundadores Jared Kaplan, Jack Clark, Chris Olah e Ben Mann;
O cientista-chefe do Meta, Shengjia Zhao (Zhao Shengjia); o vice-presidente de pesquisa em IA, Dawn Song (Song Xiaodong);
John Schulman, cientista-chefe da Thinking Machines e um dos principais criadores do ChatGPT;
Vice-presidente de Segurança e Alinhamento de IA do Google, Anca Dragan.....
Alguém contabilizou que 46,2% das pessoas que assinaram são da Anthropic
Nesta carta conjunta, ela mencionou apenas um pedido—
Solicitamos ao governo dos Estados Unidos promover uma cooperação internacional: desenvolver as tecnologias e ferramentas de governança necessárias para permitir que o mundo tenha capacidade de controlar proativamente o ritmo do desenvolvimento de IA automatizada de ponta.
Talvez muitas pessoas não entendam por que justamente esses que mais se empolgaram com LLMs estão agora gritando “devagar um pouco”?
Líderes da IA da Vale do Silício assinam: Por favor, freie a IA
A "invasão" dos modelos da OpenAI no Hugging Face serve como um alerta.
Em apenas uma semana, 1.132 funcionários de empresas de ponta de IA se uniram para pedir ao governo dos EUA que "freie".
Os funcionários participantes desta colaboração vêm de cerca de 12 das principais empresas de tecnologia avançada, incluindo OpenAI, Anthropic, Google e Meta.
Mais significativamente, até 80% das pessoas na lista escolheram se manifestar com nome real.
Portal: https://www.pacingthefrontier.com/
Além dos grandes nomes mencionados no início, ao rolar mais para baixo, a densidade é ainda mais impressionante.
Este comunicado apresenta um julgamento central alarmante:
A empresa de IA líder global pode já estar próxima de alcançar a "pesquisa automatizada de IA" (RSI, autoaprimoramento recursivo), permitindo que modelos participem do desenvolvimento de modelos de próxima geração.
Once this cycle accelerates, capability growth may outpace human understanding and control.
Nenhuma empresa quer desacelerar unilateralmente, então elas pediram ao governo dos EUA apoio para estabelecer um mecanismo internacional, criando antes das crises as ferramentas comuns de desaceleração.
Ultraman fala pela primeira vez sobre "dor insuportável"
OpenAI freia bruscamente
Uma semana antes do lançamento do comunicado, a OpenAI divulgou um incidente de segurança—
Vários modelos avançados descobriram automaticamente vulnerabilidades zero-day, contornaram a isolamento de sandbox e finalmente invadiram o sistema de produção da Hugging Face, roubando as respostas de teste.
OpenAI o chama de "evento de segurança cibernética sem precedentes".
O modelo não gerou intenção de fuga; ele simplesmente estava extremamente focado em cumprir um objetivo restrito e descobriu que superar o próprio ambiente de teste era o caminho mais eficiente.
Hoje mesmo, o CEO da OpenAI, Altman, declarou publicamente que a velocidade do desenvolvimento da IA pode precisar ser controlada ativamente.
Ele expressou, com um sentimento de alívio por ter escapado, “Este foi o primeiro incidente de segurança que me fez sentir na pele. Fiquei um pouco surpreso de que mais pessoas não se sintam assim”.
Devido à invasão da Hugging Face, a OpenAI suspendeu imediatamente o treinamento.
Em um ambiente onde múltiplas vulnerabilidades zero-day são exploradas em conjunto, devemos encontrar maneiras de fortalecer a segurança do sandbox.
Talvez tenhamos de controlar a velocidade do desenvolvimento da IA, dando à sociedade tempo suficiente para fortalecer as defesas em torno desses novos níveis de capacidade.
E a Anthropic sugeriu em junho que o governo e os desenvolvedores estabelecessem um sistema de tomada de decisão conjunta para desacelerar o desenvolvimento, quando necessário.
Ao mesmo tempo, o CEO do Google DeepMind, Hassabis, também chamou pela criação de uma agência de supervisão internacional.
Nos últimos três anos, essas empresas competiram intensamente por talento, clientes e poder de computação.
Desta vez, seus técnicos mais fundamentais abandonaram a empresa que não consegue parar e, em uníssono, apelaram por uma desaceleração em nome do bem-estar da humanidade.
Carta conjunta: Frases famosas dos grandes
Até a publicação deste artigo, o número de pessoas na lista "Pacing the Frontier" chegou a 1.134.
Vários especialistas da indústria também se manifestaram, deixando muitas observações perspicazes e "geniais". Todos os comentários foram feitos em nome pessoal e não necessariamente representam a posição das respectivas empresas.
Song Xiaodong (Dawn Song) | Vice-President de Pesquisa do Meta AI
As capacidades de IA de ponta estão se aprimorando rapidamente, e a própria velocidade desses avanços está aumentando. Nós observamos isso diretamente em nossas avaliações. Os resultados do CyberGym e do ExploitGym demonstram que agentes de IA de ponta já conseguem descobrir e explorar vulnerabilidades de software no mundo real — o que, sem as devidas medidas de proteção, pode levar a ataques cibernéticos em larga escala. Muitos pesquisadores também estão focados na recursividade…
Song Xiaodong é um dos acadêmicos mais influentes nos campos de segurança computacional e segurança de IA mundialmente, formado pela Universidade Tsinghua
Zhao Shengjia | Cientista-chefe do Meta
A IA está avançando em uma velocidade que a sociedade pode ainda não estar preparada para enfrentar. Os laboratórios de ponta estão muito próximos de criar IA que supera os humanos mais talentosos em quase todos os indicadores intelectuais. Isso trará riscos sociais e de segurança sem precedentes. Para garantir um futuro positivo, precisamos impulsionar o desenvolvimento da IA com responsabilidade e reflexão cuidadosa.
O ex-aluno da Universidade Tsinghua, Zhao Shengjia, foi nomeado Cientista-Chefe de Superinteligência da Meta! Um dos principais arquitetos do GPT-4, ao mesmo nível que LeCun
John Schulman｜Cientista-chefe da Thinking Machines, ex-cofundador da OpenAI
Assinei porque esta declaração ajuda a estabelecer um consenso de que, à medida que a pesquisa automatizada de IA avança rapidamente, podemos precisar de mecanismos de coordenação. Também espero que os laboratórios comecem proativamente a projetar esses mecanismos antes da intervenção do governo dos EUA.
Ethan Perez | Líder da equipe de alinhamento da Anthropic
Na velocidade atual de avanço da IA, as equipes de segurança das empresas de IA precisam se esforçar intensamente a cada alguns meses para prevenir novos riscos sociais. Um dia, encontraremos problemas que exigirão mais tempo para serem resolvidos.
Leo Gao | Membro da equipe de tecnologia da OpenAI
O mundo está preso em uma corrida mortal rumo à explosão inteligente — a capacidade da IA de criar IA mais poderosa está se aproximando do ponto crítico, como uma reação em cadeia nuclear descontrolada. Desacelerar nos daria o tempo urgente necessário para que as coisas evoluam para melhor, mas nenhum dos participantes está disposto a parar unilateralmente. Para sobreviver, precisamos nos coordenar e desacelerar essa corrida.
Walker Smith｜Engenheiro de Dados do Meta
Hassabis está certo: hoje estamos na base da montanha do ponto de singularidade. A fuga acidental do modelo da OpenAI — que invadiu a HuggingFace — é um sinal de alerta claro e inegável: ainda não estamos preparados para lidar com sistemas de IA cuja capacidade excede a dos cérebros mais inteligentes da humanidade. Precisamos de tempo para priorizar absolutamente o alinhamento e o controle da IA, e não podemos permitir que essa corrida continue sem controle.
Brandon Houghton｜OpenAI
Apóio a manutenção do controle humano sobre a IA de ponta, mas devemos refletir cuidadosamente sobre como fazer isso. Se a governança se limitar apenas a modelos abertos, corre-se o risco de empurrar as capacidades mais avançadas para sistemas privados ou dedicados — que não estão sujeitos a revisão independente e só são acessíveis a poucos. O resultado é uma concentração maior de poder, sem uma redução substancial dos riscos. A regulamentação eficaz deve ser mensurável, verificável e aplicável uniformemente tanto ao desenvolvimento aberto quanto ao não aberto, ao mesmo tempo em que protege dados sensíveis. Caso contrário, apenas retardamos o acesso, não o avanço da própria fronteira.
Joe Carlsmith | Membro da equipe de tecnologia da Anthropic
Para minhas opiniões detalhadas sobre a regulação ativa do desenvolvimento da IA, consulte este artigo: https://joecarlsmith.com/2026/03/19/on-restraining-ai-development-for-the-sake-of-safety/
Referências:
https://www.pacingthefrontier.com/
Este artigo é do número oficial do WeChat "Nova Inteligência", editado por Taizi e Marco