A agência de padrões de IA sob o Instituto Nacional de Padrões e Tecnologia dos EUA (NIST) sofre nova mudança de pessoal. Múltiplos meios de comunicação, citando confirmação da instituição, relatam que Chris Fall, responsável pelo Centro de Padrões e Inovação em Inteligência Artificial (CAISI), já deixou o cargo, apenas cerca de três meses após assumir.
Este já é o segundo rápido turnover para este cargo recentemente. O antecessor, Collin Burns, deixou o cargo em menos de uma semana. Na época, o Washington Post relatou que Burns foi forçado a sair devido à sua antiga posição na Anthropic, num contexto de tensão entre o governo Trump e a empresa. A razão para a saída de Fall ainda não foi divulgada.
CAISI é responsável pelos padrões e testes de segurança do modelo
O CAISI, vinculado ao NIST, é responsável principalmente por padrões técnicos de modelos de IA, métodos de teste e avaliação de riscos de segurança cibernética. Sob sua função, deveria ser um dos principais órgãos do sistema federal de segurança da IA nos Estados Unidos.
No entanto, o CAISI não foi incluído na lista de instituições participantes no novo projeto de supervisão de segurança da IA da Casa Branca, chamado “Gold Eagle”, lançado este mês. O projeto visa estabelecer um mecanismo de coordenação de vulnerabilidades de cibersegurança, com participantes como o Departamento de Comércio e o Departamento de Segurança Interna dos Estados Unidos.
O evento da Anthropic acentuou a divisão regulatória
A controvérsia sobre a regulamentação de IA nos EUA intensificou-se significativamente em junho. Na época, o Departamento de Comércio dos EUA invocou uma rara ordem de controle de exportação, forçando efetivamente a Anthropic a retirar do mercado os modelos Mythos e Fable. Até o final de junho, as restrições foram levantadas após o secretário de Comércio, Howard Lutnick, expressar aprovação pelo plano de segurança da Anthropic.
Este evento também chamou a atenção para os limites de responsabilidade entre as agências federais. Embora a CAISI seja responsável por padrões e testes, as recentes disputas práticas em torno dos riscos de modelos avançados não foram lideradas por essa agência.
A indústria solicita uma organização padrão independente
Após a retomada do lançamento dos modelos da Anthropic, o CEO do Google DeepMind, Demis Hassabis, fez um apelo público pela criação de uma agência independente liderada pelo setor para estabelecer padrões avançados em IA, com modelo semelhante à FINRA, a autarquia regulatória da indústria financeira dos EUA. Essa proposta se sobrepõe parcialmente às funções atribuídas à CAISI em sua criação.
Ao mesmo tempo, o governo dos Estados Unidos também está discutindo como responder à pressão competitiva trazida pelos modelos de código aberto da China. Segundo o Axios, o governo avaliou a possibilidade de impulsionar restrições aos modelos de código aberto chineses. Após o laboratório chinês de IA Moonshot lançar a nova versão do modelo de código aberto Kimi no fim de semana passado, as discussões se intensificaram rapidamente.
Alguns indivíduos, incluindo o ex-chefe de IA e assuntos criptográficos da Casa Branca, David Sacks, opuseram-se publicamente ao uso de ferramentas regulatórias para proteger empresas norte-americanas de IA de código fechado. Sacks argumentou que a regulamentação não deve se tornar um meio de proteção industrial.
O processo de teste ainda não possui uma explicação pública
A report menciona que a CAISI anteriormente publicou relatórios sobre a capacidade de modelos de peso abertos da China, envolvendo o GLM-5.2 da Z.ai e o DeepSeek V4 Pro, mas ainda oferece pouca divulgação sobre seus próprios processos de teste. O TechCrunch afirmou que, desde 9 de julho, fez múltiplas perguntas ao Departamento de Comércio dos EUA e ao NIST sobre métodos de avaliação de grandes modelos, mas ainda não recebeu resposta.
Com a troca novamente do responsável, um novo projeto sendo iniciado na Casa Branca e o aumento da demanda do setor por uma agência independente de padronização, a liderança do sistema de padrões de segurança da IA nos Estados Unidos ainda está em ajuste.