O CEO da Anthropic, Dario Amodei, afirmou que os governos já não podem tratar a regulamentação da IA como um tema de pesquisa de longo prazo. Com a rápida evolução das capacidades dos modelos avançados, os Estados Unidos precisam estabelecer rapidamente requisitos de segurança vinculativos, em vez de depender apenas da divulgação voluntária pelas empresas.
Propor referência ao modelo de regulamentação aérea
Amodei, em seu artigo mais recente, afirmou que a abordagem regulatória anteriormente centrada na transparência já não é suficiente. Ele propõe adotar o modelo da Administração Federal de Aviação dos EUA, impondo requisitos de teste pré-lançamento, auditoria técnica e relatórios contínuos para os modelos de IA mais avançados.
Segundo sua proposta, modelos avançados devem passar por testes obrigatórios realizados por terceiros. Caso não atinjam os padrões de segurança, o governo deve ter o poder de bloquear sua implantação ou até exigir sua retirada. As empresas também devem proteger os pesos dos modelos, realizar avaliações de segurança sistemáticas e relatar acidentes graves.
Quatro categorias de risco foram listadas como prioridades
O artigo concentra a regulamentação em quatro áreas: segurança cibernética, riscos de armas biológicas, perda de controle da IA e capacidade de desenvolvimento automatizado. Amodei acredita que, se essas capacidades continuarem a se aprimorar, os processos regulatórios atuais podem não acompanhar o avanço tecnológico.
Ele também propôs que o governo antecipe os impactos da IA na substituição de empregos e preste atenção aos desafios de governança decorrentes da aceleração na pesquisa de medicamentos. Ao mesmo tempo, ele chamou por limitar o uso da IA em monitoramento policial interno e armas autônomas, e reforçar a cooperação entre países democráticos em tecnologias de IA críticas.
Lançamento de novo modelo e progresso de listagem ocorrendo em paralelo
Antes e depois da publicação deste artigo, a Anthropic ampliou o acesso aos seus modelos de ponta. A empresa lançou o Mythos 5 na terça-feira, disponibilizando-o para instituições de cibersegurança e parceiros governamentais. Pesquisadores do UK AI Safety Institute, entre outros, descobriram que o modelo pode executar ataques cibernéticos complexos de forma autônoma.
Na mesma semana, a Anthropic também lançou o Claude Fable 5 para o público. Para solicitações envolvendo segurança cibernética, biologia, química e desenvolvimento de IA, o sistema encaminha para o Claude Opus 4.8, que possui capacidades mais limitadas, para reduzir o risco de uso indevido.
No entanto, esse arranjo de produto gerou críticas de desenvolvedores e pesquisadores, com controvérsias centradas no maior consumo de tokens, na retenção obrigatória de dados por 30 dias e em certas restrições de segurança que reduzem a capacidade do modelo sem avisar claramente os usuários.
Informação adicional: Enquanto Anthropic avança em direção à listagem, a empresa apresentou documentos para sua oferta pública inicial à Comissão de Valores Mobiliários dos Estados Unidos no início deste mês. O relatório também menciona que Sam Altman, CEO da OpenAI, criticou anteriormente a Anthropic por utilizar preocupações de segurança para impulsionar regulamentações mais rigorosas, e as divergências entre as duas empresas quanto ao caminho regulatório ainda persistem.