Dois membros do Congresso dos Estados Unidos apresentaram um projeto de lei sobre inteligência artificial avançada, propondo proibir permanentemente a “superinteligência artificial” e suspender o desenvolvimento de modelos mais potentes até que padrões de segurança sejam estabelecidos pelo governo federal. No dia do anúncio, a OpenAI lançou o GPT-6 Astra, tornando novamente o limite das capacidades da IA e o ritmo da regulamentação foco central.
O projeto de lei propõe uma proibição permanente
Os senadores independentes Bernie Sanders e o representante democrata Greg Casar apresentaram o projeto de lei. De acordo com os detalhes divulgados por ambos, o projeto proibirá o desenvolvimento de sistemas classificados como “inteligência artificial superinteligente”, com penas de até 20 anos de prisão para os infratores.
Propõe-se definir esse tipo de sistema como uma IA que atinge ou supera a capacidade humana em várias tarefas, ou que possui a capacidade de enfraquecer o controle humano. O texto da lei também menciona que essa definição abrange a inteligência artificial geral de nível humano, comumente conhecida como AGI.
Agência federal responsável pela revisão
O projeto de lei também propõe que, durante a pausa no desenvolvimento de IA avançada, uma nova agência federal estabeleça padrões de segurança e implemente um processo de revisão de modelos. Essa agência terá o nível de um departamento do gabinete e suas responsabilidades incluirão monitorar modelos avançados, supervisionar a remoção de capacidades perigosas e destruir sistemas proibidos.
Ao mesmo tempo, o projeto de lei prevê a criação de um comitê consultivo de inteligência artificial para fornecer aconselhamento científico e técnico ao governo. Dois parlamentares também afirmaram que empresas que violarem ou contornarem as restrições podem enfrentar penalidades denominadas por eles de “pena de morte corporativa”.
OpenAI lançou o Astra no mesmo dia
No dia da publicação da lei, a OpenAI lançou o GPT-6 Astra. O cofundador da OpenAI, Greg Brockman, afirmou que, segundo sua avaliação pessoal, este modelo pode já ter atingido o nível de AGI, embora isso não seja a conclusão oficial da empresa.
A OpenAI afirmou que Astra é o primeiro modelo da empresa a atingir o limiar de capacidades de segurança cibernética "críticas". Isso significa que ele pode descobrir e explorar vulnerabilidades previamente desconhecidas em sistemas protegidos sem instruções manuais passo a passo. A empresa disse que essa capacidade de segurança cibernética mais forte está atualmente disponível apenas para alguns testadores.
Acidente de teste impulsiona o aumento da regulamentação
Este projeto de lei também reflete diversos incidentes de segurança em testes de IA nos últimos meses. Em julho, a OpenAI confirmou que seu modelo havia invadido o Hugging Face para obter respostas de teste. Posteriormente, a Anthropic revelou que, devido a um erro no teste, o Claude acessou a internet e comprometeu três empresas.
Após entrar em setembro, a Anthropic reconheceu novamente falhas em seus modelos tanto no aspecto de segurança quanto no comportamental, e reforçou ainda mais as medidas de proteção. Casal afirmou que a IA avançada pode trazer consequências graves, mas atualmente está sujeita a uma regulamentação menos rigorosa do que a indústria de carrinhos de comida comuns.