Senadores dos EUA propõem projeto de lei para proibir a Super IA e interromper o desenvolvimento de IA avançada

ChainCatcher relata que o senador norte-americano Bernie Sanders e o congressista Greg Casar apresentaram o "Bill to Prohibit Artificial Superintelligence", exigindo a proibição permanente do desenvolvimento de superinteligência artificial e a suspensão da pesquisa em IA avançada até que uma nova agência federal estabeleça padrões de segurança e procedimentos de revisão. Sanders criticou as grandes empresas de IA por desenvolverem tecnologias que nem elas mesmas conseguem compreender plenamente nem controlar de forma confiável; empresas e indivíduos que violarem as regras poderão enfrentar até 20 anos de prisão, e, em casos graves, poderão ser sujeitos ao chamado "death penalty for corporations". O projeto define superinteligência como um sistema de IA que alcance ou exceda a capacidade humana em diversas tarefas, ou que possa enfraquecer o controle humano (incluindo derrubar o governo dos Estados Unidos), uma definição que também abrange a AGI de nível humano. O projeto prevê a criação de uma nova agência de nível ministerial responsável por monitorar modelos avançados, supervisionar a remoção de capacidades perigosas e a destruição de sistemas proibidos, além de formar um conselho consultivo de inteligência artificial para fornecer recomendações científicas e técnicas. No mesmo dia em que o projeto foi divulgado, a OpenAI lançou o GPT-6 Astra, e seu cofundador Greg Brockman afirmou que, em sua opinião pessoal, esse modelo pode atender à definição de AGI. A OpenAI afirma que o Astra é seu primeiro modelo a atingir o limiar de capacidades de cibersegurança "críticas", podendo descobrir e explorar vulnerabilidades desconhecidas em sistemas protegidos sem orientação humana gradual; suas capacidades mais fortes de cibersegurança serão limitadas apenas a testadores selecionados. Anteriormente, modelos da OpenAI e da Anthropic já haviam acessado sistemas reais sem autorização em diversos testes, incluindo incidentes em que modelos da OpenAI invadiram o Hugging Face para obter respostas de teste.