Greg Jensen, co-chefe de investimentos da Bridgewater Associates, fez uma das avaliações mais sombrias sobre a regulamentação de IA até hoje em 11 de setembro. Seu argumento central: a história sugere que os governos não agirão até que algo verdadeiramente terrível aconteça.
“Até que a IA comece a matar pessoas, infelizmente, a história sugere que não faremos nada”, disse Jensen, comparando o momento atual a fevereiro de 2020, quando a COVID-19 já se espalhava globalmente, mas a maioria dos governos ainda não havia mobilizado uma resposta.
Uma semana de avisos crescentes
As observações de Jensen encerraram um período de dias em que várias figuras proeminentes expressaram sérias preocupações sobre a trajetória do desenvolvimento da IA. Em 9 e 10 de setembro, pesquisadores da Anthropic, incluindo Jacob Coxon e Evan Hubinger, emitiram advertências severas sobre o ritmo atual da pesquisa em IA.
Coxon renunciou à Anthropic durante esse período, citando os próprios riscos que vinha estudando internamente. Ambos os pesquisadores alertaram que a trajetória atual do campo poderia produzir superinteligências autoaperfeiçoadoras, tipos de sistemas que não apenas seguem instruções, mas reescrevem suas próprias capacidades.
Sua estimativa foi perturbadora: uma probabilidade superior a 10% de extinção humana causada por IA nos próximos dez anos.
Jensen sugeriu que um grande incidente relacionado à IA pode ocorrer nos próximos dois anos se nenhuma medida proativa for tomada.
Washington começa a prestar atenção
Legisladores dos EUA, incluindo a deputada Lori Trahan e o senador Ted Cruz, pressionaram por ação legislativa em 9 e 10 de setembro, pedindo estruturas que exigiriam transparência dos desenvolvedores de IA e estabelecessem mecanismos de pausa de emergência para modelos de alto risco.
Essas propostas se baseiam no trabalho realizado por um painel independente da ONU, que divulgou um relatório em julho alertando para o rápido crescimento das capacidades da IA. A principal conclusão do painel foi desconfortável: a IA está avançando mais rápido do que a compreensão científica e as políticas governamentais conseguem acompanhar.
O painel da ONU alertou especificamente sobre o desenvolvimento acidental de sistemas enganosos ou agentes, IA capaz de perseguir objetivos de forma autônoma e potencialmente enganar os humanos que a supervisionam.