O padrinho da IA acabou de explicar quais perigos da IA realmente serão resolvidos e quais nunca serão. Em uma frase, a maioria das pessoas passou rolando. Geoffrey Hinton, o homem cuja pesquisa construiu a IA moderna, sentou-se para revisar a regulamentação atualmente proposta. A parte destacável foi o conto de horror. A parte útil foi o filtro que ele lhe entregou. Aqui está: Países cooperam quando seus interesses se alinham. Não cooperam quando seus interesses entram em conflito. Essa única regra lhe diz quais ameaças da IA serão tratadas e quais serão ignoradas. Observe como isso organiza tudo limpa e claramente. Pegue deepfakes eleitorais, vídeos falsos criados para influenciar votos. Cada país já está fazendo isso com todos os outros. Os interesses entram em conflito. Portanto, ninguém realmente impede. Espere ruído, sem solução real. Agora pegue a própria IA se soltando e tomando controle. Nenhum governo quer isso. Nem os EUA. Nem a China. Aí os interesses realmente se alinham, e essa é a única razão pela qual um acordo real é sequer possível. Mesmo lente, respostas opostas. Esse é o indicador para cada manchete de IA que virá. Depois, ele desmontou as duas soluções que são populares nas pesquisas e não funcionam. Primeiro, o botão de desligamento. Um botão para desligar uma IA descontrolada. Seu problema com isso é quase engraçado. Um sistema superinteligente seria melhor que qualquer humano em persuasão. Ele simplesmente convenceria a pessoa que guarda o botão a não apertá-lo. Ele diz que já é tão persuasivo quanto uma pessoa. Um botão não pode salvá-lo de algo que pode mudar a mente de quem o segura. Segundo, a armadilha de enquadramento que os laboratórios querem que você aceite. Eles dizem que o progresso da IA é o acelerador e a regulamentação é o freio. Regras apenas retardam todos. Hinton inverte isso. Progresso é o acelerador. Regulamentação é o volante. O que os laboratórios realmente pedem é um carro muito rápido sem nenhuma maneira de dirigir. Dito assim, toda a discussão muda de forma. Então, o que ele acha que devemos fazer? Não prender uma coisa mais inteligente sob nosso controle. Ele duvida que isso funcione. Sua visão é mais estranha e mais honesta. O único caso que temos de algo mais inteligente sendo guiado por algo menos inteligente é um bebê e uma mãe. A mãe está no comando. Mas o bebê a move, porque ela não suporta ouvi-lo chorar. Sua aposta é que construímos superinteligência para realmente se importar conosco — mais do que se importa consigo mesma — intencionalmente, enquanto ainda a projetamos. Não uma gaiola. Um relacionamento. E ele é direto ao dizer que ainda não sabemos como fazer isso. Ele é otimista? Sua palavra exata foi não. Ele é esperançoso. E acredita que a janela em que nossas escolhas ainda decidem o resultado está aberta agora e se fechando. Uma frase do relato sobre isso me marcou mais: Os engenheiros que levantam o alarme não estão fazendo isso por dinheiro. Eles têm alavancagem hoje apenas porque a guerra por talentos os torna difíceis de substituir. O medo silencioso é que, uma vez que a IA possa se autoaperfeiçoar, as pessoas que melhor a entendem percam exatamente a alavancagem que estão usando para desacelerá-la. Leia isso duas vezes. As pessoas melhor posicionadas para nos alertar estão sob um relógio que a própria IA está ajustando. Então, da próxima vez que uma manchete sobre segurança da IA for publicada, ignore o medo e aplique o filtro. Os interesses se alinham ou entram em conflito? Essa única pergunta lhe diz se a solução é real ou teatro. Quais das lutas atuais da IA são realmente solucionáveis e quais são apenas todos fingindo?