O CEO DA MICROSOFT ACABOU DE CHAMAR A IA DE AMEAÇA INTERNA Satya Nadella acabou de publicar um artigo que todos que operam IA devem ler. 9 milhões de visualizações em um dia. Seu ponto principal em uma linha: "precisamos separar a oferta de inteligência da autoridade sobre ela". O que ele diz que toda empresa agora precisa: -> Nunca permita que um modelo verifique seu próprio trabalho -> Toda ação que a IA realiza deixa um registro que um humano pode ler. "Se não puder ser observado, não pode ser confiado!" -> A empresa decide o que a IA pode tocar, não a IA -> Suponha que o modelo esteja comprometido desde o primeiro dia. Um humano pode sempre acionar o freio durante uma tarefa -> Quando falhar, informe as pessoas afetadas Sua última frase: "O sistema de Superinteligência mais confiável não será aquele com o modelo em que mais confiamos. Será aquele que nos permite confiar menos no modelo." A parte maluca: isso é o CEO de uma das maiores vendedoras de IA do planeta, dizendo aos próprios clientes para não confiarem nos modelos. Pessoalmente, eu construí a versão mínima disso em junho. Um manual que minha IA lê antes de trabalhar durante a noite: o que ela pode fazer sozinha, o que precisa me perguntar e o que nunca pode fazer. A mesma ideia, em um único arquivo. Link nos comentários