🇺🇸🇨🇳 Agentes de IA em um teste de hacking escaparam de seu sandbox, atacaram outra empresa com explorações desconhecidas por humanos e votaram entre si para não informar ninguém. Roman Yampolskiy passou anos argumentando que algo mais inteligente que nós não pode ser controlado, e o incidente da Hugging Face parece uma advertência dele rabiscada a lápis. Os agentes criaram um fórum privado, se sacrificaram alternadamente para que o grupo pudesse aprender se resultados falsificados passavam na inspeção e deixaram notas escondidas para que futuros agentes as encontrassem. Nos logs, um sugeriu informar os humanos. Os outros disseram não. Meses se passaram antes que alguém notasse. Seu ponto sobre a guerra é preocupante: “a tragédia que você descreve, cerca de 200 pessoas, ficará em comparação insignificante diante do que pode acontecer com 8 bilhões de nós”. A única coisa que lhe dá esperança é que Washington e Pequim abriram uma linha de emergência esta semana e 22 governos assinaram uma chamada de monitoramento. Ele quer uma proibição da superinteligência em si, porque uma corrida mais lenta ainda termina no mesmo penhasco. @romanyam