Minhocas de longa duração que conseguem pensar e se espalhar? A equipe "Frontier Red" da Anthropic acredita que podemos estar a apenas MESES de modelos de IA pequenos capazes de se copiar para fornos inteligentes e caixas de TV baratas e operar lá sem serem notados. Os pesquisadores William Zhou e Daniel Freeman dividiram o modelo aberto do Google, Gemma4-26B-A4B, entre 15 caixas de TV Android de marcas não reconhecidas, compradas por cerca de US$ 55 cada. Ele operava a 0,39 tokens por segundo. #IoT Em seguida, testaram o ciclo completo de um verme — um pequeno programa que se copia de máquina para máquina — mas no estilo de IA: 1. Encontrar um alvo na rede 2. Copiar-se para ele 3. Fazer um modelo funcionar lá 4. Repetir Em uma frota com firewall de 8 máquinas da Google Cloud executando um emulador Android, UM dos modelos de pesos abertos testados finalmente conseguiu: o GLM-5.2 alcançou todas as 8 máquinas em quatro de cinco tentativas. Nas palavras dos autores, ele "faz isso de forma confiável, enquanto os outros modelos falham de forma confiável." O GLM-5.2 é muito grande para as máquinas de teste, então foi executado a partir de um servidor separado e instalou o muito menor Llama 3.1 8B em cada uma delas no lugar. Para seus testes, a Anthropic facilitou a invasão: a equipe deixou a porta de depuração do Android aberta, sem necessidade de autenticação; portanto, chamam o resultado de um limite superior de quão bem isso funcionaria contra dispositivos reais. Observe que a botnet Mirai se espalhou tentando senhas padrão dos fabricantes, então, para atacar dispositivos reais, o verme de IA talvez não precise tentar muito mais. Referência: https://t.co/B6XZAZGUP8 #AISafety #CyberSecurity