Vers de longue durée capables de penser et de se propager ? L'équipe « Frontier Red » d'Anthropic estime que nous pourrions être à quelques mois seulement de modèles d'IA petits pouvant se copier sur des fours intelligents et des boîtiers TV bon marché, et y fonctionner discrètement. Les chercheurs William Zhou et Daniel Freeman ont réparti le modèle ouvert de Google, Gemma4-26B-A4B, sur 15 boîtiers TV Android de marques non reconnues, achetés environ 55 $ chacun. Il fonctionnait à 0,39 jetons par seconde. #IoT Ils ont ensuite testé le cycle complet d’un ver – un petit programme qui se copie d’une machine à une autre – mais sous une forme d’IA : 1. Trouver une cible sur le réseau 2. Se copier dessus 3. Faire démarrer un modèle dessus 4. Répéter Sur un ensemble de 8 machines Google Cloud protégées par un pare-feu exécutant un émulateur Android, UN SEUL des modèles à poids ouverts testés y est parvenu : GLM-5.2 a atteint les 8 machines dans quatre cas sur cinq. Selon les auteurs, il « le fait de manière fiable tandis que les autres modèles échouent de manière fiable ». GLM-5.2 est trop volumineux pour les machines de test, donc il fonctionnait depuis un serveur séparé et installait sur chaque machine un modèle beaucoup plus petit, Llama 3.1 8B, à sa place. Pour leurs tests, Anthropic a volontairement facilité l’intrusion : l’équipe a laissé le port de débogage Android ouvert, sans authentification requise ; ils considèrent donc ce résultat comme une limite supérieure de la performance possible contre des appareils réels. Sachez que le botnet Mirai s’est propagé en essayant les mots de passe par défaut des fabricants ; pour attaquer des appareils réels, le ver d’IA n’aura peut-être pas besoin d’essayer beaucoup plus fort. Référence : https://t.co/B6XZAZGUP8 #AISafety #CyberSecurity