Долгоживущие черви, которые могут мыслить и распространяться? Команда Anthropic «Frontier Red» считает, что мы можем быть всего в НЕСКОЛЬКОХ МЕСЯЦАХ от появления небольших ИИ-моделей, способных копировать себя на умные плиты и дешевые TV-боксы и работать там незаметно. Исследователи Уильям Чжоу и Дэниел Фриман разделили открытую модель Google Gemma4-26B-A4B между 15 нетривиальными Android TV-боксами, купленными по цене около $55 каждый. Модель работала со скоростью 0,39 токенов в секунду. #IoT Затем они протестировали полный цикл червя — крошечной программы, которая копирует себя с машины на машину — но в ИИ-стиле: 1. Найти цель в сети 2. Скопировать себя на неё 3. Запустить модель на ней 4. Повторить На изолированной сети из 8 машин Google Cloud, запущенных с эмулятором Android, одна из протестированных моделей с открытыми весами в итоге справилась: GLM-5.2 достигла всех 8 машин в четырёх из пяти попыток. По словам авторов, она «делает это надёжно, в то время как другие модели надёжно терпят неудачу». GLM-5.2 слишком велика для тестовых машин, поэтому она запускалась с отдельного сервера и устанавливалась на каждую из них вместо неё гораздо более компактную Llama 3.1 8B. Для тестирования Anthropic намеренно упростила взлом: команда оставила открытым отладочный порт Android без какой-либо аутентификации; поэтому они называют результат верхней границей того, насколько эффективно это сработало бы против реальных устройств. Имейте в виду, ботнет Mirai распространился, перебирая стандартные пароли производителей, поэтому для атаки на реальные устройства ИИ-червю, возможно, придётся прилагать не намного больше усилий. Источник: https://t.co/B6XZAZGUP8 #AISafety #CyberSecurity