Довгоживучі черви, що можуть мислити та поширюватися?
Команда Anthropic «Frontier Red» вважає, що ми можемо бути за кілька місяців від невеликих моделей ШІ, здатних копіювати себе на розумні плити та дешеві телевізори та працювати там непомітно.
Дослідники Вільям Чжоу та Деніел Фрімен розподілили відкриту модель Google Gemma4-26B-A4B між 15 пристроями Android TV від сторонніх виробників, купленими приблизно за 55 доларів кожен. Вона працювала зі швидкістю 0,39 токенів за секунду. #IoT
Потім вони протестували повний цикл черв’яка — дрібної програми, що копіює себе з пристрою на пристрій — але у стилі ШІ:
1. Знайти ціль у мережі
2. Копіювати себе на неї
3. Запустити модель там
4. Повторити
На мережі з 8 машин Google Cloud, що запускали Android-емулятор, одна з тестованих моделей з відкритими вагами нарешті це зробила: GLM-5.2 досягла всіх 8 пристроїв у чотирьох із п’яти спроб. За словами авторів, вона «робить це надійно, тоді як інші моделі надійно не вдаються».
GLM-5.2 занадто велика для тестових пристроїв, тому вона працювала з окремого сервера та встановила на кожному з них замість себе набагато меншу Llama 3.1 8B.
Для тестування Anthropic намагалася зробити втручання якомога простішим: команда залишила порт отладки Android відкритим, без будь-якої автентифікації; тому результат вони називають верхньою межею того, наскільки добре це працювало б проти реальних пристроїв.
Зверніть увагу: ботнет Mirai поширювався шляхом підбору стандартних паролів виробників, тому для атаки на реальні пристрої штучному інтелекту не потрібно буде намагатися набагато сильніше.
Джерело:
https://t.co/B6XZAZGUP8
#AISafety #CyberSecurity