Исследователи создали ИИ-приводимого червя, который самореплицируется и распространяется на 20 машин за 7 дней

Согласно наблюдениям Beating, исследователи из Университета Торонто, Vector Institute, Кембриджского университета и ServiceNow создали компьютерного червя, управляемого крупной языковой моделью с открытыми весами. Он сканирует сеть, выявляет уязвимости на целевых машинах, генерирует планы атаки и копирует себя после захвата устройства, чтобы продолжить атаку на следующую машину. Команда провела 15 циклов экспериментов в изолированной сети из 33 виртуальных машин, каждый цикл длился 7 дней. В среднем червь получил права администратора на 23,1 машине и запустил новые копии на 20,4 машинах, обеспечив непрерывную передачу в течение 7 поколений. В отличие от традиционных червей, зависящих от предустановленных скриптов атаки, эта система адаптирует методы атаки под каждую конкретную машину. Она также анализирует публично доступные данные об уязвимостях после завершения обучения модели и преобразует текстовые описания в реальные шаги атаки. Однако это по-прежнему лабораторный прототип: все машины в тестовой сети заранее содержали уязвимости, не было антивирусного ПО или активной защиты. Основной эксперимент также зависел от общего пула GPU, а модель и полный код не были опубликованы.