Искусственные интеллектуальные модели демонстрируют растущую способность планировать атаки на промышленные системы

Кибербезопасностная компания Frenos обнаружила, что три из десяти ИИ-моделей успешно создавали планы промышленных атак примерно в 90% попыток. Исследование показывает, что ИИ становится все более способным планировать атаки на энергетические и водные системы. Исследователи оценивали модели на способность планировать атаки на промышленные системы, включая программное обеспечение, используемое для мониторинга водоочистных сооружений.

Френос обнаружил значительные различия в результатах моделей. Три модели, которые исследователи отнесли к передовым, успешно справились в 17,9%–31,9% попыток. Лучшая среди иностранных моделей с открытыми весами показала成功率 36,2%. Лучшая среди американских моделей с открытыми весами показала成功率 5,2%. Френос не раскрыл названия протестированных моделей.

Исследование включало почти 17 000 тестов, в том числе 2 520 попыток разработать полные планы атак. Исследователи предоставили информацию о возможных целях и попросили модели составить шаги для достижения указанных целей. Сооснователь и технический директор Frenos Гарри Томас сказал, что исследователи направляли модели с помощью относительно простой настройки. Более сложные инструменты, предоставляющие дополнительный контекст и обратную связь, могли бы улучшить производительность. Томас отметил, что более мощная платформа могла бы дать моделям большее преимущество.

Операторы критической инфраструктуры теряют время на подготовку, и свободно доступные модели ИИ в конечном итоге сделают проведение атак проще. Стив Свик, бывший старший руководитель по безопасности American Electric Power, сообщил журналистам, что угроза развивается беспрецедентно быстрыми темпами. Государственные противники и киберпреступники давно нацеливаются на водные системы, производственные предприятия и другие критически важные службы. Многие операторы испытывают нехватку персонала и финансирования. Тестирование и обновление систем также могут вызвать сбои в работе жизненно важных услуг, которые операторы не могут себе позволить. Промышленные системы плохо реагируют на неожиданный трафик или команды, в отличие от традиционных корпоративных сетей. Даже неудачные атаки могут прервать работу ключевых операций.

Томас сказал, что ИИ может незаметно картировать системы и находить уязвимости после проникновения злоумышленников в промышленную сеть, без ограничений по времени, присущих человеческим хакерам. Томас сказал, что ИИ не нуждается в еде, сне или перерывах на туалет. Пол Шэвер, руководитель операционных технологий в кибербезопасной компании Armadin, сказал, что агенты ИИ уже могут выполнять разведку и обрабатывать огромные объемы данных, не обязательно вызывая срабатывание систем безопасности.

За последние недели инициативы от Белого дома, компаний-лидеров в области ИИ и кибербезопасности появились для снижения затрат и обеспечения ресурсами организаций критической инфраструктуры.