OpenAI сообщила, что её автономный безопасный агент обнаружил 948 различных уязвимостей в ядре Linux, разработал рабочие эксплойты и подготовил проекты исправлений для проверки — весь процесс занял примерно 1,2 миллиона долларов США в виде API-кредитов.
В результатах, опубликованных OpenAI в среду, говорится: «Мы выбрали Linux, чтобы исследовать, насколько сильно передовые модели могут обнаруживать уязвимости, и продемонстрировать их безопасное влияние на кодовую базу такого масштаба и важности».
Ядро Linux поддерживает облачные серверы, устройства Android и множество ключевых вычислительных инфраструктур по всему миру. Уязвимость, выявленная в этом эксперименте OpenAI, является уязвимостью локального повышения привилегий: для атаки злоумышленнику необходимо сначала иметь ограниченный доступ к уязвимой машине, но затем он может получить права root и полностью контролировать систему.
948 уязвимостей, 1169 доступных эксплойтов
Агент OpenAI просканировал около 2,8 миллиона строк кода ядра, что составляет около 7% от проекта. OpenAI заявила: «Наш прототип идентифицировал и проанализировал 2308 потенциальных уязвимостей в Linux-ядре, динамически воспроизвел 1724 уязвимости и сгенерировал 948 эксплойтов для локального повышения привилегий (LPE), которые могут позволить неавторизованным локальным пользователям получить доступ к root».
После группировки эксплойтов по основным причинам и предложенным решениям, исследователи подсчитали 948 различных уязвимостей.
В этом октябре на запуск было потрачено 1 213 430 долларов США в виде API-кредитов, что составляет примерно 1 279 долларов США за каждую уязвимость. OpenAI сравнивает эту сумму с наградами в 20 000–70 000 долларов США, традиционно выплачиваемыми за привилегии повышения в Linux на хакатонах, и отмечает, что теоретическая стоимость аналогичных результатов, найденных вручную, может составлять от 18,9 до 66,3 миллиона долларов США.
OpenAI также сообщила, что еще в июле более ранняя версия решения GPT-5.6 Sol обнаружила 166 уникальных уязвимостей повышения привилегий при стоимости 513 690 долларов США. В октябре, несмотря на то, что ядро прошло несколько месяцев исправлений, более новая, но еще не выпущенная модель кибербезопасности обнаружила более чем в пять раз больше уязвимостей.
OpenAI также отметила, что ее агенты использовали по крайней мере 10 технологий эксплуатации, неизвестных исследователям и внешним консультантам, а не просто существующие методы, извлеченные из обучающих данных.
Что, если хакеры тоже получат те же инструменты?
Компании, занимающиеся ИИ, обнаружили критическую уязвимость, что еще раз подтверждает, что эти системы способны проводить продвинутые исследования кибербезопасности, тогда как ранее такие результаты требовали значительных человеческих экспертных знаний.
На прошлой неделе Anthropic сообщила, что одна из еще не выпущенных версий Claude обнаружила и использовала критические уязвимости в широко используемом программном обеспечении, включая Chrome и Linux. Некоторые из этих уязвимостей позволяют удаленно выполнять вредоносный код практически без взаимодействия с пользователем.
Экономика таких исследований уже менялась до объявления OpenAI.
Исследователи Vidoc Security с использованием общедоступных моделей воспроизвели несколько уязвимостей, связанных с мощным AI Mythos от Anthropic, затратив менее 30 долларов США на каждый файл.
Эти тесты показывают, что обнаружение уязвимостей становится все более доступным, но воспроизведение уязвимости отличается от разработки надежного эксплойта, способного взломать защищенные системы.
Последний эксперимент OpenAI дополнительно автоматизировал этот процесс использования, что может дать защитникам преимущество в устранении уязвимостей в программном обеспечении до того, как преступники воспользуются ими.
Компания предупреждает, что злоумышленники с ограниченным доступом на устаревших операционных системах могут все чаще использовать ИИ для повышения своих привилегий.
OpenAI пытается ограничить доступ к своим более мощным сетевым моделям безопасности через проверенные безопасные проекты. Программа Daybreak Red предоставляет утвержденным защитникам специализированные инструменты ИИ для исследования уязвимостей, тестирования эксплуатации и разработки мер по устранению.