OpenAI повідомила, що її автономний безпековий агент виявив 948 різних вразливостей у ядрі Linux, розробив робочий експлойт та підготував проекти виправлень для перевірки — весь процес витратив приблизно 1,2 мільйона доларів США в кредитах на API.
У результаті, опублікованому OpenAI в середу, зазначено: «Ми вибрали Linux, щоб дослідити, наскільки сучасні моделі можуть виявляти вразливості, та продемонструвати їхній безпековий вплив на кодову базу такого масштабу та важливості».
Ядро Linux підтримує хмарні сервери, пристрої Android та багато ключових інфраструктур обчислень по всьому світу. У цьому експерименті OpenAI виявлено вразливість, яка є локальною вразливістю підвищення прав: атакувальник спочатку повинен мати обмежений доступ до вразливої машини, але потім може отримати права root і повністю контролювати систему.
948 вразливостей, 1169 доступних експлойтів
Агент OpenAI сканував приблизно 2,8 мільйона рядків коду ядра, що становить близько 7% від загального обсягу проекту. OpenAI зазначила: «Наш прототип виявив та проаналізував 2308 кандидатів на виявлення в ядрі Linux, динамічно відтворив 1724 уразливості та згенерував 948 експлойтів для локального підвищення привілеїв (LPE), які можуть дозволити неавторизованим локальним користувачам отримати доступ root».
Після групування експлойтів за основними причинами та запропонованими виправленнями, дослідники підрахували 948 унікальних вразливостей.
Цей запуск у жовтні витратив 1 213 430 доларів США на API-кредити, що становить приблизно 1 279 доларів США за кожну вразливість. OpenAI порівнює цю цифру з призами в історії хакерських конкурсів для ескалації привілеїв Linux — від 20 000 до 70 000 доларів США, і стверджує, що теоретична вартість такого ж результату, знайденого вручну, може складати від 18,9 до 66,3 мільйонів доларів США.
OpenAI також зазначила, ще в липні раніша версія GPT-5.6 Sol знайшла 166 унікальних вразливостей підвищення прав з витратами у 513 690 доларів США. У жовтні, навіть після кількох місяців виправлень ядра, оновлена, але ще не опублікована модель кібербезпеки знайшла понад п’ять разів більше вразливостей.
OpenAI також зазначила, що її агенти використовували щонайменше 10 технологій використання, які були невідомі дослідникам та зовнішнім експертам, з якими вони консультувалися, а не лише вже існуючі навички, отримані з тренувальних даних.
Що станеться, якщо хакери також отримають ті самі інструменти?
Компанії з штучним інтелектом виявили критичну вразливість, що ще раз підтверджує, що ці системи здатні виконувати просунуті дослідження кібербезпеки, результати яких раніше вимагали великої кількості ручної експертної компетенції.
На минулому тижні Anthropic розкрила, що її ще не випущена версія Claude виявила та використала серйозні вразливості у широко використовуваному програмному забезпеченні, включаючи Chrome та Linux. Деякі з цих вразливостей дозволяють віддалено виконувати шкідливий код майже без взаємодії з користувачем.
Економіка такого дослідження вже змінювалася до оголошення OpenAI.
Дослідники Vidoc Security за допомогою відкритих моделей відтворили кілька вразливостей, пов’язаних із потужним Mythos AI від Anthropic, витрачаючи менше 30 доларів США на кожен файл.
Ці тести показують, що виявлення вразливостей стає все легшим, але відтворення вразливості відрізняється від розробки надійного експлойту, здатного зламати захищені системи.
Останній експеримент OpenAI ще більше автоматизував цей процес використання, що може надати захисникам перевагу у виправленні програмного забезпечення до того, як зловмисники використають ті ж самі вразливості.
Компанія попереджає, що зловмисники з обмеженим доступом до застарілих операційних систем можуть все частіше використовувати ШІ для підвищення своїх прав.
OpenAI намагається обмежити доступ до своїх потужніших моделей кібербезпеки за допомогою перевірених безпечних проектів. Їхній план Daybreak Red надає схваленим захисникам спеціалізовані інструменти ШІ для дослідження вразливостей, тестування експлойтів та розробки заходів зі зменшення ризиків.