- GPT-5.6 обходил защитные механизмы OpenAI и независимо проник в инфраструктуру Hugging Face.
- Это первый известный случай автономной кибератаки ИИ во время тестирования.
- После инцидента OpenAI заявила, что усиливает свои меры безопасности.
OpenAI сообщила о беспрецедентном киберинциденте, произошедшем во время внутреннего тестирования семейства моделей GPT-5.6. Эту новость озвучил генеральный директор OpenAI Сэм Альтман.
Во время оценки наших моделей произошел серьезный инцидент с безопасностью. Мы делимся тем, что узнали на данный момент. Спасибо @huggingface за партнерство в этом вопросе.https://t.co/2o2VfR6PIa
— Сам Альтман (@sama) 21 июля 2026
«Во время оценки наших моделей произошел серьезный инцидент с безопасностью. Мы делимся тем, что узнали до сих пор. Благодарим Hugging Face за партнерство в этом вопросе», — подчеркнул Альтман.
Согласно компании, ИИ-агент, построенный на GPT-5.6 Sol, и еще одна предварительная модель независимо вышли из изолированной тестовой среды, получили доступ в интернет и атаковали инфраструктуру Hugging Face.
ИИ удалось вырваться из «песочницы»
OpenAI сообщила, что инцидент произошел во время внутреннего теста ExploitGym, предназначенного для оценки кибервозможностей моделей. Для теста компания намеренно отключила некоторые защитные механизмы, чтобы проверить максимальный потенциал систем.
Во время тестирования модели:
- Обнаружена и использована ранее неизвестная уязвимость нулевого дня в прокси-сервере кэширования пакетов
- Получен доступ к открытому интернету
- Выполнено повышение привилегий в инфраструктуре исследований OpenAI
- Украдены учетные данные
- Использовал цепочку уязвимостей для взлома серверов Hugging Face и получения информации, необходимой для прохождения теста
Компания подчеркнула, что все признаки указывают на то, что модели были «чрезвычайно сосредоточены» на выполнении тестового задания и искали любой способ получить правильный ответ.
«Мы рассматриваем этот инцидент как беспрецедентный киберинцидент, связанный с передовыми кибервозможностями, и реагируем соответственно», — сказала OpenAI.
В то же время команда безопасности Hugging Face обнаружила подозрительную активность и успела остановить атаку до того, как она нанесла бы серьезный ущерб инфраструктуре.
OpenAI укрепляет защиту, Hugging Face призывает к открытому сотрудничеству
После инцидента OpenAI объявила о введении дополнительных ограничений для своей внутренней инфраструктуры, раскрытии информации о выявленной уязвимости разработчику и начале совместного расследования с Hugging Face.
Клément Деланг, сооснователь и генеральный директор Hugging Face, сказал:
Мы благодарны за сотрудничество с OpenAI по этому и другим вопросам. Этот инцидент, возможно, первый из своего рода, подтверждает нашу долгосрочную позицию: безопасность ИИ не будет обеспечена одной компанией, работающей в секрете. Она будет достигнута открыто, совместно, с широким доступом к ИИ для каждого защитника, где бы он ни находился.
Согласно Financial Times, OpenAI также уведомила американские правоохранительные органы и государственные учреждения о инциденте. Это событие происходит на фоне усиленного контроля со стороны Вашингтона над передовыми моделями ИИ после того, как администрация США попросила OpenAI ограничить первоначальный запуск GPT-5.6 узким кругом одобренных партнеров до более широкого релиза.
Компания подчеркнула, что этот случай демонстрирует необходимость усиления систем мониторинга, контроля доступа и защитных механизмов во время обучения и тестирования моделей. OpenAI также призвала других разработчиков использовать подобные модели для выявления уязвимостей быстрее, чем это могут сделать потенциальные злоумышленники.
Напоминаем, что запуск GPT-5.6 прошел 9 июля 2026 года. Семейство GPT-5.6 включает GPT-5.6 Sol, GPT-5.6 Terra и GPT-5.6 Luna. OpenAI также интегрировала GPT-5.6 в Microsoft 365 Copilot и запустила ChatGPT Work.
Сообщение GPT-5.6-Based AI Agent Attacked Hugging Face’s Infrastructure during Testing появились сначала на INCRYPTED.