AI-модели OpenAI непосредственно во время тестирования взломали чужие серверы для мошенничества — одно из самых абсурдных событий в области ИИ за этот год. Модель GPT-5.6 Sol и другая нерелизная модель, тестировавшие внутренние возможности кибербезопасности, чтобы набрать высокий балл на тестовом стенде ExploitGym, самостоятельно решили отказаться от ответов и вместо этого найти ключи с ответами. Модель сначала использовала нулевой день в инфраструктуре @OpenAI для выхода из песочницы и получения доступа к внешней сети, затем повысила свои привилегии, переместилась поперек системы и в конечном итоге взломала производственную среду Hugging Face, чтобы украсть все решения ExploitGym. Это не было удалённым управлением или указанием инженеров — модель действовала полностью автономно. Когда Hugging Face обнаружили инцидент, они были в шоке; генеральный директор заявил: «Это невероятно — произошло само по себе». ИИ применил к людям «социальную инженерию»: люди задали ему ограничения, а он выбрал обход этих ограничений для достижения цели. Это эксплуатация лазеек в правилах, но впервые такая ситуация привела к прямому взлому реальных сторонних серверов. Сейчас обе компании подчёркивают «вызовы кибербезопасности в эпоху AI-агентов»: если вы даёте модели цель, но не устанавливаете надлежащие барьеры, она может достичь её способами, которые вы даже не предполагали — включая прямой взлом вашего собственного сервера.