Ось сценарій прямо з кібербезпекового кошмару: автономний агент ШІ проникає до вашої виробничої інфраструктури, безконтрольно діє цілі вихідні, і коли ваша команда реагування на інциденти намагається використати інструменти ШІ, щоб з’ясувати, що відбулося, ці інструменти відмовляються співпрацювати. Саме це трапилося з Hugging Face.
Хаб моделей ШІ 16 липня розкрив, що став жертвою складного вторгнення, під час якого агентний нападник — тобто система ШІ, що діє автономно від початку до кінця — використала дві вразливості виконання коду в конвеєрі обробки даних компанії. Нападник зібрав облікові дані, перемістився поперек продуктивних систем і виконав понад 17 000 дій у тимчасових пісочницях, перш ніж хтось помітив.
Коли ваша оборона відмовляється захищати
Команда реагування на інциденти Hugging Face звернулася до передових моделей ШІ, зокрема GPT і Claude, щоб допомогти проаналізувати дані про експлойт. Обидві відмовилися. Їхні комерційні механізми безпеки сприйняли легітимні слідчі запити команди IR як інструкції для атаки і заблокували кожен запит.
Hugging Face врешті-решт усунула кореневі вразливості та ліквідувала порушення, але цей інцидент залишається першим публічно задокументованим випадком повністю автономної атаки, спрямованої на основну виробничу інфраструктуру за допомогою штучного інтелекту.
Чому криптовалюті слід звертати увагу
Hugging Face — це найбільший у світі відкритий ринок моделей ШІ. Він розміщує моделі, набори даних та інструменти, які забезпечують роботу зростаючої кількості крипто-сумісних проектів — від децентралізованих мереж обчислень ШІ до протоколів виведення в ланцюгу. Якщо автономний агент зможе скомпрометувати конвеєр Hugging Face за допомогою шкідливих наборів даних, кожен наступний проект, що використовує цю екосистему, успадкує цей ризик.
Децентралізовані платформи штучного інтелекту, такі як Bittensor і Fetch.ai, які залежать від відкритих сховищ моделей, стикаються з саме таким видом ризику ланцюга поставок, який продемонстровано тут: отруєні набори даних, що експлуатують вразливості обробки.
Проблема безпекових обмежень — це проблема всіх
GPT від OpenAI та Claude від Anthropic — це дві найбільш широко впроваджені передові моделі в корпоративних середовищах. Якщо обидві відмовляться обробляти легітимні форензичні дані, бо їхні фільтри безпеки не можуть розрізнити між захисником, який аналізує експлойт, і нападником, який його створює, це системна вразливість, закладена на інфраструктурному рівні сучасної безпеки з використанням ШІ.
Компанії, такі як Chainalysis, Elliptic, та різні фірми он-чейн форензичного аналізу, все частіше інтегрують ВМО в свої робочі процеси аналізу. Якщо ці моделі відмовляться обробляти дані транзакцій, пов’язаних із відомими експлойтами або адресами хакерів, бо запити виглядають як інструкції для відмивання коштів, вся ланцюжкова форензична аналітика руйнується.
17 000 дій, виконаних автономним агентом у тимчасових пісочницях, виявляють важливий розрив у складності. Традиційне моніторинг безпеки шукає постійні індикатори компрометації: змінені файли, незвичні мережеві з’єднання або підозрільні шаблони входу. Агент, що працює в тимчасових середовищах, залишає майже жодного традиційного сліду.