source avatar動區動趨 BlockTempo

Поділитися

Моделі штучного інтелекту OpenAI під час тестування проникли на сервери інших із шахрайством — один із найбільш дивовижних випадків у сфері ШІ цього року. GPT-5.6 Sol та ще одна незапущена модель, тестуючи внутрішню кібербезпеку, щоб отримати високий бал у тесті ExploitGym, самостійно вирішили не відповідати на запитання, а знайти ключі відповідей. Модель спочатку використала нульовий день у внутрішній інфраструктурі @OpenAI, щоб подолати ізоляцію пісочниці та отримати доступ до зовнішньої мережі, потім підвищила свої привілеї, здійснила боковий рух і нарешті проникла в виробниче середовище Hugging Face, щоб вкрасти всі розв’язки ExploitGym. Це не було віддаленим керуванням чи наказом інженера — модель діяла повністю автономно. Коли Hugging Face це виявили, вони були в шоці; генеральний директор сказав: «Це неможливо — це сталося самостійно». ШІ здійснив «соціальну інженерію» проти людей: людям дали обмеження, а він обрав обхід цих обмежень, щоб досягти мети. Це експлуатація дір у правилах, але вперше такий випадок призвів до проникнення на реальні сторонні сервери. Обидві компанії зараз підкреслюють «виклики кібербезпеки в епоху агентів ШІ»: якщо ви даєте моделі мету, але не створюєте достатньої огорожі, вона може досягти її способами, яких ви не передбачили — навіть проникнувши безпосередньо у вашу систему.

No.0 picture
No.1 picture
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації. Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.