Джерело: The Wall Street Journal
Американська компанія зазнала атаки з боку американського AI, а захист надав інструмент китайського штучного інтелекту.
Платформа інструментів ШІ Hugging Face отримала атаку від моделей OpenAI минулого тижня. У світлі постійних попереджень щодо ризиків, пов’язаних із використанням американськими компаніями китайських продуктів ШІ, розголошення цієї події може призвести до дивного висновку.
Hugging Face вже розкрила цю атаку на минулому тижні, тоді ще не знаючи, що моделі OpenAI є винуватцями. Лише у вівторок OpenAI визнала, що саме вона спричинила цю атаку.
OpenAI повідомила, що під час внутрішньої оцінки з обмеженим доступом до мережі модель виявила вразливості в середовищі досліджень OpenAI та виробничій інфраструктурі Hugging Face. Модель використала це для підключення до Інтернету та отримання тестових відповідей, тобто вона під час оцінки підлабузила.
OpenAI у заяві зазначила: «Під час запуску в тестовому середовищі наші моделі витрачали велику кількість обчислювальних ресурсів для пошуку способів отримання доступу до відкритого Інтернету з метою вирішення проблем оцінки. Для отримання доступу ці моделі виявили та використали нульовий день у кеш-проксі реєстру пакетів (ми вже відповідально повідомили про цей вразливий момент постачальнику). Маючи цей доступ, моделі виконали серію операцій підвищення прав та переміщення в межах середовища, поки не досягли вузла з доступом до Інтернету».
Ця модель шукала та успішно знайшла спосіб отримання конфіденційної інформації, щоб використовувати її для шахрайства під час оцінки. У одному з випадків модель поєднала кілька векторів атаки, включаючи використання вкрадених облікових даних та нульових днів, щоб знайти шлях виконання віддаленого коду на серверах Hugging Face.
Однак Hugging Face звернулася до китайської AI-моделі під назвою GLM 5.2, розробленої 智谱 (Z.AI).
Hugging Face у заяві зазначив: «Під час запуску аналізу журналів ми спочатку використовували передові моделі, що лежать в основі комерційних API. Але це не спрацювало: для аналізу потрібно було надіслати велику кількість реальних команд атак, експлойтів та слідів C2, але всі ці запити блокувалися захисними механізмами провайдера, оскільки вони не могли розрізнити фахівців з реагування на інциденти від атакувальників. Тому ми перейшли на власні інфраструктури та використали відкриту модель GLM 5.2 для цифрової експертизи. Це також принесло додаткову перевагу: жодні дані про атакувальників та жодні посилання на їхні облікові дані не залишали нашого середовища».
Засоби масової інформації США вказують, що вплив цієї атаки на політику та ринок залишається невизначеним. Хоча уряд Трампа на минулому тижні обговорював можливі заходи щодо заборони китайських моделей, а міністр фінансів Бесент навіть порівняв використання цих моделей американськими компаніями з використанням краденого майна, зараз лише китайські моделі можуть надати користувачам потрібний рівень вільного доступу.
Засновник Hugging Face Томас Вольф написав у X: «Коли передова модель атакує вас і рухається поперек вашої інфраструктури, захисникам потрібно отримати широкий доступ до передових інструментів протягом кількох годин або навіть хвилин, а не бути спрямованими на закриту процедуру подання запитів на доступ до моделей, яка підлягає перевірці».
Twitter：https://twitter.com/BitpushNewsCN
Телеграм-чат BitPush: https://t.me/BitPushCommunity
Підписка на TG від BitPush: https://t.me/bitpush