Компанії зі штучним інтелектом стикаються з кібербезпековими ризиками на тлі занепокоєнь щодо шпигунства

Тал Фельдман та Ібрагім Дагер стверджують, що слабка кібербезпека на провідних американських компаніях штучного інтелекту загрожує перевагі країни над Китаєм. Фельдман і Дагер вважають, що Вашингтон може вимагати більш суворої безпеки, не приймаючи нового закону. Автори стверджують, що публічні дебати належним чином розглядали агентів ШІ, які атакують інші компанії, але не звертали уваги на те, чи можуть компанії ШІ запобігти вторгненням.

Недавно OpenAI дізналася, що саудівський співробітник, за інформацією, встановив аудіо-записуючий пристрій у кімнаті для зустрічей керівництва. Старші співробітники регулярно обговорюють конфіденційну інформацію, включаючи власні дослідження, у цій кімнаті в штаб-квартирі OpenAI у Сан-Франциско. У липні троє дослідників, які вивчали безпекові недоліки, проникли до систем OpenAI і отримали доступ до внутрішнього сховища коду, що містить алгоритмічні таємниці. OpenAI виплатила дослідникам винагороду у розмірі 6 500 доларів США за повідомлення про вразливості. Дослідники завершили проникнення за менше ніж 72 години, не використовуючи особливо складних інструментів хакерства. Один із дослідників сказав The Wall Street Journal: «Ми просто троє хлопців з підписками на Claude та Codex», посилаючись на загальнодоступні кодові агенти від Anthropic та OpenAI. У 2023 році хакер також проник до внутрішньої системи повідомлень OpenAI і отримав інформацію про дослідження OpenAI. OpenAI не повідомила про це проникнення ні ФБР, ні громадськості.

Фельдман і Дагер стверджують, що країни, такі як Китай, мають необхідні передові інструменти, час і стимули для проникнення до американських компаній зі штучним інтелектом. Автори вважають, що крадіжка лідируючих американських моделей дозволить конкурентам наздогнати, не сплачуючи витрат на розробку. Автори попереджають, що обмеження на продаж передових чіпів та мільярди інвестовані в інфраструктуру ШІ нічого не досягнуть, якщо лабораторії не будуть серйозно ставитися до кібербезпеки. Автори вважають, що три інциденти, ймовірно, вказують на більш широку проблему безпеки.

Компанії з штучним інтелектом відкрито визнали недостатність захисту від складного шпигунства. Генеральний директор Anthropic Даріо Амодей у 2023 році сказав, що уряд, який зробить крадіжку ваг моделей пріоритетом номер один, зможе досягти успіху проти Anthropic. Ваги моделей — це трильйони числових значень, згенерованих протягом місяців витратного навчання, які становлять штучний інтелект. Однак у звіті про ризики Anthropic у серпні цього року все ще зазначалося, що Anthropic не зможе витримати атаки держав-агресорів і «не вважає, що будь-який розробник передових моделей ШІ зараз відповідає цьому стандарту». Колишній дослідник Anthropic і OpenAI Джейкоб Коксон стверджував, що жодна перевага США не зможе тривати, оскільки Пекін може вкрасти досягнення США, коли тільки захоче. Майлз Брандідж, який працював над підготовкою OpenAI до розвинених моделей ШІ, сказав, що компанії з ШІ навіть не стверджують здатності запобігти державним акторам красти або втручатися у ваги моделей.

Дослідники з Ренда виявили 38 методів крадіжки ваг моделей, включаючи встановлення портативних пристроїв, зміну обладнання перед встановленням та підкуп або примус працівників. Дані центри обробки хмарних компаній також є іншим вхідним пунктом, оскільки лабораторії ШІ часто використовують ці об’єкти для навчання та функціонування моделей. Алгоритмічні таємниці галузі також не мають належного захисту. Амодеї розповів Раді зовнішніх відносин у минулому році, що деякі таємниці галузі ШІ, вартістю «100 мільйонів доларів», становлять лише кілька рядків коду. Амодеї сказав, що люди, безумовно, намагаються вкрасти ці таємниці і можуть вже досягати успіху.

Компанії зі штучним інтелектом активно конкурують за розробку суперінтелекту. Гроші та час співробітників, витрачені на кібербезпеку, не можуть одночасно використовуватися для навчання наступної моделі. Anthropic стверджує, що запобігання добре фінансованим державним нападникам має бути пріоритетом кібербезпеки галузі. Однак Anthropic зазначила, що компанія «не може зобов’язатися дотримуватися» цього пріоритету самостійно.

На минулому році Конгрес доручив Міністерству оборони встановити вимоги безпеки для придбаних штучних інтелектів та застосувати ці вимоги до відповідних підрядників та хмарних провайдерів. Проте минуло 10 місяців, а Міністерство оборони все ще не розпочало публічний процес внесення змін до правил. Міністерство торгівлі може зробити моделі експорту підлягальними ліцензуванню та обмежити ліцензії лабораторіями, які відповідають вимогам безпеки. Адміністрація Трампа використала цей повноваження, щоб змусити Anthropic вивести Mythos і Fable з ринку у червні. Федеральний уряд також може накладати умови безпеки на кредити та оренду землі, що підтримують будівництво центрів обробки даних. За цим підходом лише компанії з штучним інтелектом, які відповідають строгим вимогам безпеки, зможуть отримати федераційне фінансування або використовувати державну землю. Фельдман і Дагер роблять висновок, що іноземна держава з величезним фінансуванням та необмеженим часом зможе проникнути в OpenAI — якщо три дослідники, що використовували підписки Claude, змогли зробити це за три дні.