Компании, занимающиеся ИИ, сталкиваются с кибербезопасностными рисками на фоне опасений шпионажа

Тал Фельдман и Ибрагим Дагер утверждают, что слабая кибербезопасность в ведущих американских компаниях искусственного интеллекта угрожает преимуществу страны перед Китаем. Фельдман и Дагер считают, что Вашингтон может требовать более высокого уровня безопасности без принятия нового закона. Авторы утверждают, что общественные дебаты правильно рассматривали вопросы атак ИИ-агентов на другие компании, но игнорировали вопрос о том, могут ли компании, занимающиеся ИИ, предотвращать вторжения.

Недавно OpenAI узнала, что саудовский сотрудник якобы установил аудиозаписывающее устройство в конференц-зале. Высшие сотрудники регулярно обсуждают конфиденциальную информацию, включая собственную научную разработку, в этом помещении в штаб-квартире OpenAI в Сан-Франциско. В июле трое исследователей, изучавших уязвимости безопасности, проникли в системы OpenAI и получили доступ к внутреннему репозиторию кода, содержащему алгоритмические секреты. OpenAI выплатила исследователям вознаграждение в размере 6 500 долларов за сообщение об уязвимостях. Исследователи завершили проникновение менее чем за 72 часа, не используя особенно сложные инструменты взлома. Один из исследователей сообщил The Wall Street Journal: «Мы всего лишь трое парней с подписками на Claude и Codex», имея в виду общедоступные кодирующие агенты от Anthropic и OpenAI. В 2023 году хакер также проник в внутреннюю систему обмена сообщениями OpenAI и получил информацию о научных исследованиях компании. OpenAI не уведомила ни ФБР, ни публику об этом вторжении.

Фельдман и Дагер утверждают, что такие страны, как Китай, обладают передовыми инструментами, временем и стимулами, необходимыми для проникновения в американские компании, занимающиеся ИИ. Авторы считают, что кража ведущих американских моделей позволит конкурентам догнать их, не тратя средства на разработку. Авторы предупреждают, что ограничения на продажу передовых чипов и миллиарды долларов, вложенные в инфраструктуру ИИ, ничего не дадут, если лаборатории не будут серьезно относиться к кибербезопасности. Авторы утверждают, что три инцидента, скорее всего, указывают на более широкую проблему безопасности.

Компании, занимающиеся ИИ, открыто признали недостаточную защиту от сложного шпионства. Генеральный директор Anthropic Дарио Амодей в 2023 году заявил, что правительство, сделавшее кражу весов модели приоритетом номер один, добьется успеха против Anthropic. Веса модели — это триллионы числовых значений, сгенерированных в результате месяцев дорогостоящего обучения и составляющих суть модели ИИ. Однако в своем отчете о рисках за август этого года Anthropic все еще указала, что не может противостоять атакам со стороны государственных акторов и «не считает, что какой-либо разработчик передовых ИИ-моделей в настоящее время соответствует этому стандарту». Бывший исследователь Anthropic и OpenAI Джейкоб Коксон утверждал, что никакое преимущество США не сможет сохраниться, поскольку Пекин может украсть достижения США в любой момент, когда захочет. Майлз Брандэдж, работавший над подготовкой OpenAI к продвинутому ИИ, заявил, что компании ИИ даже не утверждают, что способны предотвратить кражу или вмешательство государственных акторов в веса моделей.

Исследователи из Rand выявили 38 методов кражи весов моделей, включая установку портативных устройств, изменение оборудования до установки и подкуп или принуждение сотрудников. Центры обработки данных облачных компаний также представляют собой еще одну точку входа, поскольку лаборатории ИИ часто используют эти объекты для обучения и эксплуатации моделей. Алгоритмические секреты отрасли также недостаточно защищены. Амодей заявил Совету по международным отношениям в прошлом году, что некоторые секреты индустрии ИИ стоимостью «100 миллионов долларов» составляют всего несколько строк кода. Амодей отметил, что люди, несомненно, пытаются украсть эти секреты и, возможно, уже добиваются успеха.

Компании, занимающиеся ИИ, активно конкурируют за разработку суперинтеллекта. Деньги и время сотрудников, направленные на кибербезопасность, не могут быть использованы для обучения следующей модели. Anthropic утверждает, что сопротивление хорошо финансируемым государственным атакующим должно быть приоритетом кибербезопасности отрасли. Однако Anthropic заявила, что компания «не может самостоятельно обязаться следовать» этому приоритету.

В прошлом году Конгресс поручил Министерству обороны установить требования к безопасности приобретаемых ИИ-систем и применить эти требования к соответствующим подрядчикам и провайдерам облачных услуг. Однако спустя 10 месяцев Министерство обороны до сих пор не начало публичный процесс внесения поправок в правила. Министерство торговли может сделать модели экспорта подлежащими лицензированию и ограничить выдачу лицензий лабораториями, соответствующими требованиям безопасности. Администрация Трампа использовала эти полномочия, чтобы заставить Anthropic вывести Mythos и Fable с рынка в июне. Федеральное правительство также может накладывать условия безопасности на кредиты и арендные соглашения на землю, направленные на строительство центров обработки данных. При таком подходе только компании, работающие с ИИ и соответствующие строгим требованиям безопасности, смогут получить федеральное финансирование или использовать государственные земли. Фельдман и Дагер делают вывод, что иностранный правительство с значительным финансированием и неограниченным временем может без труда проникнуть в OpenAI, если три исследователя, использующих подписки на Claude, смогли сделать это за три дня.