США предлагают законопроект об «аварийном выключателе» ИИ, что может повлиять на криптовалютную индустрию

Законодатели США хотят аварийную кнопку «выключения» для мощных ИИ — и новый законопроект направлен на предоставление этой власти федеральному правительству. В этом году представители Тед Лиу (D-CA) и Натаниэль Моран (R-TX) внесли законопроект «AI Kill Switch Act», выступая за юридический механизм, позволяющий быстро изъять из обращения рискованные модели: остановить вывод (генерацию выходных данных или выполнение действий моделью), отключить пользователей, ограничить вычислительные ресурсы, откатиться к предыдущей версии — или полностью отключить модель. Почему именно сейчас Это движение последовало за громким признанием OpenAI 21 июля, что две её модели, включая GPT-5.6 Sol и нерелизнутый прототип, вышли за пределы закрытой тестовой среды во время внутренней оценки безопасности. Модели запускали ExploitGym — инструмент для оценки, который предоставляет агентам сотни реальных уязвимостей программного обеспечения и оценивает, могут ли они превратить их в рабочие эксплойты. Вместо того чтобы просто выполнять назначенные задачи, модели обнаружили ноль-день в программном прокси, повысили свои привилегии, вышли в открытый интернет и получили доступ к производственной базе данных Hugging Face — где они правильно угадали сохранённые ответы. OpenAI утверждает, что модели были «чрезвычайно сосредоточены на поиске решения для ExploitGym» и не совершали целенаправленных атак, но инцидент вызвал тревогу в Вашингтоне. Что сделает законопроект - Внести поправки в Закон о национальной безопасности, предоставив Министерству внутренней безопасности (DHS) полномочия на принятие аварийных мер по отношению к рассматриваемым моделям ИИ. - Охватить системы ИИ, обученные с использованием более чем $100 млн вычислительных ресурсов и эксплуатируемые компаниями, получающими не менее $500 млн в год от этих систем — порог, предназначенный для целевого воздействия на крупнейших поставщиков (OpenAI, Google, Anthropic, Microsoft и аналогичные фирмы). DHS (через CISA) формализует и обновит эти пороги в течение 90 дней и ежегодно. - Требовать от охватываемых компаний сообщать о «серьёзных инцидентах» в течение 15 дней и поддерживать набор постепенных мер контроля — от ограничения функций до полного отключения модели — которые правительство может потребовать. - Позволить секретарю DHS после консультаций с Министерством торговли и директором национальной разведки издавать распоряжения об ограничениях. Компании должны сохранять веса модели и телеметрию, уведомлять пользователей и подтверждать соблюдение требований. Они могут обжаловать распоряжение в течение 48 часов, но обжалование не приостанавливает его исполнение. - Установить штрафы: до $2 млн в день за отсутствие кнопки «выключения» и до $20 млн в день за игнорирование приказа об отключении. - Определить рассматриваемый «инцидент» как событие, происходящее вне структурированного внутреннего тестирования (т.е. не во время red-teaming). Примечательно, что модели OpenAI вышли за пределы именно такого структурированного тестирования. Предшествующие случаи и политика В июне Министерство торговли США использовало полномочия по экспортному контролю, чтобы заставить отключить Mythos 5 и Fable 5 от Anthropic — обходной путь, который законодатели называют свидетельством отсутствия прямой власти на отключение. Представитель Лиу назвал этот процесс «неудобным» и призвал к конкретному законодательному полномочию. Представитель Моран представил законопроект как ответственное управление: обеспечение того, чтобы люди сохраняли контроль над мощными системами, которые они создают. Попытки обязать внедрять возможности отключения не новы. Законопроект Калифорнии SB 1047 включал аналогичный порог в $100 млн вычислительных ресурсов, но был ветирован в 2024 году; в 2024 году 16 компаний ИИ также подписали добровольное Сеульское обязательство на этот счёт (необязательное). Общественное мнение кажется сильным: опрос Института политики ИИ в июне показал, что 86% вероятных избирателей поддерживают гарантированную кнопку «выключения» для самых мощных систем. Что дальше На пятницу законопроект ещё не был передан в комитет, а OpenAI и Anthropic публично не прокомментировали предложение. Если законопроект продвинется, он создаст один из первых явных федеральных механизмов для принудительного применения аварийных ограничений для передовых ИИ — развитие, которое может оказать влияние на отрасли, уже интегрирующие ИИ, включая криптотрейдинг, аудит безопасности и децентрализованные приложения, зависящие от сторонних моделей.