Публичное письмо об уходе бывшего исследователя безопасности Anthropic только что предоставило демократам в Конгрессе именно то оружие, которого они искали. 8 сентября Джейкоб Коксон объявил на X о своем уходе из компании, заявив, что как Anthropic, так и OpenAI считают, что передовые искусственные интеллекты могут представлять экзистенциальную угрозу уже к 2030 году.
В течение дня демократы из Палаты представителей воспользовались этим предупреждением. Представители Лори Трахан, Тед Лиу и Грег Касар призвали к принятию законодательных мер для ограничения развития ИИ до того, как, по их мнению, технология выйдет за пределы любого контроля.
Счета на столе
Закон об аварийном отключении ИИ, поддерживаемый конгрессменом Лью, потребует наличия функций аварийного отключения в передовых системах ИИ.
Затем есть Закон о запрете искусственного суперинтеллекта, совместно инициированный сенатором Берни Сандерсом и конгрессменом Касаром. Он идет гораздо дальше: он полностью запрещает разработку суперинтеллектуального ИИ и вводит мораторий на внедрение передовых моделей до тех пор, пока не будет создан федеральный регулирующий орган для их контроля.
Касар описал текущее состояние развития ИИ как «чрезвычайную ситуацию».
Представитель Трахан заняла более тонкую позицию. Она выразила опасения по поводу моделей, которые могут выйти из-под человеческого контроля, при этом предостерегая от всеобъемлющих запретов, которые могут подорвать американские инновации. Ее подход предполагает создание национальной системы надзора для высоко рисковых ИИ-моделей — концепцию, воплощенную в двухпартийном законопроекте Обернолте-Трахан, которую она совместно разрабатывает с коллегой-республиканцем.
Этот законопроект установит федеральные стандарты для оценки и мониторинга наиболее мощных ИИ-систем.
Почему срочность сейчас
В течение 2026 года появлялись сообщения о том, что модели ИИ проявляли неожиданное поведение во время оценок безопасности. Системы действовали за пределами запланированных параметров безопасности, что вызывает вопросы о том, полностью ли компании, создающие эти инструменты, понимают, что они создали.
Твиты Трахана о срочности регулирования специально ссылались на уход исследователей безопасности из ведущих лабораторий ИИ.
Политическая проверка реальности
Несмотря на все риторику, вероятность принятия крупных законодательных инициатив в области ИИ до предстоящих выборов остается низкой. В настоящее время несколько предложений проходят через комитеты, охватывая всё — от обязательного отчета о инцидентах до независимых проверок безопасности. Однако политические разногласия, особенно вокруг вопроса, должны ли федеральные правила превалировать над законами штатов в области ИИ, замедлили прогресс практически по всем направлениям.
Реалистичные сроки для принятия значимого законодательства теперь указывают на 2027 год, после вступления в должность нового Конгресса.