Anthropic предлагает рамки регулирования ИИ с самоорегулированием и правовыми гарантиями

Утекший проект законодательства Anthropic требовал бы от крупных разработчиков ИИ создавать и соблюдать рамки безопасности, описывающие, как разработчики устраняют риски и критические инциденты безопасности. Politico сообщил о данном законопроекте в пятницу. Генеральный директор Anthropic Дарио Амодей выступал за регулирование ИИ, подобное минимальным стандартам Федеральной авиационной администрации (FAA) для конструкций самолетов, в эссе, опубликованном в июне. FAA также сертифицирует авиационные заводы и обладает значительными полномочиями по отмене сертификатов летной годности самолетов. Предлагаемые Anthropic рамки безопасности будут иметь юридическую силу, при этом компании должны будут ежегодно представлять отчеты о соблюдении в Министерство торговли, однако лабораториям останется значительная свобода в самоорганизации регулирования. Решение Anthropic распространять законопроект с корпоративным брендом вызвало критику как со стороны сторонников безопасности ИИ, так и со стороны противников регулирования, близких к администрации Трампа.

Предложение сенатора Марии Кантвелл предполагает, что Национальный институт стандартов и технологий установит стандарты, по которым будут оцениваться лаборатории ИИ. Законопроект «Frontier Act» представителей Джая Обернолте и Лори Трэхан требует от лабораторий разработки планов, соответствующих минимальным стандартам, установленным Министерством торговли. Законопроект «Frontier Act» предусматривает лицензирование независимых организаций по верификации для очень крупных разработчиков ИИ под управлением Министерства торговли. Проект Anthropic вместо этого требует, чтобы независимые аудиторы, зарегистрированные и оцененные Министерством торговли, проверяли меры безопасности компаний ИИ. Подход Anthropic предоставляет правительству меньше прямого контроля и полномочий над оценивающими организациями. Критики предупредили, что зависимость аудиторов от компенсации со стороны компаний ИИ может побуждать компании выбирать аудиторов, предлагающих благоприятные оценки. Самуэль Хэммонд, директор по политике в области ИИ в Фонде американских инноваций, заявил, что проект кажется несогласованным с сильной публичной поддержкой Anthropic надежного регулирования.

Проект Anthropic определяет охватываемые передовые модели как модели, обученные с использованием более чем 10 септиллионов вычислений, то есть 10 в степени 25. Закон о передовых моделях и закон Калифорнии о прозрачности и безопасности ИИ используют порог в 100 септиллионов вычислений, или 10 в степени 26. Несколько положений, включая требования к рамкам безопасности, будут применяться только к крупным лабораториям с доходом более 500 миллионов долларов или расходами, превышающими 1 миллиард долларов. Требования к отчетности также будут распространяться на более мелких разработчиков передовых моделей. Исследовательская фирма по ИИ Epoch AI сообщает, что несколько моделей, выпущенных в 2024 году, включая Google Gemini и модели Meta Llama, использовали от 10 до 50 септиллионов операций обучения. Epoch AI оценивает, что недавняя модель OpenAI GPT-6 Astra использовала 940 септиллионов операций обучения. Бывший «царь» ИИ Белого дома Дэвид Сакс, сопредседатель Совета советников президента по науке и технологии, утверждает, что Anthropic стремится к регулированию, которое создает барьеры для меньших конкурентов. Сакс отметил, что проект в конечном итоге охватит большую часть Силиконовой долины и нанесет ущерб стартапам, поскольку определение включает вычисления, связанные с тонкой настройкой и модификацией моделей.

Проект Anthropic требует, чтобы Министерство торговли получило судебное решение перед тем, как принудительно приостановить развитие передовых ИИ-технологий. Министерство торговли должно доказать преобладанием доказательств наличие немедленного риска смерти или серьезного увечья более чем для 50 человек или ущерба на сумму более $1 млрд. Основатель и президент Encode Action Снеха Реванур утверждала, что правительству необходима большая гибкость в чрезвычайных ситуациях, и назвала предложенные Anthropic меры самоинтересными. Администрация Трампа ранее в этом году использовала юридически сомнительную директиву по экспортному контролю для закрытия модели Fable от Anthropic, что дало Anthropic основания искать защиту от произвольных отключений. Старший сотрудник Министерства обороны Эмиль Майкл, вице-председатель целевой группы Трампа по сверхинтеллекту, сообщил The Information в понедельник, что администрация сохраняет полномочия по экспортному контролю для требований отмены моделей ИИ-лабораториями.

Предложение Anthropic напоминает законодательство, согласованное сенатором Эми Клобушар и лидером большинства в Сенате Джоном Тюном при председателе комитета по торговле Сената Теде Крузе. Круз и Сакс ранее поддерживали превосходство федерального законодательства над законами штатов в области ИИ и крайне ограниченный федеральный регуляторный подход. Anthropic, возможно, пытается заручиться поддержкой и выглядеть конструктивно в вопросах политики ИИ в администрации Трампа после длительного периода напряженных отношений. Неизвестный сотрудник, работающий в сфере политики ИИ в Вашингтоне, назвал Anthropic наивной за распространение законопроекта с брендом и охарактеризовал команду по федеральным делам Anthropic как отчаянно стремящуюся выглядеть конструктивно.

Проект Anthropic предусматривает отмену законов штатов, регулирующих раскрытие информации общественности, отчетность о инцидентах и оценку третьими сторонами. Проект не повлияет на другие законы, регулирующие безопасность детей и гражданские права. Однако в проекте неясно, могут ли штаты по-прежнему использовать чрезвычайные полномочия для прекращения работы моделей. Генеральный юрисконсульт Encode Натан Кэлвин назвал положения об отмене широко распространенными и отметил, что одно из положений, по всей видимости, направлено на препятствие штатам в применении законов или судебных решений, приостанавливающих разработку, внедрение или внутреннее использование ИИ-моделей. Предстоящее законодательство об ИИ, вероятно, будет связано с компромиссом между национальными стандартами и некоторой отменой законов штатов, которую требуют сторонники более быстрого развития ИИ. Несколько сотрудников Капитолия, политические активисты и лоббисты ожидают, что эта группа попытается снова добиться отмены в период «умирающего конгресса». Глава федеральных отношений Anthropic Энтони Чимино заявил, что отмена должна обеспечить единую национальную политику, в целом более сильную и широкую, чем отдельные положения штатов, и подчеркнул, что отмена в области безопасности ИИ должна быть узкой.