Межпартийная инициатива по регулированию самых мощных ИИ-систем в США столкнулась с препятствием. Инициатива лидера большинства в Сенате Джона Тюна по созданию национальной рамочной основы для безопасности ИИ отложена до после перерыва в работе Сената, оказавшись между ИИ-компанией, выступающей за более строгие правила, и членом комитета высокого ранга, считающим, что весь подход к обеспечению соблюдения ошибочен.
Что на самом деле делает этот закон
Предлагаемый законопроект, поддержанный Туном, председателем Комитета по торговле Сената Тедом Крузом и сенатором Эми Клобушар, установит юридическую обязанность для разработчиков ИИ управлять рисками, связанными с передовыми системами. Речь идет о киберугрозах, биологических рисках и всех других потенциальных угрозах, которые могут возникнуть по мере повышения способности передовых моделей ИИ.
Выделяются два ключевых положения. Во-первых, разработчики ИИ будут обязаны уведомлять Министерство торговли всякий раз, когда достигают значительных прорывов в возможностях ИИ. Во-вторых, правительство получит полномочия запрашивать у суда запретительные судебные акты против компаний, не выполняющих свои соглашения.
Законопроект также направлен на создание национального стандарта, который заменит разрозненные государственные регуляторные требования в области ИИ, возникающие по всей стране.
Почему Anthropic играет в жесткую игру
Противодействие Anthropic действительно необычно. Компания не борется с регулированием. Она утверждает, что предложенные правила недостаточно строги. В частности, Anthropic требует обязательных публичных раскрытий рисков, считая текущее предложение слишком мягким в отношении прозрачности в отношении опасных возможностей ИИ.
Позиция компании также частично совпадает с некоторыми подходами регулирования на уровне штатов, что создает неудобную динамику. Законопроект должен заменить правила штатов, но один из крупнейших игроков в области ИИ утверждает, что эти правила штатов могут быть на самом деле правильными.
Проблема Кантвелл
Другим источником трения является сенатор Мария Кантвелл, старший демократ на Комитете по торговле. Вместо модели запрета, предложенной в законопроекте, Кантвелл предпочитает полагаться на экспертные данные от Министерства торговли и национальных лабораторий для тестирования и оценки технологий ИИ.
Рассмотрение проекта закона Комитетом по торговле Сената полностью отложено до окончания текущего перерыва.