Зарубежные СМИ отмечают, что фокус обсуждений по безопасности ИИ в последнее время смещается с вопроса «как снизить риски» на вопрос «кто должен устанавливать правила». После того как несколько крупных лабораторий призвали замедлить продвижение передовых моделей, разногласия в отрасли по поводу того, должна ли вмешиваться правительство и могут ли компании самоограничиваться, стали еще более очевидными.
Крупные лаборатории выступают за замедление продвижения
Генеральный директор Anthropic Дарио Амодей недавно опубликовал статью, в которой выступил за замедление темпов развития ИИ для выделения времени на меры безопасности и содействие совместному внедрению компаниями и правительством. Генеральный директор OpenAI Сэм Альтман и основатель xAI Маск выразили поддержку этому направлению.
Однако поддержка «большего внимания к безопасности» не означает поддержки жесткого регулирования. Генеральный директор Meta Цукерберг заявил, что компания несколько месяцев откладывала запуск модели ИИ Muse из соображений безопасности и защиты. Его заявление ближе к другому подходу: компании сами включают безопасность в повседневные процессы разработки под давлением рынка и ответственностью за продукт, не дожидаясь, пока будет введено единое регулирование.
Белый дом и Конгресс проявляют осторожность
Согласно отчету, несмотря на призывы некоторых ведущих компаний к сотрудничеству между государством и частным сектором, американское правительство не проявило явного желания взять на себя ответственность. Дэвид Сакс, чиновник по ИИ в администрации Трампа, заявлял, что регулирование ИИ должно в основном передаваться компаниям, разрабатывающим соответствующие технологии. Белый дом ранее также склонялся к препятствованию принятию отдельными штатами собственных законов об ИИ.
На уровне конгресса также не последовало быстрой реакции. В статье отмечается, что после публикации длинной статьи Амодеи спикер Палаты представителей США Майк Джонсон проявил равнодушие к утверждениям о «катастрофических рисках ИИ», что свидетельствует о нежелании Вашингтона активно продвигать немедленное создание более строгой регуляторной базы.
Саморегулирование отрасли вызывает новые вопросы
Еще одной интересной инициативой является утверждение, что такие компании, как OpenAI и Anthropic, продвигают создание организации по установлению стандартов в области ИИ. Внешние наблюдатели рассматривают это как потенциальный механизм отраслевой саморегуляции. Если эта структура будет реализована, индустрия ИИ в значительной степени будет оставаться под контролем компаний через добровольные обязательства и разработку стандартов.
Это также порождает постоянные сомнения: продвигают ли ведущие компании «безопасные правила» с целью укрепить свои собственные позиции. Критики считают, что любой барьер, будь то официальное регулирование или отраслевые стандарты, если он устанавливается небольшим числом крупных компаний, может повысить затраты для новых участников и сузить пространство для конкуренции мелких и средних предприятий.
Китай и зарубежные компании выразили протест
Статья также отмечает, что китайская сторона в последнее время критиковала некоторые американские компании за использование нарратива об опасностях ИИ для вмешательства в дискуссии о глобальном управлении. Одной из причин является то, что Амодеи в статье прямо заявляет, что необходимо изменить коммерческие соглашения, связанные с Китаем, чтобы расширить лидерство США в ближайшие годы.
Подобные опасения исходят не только из Китая. Генеральный директор канадской AI-компании Cohere Айдан Гомес также открыто заявил, что спор всегда был не просто о «нужны ли ограждения», а о «кто пишет правила, кто может участвовать и чьи интересы защищают эти правила».
Согласно этому обзору, безопасность ИИ уже не является только технической проблемой, а представляет собой игру вокруг промышленного порядка и международной конкуренции. Далее, истинное различие, возможно, заключается не в необходимости мер безопасности, а в том, кто в конечном итоге получит право на установление правил.