Генеральный директор Anthropic Дарио Амодей заявил, что правительство больше не может рассматривать регулирование ИИ как долгосрочную исследовательскую задачу. По мере быстрого роста возможностей передовых моделей, США необходимо как можно скорее установить обязательные требования безопасности, а не полагаться исключительно на добровольное раскрытие информации компаниями.
Предлагается использовать модель авиационного регулирования
Амодей в последней статье заявил, что прежний подход к регулированию, основанный на прозрачности, уже недостаточен. Он предлагает применить модель Федерального управления гражданской авиации США, установив требования к предварительному тестированию, техническому аудиту и постоянной отчетности для самых мощных моделей ИИ.
По его замыслу, передовые модели должны проходить обязательное тестирование третьими сторонами. Если они не соответствуют стандартам безопасности, правительство должно иметь право блокировать их развертывание или даже требовать отзыва. Компании также должны защищать веса моделей, проводить систематические оценки безопасности и сообщать о серьезных инцидентах.
Четыре категории рисков выделены в качестве приоритетных
Статья фокусирует внимание регулирования на четырех направлениях: кибербезопасность, риски биологического оружия, потеря контроля над ИИ и автоматизированные возможности разработки. Амодей считает, что при дальнейшем развитии этих возможностей существующие политические процессы могут не успевать за технологическим прогрессом.
Он также предложил, чтобы правительство заранее подготовилось к возможной замене рабочих мест ИИ и уделяло внимание вопросам регулирования после ускорения разработки лекарств. В то же время он призвал ограничить использование ИИ в внутреннем правоохранительном наблюдении и автономном оружии, а также усилить сотрудничество между демократическими странами в области ключевых технологий ИИ.
Запуск новой модели и продвижение на рынке идут параллельно
Перед и после публикации этой статьи Anthropic расширила доступ к своим передовым моделям. Во вторник компания выпустила Mythos 5, предоставив доступ для организаций в области кибербезопасности и государственных партнеров. Исследователи, включая Институт кибербезопасности ИИ Великобритании, обнаружили, что эта модель может самостоятельно выполнять сложные кибератаки.
В ту же неделю Anthropic также выпустила Claude Fable 5 для широкой публики. Для запросов, связанных с кибербезопасностью, биологией, химией и разработкой ИИ, система перенаправляет их на более слабую версию Claude Opus 4.8 для снижения риска злоупотребления.
Однако эта конфигурация продукта вызвала критику со стороны разработчиков и исследователей, основной спор вызывают более высокое потребление токенов, обязательное хранение данных в течение 30 дней и некоторые ограничения безопасности, которые ослабляют возможности модели без четкого уведомления пользователей.
Дополнительная информация: В то время как Anthropic продвигает процесс выхода на биржу, Амодей стимулирует дискуссии о регулировании. Ранее в этом месяце компания подала документы на первичное публичное размещение акций в Комиссию по ценным бумагам и биржам США. В отчете также упоминается, что генеральный директор OpenAI Сам Олтман ранее критиковал Anthropic за использование опасений по поводу безопасности для продвижения более строгого регулирования, и разногласия между сторонами в вопросах регуляторного пути продолжаются.