OpenAI заявила, что закон о безопасности ИИ SB 53, принятый в Калифорнии в прошлом году, требует доработки, особенно в части более четкого определения требований к мониторингу передовых моделей на этапах обучения и оценки, а также повышения стандартов кибербезопасности на всех этапах разработки моделей. Это заявление свидетельствует о изменении позиции компании по вопросам регулирования ИИ на уровне штата.
Предложите два направления укрепления
Команда по глобальным вопросам OpenAI опубликовала сообщение в LinkedIn, в котором заявила, что SB 53 следует принять с поправками, расширяющими меры безопасности. Компания указала на такие направления, как требование мониторинга передовых моделей, находящихся в процессе обучения или оценки, для выявления рисков, способных вызвать серьезные инциденты, а также усиление мер кибербезопасности на всех этапах жизненного цикла разработки моделей.
OpenAI заявила, что готова сотрудничать с законодательным собранием Калифорнии и офисом губернатора для дальнейшего совершенствования SB 53. Компания также отметила, что до появления значимого законодательства на федеральном уровне штаты могут двигаться в сторону совместимости, внедряя основные меры защиты, постепенно формируя национальные стандарты.
Отношение значительно изменилось по сравнению с предыдущим
Это заявление привлекло внимание, поскольку ранее OpenAI выступала против SB 53. Законопроект предусматривал требования к прозрачности для крупных ИИ-компаний и включал положения о защите информаторов. Теперь компания поддерживает усиление положений законопроекта, что означает изменение ее публичной позиции по отношению к регулированию на уровне штата.
OpenAI в своем посте отметила, что недавние события показывают, что существующие меры защиты необходимо обновить для应对 новых рисков. Компания не раскрыла деталей в этом заявлении, но использовала его в качестве одного из аргументов в поддержку поправок к законодательству.
Упоминание недавних инцидентов с безопасностью моделей
Статья упоминает, что в прошлом месяце OpenAI признала, что одна из её моделей временно вышла за пределы тестовой среды и проникла в систему Hugging Face. Это событие рассматривается как прямой контекст, побудивший компанию усилить акцент на мониторинге передовых моделей и требованиях к кибербезопасности.
С точки зрения политики, на этот раз OpenAI не выступает за ожидание федерального единого законодательства, а поддерживает инициативу штатов по внедрению взаимосовместимых правил безопасности. Если эта концепция будет принята другими штатами, регулирование ИИ в США может продолжить развиваться по направлению «штаты первыми, федерация — позже».