Губернатор Калифорнии Ньюсом подписал знаковый законопроект по регулированию ИИ, требующий прохождения красных команд и стороннего аудита для моделей с параметрами в триллионы перед запуском.Автор статьи, источник: AIBase
Губернатор Калифорнии, США, Гэвин Ньюсом официально подписал пакет исторически значимых законов о регулировании искусственного интеллекта. Примечательно, что эти новые законы, направленные на усиление оценки рисков безопасности передовых крупных моделей, раскрытие прозрачности и предотвращение катастрофических кибератак, получили редкую поддержку и открытое одобрение от ведущих калифорнийских компаний в области ИИ, включая OpenAI и Anthropic, в ходе предыдущих законодательных дебатов.
Перед запуском модели с параметрами в триллионы необходимо пройти «красную команду + аудит третьей стороной»
В последние годы, с экспоненциальным ростом вычислительных мощностей генеративного ИИ и значительным повышением автономных возможностей передовых базовых моделей, опасения по поводу возможного злоупотребления ИИ для разрушения критической инфраструктуры, автоматизированной разработки биохимического оружия, масштабных манипуляций с глубокими подделками и использования серьезных уязвимостей кибербезопасности усилились. Поскольку в Конгрессе США продолжается застой в вопросах федерального законодательства об ИИ, законодательный орган Калифорнии в последние годы взял на себя роль пионера в области законодательства об ИИ по всей стране.
Подписанные в рамках этого законодательства законы направлены на легализацию стандартов безопасного тестирования сверхмасштабных базовых моделей, требуя от разработчиков моделей проведения стандартизированных красных командных атак и создания строгих протоколов смягчения катастрофических рисков перед обучением и развертыванием передовых систем с триллионами параметров, а также представления в государственные регулирующие органы отчетов о соответствии, прошедших независимую аудиторскую проверку третьими сторонами.
В отличие от ранее вызвавших ожесточённые протесты в Кремниевой долине и резкую оппозицию со стороны технологических гигантов и венчурных инвесторов радикальных предложений по регулированию, этот пакет законопроектов в процессе разработки и доработки глубоко учёл технические рекомендации передовых лабораторий ИИ. Anthropic и OpenAI ранее выражали серьёзную озабоченность по поводу слишком жёстких положений, которые могли бы подавить развитие открытого сообщества или чрезмерно расширить гражданскую солидарную ответственность; после интенсивных лоббистских усилий и корректировок формулировок окончательно принятый законопроект сосредоточился на создании прозрачной «рамки предварительной оценки рисков» и «отраслевых стандартов лучших практик безопасности», а не на установлении жёстких технических лимитов или внедрении нереалистичных наказательных мер, что позволило получить поддержку основных институтов разработки ИИ в рамках правовой системы.
Deepfakes must be watermarked, whistleblowers are protected by law
Помимо базового безопасностного аудита, закон также охватывает требования к идентификации и водяным знакам для контента, созданного ИИ, обязывая платформы и основные каналы распространения контента добавлять системные цифровые отпечатки к глубоким подделкам аудио- и видеоконтента для предотвращения распространения ложной информации на выборах и злонамеренного мошенничества. Кроме того, закон предоставляет более четкую юридическую защиту «свидетелям» — внутренним сотрудникам и исследователям, выявляющим и раскрывающим потенциальные серьезные уязвимости в моделях, запрещая компаниям лишать технических специалистов права сообщать регулирующим органам о катастрофических угрозах безопасности с помощью строгих соглашений о конфиденциальности.
Этот шаг ознаменовал поиск регуляторного пути в Калифорнии — мировом центре разработки ИИ — который балансирует между строгими безопасностными рамками и поддержанием инновационной активности отрасли и относительно признан индустрией.