Белый дом США обсуждает с компанией-разработчиком ИИ Anthropic рамки оценки безопасности моделей с целью создания единой системы классификации уязвимостей в новых поколениях ИИ-моделей и определения, требуется ли вмешательство правительства. Это происходит после того, как США ранее ввели экспортные ограничения на последнюю модель Anthropic из-за проблемы безопасности, классифицированной как «джейлбрейк».
Создание единого стандарта на основе уязвимости «越狱»
Согласно сообщениям, эта рамочная система будет использоваться для оценки серьезности будущих подобных событий, с акцентом на три аспекта: степень обхода мер защиты, раскрытые возможности модели и последствия уязвимости в реальных условиях.
В настоящее время разногласия между правительством и бизнесом по этим вопросам остаются заметными. Ранее генеральный директор Anthropic Дарио Амодей и государственные чиновники по-разному оценивали, являются ли связанные уязвимости серьезной проблемой безопасности. Согласно отчету, прогресс в области ИИ происходит слишком быстро, а существующие государственные структуры пока не способны единообразно оценивать подобные споры.
Переговоры продолжаются после введения экспортных ограничений
Ранее Белый дом наложил экспортные ограничения на Anthropic, запретив иностранным пользователям доступ к ее последним моделям Fable 5 и Mythos 5. Компания затем приостановила предоставление услуг по этим двум моделям.
Согласно отчету, в прошлую пятницу переговоры между сторонами едва не провалились. Причиной стало то, что Anthropic отказалась отключить Fable по требованию правительства, считая, что соответствующие уязвимости имеют ограниченное влияние и не могут быть признаны серьезными дефектами безопасности. Впоследствии Белый дом ввел экспортные ограничения, заставив компанию снять соответствующие модели с рынка.
Однако с выходными стороны возобновили общение. В нескольких продолжительных телефонных переговорах приняли участие министр торговли США Ховард Лутник, национальный директор по кибербезопасности Шон Кернкросс и сооснователь Anthropic Том Браун. После этого стороны провели в Вашингтоне почти неделю очных переговоров.
Белый дом ускоряет внедрение правил безопасности ИИ
Согласно отчету, в переговорах от имени Anthropic участвовали руководитель общественной политики Сара Хек и сооснователь Том Браун. В понедельник компания также направила старших исследователей и экспертов по безопасности в Министерство торговли США для продолжения консультаций с правительственными чиновниками.
Этот раунд обсуждений также отражает более реалистичную оценку: ни одна модель ИИ не может быть полностью защищена от хакерских атак. Поэтому правительство хочет сначала четко определить стандарты оценки киберрисков компаниями, прежде чем принимать решение о том, в каких случаях необходимо применять ограничительные меры.
Это направление также находит отклик в обсуждениях на недавней встрече G7. Несколько ведущих компаний в области ИИ и некоторые лидеры стран отметили, что необходимо как можно скорее разработать более четкие стандарты оценки безопасности моделей для смягчения экономических и национальных рисков, связанных с постоянно усиливающимися системами ИИ.