Amazon якобы выступает за ограничения модели Anthropic из-за опасений по поводу безопасности

Сообщение DeepFlow Tech: 14 июня, согласно статье в The Wall Street Journal, экспортные ограничения и ограничения на доступ к модели Anthropic Fable 5 / Mythos 5 со стороны правительства США частично обусловлены кибербезопасностными исследованиями компании Amazon и взаимодействием генерального директора AWS Энди Джаси с Белым домом. Согласно информации, исследования, представленные Amazon, указывают, что с помощью серии тестовых запросов исследователи смогли заставить Fable 5 выводить чувствительную информацию, которая может быть использована для кибератак, что вызвало обеспокоенность по поводу безопасности. После этого Энди Джаси представил эти выводы на уровне правительства США, что побудило Белый дом принять дополнительные ограничения, включая запрет на доступ к модели для иностранных пользователей. Anthropic опровергает утверждение правительства о том, что данная проблема представляет собой «джейлбрейк (jailbreak)», заявляя, что подобные уязвимости могут возникать и в других открытых моделях, включая GPT 5.5. Некоторые исследователи в области безопасности также поддерживают эту позицию, считая, что речь идет скорее о «риске внедрения запросов (prompt injection)», а не о серьезном прорыве модели. Кроме того, бывший чиновник Министерства торговли США Кэт Колен сообщила, что существующая политическая позиция Anthropic также могла повлиять на это решение, поскольку компания и Белый дом расходятся во взглядах на границы безопасности искусственного интеллекта, включая отказ использовать модели для массового наблюдения или смертоносных автономных систем оружия. Несмотря на то, что стороны в начале этого года временно смягчили отношения и расширили сотрудничество,