Папа Лев XIV выпустил свою первую энциклику, призывающую к обязательному международному регулированию искусственного интеллекта, включая прямой запрет на то, чтобы машины принимали смертельные или необратимые решения.
Сооснователь Anthropic Кристофер Олах выступил в Ватикане в качестве светского докладчика, поставив в центр глобальных дебатов по управлению ИИ ведущего исследователя безопасности ИИ рядом с Католической церковью.
Документ объемом почти 43 000 слов «Magnifica Humanitas» (Великолепная человечность) был опубликован 25 мая. В нем предупреждается, что крупнейшие разработчики ИИ — это частные, часто транснациональные структуры, ресурсы которых превышают ресурсы многих правительств. Лео утверждает, что концентрация власти стремится избежать публичной подотчетности и может порождать новые формы зависимости и неравенства.
Аргументы Ватикана в пользу замедления развития ИИ
энциклика направлена на борьбу с дезинформацией, автономными войнами и вытеснением рабочих. Что касается ИИ в бою, Лев не допускает двусмысленностей.
Не допускается поручать смертельные или иным образом необратимые решения искусственным системам.
Лео также предупреждает, что дезинформация, генерируемая ИИ, может медленно направить демократии к тоталитаризму. Он призывает к четким правовым рамкам и независимому надзору, а не к добровольным этическим обязательствам от отрасли.
В отношении занятости Лео утверждает, что автоматизация изменяет структуру работы таким образом, что это не приносит автоматической выгоды работникам. Большая прибыль, пишет он, не может оправдать решения, систематически уничтожающие рабочие места.
Anthropic занимает место за столом Ватикана
Появление Олаха было более чем символическим. Как сооснователь Anthropic, он возглавляет исследования по интерпретируемости, направленные на понимание того, как крупные языковые модели формируют решения внутри себя. Эта работа напрямую соответствует требованию Папы Льва к системам ИИ, которые должны быть прозрачными и подотчетными человеческому контролю.
Anthropic сохраняла твердую позицию по безопасности ИИ в течение 2026 года. Компания боролась с американскими оборонными ограничениями в суде и разработала стратегию ИИ США-Китай, сохраняющую защитные барьеры. Ее исследователи выявили, как ИИ-агенты эксплуатируют уязвимости в криптовалюте без человеческого вмешательства, продемонстрировав, что может создать автономный ИИ без подотчетности. BeInCrypto сообщил о запланированной встрече Anthropic и Ватикана за недели до события.
Папа Лев не выступает против развития ИИ полностью. Его энциклика представляет более медленное и взвешенное внедрение как акт ответственной заботы — позицию, которая теперь несет на себе вес крупнейшей религиозной институции мира.