Ватикан 25 мая выпустил первый энциклику после вступления в должность Папы Льва XIV, полностью посвященную искусственному интеллекту. Документ под названием «Magnifica Humanitas» включает данные, алгоритмы и цифровые платформы в категорию «общих ресурсов» и требует усиления контроля над крупными технологическими компаниями.
Данные рассматриваются как общий ресурс
Документ утверждает, что данные происходят из совместного участия множества индивидов и групп, не должны длительное время монополизироваться небольшим числом компаний и не должны рассматриваться просто как продаваемые частные активы. Энциклика также подчеркивает, что технологии не являются морально нейтральными: алгоритмы вносят ценности, слепые зоны и стимулы интересов разработчиков, спонсоров и внедрителей.
В контексте управления платформой документы не ограничиваются исключительно сверху вниз регулированием. Ватикан предлагает продвигать прозрачность алгоритмов, независимый аудит сообществом и предоставлять индивидуумам реальное право на юридическое оспаривание автоматизированных систем, особенно в таких областях, как кредитные рейтинги, отбор кандидатов на работу и оценка судебных рисков.
Против полной передачи чувствительных решений машинам
Энциклика отмечает, что системы искусственного интеллекта не обладают телесным опытом и не способны испытывать боль, радость или сострадание, поэтому не могут формировать подлинное человеческое понимание. Они могут имитировать проявления эмпатии и генерировать внешне правдоподобный язык, но это не равнозначно настоящему пониманию выводимого содержания.
На основе этого суждения документ выступает против передачи автоматизированным системам таких чувствительных решений, как найм, условия кредитования и оценка рисков в суде. Ватикан считает, что результаты, предоставляемые машинами, хотя и кажутся объективными, на самом деле содержат предварительно введенные разработчиками выборы и предвзятости.
Руководители Anthropic出席发布会
На сегодняшней пресс-конференции в Ватикане Кристофер Олах, сооснователь Anthropic и руководитель исследований в области интерпретируемости, выступил вместе с двумя кардиналами и богословами. Он заявил, что крупные лаборатории ИИ функционируют в рамках системы стимулов и ограничений, которые иногда противоречат «деланию правильного», поэтому внешний контроль со стороны правительства, религиозных институтов и гражданского общества является неотъемлемым.
Он также отметил, что, если ИИ вызовет массовую замену рабочих мест в краткосрочной перспективе, соответствующие меры реагирования станут этической проблемой исторического значения. В энциклике также приводится более сильная формулировка: если контроль над данными и вычислительными ресурсами останется сосредоточенным в руках немногих субъектов, одного стремления к «более этичному ИИ» будет недостаточно.
Ватикан запустил внутренний координационный механизм
Энциклика содержит 245 параграфов и подписана 15 мая. Этот же день отмечает 135-ю годовщину выпуска энциклики «Новыя вещи», важного текста католического социального учения о праве на труд.
Ранее Лев XIV неоднократно определял ИИ как важную этическую проблему своего понтификата. Ватикан также 16 мая одобрил создание нового внутреннего комитета по ИИ, в который входят семь департаментов, ответственных за координацию последующей работы по управлению ИИ в Ватикане.