Ватикан 25 травня опублікував перший соціальний енцикліку папи Лева XIV, який цілком присвячений штучному інтелекту. Документ під назвою «Magnifica Humanitas» включає дані, алгоритми та цифрові платформи до категорії «спільних ресурсів» і вимагає посилення регулювання великих технологічних компаній.
Дані вважаються спільним ресурсом
У документі зазначається, що дані походять від спільної участі великої кількості окремих осіб та груп, їх не слід довготривалий час монополізувати декількома компаніями, ніж просто вважати придатними для продажу приватними активами. Унція також підкреслює, що технології не є морально нейтральними, а алгоритми втілюють цінності, сліпі зони та стимули дизайнера, фінансових інвесторів та тих, хто їх впроваджує.
Щодо управління платформою, документ не обмежується лише вертикальним регулюванням. Ватикан запропонував сприяти прозорості алгоритмів, незалежному аудиту спільноти та наданню особистим особам реальних прав на юридичний виклик автоматизованих систем, зокрема в галузях оцінки кредитоспроможності, відбору кандидатів на роботу та судової оцінки ризиків.
Проти повної передачі чутливих рішень машинам
Енцикліка зазначає, що системи штучного інтелекту не мають тілесного досвіду і не відчувають болю, радості чи співчуття, тому не можуть сформувати справжнє людське розуміння. Вони можуть симулювати емпатичні вирази та генерувати мову, що здається правдоподібною, але це не означає справжнього розуміння виведеного контенту.
На основі цього висновку документ виступає проти передачі автоматизованим системам таких чутливих рішень, як найм, умови надання кредиту та судові рейтингові оцінки. Ватикан вважає, що результати, які надають машини, хоча й здаються об’єктивними, насправді містять вибір і упередження, закладені розробниками.
Керівники Anthropic виступають на прес-конференції
На прес-конференції у Ватикані того ж дня участь узяв Крістофер Олах, співзасновник Anthropic та керівник досліджень з інтерпретованості, разом із двома кардиналами та богословами. Він зазначив, що великі лабораторії ШІ функціонують у рамках системи стимулів та обмежень, які іноді суперечать «роботі правильно», і тому зовнішній нагляд з боку урядів, релігійних установ та громадянського суспільства є незамінним.
Він також зазначив, що, якщо ШІ в короткостроковій перспективі призведе до масового витіснення робочих місць, відповідні заходи стануть моральним питанням історичного значення. У соціальному листі це висловлено ще сильніше: якщо контроль над даними та обчислювальними ресурсами залишиться у рукавах невеликої кількості суб’єктів, одного лише прагнення до «більш етичного ШІ» недостатньо.
Ватикан запустив внутрішній координаційний механізм
Цей енциклічний лист містить 245 пунктів і підписаний 15 травня. Цей день також є 135-річчям виходу енцикліки Rerum Novarum — важливого тексту католицького соціального вчення щодо права на працю.
Раніше Лев XIV неодноразово визначав ШІ як важливу етичну проблему свого терміну. 16 травня Ватикан також схвалив створення нового внутрішнього комітету з ШІ, до якого входять сім відділів, відповідальних за координацію майбутньої управлінської діяльності Ватикану з питань ШІ.