Vatikan, 25 Mayıs'ta Papa XIV. Leo'nun göreve başlamasından sonra ilk enciklikayı yayınladı; metin tamamen yapay zekaya odaklandı. "Magnifica Humanitas" adlı belge, verileri, algoritmaları ve dijital platformları "ortak kaynak" kategorisine dahil etti ve büyük teknoloji şirketlerine yönelik denetimleri güçlendirmeyi talep etti.
Veriler ortak bir kaynak olarak görülür
Belge, verilerin büyük sayıdaki bireylerin ve grupların ortak katılımıyla elde edildiğini, bunların az sayıdaki şirketler tarafından uzun süre monopole edilmemesi gerektiğini ve basitçe satılabilir özel bir varlık olarak görülmemesi gerektiğini belirtiyor. Aynı zamanda, teknolojinin ahlaki olarak nötr olmadığını, algoritmaların tasarlayıcıların, finanse edenlerin ve uygulayıcıların değerlerini, algılamama noktalarını ve ilgi alanlarını yansıttığını vurguluyor.
Platform yönetimi etrafında, belge sadece yukarıdan aşağıya düzenlemeye odaklanmamaktadır. Vatikan, algoritmik şeffaflığı teşvik etmeli, bağımsız topluluk denetimlerini desteklemeli ve özellikle kredi puanlaması, işe alım filtrelemesi ve adalet riski değerlendirmesi alanlarında bireylerin otomatik sistemlere karşı yasal olarak itiraz etme gerçek haklarını sağlamalıdır.
Hassas kararların tamamen makinelere bırakılmasını karşılarım
Dilekçede, yapay zeka sistemlerinin fiziksel deneyime sahip olmadığı, acı, mutluluk veya şefkat duymadığı ve bu nedenle gerçek bir insan anlayışı oluşturamadığı belirtilmektedir. Bu sistemler empatik ifadeleri taklit edebilir ve görünüşte inandırıcı diller üretebilir, ancak bu çıktıları gerçekten anlamak anlamına gelmez.
Bu yargıya dayanarak, belge, istihdam, kredi verme koşulları, mahkeme risk puanları gibi duyarlı kararların otomatik sistemlere bırakılmasını karşılar. Vatikan, makinelerin verdiği sonuçların nesnel görünmesine rağmen, aslında geliştiricilerin önceden yazdığı seçimler ve önyargıları içerdiğini düşünür.
Anthropic yöneticileri duyuru toplantısına katıldı
Vatikan'daki o günün duyurusunda, Anthropic'in ortak kurucusu ve açıklanabilirlik araştırmaları sorumlusu Christopher Olah, iki kardinal ve teoloji akademisyeniyle birlikte yer aldı. O, büyük AI laboratuvarlarının her zaman "doğru şeyi yapmak" ile çatışabilen bir teşvik ve kısıtlama sistemi içinde çalıştığını belirtti ve bu nedenle hükümet, dini kurumlar ve sivil toplumun dış denetiminin vazgeçilmez olduğunu vurguladı.
Ayrıca, yapay zekânın kısa sürede büyük ölçekli iş yerlerini yerine geçirmesi durumunda, ilgili karşılık verme çabaları tarihi öneme sahip bir ahlaki sorun haline gelecektir. Sürüm, bu konuda daha güçlü bir ifade sunar: Veri ve hesaplama gücü, az sayıda aktör elinde kalıyorsa, sadece “daha ahlaklı bir yapay zeka” arayışı yeterli değildir.
Vatikan, dahili koordinasyon mekanizmasını başlatmıştır.
Bu tebliğ 245 paragraftan oluşmaktadır ve 15 Mayıs'ta imzalanmıştır. Aynı gün, Katolik modern toplum öğretisinde iş hakkı ile ilgili önemli bir metin olan "Rerum Novarum" tebliğinin 135. yıldönümüdür.
Önceden, XV. Leo, AI'yi kendi dönemindeki önemli etik konulardan biri olarak tanımlamıştı. Vatikan, 16 Mayıs'ta, papalığın sonraki AI yönetimi çalışmalarını koordine etmek üzere yedi departmanın katıldığı yeni bir dahili AI komitesi kurmayı onayladı.