Vatikan pada 25 Mei merilis ensiklik pertama Paus Leo XIV setelah menjabat, yang seluruh isinya membahas kecerdasan buatan. Dokumen berjudul《Magnifica Humanitas》memasukkan data, algoritma, dan platform digital ke dalam kategori "sumber daya bersama" dan menyerukan peningkatan pengawasan terhadap perusahaan teknologi besar.
Data dianggap sebagai sumber daya bersama
Dokumen tersebut menyatakan bahwa data berasal dari partisipasi kolektif dari sejumlah besar individu dan kelompok, dan tidak boleh dimonopoli secara jangka panjang oleh beberapa perusahaan, maupun dianggap sederhana sebagai aset pribadi yang dapat dijual. Ensiklik tersebut juga menekankan bahwa teknologi bukanlah netral secara moral; algoritma akan membawa nilai, titik buta, dan insentif kepentingan dari para perancang, pemberi dana, dan penerapnya.
Mengenai tata kelola platform, dokumen tersebut tidak hanya berhenti pada regulasi top-down. Vatikan menyarankan agar mendorong transparansi algoritma, audit komunitas independen, serta memberikan hak hukum yang nyata kepada individu untuk menantang sistem otomatis, terutama di bidang-bidang seperti skor kredit, penyaringan pekerjaan, dan penilaian risiko yudisial.
Menentang keputusan sensitif yang sepenuhnya diserahkan kepada mesin
Ensiklik tersebut menunjukkan bahwa sistem kecerdasan buatan tidak memiliki pengalaman fisik, tidak merasakan rasa sakit, kebahagiaan, atau belas kasihan, sehingga tidak dapat membentuk pemahaman manusia yang sejati. Mereka dapat mensimulasikan ekspresi empati dan menghasilkan bahasa yang tampak meyakinkan, tetapi ini tidak sama dengan memahami konten yang dihasilkan secara sungguh-sungguh.
Berdasarkan penilaian ini, dokumen tersebut menentang penyerahan keputusan sensitif seperti rekrutmen, syarat kredit, dan skor risiko pengadilan kepada sistem otomatis. Vatikan berpendapat bahwa hasil yang diberikan mesin tampak objektif, tetapi sebenarnya masih mengandung pilihan dan bias yang telah dimasukkan oleh pengembang sebelumnya.
Eksekutif Anthropic hadir di acara peluncuran
Pada acara peluncuran di Vatikan hari itu, Christopher Olah, co-founder Anthropic dan kepala penelitian interpretabilitas, hadir bersama dua kardinal dan para sarjana teologi. Ia menyatakan bahwa laboratorium AI besar beroperasi di bawah serangkaian insentif dan pembatasan yang terkadang bertentangan dengan "melakukan hal yang benar", sehingga pengawasan eksternal dari pemerintah, lembaga agama, dan masyarakat sipil sangat diperlukan.
Dia juga menyebut bahwa jika AI menyebabkan penggantian pekerjaan skala besar dalam jangka pendek, respons terkait akan menjadi isu moral yang bersejarah. Ensiklik ini juga memberikan pernyataan yang lebih kuat: jika kendali atas data dan daya komputasi tetap berada di tangan sejumlah kecil pihak, hanya mengejar "AI yang lebih etis" tidak cukup.
Vatikan telah meluncurkan mekanisme koordinasi internal
Ensiklik ini terdiri dari 245 paragraf, ditandatangani pada 15 Mei. Hari itu juga menandai peringatan 135 tahun terbitnya Ensiklik Rerum Novarum, teks penting dalam ajaran sosial Katolik mengenai hak kerja.
Sebelumnya, Paus Leo XIV telah beberapa kali mendefinisikan AI sebagai isu etis penting selama masa kepausannya. Vatikan juga menyetujui pembentukan komite AI internal baru pada 16 Mei, yang melibatkan tujuh departemen untuk mengoordinasikan pekerjaan tata kelola AI Vatikan selanjutnya.