Catatan editor: Pada 25 Mei 2026, Vatikan menerbitkan ensiklik pertama Paus Leo XIV, berjudul Magnifica Humanitas: Melindungi Kemanusiaan di Era Kecerdasan Buatan. Penerbitan dokumen ini sengaja dipilih pada peringatan 135 tahun ensiklik Rerum Novarum oleh Paus Leo XIII—jelas bukan kebetulan: jika Rerum Novarum merupakan tanggapan Gereja Katolik terhadap Revolusi Industri, maka Magnifica Humanitas dianggap sebagai pernyataan resmi Gereja terhadap era AI.
Yang paling patut diperhatikan dari peluncuran ini bukan hanya Paus yang membandingkan AI dengan senjata nuklir dan menyatakan bahwa "AI perlu dinonaktifkan", bukan hanya pendiri bersama Anthropic, Christopher Olah, yang hadir secara langsung di Vatikan, tetapi pertama kalinya agama, filsafat, dan laboratorium AI mutakhir berdiri secara langsung di hadapan masalah yang sama: ketika AI sedang mengubah tenaga kerja, perang, distribusi kekayaan, dan pemahaman diri manusia, apakah cukup hanya perusahaan teknologi dan pasar yang menentukan masa depannya?
Artikel ini merangkum 11 detail paling penting dari peluncuran ini: dari makna sejarah di balik gelar "Leo XIV", hingga bagaimana gereja kembali merespons perubahan teknologi besar setelah Revolusi Industri, senjata nuklir, dan krisis iklim; dari deskripsi Olah tentang model AI yang "tumbuh dari bahasa manusia", hingga pengakuannya bahwa laboratorium AI tidak dapat sendirian menjawab pertanyaan-pertanyaan seperti bagaimana negara-negara miskin dapat memperoleh manfaat, apa yang dimaksud dengan kemakmuran manusia, dan apa sebenarnya yang kita ciptakan.
Berikut adalah teks aslinya:
Paus dan salah satu pendiri Anthropic baru saja berdiri bersama di Vatikan, merilis Magnifica Humanitas—dokumen ajaran resmi pertama dalam sejarah Katolik tentang kecerdasan buatan.
Ya, Anda tidak salah baca. Seluruh acara peluncuran berlangsung selama dua jam.
Berikut adalah poin-poin terpenting yang perlu diperhatikan:
1. Ini adalah tanggapan paling signifikan yang pernah diberikan oleh kalangan agama terhadap AI. Paus biasanya hanya menerbitkan beberapa dokumen resmi berbobot tinggi sepanjang masa jabatannya. Fakta bahwa salah satunya secara khusus membahas AI menunjukkan bahwa Gereja memandang perubahan yang akan datang dengan tingkat keseriusan yang sangat tinggi.
2. Sebuah detail kecil namun bermakna besar adalah: Paus sengaja memilih nama "Leo XIV". Paus sebelumnya yang bernama Leo adalah Leo XIII pada tahun 1891. Tindakan paling terkenalnya adalah menulis tanggapan Gereja Katolik terhadap Revolusi Industri. Sekarang, memilih nama yang sama kembali merupakan sinyal yang sangat jelas: Paus ini memandang AI sebagai revolusi industri baru.
3. Setiap kali teknologi besar membentuk ulang masyarakat manusia, Gereja Katolik meresponsnya. Pada tahun 1891, mereka merespons Revolusi Industri dengan ensiklik Rerum Novarum; pada dekade 1960-an, ketika senjata nuklir mengancam dunia, mereka menulis Pacem in Terris; pada tahun 2015, perubahan iklim dan masalah teknologi yang tak terkendali melahirkan Laudato Si’. Kini, giliran AI, dengan dokumen berjudul Magnifica Humanitas. Dokumen semacam ini tidak umum.
4. Pernyataan inti Paus adalah: “AI perlu dinonaktifkan.” Ia sebenarnya membandingkan AI dengan senjata nuklir. Ia menyatakan bahwa Gereja telah selama puluhan tahun mendorong pelucutan senjata nuklir, karena teknologi semacam itu terlalu berbahaya untuk hanya dikuasai oleh segelintir orang. Kini, ia percaya bahwa AI telah memasuki kategori masalah yang sama.
5. Co-founder Anthropic, Christopher Olah, di panggung Vatikan menyampaikan kepada Paus bahwa tim peneliti Anthropic terus menemukan sesuatu di dalam model AI yang "memantulkan kebahagiaan, kepuasan, ketakutan, kesedihan, dan ketidaktenangan".
6. Olah memberikan kembali pemahaman tentang esensi AI: hal-hal ini bukan sekadar dibuat, melainkan lebih mirip "tumbuh". Mereka dilatih pada sistem yang secara kasar meniru struktur otak manusia dan diberi masukan hampir semua konten yang pernah ditulis manusia. Dalam kata-katanya sendiri: "Mereka terbentuk dari kita, dari bahasa kita." Ia juga menyatakan bahwa bahkan para pembangun sistem ini pun tidak sepenuhnya memahami apa yang sedang terjadi di dalamnya.
7. Olah secara terbuka mengakui bahwa semua laboratorium AI, termasuk Anthropic sendiri, menghadapi tekanan yang mungkin bertentangan dengan "melakukan hal yang benar": tekanan bisnis untuk terus meluncurkan produk, tekanan kompetisi dari laboratorium lain, serta kesombongan dan ambisi lama. Solusi yang ia ajukan adalah: kita sangat membutuhkan kritikus eksternal yang tidak memiliki kepentingan pribadi untuk secara langsung menunjukkan masalah ketika laboratorium menyimpang.
8. Olah percaya ada tiga masalah besar yang laboratorium AI tidak dapat jawab sendiri, dunia membutuhkan intervensi agama dan filsafat:
Bagaimana kita memastikan negara-negara miskin benar-benar mendapatkan manfaat dari AI?
Dalam dunia baru ini, apa arti kemakmuran manusia?
Dan apa sebenarnya hal-hal yang sedang kita ciptakan ini?
9. Salah satu kalimat paling tajam dalam ensiklik ini adalah: "Janji bahwa kemakmuran universal akan muncul secara otomatis sering kali ternyata hanyalah ilusi." Dengan kata lain, anggapan bahwa AI akan secara otomatis membuat semua orang kaya adalah sebuah ilusi. Seseorang harus benar-benar merancang sistem yang memungkinkan manfaat teknologi dibagikan.
10. Paus juga mengutip sebuah pernyataan seratus tahun lalu: “Manusia modern belum dilatih dengan baik untuk menggunakan kekuasaan secara tepat.” Pernyataan ini berasal dari seorang teolog pada tahun 1920-an. Seluruh ensiklik hampir seluruhnya berputar di sekitar satu argumen inti: sebelum kekuatan ini mulai menguasai kita, kita harus belajar cara menggunakannya terlebih dahulu.
11. Paus secara berulang menekankan bahwa dirinya tidak memiliki jawaban teknis. Namun, ia menyatakan bahwa Gereja memiliki ribuan tahun kebijaksanaan mengenai "apa itu manusia," dan kebijaksanaan inilah yang paling hilang dalam proses pembangunan AI saat ini. Di akhir tulisannya, ia menulis: Teknologi ini harus melayani "kesejahteraan dan martabat manusia, bukan mengendalikan hati nurani manusia."