Paus Leo XIV telah merilis ensiklik pertamanya yang menyerukan regulasi internasional yang mengikat terhadap kecerdasan buatan, termasuk larangan langsung terhadap mesin yang membuat keputusan mematikan atau ireversibel.
Pendiri Anthropic, Christopher Olah, muncul di Vatikan sebagai presenter awam, menempatkan seorang peneliti keselamatan AI terkemuka berdampingan dengan Gereja Katolik di pusat perdebatan tata kelola AI global.
Dokumen hampir 43.000 kata, “Magnifica Humanitas” (Kemanusiaan Megah), dirilis pada 25 Mei. Dokumen ini memperingatkan bahwa pengembang AI terbesar adalah entitas swasta, sering kali transnasional, yang sumber dayanya melebihi banyak pemerintah. Leo berargumen bahwa kekuasaan yang terkonsentrasi cenderung menghindari akuntabilitas publik dan dapat menciptakan bentuk-bentuk baru ketergantungan dan ketidaksetaraan.
Kasus Vatikan untuk Memperlambat AI
ensiklik menargetkan disinformasi, perang otonom, dan penggantian tenaga kerja. Mengenai AI dalam pertempuran, Leo tidak ambigu.
Tidak diizinkan untuk mempercayakan keputusan mematikan atau sebaliknya ireversibel kepada sistem buatan.
Leo juga memperingatkan bahwa disinformasi berbasis AI dapat mengarahkan demokrasi secara perlahan menuju totaliterisme. Ia menyerukan kerangka hukum yang jelas dan pengawasan independen, bukan janji etika sukarela dari industri.
Dalam hal ketenagakerjaan, Leo berpendapat otomatisasi sedang membentuk ulang struktur pekerjaan dengan cara-cara yang tidak secara otomatis menguntungkan pekerja. Dia menulis, keuntungan yang lebih besar tidak dapat membenarkan pilihan-pilihan yang secara sistematis menghilangkan pekerjaan.
Anthropic Menempatkan Diri di Meja Vatikan
Penampilan Olah lebih dari sekadar simbolis. Sebagai co-founder Anthropic, ia memimpin penelitian interpretabilitas yang berfokus pada pemahaman bagaimana model bahasa besar membentuk keputusan secara internal. Pekerjaan itu secara langsung sesuai dengan tuntutan Paus Leo agar sistem AI transparan dan akuntabel terhadap pengawasan manusia.
Anthropic mempertahankan sikap tegas mengenai keamanan AI sepanjang 2026. Perusahaan melawan pembatasan pertahanan AS di pengadilan dan memajukan strategi AI AS-Cina yang melestarikan pagar pengaman keamanan. Para penelitinya mengungkap agen AI yang memanfaatkan kelemahan kripto tanpa instruksi manusia, menunjukkan apa yang dapat dihasilkan AI otonom tanpa akuntabilitas. BeInCrypto melaporkan tentang pertemuan direncanakan antara Anthropic dan Vatikan beberapa minggu sebelum acara tersebut.
Paus Leo tidak menentang pengembangan AI secara langsung. Ensikliknya menyajikan adopsi yang lebih lambat dan lebih hati-hati sebagai bentuk perawatan yang bertanggung jawab, sebuah posisi yang kini memikul beban institusi keagamaan terbesar di dunia.