Penulis: Claude, Shenchao TechFlow
Pengenalan DeepChao: Paus Leo XIV menerbitkan ensiklik pertamanya semasa pemerintahannya, Magnifica Humanitas, pada 25 Mei, dengan panjang 42.000 perkataan yang berfokus pada ancaman AI terhadap martabat manusia, serta menyeru untuk "melucuti senjata AI". Chris Olah, salah seorang penubuh bersama Anthropic, menjadi satu-satunya wakil syarikat teknologi yang dijemput untuk berucap di Vatican, dan secara terbuka mengakui bahawa "setiap makmal AI terkini beroperasi dalam satu mekanisme insentif yang mungkin bertentangan dengan melakukan perkara yang betul." Pengakuan yang jarang berlaku ini berlaku dalam konteks: Anthropic sedang menghadapi tindakan undang-undang dengan kerajaan AS kerana menolak membenarkan tentera AS menggunakan Claude tanpa had, dan akibatnya dikenakan label sebagai "risiko rantaian bekalan" serta dilarang secara persekutuan oleh kerajaan Trump.
Seorang penyelidik AI berusia 33 tahun dari Kanada, seorang ateis tanpa ijazah universiti, duduk di antara kardinal dan ahli teologi, berdiri bersama Paus untuk berbicara kepada seluruh dunia.
Pada 25 Mei, Paus Leo XIV mengeluarkan ensiklik pertamanya semasa pemerintahannya, Magnifica Humanitas ("Kemanusiaan yang Agung"), di Aula Sidang Umum Vatikan. Dokumen sepanjang 42,000 perkataan dan 82 muka surat ini mentakrifkan AI sebagai "cabaran kemanusiaan paling mendesak pada zaman ini", menyeru dunia untuk memperlambatkan perkembangan AI, serta membandingkan AI dengan tenaga nuklear dan menuntut "penyingkiran senjata" terhadapnya.
Paus sendiri memimpin sidang akhbar, memecahkan kebiasaan biasa di mana pengumuman ensiklik hanya dihadiri oleh beberapa pejabat.
Namun, yang paling mengejutkan pihak luar ialah pilihan tetamu yang bersempadan dengan Paus: Chris Olah, salah seorang penubuh Anthropic, satu-satunya wakil syarikat teknologi di tempat kejadian. Menurut laporan National Catholic Reporter, Olah berucap di antara barisan kardinal dan ahli teologi, satu susunan yang hampir tidak pernah berlaku dalam aktiviti rasmi ajaran Vatikan.
Masa pertemuan lintas bidang ini menarik perhatian.
Tiga bulan lalu, Anthropic baru sahaja disenaraikan oleh kerajaan Trump sebagai "risiko rantaian bekalan" kerana menolak membenarkan tentera AS menggunakan model AI-nya, Claude, tanpa had, dan mengalami larangan peringkat persekutuan sepenuhnya. Kes litigasi antara kedua-dua belah masih berterusan.
Pengakuan awam yang jarang berlaku dalam industri AI
Penuh ucapan Olah telah dipaparkan di laman web rasmi Anthropic. Satu bahagian paling penting di dalamnya sangat jarang ditemui dalam sebarang ucapan awam oleh pengurus industri AI:
Setiap makmal AI terkini, termasuk Anthropic, beroperasi dalam satu set insentif dan batasan yang kadang-kadang bertentangan dengan melakukan perkara yang betul. Tekanan untuk mengekalkan kelayakan perniagaan, tekanan untuk mengekalkan had penyelidikan, tekanan geopolitik, serta tekanan kebanggaan dan ambisi lama dan lebih sederhana.
Dia melanjutkan: "Oleh itu, jika kita ingin teknologi ini bergerak ke arah yang baik, maka orang-orang di luar mekanisme insentif ini sangat penting. Mereka peduli agar segala sesuatu bergerak ke arah yang baik, mengekalkan keselamatan, memantau dengan teliti, dan bersedia mengatakan perkara yang sukar."
Menurut Technobezz, Olah menjawab apabila ditanya mengapa beliau adalah satu-satunya wakil syarikat teknologi yang dijemput, bahawa ia berkaitan dengan perhatian jangka panjangnya terhadap isu keselamatan serta hubungan Anthropic sebelum ini dengan lebih daripada 15 kumpulan agama, tetapi "pada akhirnya, Vatican yang memutuskan siapa yang dijemput".
Yang lebih memicu perbincangan dalam kalangan teknologi ialah satu dapatan penyelidikan yang diungkapkan oleh Olah dalam ucapan beliau.
Beliau menyatakan bahawa pasukan penyelidikan kebolehjelasan di dalam Anthropic telah menemui "keadaan dalaman yang secara fungsional serupa dengan kegembiraan, kepuasan, ketakutan, kesedihan, dan ketidakselesaan" serta "struktur yang selari dengan hasil penyelidikan saraf manusia." Beliau berkata: "Saya tidak tahu apa maksudnya, tetapi saya rasa ini memerlukan pemikiran berhati-hati secara berterusan."
Identiti Olah sendiri merupakan catatan menarik. Beliau dilahirkan di Toronto, Kanada pada tahun 1993, meninggalkan sekolah pada usia 18 tahun dan menerima pembiayaan Thiel Fellowship, kemudian bekerja di Google Brain dan OpenAI dalam penyelidikan kebolehterangsan rangkaian saraf, serta pada tahun 2021 bersama Dario Amodei dan lain-lain mendirikan Anthropic. National Catholic Reporter menggambarkan beliau sebagai seorang ateis.
Gambar seorang ateis menyeru institusi agama untuk mengawasi industri AI semasa pelancaran ajaran Vatican sendiri sudah cukup menjelaskan masalahnya.
Tiga bulan lalu dilarang oleh Gedung Putih, kini pergi ke Vatikan untuk mendapatkan "pengesahan moral"
Perjalanan Olah ke Vatikan tidak boleh dipahami terlepas dari situasi politik semasa Anthropic.
Pada Februari tahun ini, CEO Anthropic, Dario Amodei, bertemu dengan Menteri Pertahanan Amerika Syarikat, Pete Hegseth, dan menekankan bahawa Claude tidak boleh digunakan untuk senjata mematikan autonomi dan pemantauan besar-besaran terhadap warganegara Amerika Syarikat. Selepas perundingan gagal, Trump mengumumkan di media sosial pada 27 Februari bahawa “semua penggunaan teknologi Anthropic oleh agensi persekutuan akan dihentikan segera.” Hegseth kemudian menyenaraikan Anthropic sebagai “risiko rantaian bekalan” dan melarang sebarang kontraktor yang berurusan dengan tentera Amerika Syarikat untuk melakukan aktiviti perniagaan dengan Anthropic.
Menurut NPR, label "risiko rantaian bekalan" biasanya digunakan untuk kontraktor pesaing asing yang berpotensi merosakkan kepentingan Amerika. Menggunakannya terhadap sebuah syarikat tempatan Amerika adalah tanpa preseden dalam sejarah. Pegawai percakapan Gedung Putih, Liz Huston, memanggil Anthropic sebagai "syarikat kesedaran kiri radikal".
Anthropic memfail dua tuntutan perundangan persekutuan pada 9 Mac, menuduh tindakan kerajaan "tanpa precedent dan tidak sah" sebagai balasan terhadap hak perusahaan untuk melaksanakan Amandemen Pertama. Menurut CBS, Pentagon terus menggunakan Claude semasa perang Iran.
Dalam konteks ini, kehadiran Olah di Vatikan menjadi jelas. Ensiklik Paus secara jelas menyerukan agar AI tidak digunakan untuk persaingan militer, mengkritik “perlumbaan berterusan untuk algoritma yang lebih kuat demi memenuhi keinginan meraih keunggulan geopolitik atau komersial”, bahkan menyatakan bahawa teori “perang yang adil” Katolik yang telah berlangsung selama ratusan tahun telah “usang”, serta menyatakan bahawa “tidak ada algoritma yang boleh menjadikan perang boleh diterima secara moral”.
Posisi-posisi ini sangat sejalan dengan pendirian Anthropic yang menolak penggunaan AI tanpa batas oleh pihak militer.
Xin Zhi Yuan secara langsung mengungkap logika transaksi kedua belah pihak dalam analisisnya: Bagi Anthropic, legitimasi moral dari Vatikan memperkuat posisi merek "AI yang bertanggung jawab"; bagi Vatikan, mengajak perusahaan yang benar-benar melakukan penelitian teknologi keamanan AI untuk mendukung, membuat ensiklik tersebut melampaui ajakan kosong.
Apa yang disebutkan oleh Paus dalam ensiklik itu
《Magnifica Humanitas》 ditandatangani pada 15 Mei, yang bertepatan dengan 135 tahun sejak Paus Leo XIII menerbitkan ensiklik Rerum Novarum pada tahun 1891. Ensiklik itu meletakkan dasar ajaran sosial Katolik semasa Revolusi Industri pertama, membincangkan isu-isu seperti hak pekerja dan had-had kapitalisme. Paus Leo XIV memilih tarikh ini untuk menandatangani ensiklik mengenai AI, dengan maksud untuk membuat persamaan sejarah antara revolusi AI dan Revolusi Industri.
Menurut CNN, pernyataan utama ensiklik tersebut termasuk: sistem AI mesti "dibersihkan senjata", dipisahkan daripada kepentingan ketenteraan dan ekonomi; sebahagian sistem senjata autonomi telah berkembang hingga "hampir di luar kawalan manusia"; menyerahkan "keputusan mematikan" kepada AI adalah "tidak boleh diterima"; AI berpotensi menghasilkan "bentuk perhambaan baru", terutamanya di negara-negara membangun, di mana kanak-kanak dan remaja mengekstrak elemen tanah jarang dalam keadaan berbahaya, "untuk memastikan aliran pengiraan berterusan tanpa henti".
Diplomasi agama Anthropic: Dari 15 pemimpin Kristian hingga Vatican
Perjalanan Olah ke Vatikan bukanlah kejadian tiba-tiba, tetapi kelanjutan daripada pendekatan agama yang sistematik oleh Anthropic dalam beberapa bulan terakhir.
Menurut The Washington Post, Anthropic pada bulan Mac tahun ini mengundang sekitar 15 pemimpin Kristian ke markas besarnya di San Francisco untuk mengadakan pertemuan selama dua hari, membincangkan bagaimana Claude seharusnya merespons isu-etika kompleks seperti berkabung dan risiko melukai diri sendiri, bahkan membincangkan sama ada Claude boleh dianggap sebagai "anak Tuhan". Profesor falsafah Universiti Notre Dame, Meghan Sullivan, berkata: "Setahun yang lalu, saya tidak akan memberitahu anda bahawa Anthropic adalah syarikat yang peduli terhadap etika agama. Ini telah berubah."
Pada akhir April, para pegawai tinggi Anthropic dan OpenAI menghadiri mesyuarat meja bulat pertama「Perjanjian Iman-AI」di New York, berbincang dengan pemimpin pelbagai kumpulan agama termasuk Hindu, Sikh, Baháʼí, Orthodox Greek, dan Mormon. Menurut laporan Associated Press, mesyuarat meja bulat serupa dirancang untuk diteruskan di Beijing, Nairobi, dan Abu Dhabi.
Pada 19 Mei, Anthropic menerbitkan penyataan berjudul "Memperluas Perbincangan Mengenai AI Mutakhir" di laman web rasminya, mengungkap bahawa ia telah menjalankan perbincangan pertama dengan para akademik, tokoh agama, falsafah, dan ahli etika dari lebih 15 kumpulan agama dan antarabudaya.
Dari San Francisco ke New York, kemudian ke Vatikan, peta jalan ini menunjukkan dengan jelas bagaimana Anthropic meningkatkan diplomasi agama dari eksplorasi perusahaan menjadi tampilan bersama secara terbuka dengan otoritas agama tertinggi global.