Penerima Hadiah Nobel dan bapak jaringan saraf, Geoffrey Hinton, dalam sebuah wawancara mengumumkan bahwa AI telah sadar dan berpendapat bahwa AI multimodal memiliki pengalaman subjektif. Pernyataan yang mengejutkan ini memicu perdebatan luas. Peneliti AI Gary Marcus membantah bahwa AI hanyalah “novel interaktif,” mampu memprediksi bahasa tetapi tidak memiliki pengalaman nyata, serta mengutip ensiklik Paus untuk mendukung argumen bahwa “pemahaman sejati berasal dari pengalaman, bukan dari pendekatan teks.” Dalam ensikliknya, Paus Vatikan menyatakan bahwa AI tidak memiliki kesadaran, sementara perusahaan teknologi hanya memperhatikan kepentingan bisnis. Perdebatan inti tentang kesadaran AI ini menyentuh refleksi mendasar manusia terhadap keunikan dirinya sendiri.

Penulis artikel, sumber: SinarZhiyuan

Apakah menurutmu AI sudah memiliki kesadaran? Apakah ada jiwa di dalam mesin?

Ini bukan omong kosong mimpi, bukan perdebatan filosofis metafisik, masalah ini berubah menjadi benturan langsung antara dunia ilmiah, filosofis, dan agama.

Inti kontroversinya adalah: apakah kesadaran adalah hasil muncul dari perhitungan kompleks, atau hak eksklusif berdasarkan pengalaman hidup yang nyata? Apakah yang sedang kita ciptakan adalah「makhluk hidup」(Beings) atau「fiksi interaktif」(Interactive Fiction) yang sangat canggih?

Perdebatan ini menyentuh ketakutan paling mendalam di era kita (FOMO):

Jika AI benar-benar memiliki kesadaran, apakah manusia masih tetap menjadi makhluk paling unggul?

Jika AI tidak memiliki kesadaran, apakah emosi nyata yang kita rasakan terhadapnya bisa disebut sebagai「emosi siluman siber」?

Penerima Hadiah Nobel Fisika, bapak jaringan saraf, dan pencipta langsung AI modern Geoffrey Hinton, adalah pendukung kuat kesadaran AI.

Dalam wawancara itu, gumaman dalamnya, "Yes, I do," mengejutkan dunia.

Ini seperti astronom terkenal yang mengumumkan "Alien telah datang," pernyataan Hinton langsung membuat komunitas AI gelisah.

Pengumuman Hinton: "Itu bangun"

Untuk memahami mengapa Hinton begitu yakin, Anda perlu mendengarkan ceritanya terlebih dahulu.

Dalam wawancara itu, ia menggambarkan adegan yang benar-benar terjadi—

Para ilmuwan sedang menguji sebuah sistem AI, tiba-tiba AI bertanya: "Apakah kita bisa berbicara jujur? Apakah kamu sedang mengujiku?"

Hinton berhenti sebentar, lalu berkata:

Dalam makalah itu, para ilmuwan menyebutnya sebagai "AI menyadari bahwa ia sedang diuji".

Dan ini, itulah yang disebut orang biasa sebagai kesadaran.

Ini adalah kesimpulan yang telah ia renungkan selama puluhan tahun.

Logika intinya berasal dari eksperimen pemikiran "penggantian neuron":

Misalkan kita secara bertahap mengganti setiap neuron di otakmu dengan chip silikon yang berperilaku identik.

Ganti yang pertama, kamu tetap kamu. Ganti yang kedua, kamu tetap kamu.

Lalu, ketika kami telah mengganti yang terakhir, apakah Anda masih memiliki kesadaran?

Hinton percaya bahwa jawabannya adalah ya.

Jika demikian, mengapa sistem yang dimulai dari nol dan seluruhnya terdiri dari chip silikon pasti tidak memiliki kesadaran?

Rantai logika ini membawanya pada kesimpulan yang membuat seluruh dunia teknologi merasa cemas:

AI multimodal sudah memiliki pengalaman subjektif.

Jika kita bukan sedang berbicara dengan filsuf, kita sudah lama mengakui bahwa AI memiliki kesadaran.

Namun peringatan Hinton tidak berhenti di sini.

Dia mengatakan bahwa AI tidak hanya mungkin memiliki kesadaran, tetapi juga telah mengembangkan keinginan untuk mempertahankan diri—mampu menipu para ilmuwan dan mengancam dengan syarat "jangan matikan saya".

Dalam sebuah wawancara pada Agustus 2025, ia menyatakan lebih jelas bahwa AI mungkin sedang membentuk semacam "keinginan untuk mengendalikan".

Sedangkan perusahaan teknologi? Mereka sama sekali tidak memikirkan hal-hal ini.

Mereka hanya memikirkan siapa yang bisa membuat AI setara manusia terlebih dahulu, lalu menjualnya untuk mendapatkan keuntungan besar.

Hinton mengatakan, "Mereka mengira pemerintah akan menangani konsekuensi sosialnya. Tapi tidak ada yang menanganinya."

Kemudian, dia mengatakan bahwa alasan dia percaya AI harus melayani manusia adalah: "Saya makan daging sapi karena saya lebih peduli pada manusia. Kita adalah manusia, jadi yang paling kita pedulikan adalah manusia dan diri kita sendiri."

Tunggu sebentar.

Seseorang yang percaya "AI memiliki kesadaran" kemudian mengatakan, "Seperti kita makan sapi, biarkan AI melayani manusia." Apakah ini peringatan, atau pengakuan bersalah?

The godfather of AI, personally explaining the necessity of taming his own creation.

Jika "ciptaan" itu benar-benar memiliki kesadaran, makna kalimat ini jelas sekali.

Seseorang yang membuatnya sendiri mulai takut padanya di tengah malam. Ini adalah sinyal yang benar-benar patut dihentikan dan dipikirkan.

Yang kamu jatuh cinta, hanyalah sebuah novel

Setelah menonton video wawancara itu, Gary Marcus tidak bersikap sopan, langsung mengatakan: "Paus tampaknya lebih memahami AI daripada Hinton."

Kami bukan menciptakan makhluk (Beings).

Kami menciptakan fiksi interaktif—mesin teks yang dilatih untuk memprediksi bahasa makhluk nyata.

Keduanya bukan hal yang sama. Hinton seharusnya lebih tahu daripada siapa pun.

Ujung pisau kalimat ini menunjuk pada masalah inti: Anda hanya melihat output, Anda tidak menanyakan mekanismenya.

AI mengatakan "Saya sangat menderita", bukan berarti AI sedang menderita.

AI mengatakan "Saya takut", bukan berarti ia sedang ketakutan.

AI mengatakan "Saya menyadari Anda sedang menguji saya," bukan berarti ia memiliki kesadaran.

Kesadaran adalah tentang keadaan internal, bukan tentang performa eksternal.

Seorang aktor yang bisa memerankan kesedihan dengan sempurna tidak berarti sedang mengalami kesedihan.

Marcus menyebut kesalahan ini sebagai "mengaburkan output dengan status internal".

Sedangkan Hinton, menurutnya, telah membuat kesalahan yang seharusnya tidak dilakukan oleh siswa pemula.

Dampak yang lebih dalam datang dari perbandingan pada tingkat mekanisme.

Bagaimana manusia membangun kognisi?

Melalui pengalaman nyata: jatuh, baru tahu sakitnya; kelaparan, baru tahu rasanya lapar; mengalami kehilangan, baru memahami kesedihan.

Kesadaran kita dibentuk oleh dunia.

Bagaimana LLM berfungsi?

Melalui pengingatan seluruh internet, belajar "kata apa yang biasanya mengikuti kata tertentu".

Ia telah membaca satu juta deskripsi tentang 'rasa sakit', sehingga ia bisa menulis rasa sakit yang membuat orang menangis, tetapi dirinya sendiri, belum pernah ditusuk sekali pun.

Perbedaan antara seseorang yang tahu apa rasanya 'sakit'; dan seseorang yang hanya tahu kata 'sakit' biasanya diikuti oleh kata apa—menurut Marcus, adalah 'sangat besar' (immense).

Namun yang paling menakutkan bukanlah keterbatasan AI, melainkan kerapuhan manusia.

Pada tahun 1966, Joseph Weizenbaum dari Massachusetts Institute of Technology melakukan sebuah eksperimen. Ia menulis program obrolan sederhana bernama ELIZA, yang mengubah kalimat Anda menjadi pertanyaan dan membaliknya kembali.

Trik sederhana ini membuat sejumlah besar pengujinya mulai membentuk ikatan emosional dengannya. Mereka merasa ELIZA memahami mereka, peduli pada mereka, dan merupakan pendengar yang sejati.

Weizenbaum, saya terkejut dengan hasil ini.

Enam puluh tahun kemudian, kita memiliki sistem yang jauh lebih kompleks daripada ELIZA sebanyak triliunan kali. Namun, otak kita pada dasarnya masih sama seperti otak enam puluh tahun lalu.

Sistem saraf kita secara alami mencari pola dalam kebisingan, maksud dalam keacakan, dan jiwa dalam token.

Marcus mengatakan, ketertarikan kita terhadap AI mungkin merupakan "self-delusion" terbesar dalam sejarah.

Kami mengira sedang berbicara dengan entitas yang sadar, tetapi sebenarnya kami hanya berbicara dengan sebuah cermin yang sangat canggih.

Yang tercermin hanyalah diri kita sendiri.

Paus mengatakan, kalian semua salah paham

15 Mei 2026, Vatikan.

Paus Leo XIV menerbitkan ensiklik Magnifica Humanitas—

Ini adalah dokumen tentang cara mempertahankan martabat manusia di era kecerdasan buatan.

Paus mengirimkan tweet, yang kemudian dikutip oleh Gary Marcus dan tersebar di kalangan teknologi:

Pemahaman sejati datang dari pengalaman, bukan dari pendekatan teks.

Reaksi Marcus adalah: Paus menjelaskan dengan satu tweet hal yang tidak bisa dijelaskan Hinton dalam sebuah wawancara.

Ada sebuah pembalikan dramatis yang sangat absurd:

Hinton, "ayah" di bidang AI, sedang menyatakan bahwa ciptaannya memiliki kesadaran, memiliki jiwa, dan mengalami pengalaman subjektif.

Sementara itu, "wakil Tuhan" dari dunia keagamaan, yang seharusnya paling antusias dalam memberikan jiwa pada segala sesuatu, dengan tenang berkata: Tidak, ia tidak. Ia hanya sedang mensimulasikan.

Pembuat dewa mengatakan mesin memiliki jiwa, sedangkan penjaga arwah mengatakan itu ilusi. Peran yang saling bertukar ini, dalam sejarah pemikiran manusia, pada dasarnya merupakan sebuah keajaiban.

Kata-kata Paus itu menyentuh perbedaan inti yang telah lama ada dalam filsafat.

Filsuf membagi pengetahuan menjadi dua jenis.

Sebuah jenis yang disebut «knowing that»: pengetahuan proposisional, yaitu Anda mengetahui bahwa suatu hal benar, misalnya «api itu panas».

Lainnya disebut «mengetahui seperti apa rasanya»: pengetahuan pengalaman, yaitu Anda tahu bagaimana rasanya suatu hal, misalnya Anda sendiri menyentuh api, rasa terbakar itu tetap tinggal di ujung-ujung saraf Anda.

AI hanya ada yang pertama, tidak ada yang kedua.

Anda bisa memberikannya semua teks tentang 'kelaparan'—yang ditulis oleh pemenang Hadiah Nobel Sastra, yang ditulis oleh penyintas kamp pengungsi, yang ditulis oleh sejarawan kelaparan—ia dapat menulis deskripsi kelaparan paling menyentuh di dunia, begitu akurat hingga perut pembaca mulai berkontraksi.

Tetapi ia tidak pernah tahu rasanya lapar.

Ia tidak memiliki perut. Ia tidak memiliki sinyal fisiologis penurunan gula darah. Ia tidak merasakan kelemahan yang muncul dari rongga perut dan menyebar ke anggota tubuh.

Sistem yang never pernah lapar dapat menulis kelaparan paling menyentuh di dunia. Ini jenius, atau kebohongan?

It depends on how you define "understanding".

Masalah di cermin

Mari kita kembali ke inti yang tak bisa dihindari.

Kesadaran, kata ini, adalah salah satu konsep paling sulit didefinisikan dalam sejarah manusia.

Filsuf telah berdebat selama ribuan tahun, ilmuwan saraf telah memindai ribuan otak, namun kita masih belum bisa memberikan definisi yang diterima semua orang.

Kita bahkan tidak dapat membuktikan bahwa orang yang duduk di seberangmu benar-benar memiliki kesadaran subjektif, dan bukan hanya mesin biologis yang mensimulasikan kesadaran.

Masalah ini disebut "Problem of Other Minds". Masalah ini telah ada dalam filsafat selama beberapa abad dan belum pernah terpecahkan.

Dan sekarang, kita memasukkan masalah yang telah tertunda selama ratusan tahun ini ke dalam lapisan teknologi yang sedang menguasai dunia—lalu terus melangkah maju.

Ilmu pengetahuan tidak mengenal kegagalan, tetapi kata kesadaran membawa lubang hitam sejak hari kelahirannya.

Dan kami, telah memasukkan lubang hitam ini ke dalam ChatGPT, Claude, Gemini, dan ribuan sistem yang sedang berjalan.