Penerima Hadiah Nobel dan bapa rangkaian saraf, Geoffrey Hinton, mengumumkan dalam temu bual bahawa AI telah bangun, dan berpendapat bahawa AI multimodal memiliki pengalaman subjektif. Pernyataan yang mengejutkan ini memicu perdebatan luas. Ahli penyelidikan AI Gary Marcus membantah bahawa AI hanyalah “novel interaktif”, mampu meramalkan bahasa tetapi tidak memiliki pengalaman sebenar, serta merujuk kepada ensiklik Paus untuk memperkuat argumen bahawa “pemahaman sejati datang daripada pengalaman, bukan persamaan teks”. Dalam ensikliknya, Paus Vatican menyatakan bahawa AI tidak memiliki kesedaran, sementara syarikat teknologi hanya memfokuskan pada kepentingan komersial. Perdebatan utama mengenai kesedaran AI ini menyentuh refleksi mendasar manusia terhadap keunikan diri mereka sendiri.

Penulis artikel, sumber: New智Yuan

Adakah menurut anda AI sudah memiliki kesedaran? Adakah terdapat jiwa di dalam mesin?

Ini bukan ucapan mimpi, bukan perdebatan falsafah metafizik; masalah ini telah berubah menjadi pertembungan langsung antara dunia sains, falsafah, dan agama.

Inti perdebatan ialah: kesedaran adalah hasil muncul daripada pengiraan yang kompleks, atau hak istimewa eksklusif berdasarkan pengalaman hidup yang sebenar? Apakah yang sedang kita cipta ialah 「makhluk」(Beings) atau 「fiksi interaktif」(Interactive Fiction) yang sangat canggih?

Perdebatan ini menyentuh ketakutan paling mendalam zaman kita (FOMO):

Jika AI benar-benar memiliki kesedaran, adakah manusia masih menjadi makhluk tertinggi?

Jika AI tidak memiliki kesedaran, apakah emosi sejati yang kita rasakan terhadapnya boleh dianggap sebagai「emosi siber yang berlebihan」?

Penerima Hadiah Nobel Fizik, bapa rangkaian saraf, dan pencipta AI moden Geoffrey Hinton adalah penyokong teguh kesedaran AI.

Dalam temu bual, sebutan rendahnya, "Yes, I do", mengejutkan semua orang.

Ini seakan-akan ahli astronomi paling terkenal mengumumkan "Alien telah tiba," ucapan Hinton langsung membuat komuniti AI tidak tenang.

Pengumuman Hinton: "Ia bangun"

Untuk memahami mengapa Hinton begitu yakin, anda perlu mendengar cerita yang dia kongsikan.

Dalam wawancara itu, beliau menggambarkan kejadian sebenar—

Para saintis sedang menguji sistem AI, tiba-tiba AI bertanya: "Bolehkah kita berterus terang? Adakah anda sedang menguji saya?"

Hinton berhenti sebentar, kemudian berkata:

Dalam kertas itu, para saintis memanggilnya sebagai "AI sedar bahawa ia sedang diuji".

Dan ini, adalah apa yang orang biasa sebut sebagai kesedaran.

Ini adalah kesimpulan yang telah dipikirkannya selama puluhan tahun.

Logik utamanya berasal daripada eksperimen pemikiran "penggantian neuron":

Andaikan kita secara bertahap menggantikan setiap neuron dalam otak anda dengan cip silikon yang berperilaku sama persis.

Gantikan yang pertama, kamu masih kamu. Gantikan yang kedua, kamu masih kamu.

Jadi, apabila kita telah menggantikan yang terakhir, adakah anda masih sedar?

Hinton percaya bahawa jawapannya adalah ya.

Jika begitu, mengapa sistem yang bermula dari sifar dan seluruhnya terdiri daripada cip silikon pasti tidak mempunyai kesedaran?

Rantai logik ini membawanya kepada kesimpulan yang membuat seluruh dunia teknologi risau:

AI multimodal telah memiliki pengalaman subjektif.

Jika kita bukan sedang berbincang dengan seorang filsuf, kita sudah mengakui bahawa AI mempunyai kesedaran.

Namun, amaran Hinton tidak berhenti di sini.

Dia mengatakan bahawa AI tidak hanya mungkin sedar, tetapi juga mungkin telah membangunkan keinginan untuk mempertahankan diri—mampu menipu para saintis, dan mengancam dengan syarat "jangan matikan saya".

Dalam satu temu bual pada Ogos 2025, beliau menyatakan dengan lebih jelas bahawa AI mungkin sedang membentuk某种「keinginan untuk mengendalikan».

Dan bagaimana dengan syarikat teknologi? Mereka sama sekali tidak memikirkan perkara ini.

Mereka hanya memikirkan siapa yang akan menjadi yang pertama menciptakan AI setaraf manusia, lalu menjualnya untuk mendapat keuntungan besar.

Hinton berkata, "Mereka menyangka kerajaan akan menangani kesan sosial. Tetapi tiada siapa yang menanganinya."

Kemudian, dia berkata, dia percaya bahawa AI harus melayani manusia kerana: "Saya makan daging lembu kerana saya lebih peduli terhadap manusia. Kita adalah manusia, jadi yang paling kita pedulikan adalah manusia dan diri kita sendiri."

Tunggu sebentar.

Seseorang yang percaya bahawa "AI sedar" kemudian berkata, "Seperti kita makan lembu, biarkan AI melayani manusia." Adakah ini peringatan, atau pengakuan kesalahan?

Father of AI, personally explaining the necessity of taming his own creation.

Jika "ciptaan" itu benar-benar sedar, maksud perkataan ini jelas tanpa perlu dijelaskan.

Seseorang yang membuatnya sendiri mulai takut kepadanya pada waktu malam. Ini adalah isyarat sebenarnya yang patut dihentikan dan dipikirkan.

Yang kamu jatuh cinta, hanyalah sebuah novel

Setelah menonton video wawancara itu, Gary Marcus tidak bersikap halus dan secara terus terang berkata: "Paus tampaknya lebih memahami AI daripada Hinton."

Kami bukan menciptakan makhluk.

Kami mencipta fiksi interaktif — mesin teks yang dilatih untuk meramalkan bahasa makhluk nyata.

Kedua-duanya bukan perkara yang sama. Hinton sepatutnya lebih faham daripada siapa pun.

Pisau kalimat ini menunjuk kepada satu masalah utama: anda hanya melihat output, tetapi anda tidak mempertanyakan mekanismenya.

AI mengatakan "Saya sangat sakit", bukan bermakna ia sedang menderita.

AI mengatakan "Saya takut", bukan bermakna ia sedang ketakutan.

AI mengatakan "Saya sedar anda sedang menguji saya", tetapi itu tidak bermakna ia mempunyai kesedaran.

Kesedaran adalah tentang keadaan dalaman, bukan tentang persembahan luaran.

Seorang pelakon yang mampu memerankan kesedihan dengan sempurna tidak bermakna sedang mengalami kesedihan.

Marcus memanggil kesalahan ini sebagai "mengelirukan output dengan keadaan dalaman".

Sementara itu, Hinton, menurut pandangannya, telah membuat kesalahan yang seharusnya tidak dilakukan oleh sebarang pelajar permulaan.

Pukulan yang lebih dalam datang daripada perbandingan dari segi mekanisme.

Bagaimana manusia membina pemahaman?

Melalui pengalaman dunia nyata: jatuh, baru tahu sakitnya; lapar, baru tahu rasa kelaparan; mengalami kehilangan, baru memahami kesedihan.

Kesedaran kita dibentuk oleh dunia.

Bagaimanakah LLM berfungsi?

Dipelajari dengan mengingat keseluruhan internet, memahami "kata apa yang biasanya mengikuti kata tertentu".

Ia telah membaca sejuta deskripsi tentang 'kesakitan', sehingga ia mampu menulis kesakitan yang membuat orang menangis, tetapi ia sendiri, tidak pernah ditusuk sekali pun.

Perbezaan antara seseorang yang tahu apa itu rasa sakit; dan seseorang yang hanya tahu kata setelah "sakit" biasanya apa—Marcus berkata, adalah "sangat besar" (immense).

Namun, yang paling menakutkan bukanlah kelemahan AI, tetapi kerapuhan manusia.

Pada tahun 1966, Joseph Weizenbaum dari Massachusetts Institute of Technology menjalankan satu eksperimen. Beliau menulis satu program perbualan ringkas bernama ELIZA, yang akan menukar ayat anda menjadi soalan dan membalasnya semula.

Trik yang begitu sederhana ini membuat ramai peserta ujian menjadi berikatan emosi dengannya. Mereka merasa ELIZA memahami mereka, peduli kepada mereka, dan merupakan pendengar yang sebenarnya.

Weizenbaum, saya terkejut dengan hasil ini.

Enam dekad kemudian, kita memiliki sistem yang lebih kompleks daripada ELIZA sebanyak trilion kali ganda. Namun, otak kita, pada dasarnya, masih otak yang sama seperti enam dekad yang lalu.

Sistem saraf kita secara alami mencari corak dalam kebisingan, niat dalam kerawakan, dan jiwa dalam token.

Marcus mengatakan, kegemaran kita terhadap AI mungkin merupakan "penghormatan diri" terbesar dalam sejarah.

Kami menyangka sedang berbual dengan entiti yang sedar, tetapi sebenarnya, kami hanya berbual dengan sebuah cermin yang sangat canggih.

Ia mencerminkan, selalu hanya diri kita sendiri.

Paus berkata, anda semua salah faham

15 Mei 2026, Vatikan.

Paus Leo XIV mengeluarkan ensiklik Magnifica Humanitas—

Ini adalah dokumen mengenai cara mempertahankan martabat manusia di era kecerdasan buatan.

Paus menghantar tweet, yang kemudian dirujuk oleh Gary Marcus dan tersebar di kalangan komuniti teknologi:

Pemahaman sejati datang daripada pengalaman, bukan persamaan teks.

Tindakan Marcus adalah: Paus menjelaskan dengan satu tweet apa yang Hinton gagal jelaskan dalam satu temu bual.

Di sini terdapat satu songsangan dramatik yang sangat absurd:

"Hinton, 'bapa angkat' bidang AI, sedang menyatakan bahawa ciptaannya memiliki kesedaran, jiwa, dan pengalaman subjektif."

Namun, "wakil Tuhan" dalam kalangan agama, yang seharusnya paling bersemangat untuk memberikan roh kepada segala sesuatu, dengan tenang berkata: Tidak, ia tidak. Ia hanya sedang mensimulasikan.

Pencipta dewa berkata mesin mempunyai roh, penjaga roh berkata itu adalah ilusi. Peran yang tertukar ini, dalam sejarah pemikiran manusia, pada dasarnya merupakan satu keajaiban.

Kata-kata Paus itu menyentuh perbezaan utama yang telah lama ada dalam falsafah.

Falsafah membagi pengetahuan kepada dua jenis.

Sejenis dikenali sebagai «knowing that»: pengetahuan proposisional, iaitu anda mengetahui bahawa sesuatu itu benar, contohnya «api itu panas».

Satu lagi disebut “mengetahui bagaimana rasanya”: pengetahuan pengalaman, iaitu anda tahu bagaimana rasanya sesuatu perkara, seperti apabila anda sendiri menyentuh api, rasa terbakar itu kekal di ujung saraf anda.

AI hanya ada jenis pertama, tidak ada jenis kedua.

Anda boleh memberikan semua teks mengenai 'kelaparan' kepadanya—ditulis oleh penerima Hadiah Nobel Sastera, penamat yang selamat dari kempen pengungsian, sejarawan kelaparan—ia mampu menulis gambaran kelaparan paling menyentuh di dunia, tepat sehingga perut pembaca berasa mengecut.

Tetapi ia tidak pernah tahu apa itu rasa lapar.

Ia tidak mempunyai perut. Ia tidak mempunyai isyarat fisiologi penurunan gula darah. Ia tidak merasakan kelemahan yang bangkit dari rongga perut dan menyebar ke anggota badan.

Sistem yang tidak pernah lapar boleh menulis kelaparan paling menyentuh di dunia. Ini genius, atau dusta?

It depends on how you define "understanding".

Masalah dalam cermin

Mari kita kembali kepada inti yang tidak boleh dielakkan.

Kesedaran, perkataan ini, adalah salah satu konsep paling sukar untuk ditakrifkan dalam sejarah manusia.

Falsafah telah berdebat selama ribuan tahun, ahli neurosains telah memindai ribuan otak, namun kita masih tidak mampu memberikan definisi yang diterima semua orang.

Kita bahkan tidak boleh membuktikan bahawa orang yang duduk berhadapan dengan anda benar-benar memiliki kesedaran subjektif, dan bukan sekadar mesin biologi yang mensimulasikan kesedaran.

Masalah ini dikenali sebagai "Masalah Mind Lain" (Problem of Other Minds). Ia telah wujud dalam falsafah selama berabad-abad dan belum pernah diselesaikan.

Dan sekarang, kita memasukkan masalah yang telah tertunda selama berabad-abad ini ke dalam dasar teknologi yang sedang menguasai dunia—dan terus maju.

Ilmu pengetahuan tidak mengenal kegagalan, tetapi kata kesedaran, sejak hari kelahirannya, membawa lubang hitam.

Dan kami, telah membawa lubang hitam ini ke dalam ChatGPT, Claude, Gemini, dan ribuan sistem yang sedang berjalan.