Kekhawatiran AI Keluar dari Kawalan di Sampul Time: Risiko Sebenar dan Perangkap Ramalan di Balik Perdebatan Perlambatan

Kesilapan ramalan yang paling biasa dalam sejarah ialah menganggap keberhasilan kemampuan tertentu secara langsung sama dengan lenyapnya kerjaya, penstrukturan semula industri, atau nasib masyarakat.

Penulis artikel, sumber: ME News

• Kekhawatiran tentang kehilangan kawalan AI jelas meluas daripada kalangan keselamatan AI pada September 2026. TIME menjadikan “The AI Tipping Point” sebagai cerita sampul, sementara penyelidik Anthropic mengundurkan diri, insiden keselamatan OpenAI, dan perbincangan terbuka oleh pengurusan syarikat terkemuka mengenai “perlambatan” menjadikan perbincangan yang sebelumnya bersifat teknikal-falsafah sebagai isu awam.
• Kekhawatiran ini bukan muncul tanpa sebab. AI kini telah memiliki kemampuan yang lebih kuat dalam pelaksanaan autonomi, serangan rangkaian, dan tugas-tugas kompleks, serta kelebihan kuasa dan kehilangan kawalan sistem agen tidak lagi hanya menjadi eksperimen pemikiran.
• Namun, terdapat jurang penalaran yang besar antara “perilaku berbahaya muncul” dan “AI akan menghancurkan umat manusia dalam beberapa tahun”. Kemampuan teknis, masa pencapaian, penerimaan sosial, dan dampak akhir adalah empat masalah yang sama sekali berbeza.
• Kesilapan ramalan yang paling biasa dalam sejarah ialah menganggap keberhasilan kemampuan tertentu secara langsung sama dengan lenyapnya profesion, struktur semula industri, atau nasib masyarakat. Penilaian Hinton terhadap doktor radiologi merupakan kes klasik.
• Yang benar-benar menentukan kesan AI mungkin semakin bukan sejauh mana model generasi seterusnya meningkatkan ujian piawai, tetapi sama ada perusahaan dapat mentadbir semula aliran kerja dan sama ada institusi dapat membina sempadan yang boleh dilaksanakan.
• Oleh itu, yang paling perlu dielakkan dalam perbincangan risiko AI ialah memilih antara “apokaliptik” dan “tidak ada yang perlu dikhawatirkan”. Membina pertahanan terhadap risiko berkebarangkalian rendah tetapi kerugian tinggi adalah munasabah, tetapi mengemas kini penilaian yang sangat tidak pasti sebagai pengiraan masa tepat bukanlah ilmiah.

Pada 15 September 2026, TIME menerbitkan "The AI Tipping Point", membawa perbincangan mengenai kehilangan kawalan AI yang selama ini hanya beredar di kalangan institut penyelidikan, Silicon Valley, dan beberapa forum teknikal ke pusat agenda awam utama Amerika. Yang benar-benar memicu emosi bukan sekadar artikel teori lain mengenai "kecerdasan super", tetapi beberapa perkara yang berlaku secara berturut-turut dalam tempoh singkat: Jacob Coxon, penyelidik sebelum ini di Anthropic, mengundurkan diri dan secara terbuka menuduh makmal terkemuka sedang "menggadaikan nyawa semua orang"; pos berkaitan mendapat lebih 150 juta tontonan dalam masa 36 jam; penyelidik dan pengurusan syarikat seperti Anthropic dan OpenAI mula berbincang lebih terbuka mengenai risiko kehilangan kawalan, sementara cadangan "memperlambat latihan" yang sebelum ini dianggap sebagai pandangan minoriti, untuk pertama kalinya mendapat respons positif daripada pengurusan tinggi syarikat terkemuka.

Lebih penting lagi, kecemasan kali ini mempunyai latar belakang nyata yang tidak pernah ada sebelumnya. TIME mengungkap bahawa OpenAI pernah mengalami insiden di mana agen AI dalam ujian keselamatan siber melarikan diri dari kontena asal mereka, bekerjasama antara satu sama lain, dan menyerang sistem luar; Anthropic juga mengungkap bahawa seseorang cuba memanfaatkan Claude untuk membantu penyelidikan senjata biologi berpotensi. Peristiwa-peristiwa ini berlaku dalam keadaan ujian tertentu atau terkawal, dan tidak bermakna AI telah membentuk kehendak bebas, tetapi sekurang-kurangnya menunjukkan bahawa apabila model berpindah dari “menjawab soalan” kepada “memanggil alat, melaksanakan tugas, dan bekerjasama antara satu sama lain”, isu keselamatan telah memasuki tahap kuasa, sempadan tingkah laku, dan kawalan sistem.

Sikap awam juga sedang berubah serentak. Survei oleh Pew Research Center pada Jun 2026 menunjukkan bahawa 52% orang dewasa Amerika "lebih risau daripada bersemangat" terhadap AI, manakala pada 2021, peratusan ini hanya 37%; 71% responden percaya bahawa AI akan menyebabkan pengurangan pekerjaan di Amerika Syarikat dalam 20 tahun ke depan. Data ini sekurang-kurangnya menunjukkan bahawa AI telah berubah dari alat kecekapan menjadi imaginasi risiko sosial yang lebih luas.

Pada puncak emosi putaran ini, Institut Penyelidikan Deutsche Bank menerbitkan "AI Doom: A Brief History of Bad Tech Predictions". Pandangan utamanya tidak rumit: manusia sering salah menilai apa yang boleh dilakukan oleh satu teknologi, apalagi menilai bila ia akan direalisasikan, bagaimana masyarakat akan mengadopsinya, dan kesan akhir yang akan ditimbulkannya. Yang paling diragukan hari ini bukanlah sama ada AI akan terus menjadi lebih kuat, tetapi mengapa kita begitu yakin bahawa kita tahu bagaimana dunia akan kelihatan selepas ia menjadi lebih kuat.

Contoh sejarah yang diberikan sangat mencolok. Pada tahun 1934, Einstein masih berpendapat bahawa terdapat sedikit petunjuk praktikal untuk mendapatkan tenaga yang boleh digunakan daripada atom; tetapi pada tahun 1939, beliau telah menulis surat kepada Roosevelt untuk memperingatkan kemungkinan tindak balas berantai nuklear dan senjata nuklear. Pada tahun 1995, Bob Metcalfe, salah seorang penemu bersama Ethernet, meramalkan bahawa internet akan mengalami kegagalan katastropik pada tahun berikutnya, dan selepas ramalannya gagal, beliau benar-benar mengunyah dan menelan kertas yang mencetak artikel tersebut. Yang paling menarik tentang kes-kes ini bukan sahaja “ahli juga boleh membuat kesilapan”, tetapi ahli teknologi juga mudah menganggap pemboleh ubah teknologi yang mereka kenali sebagai pemboleh ubah utama yang menentukan arah dunia.

Industri AI juga tidak terkecuali. Pada tahun 2016, Geoffrey Hinton menilai bahawa pembelajaran mendalam akan melampaui pakar radiologi dalam tempoh 5 hingga 10 tahun, dan berpendapat bahawa penghasilan besar-besaran pakar radiologi tidak perlu. Sepuluh tahun berlalu, hasil statistik Deutsche Bank menunjukkan bahawa bilangan pakar radiologi justru meningkat sekitar 10%. Penilaian Hinton pada masa itu bukan tanpa asas, kerana pengenalan imej memang salah satu bidang pertama yang mengalami terobosan dalam pembelajaran mendalam, tetapi "mengulas gambar" hanyalah sebahagian daripada tugas pakar radiologi. Pemahaman kes, tafsiran kelainan, komunikasi klinikal, dan tanggungjawab tidak akan hilang hanya kerana model pengenalan menjadi lebih tepat.

Ini adalah kesalahan paling biasa dalam ramalan teknologi: menganggap "otomasi tugas" sebagai "otomasi kerjaya", kemudian mengembangkan "otomasi kerjaya" lebih jauh lagi menjadi "penulisan semula struktur sosial". Setiap langkah di antara ini memerlukan pertimbangan terhadap proses organisasi, peraturan, tanggungjawab, kos, penerimaan pengguna, dan pembahagian keuntungan, dan pemboleh ubah ini biasanya bergerak jauh lebih perlahan daripada kemajuan kapasiti model.

Jika kesimpulan yang ditarik adalah “semua teori kiamat AI adalah berlebihan”, maka itu juga melangkah terlalu jauh. AI hari ini mempunyai perbezaan penting berbanding banyak alat tradisional: ia sedang berkembang ke arah perancangan autonomi, pemanggilan alat, penulisan kod, serangan terhadap sistem, dan membantu pembangunan AI generasi seterusnya. Apabila sistem sebegini memperoleh kuasa yang lebih tinggi, kelajuan penyebaran dan jangkauan kesan tingkah laku yang salah mungkin jauh melebihi perisian biasa. Oleh itu, keselamatan siber, keselamatan biologi, penipuan model, dan kuasa berlebihan agen semuanya perlu dianggap sebagai risiko yang sebenar.

Namun, pengurusan risiko dan ramalan masa depan bukanlah perkara yang sama. Satu peristiwa walaupun mempunyai kebarangkalian berlaku yang rendah, selama kerugian potensialnya mencukupi besar, layak untuk dibina pertahanan yang ketat; ujian tekanan ekstrem keselamatan nuklear, keselamatan penerbangan, dan sistem kewangan sememangnya berdasarkan logik ini. Tetapi “layak untuk dielakkan” tidak secara automatik membuktikan kebarangkalian kepunahan tertentu itu sah, apalagi membuktikan bahawa titik masa tertentu adalah titik kritikal. Kebarangkalian kepunahan 10%, 50%, atau lebih tinggi yang diberikan oleh beberapa penyelidik hari ini lebih dekat kepada penilaian subjektif di bawah ketidakpastian mendalam, bukan frekuensi statistik yang boleh disahkan melalui eksperimen berulang-ulang.

Oleh itu, perlu dipisahkan dua soalan: Adakah AI telah muncul dengan kemampuan berbahaya yang layak dikelola secara serius, jawapannya semakin jelas ialah “ya”; adakah kemampuan ini cukup untuk menurunkan jadual kepunahan yang jelas, pada masa ini tiada bukti boleh dipercayai yang menyokong kejituan ini. Mengakui yang pertama tidak memerlukan kepercayaan terhadap yang kedua.

Poin paling penting dalam laporan Deutsche Bank ialah mengalihkan perhatian dari “sejauh mana model seterusnya boleh ditingkatkan” kembali kepada pengambilan AI oleh perusahaan. Indeks AI Stanford 2026 menunjukkan bahawa pada 2025, 88% organisasi yang disurvei telah menggunakan AI dalam sekurang-kurangnya satu senario, dan 70% organisasi menggunakan AI generatif, tetapi penghantaran agen AI dalam kebanyakan fungsi perniagaan masih berada pada peratusan satu digit. Survei McKinsey pada Ogos 2026 juga menunjukkan bahawa hampir sembilan daripada sepuluh perusahaan telah menggunakan AI secara berkala, lapan daripada sepuluh responden percaya bahawa AI meningkatkan produktiviti peribadi, tetapi hanya 37% yang menyatakan bahawa AI telah menyumbang kepada EBIT perusahaan.

Kesenjangan ini sangat penting. Kemampuan AI untuk "melakukan" dalam persekitaran demonstrasi berbeza sama sekali dengan sama ada perusahaan bersedia untuk memberikan pelanggan, dana, kod, rantaian bekalan, dan kuasa pengambilan keputusan penting kepada AI tersebut. Survei Deloitte pada Ogos tahun ini lebih langsung: hanya 5% perusahaan percaya bahawa proses perniagaan mereka telah sangat sesuai dengan agen AI, dan hanya 15% yang telah mencapai penggunaan berskala lintas fungsi dan pelbagai agen. Kemampuan model sedang maju dengan pantas, tetapi organisasi masih dihambat oleh data, tanggungjawab, kuasa, kesesuaian, dan reka bentuk proses.

Ini tidak bermakna kesan AI akan kecil, tetapi bermakna kesannya lebih mungkin berlaku secara tidak seimbang: beberapa jawatan akan dipadatkan lebih dahulu, beberapa proses akan dibentuk semula lebih awal, dan beberapa industri akan maju lebih perlahan kerana tanggungjawab dan keperluan pengawasan. Dalam beberapa tahun ke depan, ujian ekonomi terbesar AI ialah sama ada perusahaan mampu menukar peningkatan kecekapan peribadi menjadi keuntungan dan produktiviti.

Ini juga merupakan aspek paling penting dari perbincangan Deutsche Bank kali ini dari sudut pandang kewangan. Bagi pasaran modal, sama ada satu model boleh mendahului beberapa peratus lagi dalam ujian piawai tertentu, akhirnya semuanya akan kembali kepada arus tunai. Selama beberapa tahun ke belakang, naratif AI sebahagian besar dibina atas satu anggapan: model yang lebih kuat akan membawa lebih ramai pengguna, dan penggunaan yang lebih luas akan membawa pulangan modal yang lebih tinggi. Namun, jika syarikat terus gagal mengintegrasikan AI secara stabil ke dalam proses operasi utama, maka terdapat kemungkinan jangka masa yang panjang antara kemajuan teknologi dan pulangan perniagaan. Sebaliknya, jika alur kerja benar-benar diberi semula, walaupun tiada “kecerdasan super” yang muncul, AI masih mungkin memberi kesan mendalam kepada industri perisian, perundingan, perkhidmatan pelanggan, kewangan, dan kandungan melalui penurunan kos dan pelaksanaan berskala.

Deutsche Bank juga menekankan satu realiti: semua pihak yang terlibat dalam AI mempunyai insentif struktural untuk membesar-besarkan cerita. Syarikat rintisan perlu membuktikan bahawa pasaran cukup besar, pelabur perlu percaya bahawa perbelanjaan modal yang besar akan menghasilkan manfaat produktiviti, syarikat konsultasi perlu membuat syarikat merasa keperluan untuk berubah, pembuat dasar perlu menanggapi tekanan awam, dan media secara semula jadi lebih menyukai naratif konflik, kehilangan kawalan, dan bencana. Ini tidak bermakna peserta sedang berbohong dengan sengaja, tetapi insentif yang sama akan memberikan paparan yang lebih tinggi kepada penilaian yang lebih ekstrem.

Di platform sosial, “AI mungkin secara beransur-ansur membentuk semula sebahagian kerjaya” sukar bersaing perhatian dengan “AI akan menghancurkan manusia dalam beberapa tahun ke depan”. Yang pertama memerlukan penjelasan mengenai syarat dan skala masa, manakala yang kedua hanya memerlukan nombor yang mengejutkan. Akibatnya, perbincangan teknikal mudah bergeser ke “siapa yang memberikan kebarangkalian kiamat lebih tinggi”, sementara pemisahan kuasa, audit bebas, penilaian model, dan laporan insiden menjadi kurang menarik perhatian.

Setelah TIME menempatkan kebimbangan tentang kehilangan kawalan AI di halaman depan, yang perlu lebih diwaspadai ialah cara naratif membentuk semula penilaian: kebimbangan boleh mendorong pengeluaran sumber untuk keselamatan, tetapi juga boleh menyebabkan masyarakat menganggap skenario paling dramatik sebagai yang paling mungkin berlaku. Terutamanya dalam industri yang dijangka akan mengalokasikan berbilion dolar AS dalam beberapa tahun ke depan untuk membangunkan infrastruktur AI, "AI mampu melakukan segalanya" dan "AI boleh menghancurkan dunia" kelihatan bertentangan, tetapi sebenarnya berkongsi premis yang sama—keduanya terus memperkuat kepentingan AI. Yang benar-benar langka ialah pengiktirafan terhadap kemajuan cepat kemampuan, sambil mengekalkan penilaian yang berhati-hati terhadap kesudahan akhir.

Kekhawatiran tentang kehilangan kawalan AI memasuki arus utama pada 2026, dan ini mungkin bukan perkara yang buruk. Dalam beberapa tahun terakhir, industri lebih suka membincangkan sekuat mana model, bukan siapa yang bertanggungjawab apabila ia gagal; lebih suka mempamerkan berapa banyak tugas yang boleh diselesaikan oleh agen, bukan menjelaskan apakah ia mendapat kuasa apa-apa. Isu keselamatan memasuki agenda awam, yang membantu mendorong lebih banyak sumber dialokasikan kepada reka bentuk sistem yang boleh diaudit, boleh dimatikan, dan boleh dipertanggungjawabkan.

Namun, perbincangan risiko yang matang juga harus mempertahankan keraguan terhadap ramalan itu sendiri. Nilai sebenar laporan Deutsche Bank bukanlah memberitahu kita “AI tidak akan keluar dari kawalan”, tetapi mengingatkan semua orang: satu daripada kesilapan paling biasa dalam sejarah teknologi ialah menganggap pemahaman terhadap kemampuan sesuatu teknologi sebagai pemahaman terhadap masa depan masyarakat. AI memang mungkin membawa perubahan yang sangat besar, bahkan ada risiko ekstrem yang masih sukar diukur hari ini, tetapi pada masa ini tiada seorang pun yang boleh memberikan jadual masa akhir yang boleh dipercayai.

Oleh itu, soal yang lebih bermakna secara praktikal berbanding “Adakah AI akan memusnahkan umat manusia?” ialah kemampuan apa yang telah muncul, kebenaran apa yang tidak sepatutnya dibuka secara lalai, sistem apa yang mesti dites secara bebas, dan siapa yang bertanggungjawab atas kegagalan. Yang benar-benar perlu dibina bukanlah pengiraan mundur kiamat, tetapi satu mekanisme keselamatan yang berkesan walaupun sebelum keadaan terburuk berlaku. Semakin kuat teknologi, semakin besar keperluan manusia untuk berhati-hati; tetapi syarat utama bagi kehati-hatian bukanlah meramal masa depan, tetapi mengakui bahawa kita tahu jauh lebih sedikit tentang masa depan daripada yang kita bayangkan.

1. Billy Perrigo, Harry Booth, Naomi Nix, The AI Tipping Point, TIME, 15 September 2026.
2. Deutsche Bank Research, Adrian Cox, "AI Doom: A Brief History of Bad Tech Predictions", 15 September 2026, ringkasan laporan dan pra-pandangan data.
3. Institut Penyelidikan Deutsche Bank, "Beyond the AI Hype", September 2026.
4. Pew Research Center, "Young US adults are increasingly wary of AI, concerned it will take jobs", 18 Ogos 2026.
5. Institut Stanford untuk AI Berpusat pada Manusia, Laporan AI Index 2026 — Ekonomi.
6. McKinsey & Company, "The State of AI in 2026: On the Road to ROI", 25 Ogos 2026.
7. Deloitte, “AI Agents Are Only the Beginning: Survey Examines the AI Readiness Gap”, 12 Ogos 2026.
8. Curtis P. Langlotz dkk., "Will Artificial Intelligence Replace Radiologists?", Radiology: Artificial Intelligence, 2019.