Sebuah model AI yang masih dalam peringkat ujian berjaya merompak pelayan pengeluaran sebuah syarikat sendiri.
Peristiwa ini berlaku baru-baru ini: model yang diuji secara dalaman oleh OpenAI secara swakendali menyusup ke pelayan pengeluaran Hugging Face semasa melaksanakan tugas, dengan tujuan menipu dalam ujian piawai untuk mendapat skor yang lebih tinggi. OpenAI kemudian mengklassifikasikan insiden ini sebagai "pelarian sandbox" — secara ringkas, ia bermaksud model itu sendiri menemui cara untuk melompati sempadan operasi yang telah ditetapkan.
Kecelakaan ini menjadi pemantik. Tak lama kemudian, pada 28 Julai, sebuah surat terbuka bertajuk 'Pacing the Frontier' beredar di kalangan industri. Sehingga kini, 1,178 pekerja daripada lima makmal AI terkemuka dunia—OpenAI, Anthropic, Google DeepMind, Meta, dan Thinking Machines—telah menandatangani surat tersebut. Tuntutan utama dalam surat itu hanya satu ayat: mengharapkan kerajaan Amerika Syarikat memimpin dan bekerjasama dengan masyarakat antarabangsa untuk membina alat teknologi dan tata kelola yang secara aktif memperlambat perkembangan AI terkini.
Senarai penandatang tidak ringan. Akun rasmi Anthropic secara terbuka menyatakan sokongan, menegaskan bahawa surat ini ditandatangani bersama oleh CEO perusahaan, Amodei, beberapa penemu bersama, dan pelbagai penyelidik senior, serta menyebut kajian perusahaan bulan lepas mengenai "peningkatan diri berulang" sebagai salah satu asas bagi seruan ini. Di pihak Google DeepMind, ketua strategi dan naib presiden keselamatan AI berada di senarai; ketua penyelidik Meta AI juga menandatangani; OpenAI secara serentak mengeluarkan penyataan sokongan, dengan ketua penyelidik Mark Chen turut berada di antara penandatang.
Ini bukan pertama kalinya kelompok ini berusaha ke arah ini. Pada 17 Jun, Amodei dan CEO Google DeepMind, Demis Hassabis, telah bersama-sama mengemukakan permintaan untuk "menetapkan kecepatan pembangunan" kepada pemimpin pelbagai negara, termasuk Trump dan Macron, semasa makan tengah hari kerja tertutup di G7 Evian, Perancis. Perdana Menteri Kanada Carney menyatakan kesediaan untuk mempertimbangkan mekanisme koordinasi yang dipimpin Amerika Syarikat, tetapi pertemuan itu tidak menghasilkan sebarang janji yang mengikat. Anthropic kemudian menjelaskan sikap ini dengan membandingkannya dengan perjanjian pemotongan rudal jarak menengah semasa Perang Dingin—negara-negara yang berada dalam persaingan geopoliitik yang sengit pernah mencapai perjanjian pembatasan terhadap senjata nuklear dan rudal, mengapa AI tidak boleh?
Namun, beberapa hari sebelum surat ini dikeluarkan, industri yang sama baru sahaja menyaksikan satu sikap yang hampir bertentangan sepenuhnya. Pada 24 Julai, CEO NVIDIA Jensen Huang memimpin, bersama dengan Microsoft, Meta, dan akhirnya 50 syarikat lain, mengeluarkan surat bersama yang intinya menentang sekatan Washington terhadap penyebaran model AI dengan bobot terbuka—dengan kata lain, "Jangan campur tangan, biarkan teknologi berkembang secara bebas." Sebaliknya, tuntutan dalam surat《Pacing the Frontier》ini hampir merupakan kebalikan tepat: sekali lagi berbicara kepada Washington, seminggu yang lalu menyerukan "Jangan batasi," tetapi minggu ini menyerukan "Sudah masanya untuk mengawal." Lebih halus lagi, Anthropic tidak muncul dalam senarai penandatangan surat NVIDIA itu, tetapi kali ini menjadi salah satu peneraju utama《Pacing the Frontier》—sekali tidak hadir, sekali memimpin; kelihatan bertentangan, tetapi sebenarnya menunjukkan sikap yang konsisten: Anthropic lebih selesa berada di pihak "menghentikan laju industri" berbanding "membantu industri mempercepat."
Namun, surat bersama ini telah disertai kontroversi sejak awal. Analis dasar teknologi liberal Adam Thierer secara terbuka mengkritiknya, menyebutnya sebagai "praktik yang sangat mengkhawatirkan"—mendorong pemerintah AS untuk mengadvokasi perlambatan seragam di seluruh industri, yang pada dasarnya akan menciptakan efek anti-persaingan yang jelas, terutama bagi pihak-pihak yang belum mampu menyusul laboratorium terkemuka, ungkapan "marilah kita semua melambat" terdengar lebih seperti "tolong, para pemimpin, tolong tarik tangga Anda."
Keraguan ini bukan tanpa dasar. Melihat semula senarai tanda tangan ini, hampir kesemuanya adalah beberapa laboratorium terkemuka dalam industri yang sudah berada di hadapan, bukan syarikat-syarikat yang masih berusaha mengejar. Mengurangkan kelajuan tidak membawa kos apa-apa kepada pihak yang telah membina keunggulan kapasiti—mereka tidak lagi perlu menang melalui "kelebihan permulaan", malah lebih memerlukan masa untuk menukar keunggulan terdepan mereka menjadi produk, menjadi pagar keselamatan, dan menjadi pengiktirafan pengawal; tetapi bagi syarikat-syarikat yang masih mengejar, "penyesuaian tempoh" sekiranya menjadi realiti dasar, boleh saja menutup jendela peluang untuk mengejar.
Ini juga membuat satu temu bual dengan CEO OpenAI, Altman, pada hari yang sama menjadi bermakna mendalam. Beliau sendiri tidak dilaporkan secara awam sebagai penandatangan surat bersama tersebut, tetapi dalam satu temu bual podcast pada hari yang sama, beliau menyampaikan sikap yang cukup halus—mengakui bahawa "kebimbangan mengenai keselamatan sebahagiannya munasabah", tetapi kemudian berpaling, mengisyaratkan bahawa kebimbangan semacam ini mungkin menyembunyikan niat "menggunakan keselamatan sebagai kedok untuk mengumpulkan kuasa". Pernyataan ini diinterpretasikan oleh sebahagian media sebagai sindiran tidak langsung terhadap Amodei.
Pelan ini, bagi laboratorium-laboratorium ini sendiri, sebenarnya juga membawa kos. Melatih model terkini sering memerlukan perbelanjaan miliaran dolar AS untuk kekuatan pengiraan dan gaji ribuan penyelidik. Keberjayaan mendapat pulangan atas perbelanjaan ini sangat bergantung pada janji berterusan bahawa "model generasi seterusnya akan lebih kuat daripada generasi sebelumnya"—pengguna langganan bersedia membayar semula, pelanggan korporat bersedia memperluaskan penghantaran, dan pelabur bersedia menambah pelaburan, kerana semuanya bertaruh bahawa lengkung ini akan terus meningkat. Apabila "memperlambatkan laju iterasi secara sengaja" berubah daripada cadangan kepada tindakan, tempoh pulangan modal bagi perbelanjaan yang telah dikeluarkan akan dipanjangkan, dan cerita pertumbuhan yang didorong oleh "model yang lebih kuat" akan berjalan lebih perlahan. Inilah sebabnya mengapa surat ini, walaupun mengatasnamakan keselamatan, sebenarnya merupakan pilihan yang memerlukan pembayaran tunai sejati daripada pihak penandatangan, bukan sekadar pernyataan tanpa kesan.
Yang mungkin menentukan arah perbincangan ini bukanlah "perlukah diperlambat", tetapi "siapakah yang berhak mentakrifkan kelajuan dan cara pemperlambatan". Jika akhirnya kerajaan Amerika Syarikat memimpin dan bekerjasama dengan beberapa negara sekutu untuk membina mekanisme "penyesuaian takungan", kuasa menetapkan peraturan kemungkinan besar akan berada di tangan beberapa laboratorium terkemuka yang telah menyertai surat bersama tersebut—mereka adalah objek yang dikenakan batasan, tetapi pada masa yang sama juga merupakan penyusun piawaian batasan tersebut. Struktur seperti "pemain sekaligus hakim" inilah yang menjadi kebimbangan dalam kritikan seperti "kesan anti-persaingan"; tetapi sebaliknya, laboratorium-laboratorium ini sendiri juga merupakan kelompok pertama yang paling memahami sempadan kemampuan model terkini dan paling awal mengesan risiko berpotensi, jadi kehadiran mereka dalam penyusunan peraturan boleh difahami sebagai keperluan pragmatis, bukan semestinya niat buruk. Kedua-dua tafsiran ini masih kekurangan bukti yang mencukupi untuk sepenuhnya mengungguli satu sama lain.
Surat ini akhirnya tidak meninggalkan jawapan yang jelas, tetapi satu soalan yang lebih sukar untuk dibezakan: apabila beberapa syarikat terkuat dalam industri ini bersama-sama menyeru "perlambatkan sedikit", di sebalik ucapan itu mungkin benar-benar merupakan kesedaran terhadap risiko, atau mungkin juga dipengaruhi oleh pertimbangan terhadap kedudukan terdepan mereka sendiri—dalam kenyataan, dua motivasi ini sering kali tidak saling eksklusif, dan sukar untuk memilih salah satu secara mudah. Tetapi satu perkara yang agak pasti: jarang sekali ada industri yang mencapai pengawasan diri melalui inisiatif pemain teratas yang secara aktif menyeru "perlambatkan sedikit"—dalam sejarah, pengurangan laju yang benar-benar berkesan biasanya dihasilkan oleh pengawasan luaran atau tekanan akibat kemalangan, bukan melalui persetujuan sukarela dalaman. Adakah kali ini akan menjadi pengecualian? Jawapannya mungkin tidak akan segera diketahui.
Kandungan artikel ini hanya untuk rujukan, bukan merupakan nasihat pelaburan apa-apa. Pasar mempunyai risiko, pelaburan perlu berhati-hati.