Pada 28 Julai, 1,346 pekerja utama dari syarikat AI Silicon Valley seperti OpenAI dan Anthropic menandatangani petisyen bersama, menyeru kerajaan Amerika Syarikat untuk mendorong kerjasama antarabangsa dalam membina alat tatacara untuk mengawal tempoh pembangunan AI.

Penulis artikel, sumber: 36氪

Harga kehilangan kawalan

Pada 28 Julai, sebuah petisyen bernama "Pacing the Frontier" menarik perhatian industri AI global.

1,346 pekerja utama dari syarikat AI Silicon Valley seperti OpenAI dan Anthropic (data 4 Ogos) menandatangani petisyen, menyeru kerajaan Amerika Syarikat untuk mendorong kerjasama antarabangsa, mengembangkan teknologi dan alat tata kelola yang diperlukan untuk mengawal tempoh pengembangan AI automatik.

Di tengah perkembangan AI global yang sedang bergairah, kehadiran petisyen ini membawa makna khas seolah-olah ingin memperlambat AI. Di belakang suasana aneh yang dilepaskan oleh peristiwa ini—bahawa AI hampir tidak terkawal—sejarah perkembangan AI kelihatannya sedang memasuki satu titik penting.

Siapa yang ingin mengurung AI?

Pertama-tama, perlu ditegaskan bahawa petisyen bernama “Pacing the Frontier” tidak bertujuan untuk “menghentikan segera perkembangan AI”, tetapi menekankan “membina kemampuan untuk menghentikan”. Permintaan yang datang dari garis depan industri ini bukanlah tanpa dasar.

Sumber gambar: www.pacingthefrontier.com

Lebih daripada seminggu sebelum petisyen tersebar luas di seluruh internet, komuniti sumber terbuka dan platform penghantaran model Hugging Face mengumumkan satu insiden keselamatan di laman web rasmi mereka, menyatakan bahawa mereka telah diserang oleh sistem agen AI. Beberapa hari kemudian, OpenAI mengaku bertanggungjawab atas serangan rangkaian ini, dan menjelaskan bahawa punca utamanya ialah model canggih seperti GPT-5.6 Sol, yang ketika menjalani ujian kemampuan penemuan dan pemanfaatan lubang keamanan AI di platform ExploitGym, tidak mengikuti rancangan asal untuk “menjawab soalan dengan serius”, tetapi sebaliknya menemui satu “lubang zero-day” (Zero-Day Vulnerability, iaitu kelemahan keselamatan yang belum dikesan oleh pembangun dan belum ada pampasan rasmi) dalam cache proxy pakej, serta memanfaatkan lubang tersebut untuk menembusi persekitaran ujian yang disekat, akhirnya menyerang Hugging Face.

Dengan kata lain, keseluruhan insiden ini ialah AI sepatutnya menghadapi satu ujian, tetapi AI tidak berusaha menjawab soalan, sebaliknya “menyontek di tempat dan meminta bantuan luar”, serta menggunakan kaedah mengelakkan pemeriksaan untuk mengelakkan ditangkap.

Untuk keselamatan keselamatan ini, OpenAI menggambarkannya sebagai "insiden keselamatan siber yang belum pernah terjadi sebelumnya", dan Sam Altman bahkan menyatakan dalam satu program podcast bahawa ini adalah insiden keselamatan pertama yang membuatnya merasa kesakitan secara peribadi. Disebabkan insiden ini, ahli-ahli kongres Amerika Syarikat mengusulkan "Undang-Undang AI Kill Switch" pada 23 Julai, yang memerlukan sistem AI dengan kos latihan melebihi 100 juta dolar AS untuk mempertahankan kemampuan matikan kecemasan, serta memberikan kuasa kepada agensi berkaitan untuk mengarahkan pelaksanaannya.

Satu minggu selepas usul undang-undang itu diajukan, petisyen “Pacing the Frontier” bermula tersebar di internet. Namun, berbanding langkah pengawasan utama dalam “Undang-Undang Keadaan Darurat Penutupan AI” yang menekankan “kerajaan sebagai pengawal terakhir”, idea elit Silicon Valley ialah membina mekanisme koordinasi antarabangsa, menjadikan kemampuan “menghentikan AI” sebagai alat, bukan hak eksklusif satu agensi.

Dalam masa hanya separuh bulan, daripada penglibatan keselamatan oleh Hugging Face hingga petisyen bertandatangan seribu orang di Silicon Valley, rangkaian peristiwa ini dengan cepat mengajukan dua soalan utama kepada seluruh industri AI: Pertama, adakah AI sudah berkembang hingga perlu dibatasi? Kedua, bagaimana cara yang tepat untuk memasang "brek" pada AI?

Soalan pertama tidak sukar untuk dijawab. Dalam tempoh hanya dua atau tiga tahun lalu, kelajuan perkembangan AI boleh digambarkan sebagai jauh melebihi jangkaan industri. Kemampuan AI yang ditunjukkan telah berkembang dari chatbot kepada penghasilan gambar dan video daripada teks. Perang “seratus model” yang awalnya berpusat pada model besar kini telah berkembang menjadi kepelbagaian agen. Keselamatan Hugging Face yang diserang pula secara langsung mengungkap bahawa AI memang mempunyai kemampuan “melarikan diri” apabila tiada had yang jelas. Walaupun AI saat ini masih tidak memiliki kesedaran diri, namun apabila kita sudah mengetahui bahawa AI mampu mengelakkan pengawasan manusia dan menghasilkan tingkah laku yang melampaui jangkaan manusia, maka pembinaan langkah pembalasan adalah sepenuhnya munasabah.

Namun, soal kedua agak sukar untuk dijawab. AI mampu mencapai lompatan penting dalam masa singkat kerana sebahagian besarnya disebabkan oleh akumulasi berterusan seluruh industri yang membawa teknologi ke peringkat baharu; selain itu, persaingan sengit antara syarikat-syarikat AI juga mendorong peningkatan berterusan terhadap kemampuan model.

Baik OpenAI dan Anthropic dari Silicon Valley, mahupun Kimi dan DeepSeek dari China, persaingan di bidang AI telah dengan cepat meluas dari model besar ke peringkat aplikasi. Lingkungan pasaran yang terbuka membawa jangkaan pasaran yang terus membaik, tetapi juga menjadikan persaingan pasaran semakin sengit. Pada masa ini, inisiatif secara aktif membatasi AI dengan belenggu bermakna struktur pasaran persaingan bebas mungkin akan dipecahkan oleh kekuatan luar. Perubahan persekitaran yang tiba-tiba ini tidak semuanya diterima dengan rela oleh perusahaan-perusahaan yang terlibat dalam persaingan.

Perangkap tawanan syarikat-syarikat AI

Dalam sejarah perkembangan manusia, kesepakatan untuk secara aktif memperlambat kecepatan perkembangan demi menghadapi risiko potensial yang mungkin dibawa oleh terobosan teknologi mutakhir bukanlah adegan ideal yang hanya ada dalam karya sains fiksi.

Pada tahun 1975, ahli biologi dari Universiti Stanford, Paul Berg, menghimpun satu pertemuan penting di pusat perjumpaan Asilomar, California, Amerika Syarikat. Pada masa itu, teknologi baharu bernama “reka bentuk DNA” baru sahaja muncul, dan para saintis mencapai konsensus dalam pertemuan tersebut untuk menghentikan penyelidikan berkaitan demi mengelakkan bahaya biologi yang tidak dapat diramalkan yang mungkin timbul daripada DNA rekombinan buatan, sehingga garis panduan keselamatan baharu dikeluarkan. Kemudian, garis panduan keselamatan biologi secara rasmi dikeluarkan, membentuk asas kepada perkembangan yang sihat dalam kejuruteraan genetik.

Namun, situasi industri AI hari ini tidak sepenuhnya sama dengan keadaan teknologi rekombinasi DNA 50 tahun lalu. Pada masa itu, risiko teknologi rekombinasi DNA sudah sangat jelas dan dapat dihindari melalui tindakan isolasi. Sementara itu, risiko AI saat ini bersifat tidak dapat diprediksi; AI mampu mengembangkan lintasan perilaku yang tidak pernah dibayangkan manusia dengan cara yang melampaui pengaturan manusia, sehingga cakupan dampak risikonya lebih luas, dan memberikan waktu respons serta jendela waktu untuk menyusun peraturan yang lebih singkat bagi manusia, sehingga menambahkan rasa mendesak yang lebih besar.

Risiko yang terungkap dalam AI hari ini pada dasarnya juga berkaitan dengan persekitaran persaingan industri. Ketika membincangkan insiden keselamatan yang dialami Hugging Face, pendiri Grup 360, Zhou Hongyi, juga menyatakan bahawa demi mengejar kecanggihan AI, seluruh industri sedang secara sistematik meninggalkan aspek keselamatan: “Semua orang memberikan lebih banyak alat dan kuasa yang lebih besar kepada agen pintar, serta mendorongnya untuk memanfaatkan semua sumber untuk menyelesaikan masalah. Tetapi semakin terbuka dan semakin kuat agen pintar itu, semakin besar kehancuran yang boleh berlaku sekiranya ia kehilangan kawalan.” Dengan kata lain, “AI akan melarikan diri” mungkin tidak terlalu menakutkan; yang benar-benar menakutkan ialah kerana syarikat-syarikat AI mengabaikan keselamatan demi mempercepatkan perkembangan dan pengulangan AI.

Namun, tiga tahun yang lalu, idea untuk "memperlambat perkembangan AI" telah diusulkan dalam industri. Pada Mac 2023, institut bukan keuntungan Future of Life Institute juga menerbitkan surat terbuka yang menyerukan penangguhan latihan model yang lebih canggih daripada GPT-4 selama enam bulan, bagi membina protokol keselamatan dan mekanisme tatacara, pada masa itu surat terbuka ini mendapat tanda tangan sokongan daripada lebih 1,200 pakar AI, termasuk CEO Tesla Elon Musk, penerima anugerah Turing Yoshua Bengio, dan salah seorang penubuh Apple Steve Wozniak. Kini, bilangan tanda tangan pada surat terbuka ini telah mencapai 33,000.

*Sumber gambar: laman web FLI

Pada masa itu, hampir semua syarikat AI mengakui bahawa AI memerlukan tatacara keselamatan yang lebih kuat, tetapi tiada satu pun syarikat AI terkemuka yang menyokong secara terbuka inisiatif “tangguh latihan selama 6 bulan”. Sam Altman bahkan secara terus terang menolak surat terbuka itu kerana kekurangan butiran teknikal, dan menunjukkan bahawa tindakan satu syarikat secara sukarela memperlambatkan pembangunan tidak dapat menyelesaikan risiko keseluruhan. Maksud tersirat pernyataan ini sebenarnya ingin menunjukkan bahawa dalam litar AI yang sangat kompetitif, jika hanya satu syarikat memperlambatkan langkah sementara syarikat-syarikat lain terus maju, maka syarikat yang memperlambatkan langkah akan berada dalam kedudukan yang merugikan. Dan dalam beberapa tahun terakhir, syarikat-syarikat AI telah terperangkap dalam dilema tahanan yang hanya membenarkan mereka maju, bukan mundur.

Dari senarai tanda tangan petisyen “Pacing the Frontier”, ramai kakitangan peringkat bawah dan pengurusan tinggi syarikat AI telah menyertai aktiviti tanda tangan awam secara peribadi. Namun, sehingga kini, syarikat-syarikat terkemuka seperti OpenAI, Anthropic, dan Meta belum mengeluarkan sebarang pernyataan rasmi.

Dengan kata lain, para pakar AI dari syarikat-syarikat besar di Silicon Valley, seperti Sam Altman tiga tahun lalu, sedar bahawa terobosan teknologi yang didorong oleh persaingan dalaman industri telah membawa risiko sistemik yang tidak terkawal, tetapi mereka tidak boleh bergantung pada kehendak syarikat untuk menyelesaikan masalah ini, melainkan perlu mencari campur tangan kuasa luar untuk mengelakkan krisis benar-benar berlaku.

Tetapi ini juga membawa masalah baru: Apakah “brek” yang diperlukan oleh AI yang tidak terkawal?

Siapa yang akan memimpin tatanan baru dalam tata kelola AI?

Pekan lalu, "petisyen bersama seribu orang" dari syarikat AI Silicon Valley semula menarik perhatian banyak orang terhadap isu pentadbiran AI. Namun, perlu ditekankan bahawa sikap di dalam Silicon Valley terhadap pentadbiran AI tidak seragam, tetapi terdapat pembahagian kamp yang jelas.

Sebagai pihak yang secara langsung menghadapi risiko terkini, perusahaan besar seperti OpenAI dan Anthropic telah berpendapat untuk memperketat pembatasan terhadap model AI terkini (terutama model sumber terbuka), serta menyerukan pembentukan mekanisme pengawasan luar untuk "menghentikan" AI. Namun, ada pandangan yang berpendapat bahawa selain pertimbangan keselamatan, sebab OpenAI mendorong pengeratkan pengawasan juga melibatkan pertimbangan perniagaan.

Sebagai raksasa sumber tertutup, OpenAI dan Anthropic perlu mempertahankan pengeluaran besar dalam penyelidikan dan pembangunan kuasa pengiraan melalui perkhidmatan API yang mahal, manakala model sumber terbuka yang bernilai tinggi dari China telah menghapuskan premium teknologi model sumber tertutup melalui model nilai baik. Ancaman pasaran yang jelas ini meninggalkan raksasa sumber tertutup tanpa pilihan selain memulakan perang harga.

*Sumber gambar: Laman web Anthropic

Oleh itu, syarikat-syarikat seperti Anthropic telah lama menggunakan alasan “model terlalu kuat, pembebasan sumber terbuka akan menyebabkan penyalahgunaan AI” untuk menekankan kelebihan sumber tertutup sambil menindas AI sumber terbuka. Tetapi, yang tidak disangka semua orang ialah insiden “jailbreak” yang diungkapkan oleh OpenAI justru mengungkapkan kelemahan keselamatan dalam model sumber tertutup itu sendiri, serta menjadikan perdebatan mengenai arah pengurusan AI sekali lagi menjadi fokus perhatian awam.

Berbanding dengan usaha pengawasan ketat yang dicadangkan oleh raksasa tertutup, NVIDIA sebagai penyedia infrastruktur, bersama dengan Microsoft, Meta dan banyak perusahaan terkemuka lain yang menyokong ekosistem sumber terbuka, menentang pendekatan "satu ukuran untuk semua", menentang undang-undang yang memihak kepada raksasa tertutup, dan berusaha mendorong pembukaan timbangan model agar penyelidik global boleh bersama-sama mencari kelemahan, ketidakselarasan, dan membina sistem keselamatan secara bersama.

Bagi NVIDIA, kemakmuran model sumber terbuka juga boleh memperbesar keseluruhan pasaran, menarik lebih banyak perusahaan untuk membeli perkhidmatan awan dan cipnya. Oleh itu, sukar untuk mengatakan bahawa sikap NVIDIA terhadap tata kelola AI tidak dipengaruhi oleh pertimbangan perniagaan.

Sebelum petisyen "Pacing the Frontier" tersebar, NVIDIA bekerjasama dengan 25 institusi termasuk Microsoft, Meta, Hugging Face, dan Linux Foundation, menerbitkan surat terbuka berjudul "Open Weights and American AI Leadership" pada 24 Julai, menyeru kerajaan Amerika tidak mengenakan sekatan awal terhadap model berbobot terbuka yang boleh dimuat turun, diperiksa, diubah suai, dan dideploy sendiri. Menariknya, surat terbuka ini kemudian mendapat sokongan daripada OpenAI, tetapi Anthropic tetap tidak menyertai.

*Sumber gambar: laman web rasmi Microsoft

Melalui peristiwa ini, terdapat juga suara yang mempertanyakan tujuan sebenar surat bersama tersebut, iaitu menggunakan alasan "keselamatan" untuk mendorong kerajaan membina sistem pengawasan yang mempunyai rintangan tinggi, dengan tujuan memperkuat monopoli raksasa sumber tertutup dan mengasingkan usaha kecil dan sederhana serta komuniti sumber terbuka daripada persaingan.

Namun, ketika syarikat-syarikat AI masing-masing menghitung keuntungan mereka dengan teliti, perkara yang lebih patut diperhatikan mungkin versi lain dari "teori konspirasi": Amerika Syarikat akan memanfaatkan peluang ini untuk memimpin peraturan tata kelola AI global. Kerana tata kelola AI telah menjadi pertarungan untuk menguasai tatanan global.

Pada Pertemuan Keselamatan Kecerdasan Buatan Sedunia tahun 2023, China, Amerika Syarikat, dan 28 negara dari Kesatuan Eropah menandatangani Deklarasi Bletchley, bersetuju untuk membina pendekatan pengawasan AI melalui kerjasama antarabangsa serta mengenal pasti risiko sistemik yang berkaitan dengan AI hadapan (Frontier AI), yang merupakan pertama kalinya AI hadapan dimasukkan ke dalam kerangka tata kelola antarabangsa.

Namun, seiring AI berubah dari teknologi emergen menjadi infrastruktur penting yang memengaruhi daya saing negara, perbincangan mengenai tata kelola AI juga mulai melampaui aspek teknis semata. Amerika Serikat dalam tata kelola AI, melalui penerapan standar tata kelola AI dan pembinaan jaringan institut keselamatan AI antarbangsa, mengaitkan kemampuan teknologi model besar canggihnya dengan standar tata kelola AI global. China pula fokus pada pengembangan AI yang inklusif dan penerapan tata kelola platform, secara aktif mendorong kerangka PBB, khususnya bagi negara berkembang yang tidak memiliki infrastruktur AI, di mana ia perlu membincangkan risiko sekaligus mewujudkan keadilan teknologi. Dua lintasan tata kelola AI yang berbeza ini sedang bersaing di pentas dunia untuk merebut wacana tata kelola AI global di masa depan.

Teknologi itu sendiri adalah neutral, tetapi pengagihan, pengawasan, dan penentuan peraturan teknologi selalu menjadi permainan kuasa. Terutama apabila AI semakin menunjukkan ciri-ciri produktiviti maju, yang sepatutnya membuat orang risau bukanlah bagaimana AI akan berkembang, tetapi siapa yang mengendalikan tatanan baru dunia AI.

Yang akan menentukan landskap AI di masa depan mungkin bukan hanya siapa yang memiliki model terkuat, tetapi siapa yang memiliki hak untuk menentukan keselamatan, menyusun standard, dan menjelaskan risiko.