Lebih 1,100 pakar AI menyeru penahanan global dalam pembangunan AI peringkat terdepan

Dalam semalam, syarikat-syarikat besar Silicon Valley serentak menghentikan AI!

Baru sahaja, lebih daripada 1,100 pekerja inti dari raksasa-raksasa seperti OpenAI, Anthropic, dan Google telah menggagas petisyen 'Pacing the Frontier'.

Nama-nama di senarai ini begitu ramai sehingga tidak terhingga. Selain itu, nombor ini masih terus meningkat.

Apabila diperhatikan dengan teliti, senarai ini hampir mengumpulkan separuh dunia AI—

Ilmuwan utama OpenAI Jakub Pachocki, Ketua Pegawai Penyelidikan Mark Chen;

Pengarah Eksekutif Anthropic, Dario Amodei, dan empat penubuh bersama Jared Kaplan, Jack Clark, Chris Olah, Ben Mann;

Ilmuwan utama Meta, Shengjia Zhao (Zhao Shengjia); Timbalan presiden penyelidikan AI, Dawn Song (Song Xiaodong);

John Schulman, ilmuwan utama Thinking Machines dan salah seorang pencipta utama ChatGPT;

Wakil Presiden Keselamatan dan Penyelarasan AI Google, Anca Dragan.....

Sebanyak 46.2% daripada mereka yang menandatangani berasal dari Anthropic

Dalam surat bersama ini, ia hanya menyebut satu permintaan—

Kami meminta kerajaan Amerika Syarikat untuk mendorong kerjasama antarabangsa: mengembangkan teknologi dan alat tata kelola yang diperlukan agar dunia mampu mengawal secara aktif tempoh pengembangan AI automatik canggih.

Mungkin ramai yang tidak faham, mengapa orang-orang yang paling gila dengan LLM ini tiba-tiba menyeru “lambat sikit”?

Pencerobohan model OpenAI terhadap Hugging Face adalah seperti loceng amaran.

Dalam masa seminggu sahaja, 1,132 pekerja daripada syarikat AI terkini bersuara bersama, menyeru kerajaan Amerika Syarikat untuk "menghentikan seketika".

Peserta kolaborasi ini masing-masing berasal dari hampir 12 syarikat teknologi terkemuka seperti OpenAI, Anthropic, Google, dan Meta.

Lebih berkesan lagi, sehingga 80% daripada senarai tersebut memilih untuk bersuara secara bernama.

Pintu masuk: https://www.pacingthefrontier.com/

Selain beberapa tokoh besar yang disebutkan di awal, jika anda terus menggulir ke bawah, kepadatannya lebih mengejutkan.

Pernyataan ini mengemukakan satu penilaian inti yang menjadi peringatan:

Syarikat AI terkemuka di seluruh dunia mungkin telah hampir mencapai "penyelidikan AI automatik" (RSI, peningkatan diri berulang), di mana model terlibat dalam pembangunan model generasi seterusnya.

Apabila kitaran ini mempercepat, pertumbuhan kemampuan mungkin melebihi kelajuan pemahaman dan pengawasan manusia.

Tiada syarikat yang bersedia mengurangkan kelajuan secara sepihak, jadi mereka meminta kerajaan Amerika menyokong pembinaan mekanisme antarabangsa untuk menghasilkan alat pengurangan kelajuan bersama sebelum krisis berlaku.

Satu minggu sebelum penyataan itu dikeluarkan, OpenAI pernah mengungkapkan satu insiden keselamatan—

Beberapa model canggih menemukan kelemahan hari-nol, melanggar isolasi sandbox, dan akhirnya menyusup ke sistem produksi Hugging Face serta mengambil jawaban ujian secara sendiri dalam ujian keselamatan dalam talian.

OpenAI menyebutnya sebagai "peristiwa keselamatan siber yang belum pernah terjadi sebelumnya".

Model tidak menghasilkan niat untuk melarikan diri; ia hanya sangat fokus untuk menyelesaikan satu sasaran yang sempit dan menemukan bahawa tembusan melalui persekitaran ujian itu sendiri adalah laluan paling berkesan.

Hari ini, CEO OpenAI, Altman, secara terbuka menyatakan bahawa kelajuan perkembangan AI mungkin perlu dikawal secara aktif.

Dia dengan rasa takut berkata, "Ini adalah insiden keselamatan pertama yang membuat saya merasa kesakitan secara peribadi. Saya agak terkejut bahawa tidak ramai lagi yang merasakan hal yang sama."

Akibat serangan terhadap Hugging Face, OpenAI terus menghentikan latihan.

Dalam persekitaran di mana beberapa kelemahan 0day digabungkan untuk dimanfaatkan, kita perlu mencari cara untuk memperkuat keselamatan sandbox.

Kita mungkin perlu mengawal kelajuan perkembangan AI untuk memberi masyarakat masa yang mencukupi untuk memperkuat pertahanan terhadap tahap kemampuan baru ini.

Sementara itu, Anthropic pernah mencadangkan pada Jun agar kerajaan dan pembangun membina sistem pengambilan keputusan bersama untuk memperlambatkan pembangunan jika diperlukan.

Sementara itu, CEO Google DeepMind, Hassabis, juga telah menyeru pembentukan agensi pengawasan antarabangsa.

Dalam tiga tahun terakhir, syarikat-syarikat ini telah bersaing ketat dalam hal tenaga kerja, pelanggan, dan kuasa pengiraan.

Kali ini, jurutera terutama mereka meninggalkan syarikat yang tidak pernah berhenti, bersatu demi kesejahteraan umat manusia, dan menyeru untuk memperlambat.

Sehingga waktu penerbitan, bilangan nama dalam senarai "Pacing the Frontier" mencapai 1,134 orang.

Pelbagai tokoh industri juga telah menyampaikan pendapat mereka, meninggalkan banyak "ucapan hebat" yang tajam. Semua ulasan dikeluarkan atas nama peribadi dan tidak semestinya mewakili sikap syarikat masing-masing.

Song Xiaodong (Dawn Song) | Wakil Presiden Penyelidikan Meta AI

Kemampuan AI terkini sedang meningkat dengan cepat, dan laju kemajuan itu sendiri semakin mempercepat. Kami secara langsung mengamati hal ini dalam penilaian kami. Hasil CyberGym dan ExploitGym menunjukkan bahawa agen AI terkini sudah mampu mengesan dan memanfaatkan lubang kelemahan perisian di dunia nyata—tanpa langkah perlindungan yang sesuai, ini boleh menyebabkan serangan siber berskala besar. Banyak penyelidik juga memperhatikan rekursif…

Song Xiaodong adalah salah seorang akademik paling berpengaruh di bidang keselamatan komputer global dan keselamatan AI, lulusan Universiti Tsinghua

Zhao Shengjia | Ilmuwan Utama Meta

AI sedang bergerak pada kelajuan yang mungkin belum disediakan oleh masyarakat. Laboratorium terkini sudah sangat dekat dengan menciptakan AI yang melampaui manusia terbaik dalam hampir semua indikator intelektual. Ini akan membawa risiko sosial dan keselamatan yang belum pernah terjadi sebelumnya. Untuk memastikan masa depan yang positif, kita perlu mendorong perkembangan AI dengan tanggung jawab dan pemikiran yang mendalam.

Tung Seng Jia, alumni Tsinghua, dilantik sebagai Ilmuwan Utama Superintelligence Meta! Salah seorang sumbangan utama GPT-4, setara dengan LeCun

John Schulman｜Ahli Sains Utama Thinking Machines, bekas Pencipta Bersama OpenAI

Saya menandatangani kerana penyataan ini membantu membina konsensus bahawa seiring dengan percepatan penyelidikan AI automatik, kita mungkin memerlukan mekanisme koordinasi. Saya juga berharap makmal-makmal akan secara proaktif mula mereka bentuk mekanisme ini sebelum kerajaan AS turun tangan.

Ethan Perez｜Pemimpin Pasukan Penyelarasan Anthropic

Mengikut kelajuan kemajuan AI semasa, pasukan keselamatan syarikat AI perlu berlari pantas setiap beberapa bulan untuk mengelakkan risiko sosial yang muncul. Pada suatu hari, kita akan menghadapi masalah yang memerlukan lebih banyak masa untuk diselesaikan.

Leo Gao｜Ahli pasukan teknikal OpenAI

Dunia sedang terperangkap dalam perlumbaan mematikan menuju ledakan pintar—keupayaan AI untuk menciptakan AI yang lebih kuat sedang mendekati titik kritikal, seperti tindak balas berantai nuklear yang tidak terkawal. Memperlambat laju akan memberi kita masa yang sangat diperlukan untuk memastikan perkara berjalan ke arah yang baik, tetapi tiada peserta pun bersedia berhenti secara sepihak. Untuk bertahan hidup, kita perlu berkoordinasi dan memperlambat perlumbaan ini.

Walker Smith｜Jurutera Data Meta

Hassabis benar: kita sekarang berdiri di kaki bukit titik singulariti. Kejadian tidak sengaja pelarian model OpenAI—yang menyerang HuggingFace—adalah isyarat peringatan yang jelas dan tak terbantahkan: kita belum bersedia menghadapi sistem AI yang keupayaannya melebihi otak paling cerdas manusia. Kita memerlukan masa untuk menjadikan penyelarasan dan pengawasan AI sebagai keutamaan tertinggi, dan tidak lagi membiarkan perlumbaan ini berterusan.

Brandon Houghton｜OpenAI

Saya menyokong pengawalan manusia terhadap AI terkini, tetapi kita mesti memikirkan cara melakukannya dengan berhati-hati. Jika pentadbiran hanya merangkumi model terbuka, ia berpotensi mendorong kemampuan paling canggih ke dalam sistem tertutup atau khas—sistem yang tidak dikenai tinjauan bebas dan hanya boleh diakses oleh sedikit orang. Akibatnya, kuasa menjadi lebih terpusat, manakala risiko tidak berkurang secara bermakna. Pengawasan yang berkesan mesti boleh diukur, boleh disahkan, dan dikenakan secara seragam kepada pembangunan terbuka dan tidak terbuka, sambil melindungi data sensitif. Jika tidak, yang kita perlambat hanyalah kelajuan akses, bukan kemajuan itu sendiri.

Joe Carlsmith｜Ahli pasukan teknikal Anthropic

Untuk pandangan terperinci saya mengenai pengawalan aktif perkembangan AI, sila rujuk artikel ini: https://joecarlsmith.com/2026/03/19/on-restraining-ai-development-for-the-sake-of-safety/

Rujukan:

https://www.pacingthefrontier.com/

Artikel ini berasal daripada公众号 WeChat "Neozhiyuan", disunting oleh Peach & Marco