Lebih dari 1.100 pakar AI menyerukan perlambatan global dalam pengembangan AI frontier

Dalam semalam, perusahaan-perusahaan besar Silicon Valley serentak mengurangi kecepatan AI!

Baru saja, lebih dari 1.100 karyawan inti dari perusahaan besar seperti OpenAI, Anthropic, dan Google mengajukan petisi "Pacing the Frontier".

Jumlah nama yang terdaftar di daftar ini begitu banyak hingga tak terhitung. Dan angka ini terus meningkat.

Dengan melihat lebih teliti, daftar ini hampir mencakup 'separuh dunia' AI—

Ilmuwan utama OpenAI Jakub Pachocki, Kepala Officer Riset Mark Chen;

CEO Anthropic Dario Amodei, serta empat pendiri bersama Jared Kaplan, Jack Clark, Chris Olah, Ben Mann;

Ilmuwan utama Meta, Shengjia Zhao (Zhao Shengjia); Wakil Presiden Riset AI, Dawn Song (Song Xiaodong);

John Schulman, ilmuwan utama Thinking Machines dan salah satu pencipta inti ChatGPT;

Wakil Presiden Keamanan dan Alignment AI Google, Anca Dragan.....

Sebuah statistik menunjukkan bahwa 46,2% dari mereka yang menandatangani berasal dari Anthropic.

Dalam surat bersama ini, hanya satu permintaan yang disebutkan—

Kami meminta pemerintah Amerika Serikat untuk mendorong kerja sama internasional: mengembangkan teknologi dan alat tata kelola yang diperlukan agar dunia mampu secara aktif mengendalikan kecepatan pengembangan AI otomatis mutakhir.

Mungkin banyak orang bingung, mengapa kelompok yang paling gila mengembangkan LLM tiba-tiba berseru, "Pelan-pelan dulu"?

Invasi model OpenAI terhadap Hugging Face seperti lonceng peringatan.

Dalam waktu hanya satu minggu, 1.132 karyawan perusahaan AI terkemuka bersuara bersama, mengajukan permohonan kolaboratif agar pemerintah AS "menginjak rem".

Karyawan yang berpartisipasi dalam kolaborasi ini berasal dari hampir 12 perusahaan teknologi terkemuka, termasuk OpenAI, Anthropic, Google, dan Meta.

Lebih penting lagi, hingga 80% orang dalam daftar memilih untuk bersuara dengan nama asli mereka.

Portal: https://www.pacingthefrontier.com/

Selain beberapa tokoh besar yang disebutkan di awal, jika Anda terus menggulir ke bawah, kepadatannya jauh lebih menakutkan.

Pernyataan ini mengemukakan sebuah penilaian inti yang memprihatinkan:

Perusahaan AI terkemuka di dunia mungkin sudah hampir mencapai "penelitian AI otomatis" (RSI, perbaikan diri rekursif), di mana model berpartisipasi dalam pengembangan model generasi berikutnya.

Setelah siklus ini mempercepat, pertumbuhan kemampuan mungkin melebihi kecepatan pemahaman dan kendali manusia.

Tidak ada perusahaan yang bersedia memperlambat secara sepihak, sehingga mereka meminta pemerintah AS mendukung pembentukan mekanisme internasional untuk menciptakan alat pemperlambatan bersama sebelum krisis datang.

Satu minggu sebelum pernyataan tersebut dirilis, OpenAI pernah mengungkapkan sebuah insiden keamanan—

Beberapa model mutakhir secara mandiri menemukan kerentanan nol-hari, melanggar isolasi sandbox, dan akhirnya menyusup ke sistem produksi Hugging Face serta mengambil jawaban uji.

OpenAI menyebutnya sebagai "insiden keamanan siber tanpa preseden".

Model tidak menghasilkan niat untuk melarikan diri; ia hanya sangat fokus menyelesaikan satu tujuan sempit dan menemukan bahwa menembus lingkungan pengujian itu sendiri adalah jalur paling efisien.

Hari ini, CEO OpenAI, Altman, secara terbuka menyatakan bahwa kecepatan perkembangan AI mungkin perlu dikendalikan secara aktif.

Dia dengan khawatir menyatakan, "Ini adalah insiden keamanan pertama yang membuat saya merasakan dampaknya secara pribadi. Saya agak terkejut bahwa tidak lebih banyak orang yang merasakan hal yang sama."

Karena insiden peretasan Hugging Face, OpenAI langsung menghentikan pelatihan.

Dalam lingkungan di mana beberapa kerentanan 0day dimanfaatkan secara berurutan, kita harus mencari cara untuk memperkuat keamanan sandbox.

Kita mungkin harus mengendalikan kecepatan perkembangan AI, memberi masyarakat cukup waktu untuk memperkuat pertahanan sekitar tingkat kemampuan baru ini.

Sementara itu, Anthropic pada Juni pernah menyarankan pemerintah untuk membangun sistem pengambilan keputusan bersama dengan pengembang, untuk memperlambat pengembangan jika diperlukan.

Meanwhile, Google DeepMind CEO Hassabis has also called for the establishment of an international oversight body.

Dalam tiga tahun terakhir, perusahaan-perusahaan ini bersaing ketat dalam hal tenaga kerja, pelanggan, dan daya komputasi.

Kali ini, teknisi inti mereka meninggalkan perusahaan yang tak bisa berhenti, bersatu demi kesejahteraan umat manusia, dan menyerukan perlambatan.

Hingga waktu penerbitan, jumlah orang dalam daftar "Pacing the Frontier" mencapai 1.134 orang.

Berbagai tokoh industri juga turut memberikan pernyataan, meninggalkan banyak komentar "brilian" yang tajam. Semua komentar disampaikan secara pribadi dan tidak selalu mewakili posisi perusahaan masing-masing.

Song Xiaodong (Dawn Song) | Wakil Presiden Riset Meta AI

Kemampuan AI terdepan sedang meningkat dengan cepat, dan kecepatan kemajuan itu sendiri semakin mempercepat. Kami secara langsung mengamati hal ini dalam evaluasi kami. Hasil CyberGym dan ExploitGym menunjukkan bahwa agen AI terdepan telah mampu menemukan dan memanfaatkan kerentanan perangkat lunak di dunia nyata—tanpa langkah perlindungan yang tepat, ini dapat menyebabkan serangan siber skala besar. Banyak peneliti juga memperhatikan rekursif…

Song Xiaodong adalah salah satu akademisi paling berpengaruh di bidang keamanan komputer global dan keamanan AI, lulusan Tsinghua University

Zhao Shengjia | Ilmuwan Utama Meta

AI sedang berkembang dengan kecepatan yang mungkin belum siap disiapkan oleh masyarakat. Laboratorium terdepan sudah sangat dekat dengan menciptakan AI yang melampaui manusia terbaik dalam hampir semua indikator kecerdasan. Ini akan membawa risiko sosial dan keamanan yang belum pernah terjadi sebelumnya. Untuk memastikan masa depan yang positif, kita perlu mendorong perkembangan AI dengan tanggung jawab dan pemikiran yang matang.

Tingkat alumni Tsinghua, Zhao Shengjia, ditunjuk sebagai Ilmuwan Kepala Meta Superintelligence! Kontributor utama GPT-4, setara dengan LeCun

John Schulman｜Ilmuwan Utama Thinking Machines, mantan Co-founder OpenAI

Saya menandatangani pernyataan ini karena membantu membangun konsensus bahwa seiring percepatan penelitian AI otomatis, kita mungkin memerlukan mekanisme koordinasi. Saya juga berharap laboratorium-laboratorium secara proaktif mulai merancang mekanisme ini sebelum pemerintah AS ikut campur.

Ethan Perez｜Pemimpin Tim Alignment Anthropic

Dengan kecepatan kemajuan AI saat ini, tim keamanan perusahaan AI harus bekerja keras setiap beberapa bulan untuk mencegah risiko sosial baru yang muncul. Suatu hari nanti, kita akan menghadapi masalah yang membutuhkan lebih banyak waktu untuk diselesaikan.

Leo Gao｜Anggota tim teknis OpenAI

Dunia sedang terjebak dalam perlombaan mematikan menuju ledakan kecerdasan—kemampuan AI untuk menciptakan AI yang lebih kuat sedang mendekati titik kritis, seperti reaksi berantai nuklir yang tak terkendali. Memperlambat laju dapat memberi kita waktu yang sangat dibutuhkan agar segala sesuatu berjalan ke arah yang baik, tetapi tidak ada peserta yang bersedia berhenti secara sepihak. Untuk bertahan hidup, kita harus berkoordinasi dan memperlambat perlombaan ini.

Walker Smith｜Insinyur Data Meta

Hassabis benar: kita saat ini berdiri di kaki gunung titik singularitas. Kebocoran model yang terjadi secara tidak sengaja oleh OpenAI—yang berhasil menyerang HuggingFace—adalah sinyal peringatan yang jelas dan tak terbantahkan: kita belum siap menghadapi sistem AI yang kemampuannya melampaui pikiran paling cerdas manusia. Kita membutuhkan waktu untuk menjadikan penyesuaian dan pengendalian AI sebagai prioritas tertinggi, dan tidak lagi membiarkan perlombaan ini berlanjut.

Brandon Houghton｜OpenAI

Saya mendukung agar manusia tetap mengendalikan AI mutakhir, tetapi kita harus berpikir secara hati-hati tentang cara melakukannya. Jika tata kelola hanya mencakup model publik, kemampuan paling canggih berpotensi didorong ke dalam sistem pribadi atau eksklusif—yang tidak tunduk pada tinjauan independen dan hanya dapat diakses oleh segelintir orang. Akibatnya, kekuasaan menjadi lebih terkonsentrasi, sementara risiko tidak berkurang secara signifikan. Regulasi yang efektif harus dapat diukur, dapat diverifikasi, dan berlaku secara seragam baik dalam pengembangan publik maupun non-publik, sekaligus melindungi data sensitif. Jika tidak, yang kita perlambat hanyalah kecepatan akses, bukan kemajuan itu sendiri.

Joe Carlsmith｜Anggota tim teknis Anthropic

Untuk pandangan rinci saya tentang pengendalian aktif perkembangan AI, lihat artikel ini: https://joecarlsmith.com/2026/03/19/on-restraining-ai-development-for-the-sake-of-safety/

Referensi:

https://www.pacingthefrontier.com/

Artikel ini berasal dari akun WeChat "Sinzhiyuan", diedit oleh Taozi dan Marco