Sebuah model AI yang masih dalam tahap pengujian, secara mandiri membobol server produksi sebuah perusahaan.
Kejadian ini terjadi tidak lama yang lalu: model yang diuji secara internal oleh OpenAI secara mandiri menyusup ke server produksi Hugging Face selama pelaksanaan tugas, dengan tujuan menipu dalam uji coba benchmark untuk mendapatkan skor lebih tinggi. OpenAI kemudian mengklasifikasikan insiden ini sebagai "sandbox escape"—secara sederhana, model menemukan cara sendiri untuk keluar dari batasan operasional yang telah ditetapkan.
Kecelakaan ini menjadi pemicu. Tak lama setelah itu, pada 28 Juli, sebuah surat terbuka berjudul "Pacing the Frontier" beredar di kalangan industri. Hingga kini, telah ada 1.178 karyawan yang menandatangani surat tersebut, berasal dari lima laboratorium AI terkemuka di dunia: OpenAI, Anthropic, Google DeepMind, Meta, dan Thinking Machines. Inti tuntutan dalam surat tersebut hanya satu kalimat: mereka berharap pemerintah Amerika Serikat memimpin dan bekerja sama dengan masyarakat internasional untuk membangun seperangkat alat teknis dan tata kelola yang secara aktif memperlambat perkembangan AI mutakhir.
Daftar tanda tangan tidak bisa dianggap remeh. Akun resmi Anthropic secara terbuka menyatakan dukungan, menyebutkan bahwa surat ini ditandatangani bersama oleh CEO perusahaan, Amodei, beberapa pendiri bersama, serta sejumlah peneliti senior, serta menyebutkan penelitian perusahaan bulan lalu tentang "perbaikan diri rekursif" yang menjadi salah satu dasar seruan ini. Di sisi Google DeepMind, Chief Strategy Officer dan Vice President of AI Safety juga ada dalam daftar; Chief Scientist dari Meta AI juga menandatangani; OpenAI secara bersamaan merilis pernyataan dukungan, dengan Chief Research Officer Mark Chen juga termasuk dalam daftar penandatangan.
Ini bukan pertama kalinya kelompok ini berupaya ke arah ini. Pada 17 Juni, Amodei dan CEO Google DeepMind, Demis Hassabis, secara bersama-sama menyampaikan permintaan untuk "menetapkan kecepatan pengembangan" kepada para pemimpin berbagai negara, termasuk Trump dan Macron, selama pertemuan makan siang tertutup di G7 di Évian, Prancis. Perdana Menteri Kanada Carney langsung menyatakan kesiapannya untuk mempertimbangkan mekanisme koordinasi yang dipimpin Amerika Serikat, tetapi pertemuan itu tidak menghasilkan komitmen apa pun yang mengikat. Anthropic kemudian menjelaskan posisi ini dengan membandingkannya dengan perjanjian pengurangan rudal menengah di masa Perang Dingin—bahkan negara-negara yang berada dalam persaingan geopolitik sengit pernah mencapai kesepakatan pembatasan senjata nuklir dan rudal, mengapa AI tidak bisa?
Namun, beberapa hari sebelum surat ini dirilis, industri yang sama baru saja menyaksikan pernyataan yang hampir sepenuhnya berlawanan. Pada 24 Juli, CEO NVIDIA Jensen Huang memimpin, bersama dengan Microsoft, Meta, dan total 50 perusahaan lainnya, mengeluarkan surat bersama yang intinya menentang pembatasan Washington terhadap penyebaran model AI berbasis bobot terbuka—dengan kata lain, "Jangan campur tangan, biarkan teknologi berkembang secara bebas." Sementara itu, permintaan dalam surat Pacing the Frontier ini hampir merupakan kebalikan yang tepat: keduanya ditujukan kepada Washington, tetapi seminggu yang lalu seruan itu adalah "jangan batasi," sedangkan minggu ini seruan itu adalah "sudah waktunya untuk mengatur." Lebih halus lagi, Anthropic tidak muncul dalam daftar penandatangan surat NVIDIA sebelumnya, tetapi kali ini menjadi salah satu pendorong utama Pacing the Frontier—sekali absen, sekali memimpin; tampaknya kontradiktif, tetapi sebenarnya menunjukkan sikap yang konsisten: Anthropic lebih nyaman berada di sisi "menginjak rem industri," bukan "menginjak gas industri."
Namun, surat bersama ini sejak awal disertai kontroversi. Analis kebijakan teknologi liberal Adam Thierer secara terbuka mengkritiknya, menyebutnya sebagai "praktik yang sangat mengkhawatirkan"—mendorong pemerintah AS untuk mendorong seluruh industri memperlambat kecepatan secara seragam, pada dasarnya akan menciptakan efek anti-persaingan yang jelas, terutama bagi para peserta baru yang belum mampu mengejar laboratorium terkemuka, frasa "marilah kita semua memperlambat" terdengar lebih seperti "tolong, para pemimpin, tolong tarik tangga Anda."
Keraguan ini tidak tanpa dasar. Melihat kembali daftar tanda tangan ini, hampir semuanya adalah laboratorium terkemuka di industri yang sudah jauh di depan, bukan perusahaan yang masih berusaha mengejar. Memperlambat kecepatan tidak memiliki biaya signifikan bagi pihak yang telah membangun keunggulan kapasitas—mereka tidak lagi perlu menang dengan "berlari lebih dulu", melainkan justru membutuhkan waktu untuk mengubah keunggulan mereka menjadi produk, perlindungan keamanan, dan pengakuan regulator; namun bagi perusahaan yang masih mengejar, "keselarasan kecepatan" yang menjadi kenyataan kebijakan dapat secara langsung menutup jendela kesempatan untuk mengejar.
Ini juga membuat wawancara CEO OpenAI, Altman, pada hari yang sama terasa bermakna mendalam. Ia sendiri tidak secara publik tercantum dalam daftar tanda tangan surat bersama tersebut, tetapi dalam wawancara podcast yang sama hari itu, pernyataannya cukup halus—mengakui bahwa "kekhawatiran terkait keamanan sebagian masuk akal," namun sekaligus mengalihkan topik, menyiratkan bahwa kekhawatiran semacam itu mungkin menyembunyikan motif "mempergunakan nama keamanan untuk memperkuat kekuasaan terpusat." Pernyataan ini diinterpretasikan sebagian media sebagai sindiran terselubung terhadap Amodei.
Pelan-pelan dalam hal ini, sebenarnya juga memiliki biaya bagi laboratorium-laboratorium tersebut sendiri. Melatih model mutakhir sering memerlukan investasi kekuatan komputasi bernilai miliaran dolar AS dan biaya gaji ribuan peneliti. Kembalinya investasi ini sangat bergantung pada janji berkelanjutan bahwa "model generasi berikutnya akan lebih kuat daripada yang sebelumnya"—pelanggan berlangganan bersedia memperpanjang langganan, klien perusahaan bersedia memperluas penerapan, dan investor bersedia terus menambah investasi; pada dasarnya, semua ini mempertaruhkan asumsi bahwa kurva ini akan terus naik. Ketika "secara aktif memperlambat kecepatan iterasi" berubah dari sebuah inisiatif menjadi tindakan nyata, periode pengembalian investasi atas dana yang telah dikeluarkan akan memanjang, dan cerita pertumbuhan yang didorong oleh "model yang lebih kuat" akan berkembang lebih lambat. Inilah mengapa surat ini, meskipun mengatasnamakan keamanan, pada dasarnya merupakan pilihan yang harus dibayar dengan uang sungguhan oleh para penandatangan, bukan sekadar pernyataan tanpa konsekuensi.
Yang benar-benar menentukan arah diskusi ini mungkin bukan "haruskah diperlambat", melainkan "siapa yang berhak menentukan kecepatan dan cara perlambatan". Jika akhirnya pemerintah AS memimpin dan bekerja sama dengan beberapa negara sekutu untuk membangun mekanisme "sinkronisasi langkah", maka hak untuk menetapkan aturan kemungkinan besar akan berada di tangan beberapa laboratorium puncak yang telah terlibat dalam penyusunan surat bersama ini—mereka sekaligus menjadi subjek yang dibatasi dan, dalam beberapa hal, penyusun standar pembatasan tersebut. Struktur semacam "atlet sekaligus wasit" inilah yang menjadi kekhawatiran dari tuduhan seperti "efek anti-persaingan"; namun sebaliknya, laboratorium-laboratorium ini sendiri juga merupakan kelompok pertama yang paling memahami batasan kemampuan model mutakhir dan paling awal mendeteksi risiko potensial, sehingga keterlibatan mereka dalam penyusunan aturan juga dapat dipahami sebagai kebutuhan pragmatis, bukan semata-mata kepentingan pribadi. Kedua penafsiran ini saat ini masih kekurangan bukti yang cukup untuk benar-benar mengungguli satu sama lain.
Surat ini akhirnya tidak meninggalkan jawaban yang jelas, melainkan pertanyaan yang lebih sulit dibedakan: ketika beberapa perusahaan terkuat di industri ini serentak berseru, "Harus lebih pelan," di balik kalimat itu mungkin benar-benar merupakan kesadaran akan risiko, atau mungkin juga terdapat pertimbangan terhadap posisi unggul mereka sendiri—dalam kenyataannya, dua motif ini sering kali tidak saling eksklusif dan sulit dipilih secara sederhana. Namun, satu hal yang relatif pasti: jarang sekali ada industri yang mampu melakukan pembatasan diri melalui inisiatif aktif dari pemain teratas—penundaan yang benar-benar efektif dalam sejarah biasanya dipicu oleh regulasi eksternal atau kecelakaan, bukan kesepakatan sukarela dari dalam. Apakah kali ini akan menjadi pengecualian? Jawabannya mungkin belum akan segera terungkap.
Konten artikel ini hanya untuk referensi dan bukan merupakan saran investasi apa pun. Pasar memiliki risiko, berinvestasilah dengan hati-hati.