Anthropic, perusahaan di balik model AI Claude, menerbitkan postingan blog pada 4 Juni yang mengusulkan sesuatu yang akan terdengar tak mungkin dilakukan oleh laboratorium AI terkemuka bahkan setahun yang lalu: jeda terstruktur dan sementara dalam pengembangan AI frontier di seluruh industri.
Proposal yang ditulis oleh Marina Favaro dan Jack Clark menargetkan masalah spesifik yang benar-benar mengkhawatirkan. Model AI mendekati kemampuan untuk meningkatkan diri secara rekursif, artinya mereka dapat memodifikasi dan meningkatkan kemampuan mereka sendiri tanpa intervensi manusia.
Apa yang sebenarnya diajukan oleh Anthropic
Ini bukan seruan untuk mencabut semua GPU dan pulang. Anthropic menganjurkan kerangka kerja terkoordinasi dan multilateral di mana laboratorium AI utama sepakat untuk sementara menghentikan pekerjaan pengembangan paling canggih sambil menunggu penelitian keselamatan dan sistem verifikasi mengejar ketertinggalan.
Anthropic secara eksplisit berargumen bahwa tindakan sepihak, di mana satu perusahaan atau satu negara menghentikan kecepatan sendiri, tidak cukup dan mungkin kontraproduktif. Usulan ini memperkirakan kerja sama antara laboratorium yang memiliki sumber daya baik di AS, Tiongkok, dan negara-negara lain dengan program AI serius. Anthropic menggambarkan tantangan verifikasi dalam istilah yang diambil dari pengendalian senjata nuklir, di mana inspektur memverifikasi kepatuhan melalui mekanisme deteksi yang disepakati, bukan hanya mengandalkan kepercayaan semata.
Anthropic mengatakan akan melakukan penelitiannya sendiri dalam membangun alat deteksi dan verifikasi ini, menciptakan setara dengan inspektur senjata AI—sistem yang dapat mengonfirmasi apakah sebuah laboratorium secara diam-diam terus mengembangkan teknologi mutakhir sambil secara publik mengklaim mematuhi jeda.
Mengapa kali ini mungkin berbeda dari 2023
Pada 2023, sebuah surat terbuka yang menyerukan jeda enam bulan pada pelatihan AI di atas tingkat GPT-4 mengumpulkan ribuan tanda tangan dari para peneliti dan tokoh teknologi. Surat itu hampir tidak mencapai apa-apa. Tekanan kompetitif ternyata jauh lebih meyakinkan daripada kecemasan kolektif, dan setiap laboratorium utama terus membangun.
Usulan Anthropic berbeda dalam strukturnya. Alih-alih meminta moratorium yang kabur yang didukung oleh tanda tangan, perusahaan ini mengusulkan sistem kepatuhan yang dapat diverifikasi. Analogi dengan pengendalian senjata nuklir tidak sepenuhnya salah: perjanjian senjata internasional berfungsi, ketika berfungsi, karena sistem inspeksi dan konsekuensi untuk kecurangan, bukan karena para penandatangan saling janji jari kelingking.
Pada tahun 2023, peningkatan diri rekursif adalah kekhawatiran teoretis. Sekarang, pengamatan internal Anthropic sendiri menunjukkan bahwa model-model saat ini semakin mampu memprogram secara otonom, mendekati ambang batas di mana sistem AI dapat berkontribusi secara bermakna pada iterasi berikutnya sendiri.
Apa artinya ini bagi para investor
Untuk siapa pun yang memiliki dana dalam aset terkait AI, termasuk token kripto yang berfokus pada AI dan proyek blockchain yang memanfaatkan pembelajaran mesin, usulan Anthropic memperkenalkan variabel baru ke dalam perhitungan risiko. Kerangka kerja penangguhan terkoordinasi, bahkan yang tidak pernah benar-benar terwujud, mengubah percakapan dari “haruskah kita mengatur AI” menjadi “bagaimana kita menegakkan kepatuhan lintas batas.”
Proyek kripto berbasis AI, mulai dari jaringan komputasi terdesentralisasi hingga token agen AI, memperoleh sebagian nilai proposisi mereka dari asumsi bahwa pengembangan AI akan terus mempercepat tanpa henti. Kerangka kerja penangguhan yang kredibel, atau bahkan langkah regulasi serius ke arah itu, dapat memperkenalkan ketidakpastian ke dalam penilaian tersebut.
Sistem verifikasi terdesentralisasi bisa menjadi bagian dari solusi yang dicari Anthropic. Jika Anda perlu memverifikasi bahwa laboratorium di seluruh dunia mematuhi batasan pengembangan, buku besar yang transparan dan tahan terhadap manipulasi bukanlah alat terburuk untuk tugas ini.