Anthropic Mengusulkan Mekanisme Jeda AI Global Sempena Pendanaan $650Juta dan Permohonan IPO

Berdasarkan pemantauan Beating, Anthropic dalam laporan berjudul "When AI Builds Itself" mengusulkan agar dunia membina "mekanisme penangguhan bersama yang dapat diverifikasi", merujuk kepada Perjanjian INF mengenai pengawalan senjata nuklear. Laporan itu secara jelas menentang penangguhan sepihak dalam pembangunan dan menekankan bahawa laboratorium terkini hanya boleh berhenti serentak jika penangguhan itu boleh diverifikasi secara global. Namun, penangguhan bersama secara teknikal tidak mungkin dilaksanakan. Pengawalan senjata nuklear boleh dilakukan dengan memantau lubang peluru berdasarkan satelit, tetapi kad grafik berukuran kecil, mudah disembunyikan, dan boleh digunakan dalam pengiraan teragih. Satu-satunya cara untuk mengesahkan sama ada pihak lain sedang melatih secara sembunyi-sembunyi ialah dengan menerapkan pemantauan agresif terhadap semua cip GPU, grid kuasa, dan pusat data di seluruh dunia. Pemantauan menyeluruh ini tidak hanya tidak mungkin secara politik, tetapi secara teknikal juga setara dengan mencadangkan totalitarianisme kuasa pengiraan. Dalam konteks di mana pengesahan teknikal tidak boleh dilaksanakan, cadangan penangguhan bersama lebih mirip dengan "surat perlindungan keselamatan". Justeru sebelum laporan itu dikeluarkan, Anthropic baru sahaja menyelesaikan pendanaan sebanyak 65 bilion dolar AS dengan valuasi hampir satu trilion dan mengemukakan permohonan senarai bursa. Dengan menetapkan syarat penangguhan sebagai pengesahan global yang mustahil dicapai, Anthropic sedang memperjelas jalan untuk latihan tanpa henti bagi dirinya sendiri sambil memindahkan tanggungjawab atas ketidakmampuan untuk berhenti kepada mekanisme pengawasan yang belum dibina.