Anthropic, syarikat di sebalik model AI Claude, menerbitkan pos blog pada 4 Jun yang mencadangkan sesuatu yang dahulu dianggap mustahil daripada sebuah makmal AI terkemuka walaupun setahun yang lalu: jeda terstruktur dan sementara terhadap pembangunan AI hadapan di seluruh industri.
Cadangan tersebut, yang ditulis oleh Marina Favaro dan Jack Clark, menargetkan masalah yang spesifik dan benar-benar mengganggu. Model AI sedang mendekati kemampuan untuk meningkatkan diri secara rekursif, bermaksud mereka boleh memodifikasi dan meningkatkan kemampuan sendiri tanpa campur tangan manusia.
Apa yang sebenarnya dicadangkan oleh Anthropic
Ini bukan seruan untuk mencabut setiap GPU dan pulang. Anthropic menganjurkan kerangka kerja berkoordinasi dan multilateral di mana makmal AI utama bersetuju untuk menghentikan sementara kerja pembangunan paling canggih semasa penyelidikan keselamatan dan sistem pengesahan mengejar ketertinggalan.
Anthropic secara eksplisit berhujah bahawa tindakan sepihak, di mana satu syarikat atau satu negara sahaja menghentikan laju, tidak mencukupi dan mungkin berkesan sebaliknya. Cadangan ini membayangkan kerjasama antara makmal-makmal yang mempunyai sumber yang baik di seluruh Amerika Syarikat, China, dan negara-negara lain yang mempunyai program AI yang serius. Anthropic membentuk cabaran pengesahan dalam istilah yang diambil dari kawalan senjata nuklear, di mana pemeriksa mengesahkan kepatuhan melalui mekanisme pengesanan yang disepakati, bukan hanya bergantung pada kepercayaan semata-mata.
Anthropic mengatakan ia akan menjalankan penyelidikan sendiri dalam membangun alat-alat pengesanan dan pengesahan ini, mencipta setara dengan pemeriksa senjata AI—sistem yang boleh mengesahkan sama ada sebuah makmal sedang meneruskan pembangunan hadapan secara rahsia sambil secara awam mengaku mematuhi jeda.
Mengapa kali ini mungkin berbeza daripada 2023
Pada tahun 2023, surat terbuka yang menyerukan penangguhan enam bulan terhadap latihan AI yang melebihi tahap GPT-4 mengumpulkan ribuan tandatangan daripada penyelidik dan tokoh teknologi. Ia berjaya mencapai hampir tiada apa-apa. Tekanan persaingan terbukti jauh lebih meyakinkan berbanding kebimbangan kolektif, dan setiap makmal utama terus membangunkan sistem mereka.
Cadangan Anthropic berbeza dari segi struktur. Alih-alih meminta moratorium yang kabur yang disokong oleh tanda tangan, syarikat tersebut mencadangkan sistem kepatutan yang boleh disahkan. Analogi kawalan senjata nuklear tidak sepenuhnya salah: perjanjian senjata antarabangsa berkesan, apabila berkesan, kerana regime pemeriksaan dan konsekuensi bagi pelanggaran, bukan kerana pihak yang menandatangani berjanji dengan jari kelingking.
Pada tahun 2023, peningkatan diri berulang adalah isu teoretis. Kini, pemerhatian dalaman Anthropic sendiri menunjukkan bahawa model semasa semakin mampu mengkod secara autonom, semakin mendekati ambang di mana sistem AI boleh menyumbang secara bermakna kepada iterasi seterusnya sendiri.
Apa yang bermaksud ini kepada pelabur
Untuk sesiapa yang memiliki wang dalam aset berkaitan AI, termasuk token kripto yang fokus pada AI dan projek blok rantai yang memanfaatkan pembelajaran mesin, cadangan Anthropic memperkenalkan pemboleh ubah baharu ke dalam kalkulus risiko. Kerangka jeda berkoordinasi, walaupun tidak pernah benar-benar terwujud, mengubah perbincangan daripada “patutkah kita mengawal selia AI” kepada “bagaimana kita menegakkan kepatuhan merentas sempadan.”
Projek kripto yang dipandu AI, daripada rangkaian komputasi terdesentralisasi hingga token agen AI, memperoleh sebahagian daripada nilai mereka berdasarkan anggapan bahawa pembangunan AI akan terus mempercepat tanpa gangguan. Kerangka jeda yang kredibel, atau bahkan gerakan peraturan yang serius ke arah itu, boleh membawa ketidakpastian ke dalam penilaian tersebut.
Sistem pengesahan terdesentralisasi boleh menjadi sebahagian daripada penyelesaian yang dicari oleh Anthropic. Jika anda perlu mengesahkan bahawa makmal-makmal di seluruh dunia mematuhi had pembangunan, buku besar yang telus dan tahan terhadap pengubahsuaian bukanlah alat yang terburuk untuk tugas ini.