Anthropic Menghadapi Penolakan Kerajaan Terhadap Model AI Fable

Penulis: Ben Thompson

Diterjemahkan oleh Deep潮 TechFlow

Pengenalan DeepChao: Model baru Anthropic, Fable, dihentikan secara mendadak oleh pemerintah AS hanya dua bulan selepas pelancarannya, secara zahirnya kerana "kebocoran keselamatan", tetapi sebenarnya mengungkapkan perang ganda antara lab AI dengan kerajaan dan industri perisian. Syarikat yang menjadikan "keselamatan" sebagai jualan utamanya sedang mengubah naratif keselamatan menjadi parit komersial, sementara yang sebenarnya mereka cuba rebut ialah data pengguna milik Microsoft dan sebagainya.

Saya memahami posisi para penghina yang selalu percaya bahawa pengumuman awam Anthropic—terutamanya pernyataan semasa pelancaran model—adalah untuk mencipta kepanikan demi pemasaran. Dua bulan yang lalu, Anthropic mengumumkan pelancaran Mythos Preview, menyatakan bahawa model ini terlalu berbahaya untuk dibuka kepada awam, terutamanya kerana kemampuannya yang kuat dalam keselamatan siber. Kemudian, dua bulan selepas itu, syarikat tersebut secara terbuka melancarkan Fable, iaitu versi Mythos yang dilengkapi dengan pelbagai pengawal keselamatan.

Berdasarkan pengalaman penggunaan saya yang terhad, Fable memang merupakan model yang sangat cemerlang. Kini, selain prestasi pemrograman, sukar untuk menilai model secara objektif, tetapi masih ada persepsi subjektif; saya mendapati pengalaman berinteraksi dengan Fable sangat luar biasa; ia membuat model lain, termasuk GPT 5.5 dan Opus 4.8, kelihatan kecil dan bodoh. Saya sebelum ini hanya merasakan ini dua kali, sekali dengan GPT-4 dan sekali dengan Grok 4, keduanya mewakili generasi baru dalam skala dan kompleksiti model asas; saya rasa Fable berasal daripada pra-pelatihan baru, dan merupakan yang pertama dalam generasi baru.

Oleh itu, saya benar-benar boleh menerima bahawa Fable/Mythos memang lebih unggul dalam mengenal pasti dan memanfaatkan isu keselamatan, jadi pendekatan berhati-hati oleh Anthropic adalah munasabah. Tetapi masalah dengan pelancaran awam model ialah bahawa pelindung boleh ditembusi, dan jelas perkara ini berlaku tidak lama selepas pelancaran.

Perkara yang berikutan agak tidak jelas. Anthropic menulis dalam artikel blog:

Pemerintah Amerika Syarikat menggunakan kuasa keselamatan negara untuk mengeluarkan arahan pengawasan eksport, menghentikan akses semua warga asing kepada Fable 5 dan Mythos 5, sama ada di dalam atau luar Amerika Syarikat, termasuk kakitangan asing Anthropic. Kesannya, kami terpaksa secara tiba-tiba mematikan akses Fable 5 dan Mythos 5 kepada semua pelanggan untuk memastikan kepatuhan. Akses kepada semua model Anthropic lain tidak terjejas.

Kami menerima arahan kerajaan pada pukul 5:21 petang waktu Timur Amerika hari ini. Surat tersebut tidak memberikan butiran spesifik mengenai kebimbangan keselamatan negara. Kami memahami bahawa kerajaan percaya telah ditemui kaedah untuk mengelakkan atau "melarikan diri" daripada Fable 5. Kami telah mengkaji demonstrasi yang menggunakan teknik khusus ini untuk mengenal pasti beberapa lubang kecil yang diketahui. Semua lubang ini kelihatan relatif mudah, dan kami mendapati model lain yang tersedia secara awam juga mampu mengenal pastinya tanpa perlu mengelakkan.

Anthropic kemudian berhujah bahawa jailbreak bukan universal adalah tidak terelakkan dan terhad, tanpa bukti yang menunjukkan kehadiran jailbreak universal; jailbreak yang ditemui kelihatannya dilaporkan oleh Amazon, yang perlu diperhatikan kerana Amazon adalah pelabur Anthropic serta penyedia utama perkhidmatan penarikan perusahaan. Semasa saya menulis artikel ini, pengurusan Anthropic berada di Washington, D.C., cuba menyelesaikan isu yang mereka tegaskan sebagai salah faham, tetapi pegawai-pegawai White House mengisyaratkan sebagai ketidakpedulian kepimpinan syarikat terhadap kebimbangan keselamatan negara yang sah.

Memandangkan terlalu banyak fakta yang dipersoalkan, saya tidak ada apa-apa lagi untuk ditambahkan mengenai konflik semasa ini; tetapi saya tidak terkejut bahawa konflik sedang berlaku: saya telah menjelaskan dalam artikel “Anthropic dan Alignment” bahawa konflik antara kerajaan AS dan Anthropic adalah tidak terelakkan. Dalam konteks ini, mereka yang berpendapat bahawa Mythos belum cukup kuat untuk memicu tindakan keras daripada kerajaan telah melepas intinya: jika ia belum cukup kuat sekarang, yang seterusnya akan menjadi, atau yang selepas itu, terutamanya kerana model kini semakin berguna dalam mencipta penerusnya.

Namun, ini menimbulkan soal lain—soal yang kelihatannya mengesahkan pandangan para pencemooh: jika Mythos begitu berbahaya, mengapa Fable perlu dikeluarkan pada mulanya, dan mengapa perlu bertentangan dengan kerajaan untuk melakukan perkara yang anda katakan ingin lakukan? Sebenarnya, saya fikir tindakan Anthropic sangat boleh difahami; keunikan syarikat ini terletak pada cara ia membela tindakan-tindakan ini, dan justeru pembelaan-pembelaan inilah yang memberi bahan bakar kepada pencemooh serta memberi kuasa ajaib kepada Anthropic.

Pada tahun-tahun awal AI, nilai ekonomi terbesar mengalir ke kekuatan pengiraan, dan alasannya jelas: kami tidak memiliki cukup pasokan untuk memenuhi permintaan, yang bermaksud harga melonjak; penerima manfaat terbesar ialah NVIDIA, TSMC, dan pembuat memori (SK Hynix, Samsung, dan Micron). Sementara itu, Anthropic dan OpenAI mengalami kerugian berjumlah ratusan miliar dolar untuk membangun model canggih, dan model-model ini setelah dilancarkan, telah didistilasi dan dikomersialkan oleh model sumber terbuka, terutama dari China.

Ini mewakili skenario pesimis dari laboratorium—mereka tidak akan pernah mampu menutupi kos kerana perbezaan mereka bersifat sementara, dan alternatif percuma menjadi "cukup baik"—saya rasa ini munasabah. Di dunia di mana model boleh dipertukarkan, model adalah barangan, dan sebahagian besar nilai mengalir ke tempat lain. Kini ia adalah kekuatan pengiraan, tetapi seiring masa, apabila kita memiliki cukup kekuatan pengiraan, posisi paling bernilai dalam rantai nilai akan tetap menjadi tempat yang paling bernilai sepanjang masa: memiliki titik sentuh pengguna.

Oleh itu, saya selalu jelas bahawa laboratorium terkini mempunyai keperluan ekonomi untuk lebih dekat dengan pengguna. Jika anda memiliki titik sentuhan pengguna, maka anda memiliki penguncian yang bermakna, dan cara terbaik untuk memiliki titik sentuhan pengguna adalah menjadi kanvas bagi segala yang perlu mereka lakukan. Ini secara tidak langsung bermaksud laboratorium terkini sedang berhadapan dengan syarikat perisian: adakah perisian yang memiliki titik sentuhan pengguna, atau kepentingan jangka panjang laboratorium terkini bukan sekadar menjadi input komoditi perisian, tetapi menggantikan perisian secara langsung.

Sambil itu, syarikat perisian sedang berusaha melakukan perkara yang bertentangan. Satya Nadella menjelaskan visinya mengenai bagaimana syarikat seharusnya membina model dalam sebuah artikel di X:

Setiap syarikat mesti membina modal tenaga kerja dan modal token seperti yang saya katakan. Modal tenaga kerja merangkumi pengetahuan, kebijaksanaan, hubungan, keaslian, dan pengenalan corak pekerja mereka, manakala modal token adalah kemampuan AI yang dibina dan dimiliki oleh syarikat. Penting untuk diingat, semakin bertambah modal token, modal tenaga kerja tidak menjadi kurang berharga. Ia hanya akan menjadi lebih berharga! Saya percaya inisiatif manusia akan menjadi penggerak pertumbuhan modal token. Manusia akan menetapkan matlamat yang ambisius, menghubungkan titik-titik antarabidang, membina hubungan, dan mengenal pasti corak yang paling penting. Tanpa panduan manusia, kekuatan pengiraan anda hanya berputar-putar tanpa tujuan.

Ini bermakna peluang sebenar bukan terletak pada memilih model terbaik, tetapi pada membina kitar pembelajaran di atas model, membolehkan modal insan dan modal token bertumbuh secara berkelanjutan. Anda boleh mengoutsourcing satu tugas, bahkan satu pekerjaan, tetapi anda tidak pernah boleh mengoutsourcing pembelajaran anda. Masa depan syarikat ialah mampu membolehkan pembelajaran ini bertumbuh secara berkelanjutan antara manusia dan AI. Ini memerlukan pendekatan arkaitektur baharu yang membolehkan setiap syarikat membina sistem agen yang membaiki diri seiring masa, sambil masih mempertahankan kawalan terhadap kekayaan intelektual mereka. Syarikat seharusnya mampu menggantikan model "umum" tanpa kehilangan pengetahuan khusus "pegawai lama" yang terbina dalam sistem pembelajaran mereka. Ini adalah "ujiannya" utama untuk kawalan dan kedaulatan anda di era masa depan.

Nadella memulai visi ini dengan peringatan:

Yang tidak kami harapkan adalah dunia di mana setiap perusahaan dalam setiap industri menyerahkan nilainya kepada beberapa model kecil yang menelan segalanya. Jika semua nilai hanya diambil oleh beberapa model sahaja, sistem politik-ekonomi tidak akan membiarkannya. Masyarakat tidak akan memberikan kebenaran kepada masa depan AI yang mengosongkan seluruh industri.

Pertimbangkan apa yang berlaku pada peringkat pertama globalisasi, di mana seluruh ekonomi industri dikeluarkan melalui penghantaran luar. Secara zahir, nombor PDB kelihatan baik, tetapi pengusiran adalah nyata, dan kesannya masih dirasai hingga kini. Mari kita jangan membawa dinamik ini ke era AI, di mana beberapa sistem AI sahaja menangkap semua pulangan ekonomi, sementara seluruh industri mendapati pengetahuan mereka dikomersialkan tepat di hadapan mata mereka.

Masalah dalam perbandingan ini ialah: globalisasi memang berlaku, dan ekonomi industri memang telah dikosongkan. Ini mungkin bukan amaran tetapi ramalan; tidak hairanlah Nadella mengeluarkan amaran, kerana Microsoft mungkin salah satu mangsanya. Begitu juga, keperluan ekonomi pembuat model ialah untuk mencapai ini.

Model-model ini—bahkan Mythos—belum sampai ke tahap itu. Yang mereka perlukan, selain lebih banyak daya pengiraan, ialah lebih banyak data yang lebih baik. Peningkatan model semakin banyak datang daripada pembelajaran berpenguatan; sebahagian daripadanya boleh dihasilkan secara sintetik, tetapi tuas paling kuat untuk makmal terkini ialah penggunaan dunia nyata.

Saya rasa ini adalah sebab utama OpenAI dan Anthropic kedua-duanya menawarkan pelan langganan dengan subsidi besar. SemiAnalysis baru-baru ini menganggarkan bahawa pelan seharga US$200 membolehkan anda mendapatkan token Claude bernilai US$8,000 dan token Codex bernilai US$14,000. Tentu saja, kedua-duanya sedang bersaing untuk mendapatkan perhatian pengguna dan pembangun, tetapi mereka juga sedang bersaing untuk mendapatkan akses kepada data penggunaan sebenar bagi memperbaiki model.

Anthropic memberikan peningkatan besar di Fable, mengumumkan bahawa mereka akan menyimpan semua data yang digunakan selama 30 hari, walaupun untuk pelan perniagaan yang sebelumnya menjanjikan tiada penyimpanan data. Syarikat menyatakan bahawa data tersebut tidak akan digunakan untuk melatih, tetapi mereka tidak menetapkan sebarang jaminan untuk memastikan tidak akan dilakukan pada masa depan (contohnya, menyimpan data di pihak ketiga). Jika perubahan dasar ini (apabila Fable pulih) tidak menyebabkan kehilangan pelanggan yang besar, saya meragui bahawa penggunaan data mereka hanyalah soal masa: ia terlalu berharga bagi matlamat akhir mereka.

Perhatikan juga siklus positif dengan pergerakan ke atas ke titik sentuh pengguna: semakin banyak alur kerja yang diselesaikan secara langsung oleh Claude atau Codex, semakin banyak data yang diperoleh setiap syarikat untuk disemak balik ke dalam latihan, yang menjadikan produk mereka lebih kuat dan lebih berguna, memperluas jumlah alur kerja yang boleh dilayaninya, serta memperluas akses mereka kepada data.

Nadella menekankan kepentingan data ini dalam artikel tersebut, tetapi alamiahnya ia berpendapat ia harus berdiri sendiri daripada model:

Syarikat perlu mengubah alur kerja, pengetahuan domain, dan penilaian yang telah dikumpulkan menjadi sistem AI yang membaik setiap kali digunakan. Penilaian peribadi harus menangkap sama ada model benar-benar meningkatkan hasil yang penting kepada perniagaan (bukan hanya tolok luaran!). Lingkungan pembelajaran penguatan peribadi harus membuat model menjadi lebih kuat berdasarkan jejak sebenar di dalam organisasi. Pangkalan pengetahuannya membolehkan ingatan institusi dicari dan penggunaan token lebih cekap.

Siklus ini menjadi kekayaan intelektual baharu syarikat. Saya memandangnya sebagai mesin pendakian. Berbeza dengan kebanyakan aset, ia bersifat bunga berterusan. Setiap peningkatan alur kerja menghasilkan isyarat latihan yang lebih baik, yang mempercepat pengumpulan pengetahuan tersirat unik syarikat tersebut. Syarikat yang membina aspek ini lebih awal akan memiliki kelebihan yang sukar ditiru, tanpa mengira kemampuan model individu baru apa pun.

Siklus ini menjadi IP baharu syarikat. Saya memandangnya sebagai mesin memanjat bukit. Berbeza dengan kebanyakan aset, ia boleh tumbuh secara berkompaun. Setiap peningkatan alur kerja menghasilkan isyarat latihan yang lebih baik, mempercepat pengumpulan pengetahuan tersirat unik syarikat. Syarikat yang membina kemampuan ini pada peringkat awal akan memiliki kelebihan yang sukar ditiru, tanpa mengira sejauh mana kemampuan model individu meningkat di masa depan.

Namun, bagaimana jika syarikat-syarikat yang mematuhi dasar data Anthropic sudah boleh mendapat keputusan yang lebih baik sekarang? Atau bagaimana jika syarikat-syarikat sedia ada menolak, memberi peluang kepada syarikat-syarikat baru—atau pembuat model itu sendiri—untuk mengalahkan mereka di pasaran? Anthropic memang sedang menguji keteguhan yang Nadella serukan.

Mengenai dasar penyimpanan data sekitar Fable/Mythos, ia bahkan bukan bahagian paling kontroversial dalam pelancaran. Sebaliknya, Anthropic menyatakan dalam pelancaran itu bahawa jika Fable digunakan untuk pembangunan LLM, ia akan secara senyap mengurangkan prestasinya; ia ditulis dalam kad sistem:

Kami juga menambahkan langkah-langkah perlindungan yang berkaitan dengan pembangunan LLM terkini. Seperti yang dibincangkan dalam Bahagian 6.1 Laporan Risiko Februari 2026 kami, kami mengkhawatirkan risiko mempercepat laju perkembangan AI secara keseluruhan, walaupun kami masih tidak pasti tentang keparahan risiko-risiko ini. Khususnya, kebimbangan kami ialah—seperti yang kami tulis pada masa itu—"mempercepat pembinaan sistem AI kuat yang mempunyai risiko serupa dengan sistem kami oleh pengembang AI lain—tanpa langkah-langkah perlindungan yang sepadan."

Mengingat kemampuan terkini model untuk mempercepat pembangunan dirinya sendiri, kami telah melaksanakan langkah intervensi baru untuk membatasi keberkesanan Claude dalam merespon permintaan berkaitan pembangunan LLM terkini (contohnya, membina saluran pra-pelatihan, infrastruktur pelatihan teragih, atau reka bentuk akselerator ML). Penggunaan Claude untuk membangun model pesaing sudah melanggar syarat perkhidmatan kami, tetapi dengan memperkasakan langkah perlindungan ini, kami dapat menghalang mereka yang paling bersedia melanggar syarat-syarat tersebut.

Berbeza dengan intervensi kami dalam keselamatan siber, biokimia, dan percubaan penyulingan, langkah-langkah perlindungan ini tidak kelihatan oleh pengguna. Fable 5 tidak akan kembali kepada model lain. Sebaliknya, langkah-langkah perlindungan akan membatasi keberkesanannya melalui kaedah seperti pengubahsuaian petunjuk, vektor penghalaan, atau penyesuaian halus yang cekap berdasarkan parameter (PEFT). Intervensi ini tidak akan memberi kesan kepada kebanyakan kerja pengaturcaraan. Kami menganggarkan ia akan memberi kesan kepada kira-kira 0.03% trafik, yang terfokus pada kurang daripada 0.1% organisasi. Apabila intervensi ini berkuat kuasa, kami menganggarkan kesannya terhadap tingkah laku model adalah sangat kecil selain daripada membatasi keberkesanannya dalam mengembangkan LLM terkini. Claude masih akan memberikan respons yang membantu terhadap permintaan pengguna. Kami akan terus meningkatkan ketepatan kaedah pengesanan selepas pelancaran model ini.

Anthropic telah menarik semula perubahan ini—Fable akan mengalihkan permintaan yang berkaitan dengan LLM kepada Opus 4.8, serta mengesahkan pengalihan ini kepada pengguna—tetapi saya rasa dasar asalnya sangat memberi inspirasi. Di satu sisi, saya sebenarnya tidak menyalahkan Anthropic kerana tidak ingin membantu pesaing; di sisi lain, seharusnya sangat jelas bahawa Anthropic percaya bahawa tiada siapa pun selain mereka yang sepatutnya menghasilkan LLM terkini.

Yang lebih menarik perhatian mengenai dasar ini ialah ia dikeluarkan hanya dua bulan selepas Anthropic berkonflik dengan Jabatan Perang: pihak terakhir ingin menggunakan Claude untuk sebarang tujuan yang sah, manakala yang pertama ingin memperketat kawalan terhadap senjata pemantauan dan autonomi. Tindakan penurunan ini mewakili kemampuan Anthropic untuk secara diam-diam mengubah modelnya demi mencapai preferensi dasarnya, serta niatnya. Dengan kata lain, Anthropic secara aktif mengesahkan kebimbangan utama para pengkritik mengenainya sebagai risiko rantaian bekalan.

Namun, kesimpulan yang lebih luas daripada peristiwa itu ialah Anthropic percaya mereka sepatutnya mempunyai kuasa penghujung atas cara Anthropic digunakan; mengingat mereka percaya hanya mereka yang sepatutnya membangunkan AI canggih, maka sebenarnya mereka percaya hanya mereka yang sepatutnya mempunyai kuasa penghujung keseluruhan terhadap AI. Apabila anda menggabungkan pemahaman ini dengan pernyataan syarikat bahawa AI mampu menjalankan semua aktiviti ekonomi, anda akan sedar bahawa kepimpinan Anthropic sebenarnya ingin memiliki kuasa atas segala perkara dan semua orang.

Tentu, Anthropic tidak akan pernah menyatakan dengan sejelas ini; sebaliknya, ceritanya adalah tentang keselamatan:

Saya menganggap Anthropic akan semakin memaparkan kemampuan modelnya kepada pengguna akhir melalui endpoint yang semakin disesuaikan dengan alur kerja yang berbeza, walaupun mereka mula membatasi API. Penggantian perisian ini dan pembatasan akses akan dilakukan atas nama keselamatan, walaupun Anthropic sedang memenuhi keperluan ekonominya untuk mendekati pengguna akhir.

Penjelasan Anthropic mengenai perubahan besar dalam dasar penyimpanan data mereka adalah keselamatan. Secara khusus, syarikat tersebut menyatakan bahawa penyimpanan semua data pengguna selama 30 hari adalah perlu untuk mencegah tindakan pelarian yang dikhawatirkan oleh kerajaan Amerika Syarikat. Saya tentu boleh membayangkan satu masa depan di mana faktor keselamatan memaksa mereka untuk melatih data ini juga, untuk lebih baik mencegah penggunaan jahat.

Seluruh kisah asal-usul Anthropic berakar pada kepercayaan pendirinya bahawa OpenAI tidak mengambil keselamatan dengan serius; syarikat itu percaya hanya mereka yang mampu mengawal AI, dan kerana mereka secara unik peduli terhadap keselamatan, mereka mempunyai alasan untuk cuba mengawal semua orang lain, termasuk kerajaan Amerika Syarikat.

Mengenai alasan keselamatan ini, masalahnya ialah: Saya percaya ia berkesan kerana bagi Anthropic, ia bukanlah alasan. Syarikat itu benar-benar percaya bahawa mereka adalah satu-satunya yang percaya kepada kecerdasan super, oleh itu satu-satunya yang benar-benar memperhatikan bahaya. Ini membenarkan satu keputusan selepas satu, satu dasar selepas satu, satu pertembungan selepas satu, yang kelihatan seperti gabungan aneh antara sikap sinis dan kanak-kanak kepada orang luar.

Perbandingan dengan OpenAI sangat besar: Saya berpendapat salah satu cara memahami bagaimana dan mengapa OpenAI kehilangan kepemimpinannya adalah bahawa, dalam beberapa tahun selepas pelancaran ChatGPT, syarikat tersebut mengalami konflik dalaman, di mana laboratorium penyelidikan yang pernah ada tiba-tiba dipikul beban menjadi syarikat teknologi pengguna yang tidak dijangka; semasa OpenAI menyelesaikan konflik ini, ia kehilangan banyak bakat kepada syarikat-syarikat seperti Anthropic.

Di sisi lain, Anthropic memiliki keselarasan sempurna antara bakat, misi, dan perniagaan. Syarikat ini boleh menjual visi mencipta dewa mesin kepada penyelidik, dengan aura individu yang prihatin terhadap bahaya dan cukup bijak untuk mewakili umat manusia menghadapi bahaya tersebut; sementara setiap perubahan dasar yang dihasilkan secara tepat menguntungkan perniagaan, merupakan kebetulan paling indah di dunia.

Saya menghormati konsistensi ini, tetapi juga takut padanya. Saya menghormatinya kerana ia jelas sangat berkesan; perbandingan terdekat ialah Apple, syarikat yang selalu membungkus setiap tindakan egoisnya dengan alasan bahawa ia melakukan yang terbaik untuk pengguna—dan sering kali memang benar. Anthropic juga begitu. Namun, yang saya takuti ialah, membiarkan orang-orang yang yakin mereka paling tahu membina sebuah telefon pintar yang boleh saya terima atau tolak adalah satu perkara; tetapi membiarkan mereka membina kecerdasan super yang berpotensi menyamai atau melampaui kuasa negara bangsa, atau sekurang-kurangnya perusahaan besar, adalah jauh lebih mengkhawatirkan. Sejarah orang pintar yang yakin mereka tahu apa yang dibutuhkan manusia adalah kotor, kerana mereka berjaya meyakinkan diri mereka sendiri bahawa niat mereka baik, sehingga memberikan justifikasi kepada tindakan yang sebenarnya tidak begitu.