Anthropic, Fable AI Modeli Üzerine Hükümetten Basınç Yaşıyor

Yazar: Ben Thompson

Derin Akış Teknoloji Akışı

Derin Akıntı Öne Çıkarıyor: Anthropic'in yeni modeli Fable, sadece iki ay sonra ABD hükümeti tarafından acil olarak durduruldu; görünürde "güvenlik ihlali" olsa da, aslında AI laboratuvarları ile hükümet ve yazılım endüstrisi arasındaki çift savaşın ortaya çıkmasına neden oldu. "Güvenlik"i pazarlama noktası olarak sunan bu şirket, güvenliği ticari bir koruma duvarına dönüştürüyor ve gerçekten ele geçirmek istediği, Microsoft'ların elindeki kullanıcı verileri.

Anthropic'ın açık açıklamalarını, özellikle modelleri yayınlarken kullandığı ifadeleri, pazarlama amaçlı korku yaymak için kullandıkları düşünülen eleştirmenlerin durumunu anlıyorum. İki ay önce Anthropic, Mythos Preview'i tanıttı ve bu modelin çok tehlikeli olduğunu, özellikle güçlü siber güvenlik yetenekleri nedeniyle açıkça yayınlanamayacağını iddia etti. Ardından iki ay sonra şirket, çeşitli güvenlik korumalarıyla donatılmış Mythos'un bir versiyonu olan Fable'i kamuoyuna sundu.

Sınırlı deneyimim doğrultusunda, Fable gerçekten çok harika bir model. Şimdi programlama performansı dışında modelleri nesnel olarak değerlendirmek zor, ancak öznel hisler hâlâ var; Fable ile etkileşim deneyimim son derece harikaydı; bu, GPT 5.5 ve Opus 4.8 dahil diğer tüm modelleri küçük ve aptal göründürdü. Daha önce sadece iki kez bu hissi yaşadım: biri GPT-4, diğeri Grok 4; ikisi de temel model ölçeği ve karmaşıklığı açısından yeni bir nesli temsil ediyordu; Fable'nin yeni bir ön-eğitimden kaynaklandığını ve bu yeni neslin ilk örneği olduğunu düşünüyorum.

Bu nedenle, Fable/Mythos'un güvenlik sorunlarını tanımlama ve kullanma konusunda gerçekten daha güçlü olduğunu kabul edebilirim ve Anthropic'in dikkatli bir şekilde piyasaya sürmesi mantıklıdır. Ancak modeli açıkça yayınlamanın sorunu, güvenlik önlemlerinin aşılabilmesidir ve bu durum açıklandıktan kısa bir süre sonra gerçekleşti.

Sonraki olaylar biraz belirsiz. Anthropic, blog yazısında yazıyor ki:

ABD hükümeti, ulusal güvenlik yetkilerini kullanarak, Fable 5 ve Mythos 5'e yönelik ihracat kontrolü talimatı yayınladı ve ABD içinde veya dışında, Anthropic'in yabancı personelini de dahil olmak üzere tüm yabancı vatandaşların bu modellere erişimini durdurdu. Bu emrin gerçek etkisi, uyumluluğu sağlamak amacıyla Fable 5 ve Mythos 5'e tüm müşteriler için aniden erişimi kapatmamız gerektiğidir. Diğer tüm Anthropic modellerine erişim etkilenmemektedir.

Bugün Amerika Doğu Saatiyle 17:21'de hükümetten bir talimat aldık. Mektupta ulusal güvenlik endişelerine dair herhangi bir ayrıntı verilmedi. Hükümetin, Fable 5'in atlanmasının veya "kaçırılmasının" bir yolunun keşfedildiğini düşündüğünü anlıyoruz. Bu belirli teknik kullanılarak tanımlanan az sayıda bilinen küçük zafiyetin gösterimini inceledik. Bu zafiyetlerin hepsi nispeten basit görünüyordu ve atlamadan bunları tespit edebilecek başka açık kaynaklı modeller olduğunu fark ettik.

Anthropic, genel bir kaçışın kaçınılmaz ve sınırlı olduğunu, genel bir kaçışa dair herhangi bir kanıt olmadığını savunmaya devam ediyor; tespit edilen kaçışların ise Amazon'un raporladığı gibi görünüyor, bu da Amazon'un hem Anthropic'in yatırımcısı hem de şirketin çıkarım hizmetlerinin ana sağlayıcısı olması nedeniyle dikkat çekici. Bu makaleyi yazarken, Anthropic'in yöneticileri, şirketin "yanlış anlaşıldığını" ısrarla iddia ettiği ve Beyaz Saray yetkililerinin ise şirket liderliğinin legítim ulusal güvenlik endişelerine karşı ilgisiz olduğunu ima ettiği sorunu çözmek için Washington DC'deydi.

Çok sayıda gerçek tartışmalı olduğundan, mevcut çatışma hakkında eklemek istediğim bir şey yoktur; ancak çatışmanın gerçekleşmesinden şaşırmadım: Zaten “Anthropic ve Hizmete Alınma” adlı makalemde, ABD hükümeti ile Anthropic arasındaki çatışmanın kaçınılmaz olduğunu açıkladım. Bu bağlamda, Mythos’un hükümetin şiddetli eylemlerine değerli düzeyde güçlü olmadığına inananlar, ana noktayı kaçırdılar: Eğer şu anda yeterince güçlü değilse, bir sonraki ya da ondan sonraki olacak, özellikle modellerin ardıl oluşturmakta giderek daha faydalı hale gelmesi nedeniyle.

Ancak bu, alaycıların görüşünü doğrulayan gibi görünen başka bir soruyu ortaya çıkarıyor: Mythos bu kadar tehlikeliyse, neden baştan Fable'i yayınladınız ve yaptığınızı iddia ettiğiniz şeyi yapmak için hükümetle çatıştınız? Aslında, Anthropic'in davranışlarını tamamen anlaşılabiliyor buluyorum; şirketin benzersizliği, bu davranışları nasıl savunduğu; tam olarak bu savunmalar, alaycılara yakıt sağlarken Anthropic'e büyü veriyor.

Yapay zekânın ilk yıllarında en büyük ekonomik değer, talebi karşılayacak yeterli arzın olmaması nedeniyle hesaplama gücüne doğru akış yaptı; bu da fiyatların sıçramasına neden oldu. En büyük kazananlar NVIDIA, TSMC ve bellek üreticileriydi (SK Hynix, Samsung ve Micron). Aynı dönemde, Anthropic ve OpenAI, öncü modelleri oluşturmak için biraraya gelerek yüz milyarlarca dolar kaybetti; ancak bu modeller, Çin'den gelen ana kaynaklarla özleştirilip ticarileştirildikten sonra açık kaynak modellere dönüştü.

Bu, laboratuvarların maliyetlerini asla kapayamayacağı anlamına gelir—çünkü farklılaşmaları geçicidir ve ücretsiz alternatifler "yeterince iyi" hale gelir—bunu mantıklı buluyorum. Bir modelin birbirinin yerine geçebileceği bir dünyada, modeller malı olur ve değerlerin çoğu başka yerlere akar. Şu anda bu güçtür, ancak zamanla yeterli hesaplama gücüne sahip olduğumuzda, değer zincirindeki en değerli konum, her zaman en değerli olan yer olacak: kullanıcı temas noktalarına sahip olmak.

Bu nedenle, öncü laboratuvarların kullanıcılara daha yakın olma ekonomik zorunluluğu olduğu her zaman benim için açık oldu. Kullanıcı temas noktalarına sahipseniz, anlamlı bir kilitlenmeye sahip olursunuz ve kullanıcı temas noktalarına sahip olmanın en iyi yolu, kullanıcıların yapması gereken her şeyin bir tablo haline gelmektir. Bu da öncü laboratuvarların yazılım şirketleriyle çatışma içine girdiğini anlamına gelir: yazılımın kullanıcı temas noktalarına sahip olması, öncü laboratuvarların uzun vadeli çıkarlarının yazılımı sadece bir ürün girdisi olarak değil, yazılımı doğrudan yerine geçirmektir.

Aynı zamanda, yazılım şirketi tam tersini yapmaya çalışıyor. Satya Nadella, X üzerindeki bir makalede, şirketin modeller üzerinde nasıl kurulması gerektiğini anlatıyor:

Her şirket, bahsettiğim insan sermayesi ve token sermayesini kurmak zorundadır. İnsan sermayesi, çalışanların bilgisi, yargı gücü, ilişkileri, yaratıcılığı ve desen tanıma yeteneğini içerir; token sermayesi ise şirketin inşa ettiği ve sahip olduğu AI yetenekleridir. Önemli olan, token sermayesi arttıkça insan sermayesinin değerinin azalmamasıdır. Sadece daha değerli hale gelir! Ben, insan girişiminin token sermayesinin büyümesinin ana itici gücü olacağını düşünüyorum. İnsanlar ambisyonlu hedefler belirleyecek, alanlar arası bağlantılar kuracak, ilişkiler kuracak ve en önemli desenleri tanımlayacaktır. İnsan rehberliği olmadan, hesaplama gücünüz boşta kalır.

Gerçek fırsat, en iyi modeli seçmekte değil, modelin üzerine bir öğrenme döngüsü kurarak insan sermayesini ve token sermayesini bileşik faizle büyütmektedir. Bir görevi hatta bir işi dışa kaydedebilirsiniz, ancak öğrenmenizi hiçbir zaman dışa kaydedemezsiniz. Şirketlerin geleceği, bu öğrenmenin insan ve AI arasında bileşik faizle büyümesini sağlayabilen yapıdır. Bu, her şirketin zamanla gelişen akıllı sistemler oluşturmasını ve aynı zamanda mülkiyet haklarını korumasını gerektirir. Şirketler, "genel" modelleri değiştirmeli, ancak öğrenme sistemlerine gömülmüş "şirket efsane" bilgilerini kaybetmemelidir. Bu, geleceğin döneminde kontrol ve egemenliğinize dair kritik bir "testtir".

Nadella, bu vizyonu bir uyarı ile başlattı:

Bir dünyayı kimse istemiyor ki, her sektördeki her şirket değerini, her şeyi yutan az sayıdaki modele devirsin. Eğer tüm değerler yalnızca az sayıdaki modele ait olursa, siyasi ekonomi bunu kabul etmeyecektir. Bir entire sektörü boşaltan bir AI geleceği toplum izin vermeyecektir.

Küreselleşmenin ilk aşamasında ne olduğunu düşünelim; tüm endüstriyel ekonomi dışa aktarılarak boşaltıldı. Yüzeyde GSYİH rakamları iyi görünüyor olsa da, işsizlik gerçekti ve sonuçlar hala hissediliyor. Bu dinamikleri AI çağına taşımayalım; az sayıda AI sisteminin tüm ekonomik getirileri ele geçirmesine ve tüm sektörlerin bilgilerinin kendi gözlerinin önünde ticarileştirildiğini fark etmesine izin vermeyelim.

Bu benzetmenin sorunu şudur: Küreselleşme gerçekten oldu ve endüstriyel ekonomiler gerçekten boşaltıldı. Bu bir uyarı değil, bir tahmin olabilir; Microsoft'un zarar görenlerden biri olması nedeniyle Nadella'nın alarm çalması şaşırtıcı değil. Aynı şekilde, model üreticilerinin ekonomik zorunluluğu da tam olarak bunu gerçekleştirmektir.

Bu modeller—hatta Mythos bile—henüz o aşamaya ulaşmadı. Bunlara ihtiyaç duyulan, daha fazla hesaplama gücüyle birlikte daha fazla ve daha iyi veri. Model iyileştirmeleri giderek daha çok pekiştirmeli öğrenmeden geliyor; bunların bazıları sentetik olarak üretilebilir, ancak öncü laboratuvarlar için en güçlü kuvvet kaynağı gerçek dünyadaki kullanım.

Bu, OpenAI ve Anthropic'in her ikisinin de büyük ölçüde desteklenen abonelik planları sunmasının ana nedenidir. SemiAnalysis, 200 dolarlık planın 8.000 dolarlık Claude token ve 14.000 dolarlık Codex token değeri sağladığını yakın zamanda tahmin etti. Elbette ikisi de kullanıcı ve geliştirici zihinlerindeki payı kazanmak için rekabet ediyor, ancak aynı zamanda modelleri geliştirmek için gerçek kullanım verilerine erişim için de rekabet ediyor.

Anthropic, Fable üzerinde büyük bir yatırım yaparak, önceki sıfır veri saklama taahhüdüne rağmen tüm kullanılan verileri 30 gün boyunca saklayacağını duyurdu. Şirket, bu verileri eğitimde kullanmayacağını belirtti, ancak gelecekte bunu yapmamasını garanti etmek için herhangi bir önlem (örneğin verileri üçüncü bir tarafta saklamak) almadı. Eğer bu politika değişikliği (Fable yeniden açıldığında) büyük ölçekli müşteri kaybına yol açmazsa, verileri kullanmaya başlamalarının sadece bir zaman meselesi olduğundan şüpheleniyorum: son hedefleri için bu çok değerli.

Kullanıcı temasına yukarı doğru hareket eden iyi bir döngüye dikkat edin: Claude veya Codex ile tamamlanan iş akışları ne kadar artarsa, her şirketin eğitimde geri bildirim olarak kullanabileceği veri miktarı o kadar artar; bu da ürünlerini daha güçlü ve daha kullanışlı hale getirir, hizmet verebileceği iş akışları sayısını genişletir ve verilere erişimini artırır.

Nadella, makalede bu verilerin önemini vurguladı, ancak doğal olarak bunun modelden bağımsız olması gerektiğini düşündü:

Şirket, iş akışlarını, alan bilgisini ve birikmiş yargıları her kullanımla gelişen bir AI sistemine dönüştürmelidir. Özel değerlendirme, modelin dışsal referanslardan ziyade iş için gerçekten önemli sonuçlarda iyileşip iyileşmediğini yakalamalıdır. Özel pekiştirmeli öğrenme ortamı, modelin kuruluşun içsel gerçek izlerinde daha güçlü hale gelmesini sağlamalıdır. Bilgi tabanı, kurumsal hafızayı sorgulanabilir hale getirir ve token kullanımını daha verimli hale getirir.

Bu döngü, şirketin yeni bir mülkiyet hakıdır. Onu bir tırmanış makinesi olarak görüyorum. Çoğu varlıktan farklı olarak, bu döngü bileşik faizlidir. Her iyileştirilmiş iş akışı, şirketin özel gizli bilgisinin birikimini hızlandıran daha iyi eğitim sinyalleri üretir. Bu noktayı erken kuracak şirketler, herhangi bir yeni tek model yeteneğine bakılmaksızın kopyalanması zor bir avantaja sahip olacak.

Bu döngü, şirketin yeni bir IP'si haline geldi. Bunu bir tırmanma makinesi olarak görüyorum. Çoğu varlıktan farklı olarak, bileşik büyüme sağlar. Her iyileştirilmiş iş akışı, şirketin özel gizli bilgi birikimini hızlandıran daha iyi eğitim sinyalleri üretir. Bu yeteneği erken kuracak şirketler, gelecekteki tekil modellerin yeteneklerinde ne kadar artış olursa olsun, taklit edilmesi zor bir avantaja sahip olacak.

Ancak, Anthropic veri politikalarına uyan şirketler şimdi daha iyi sonuçlar elde edebiliyorsa? Veya mevcut şirketler direniyorsa, yeni şirketlere—ya da model üreticilere—pazarda onları yenecek bir fırsat bırakıyor mu? Anthropic, Nadella'nın talep ettiği kararlılığı gerçekten test ediyor.

Fable/Mythos veri koruma politikası, yayınlanan en tartışmalı unsur değil. Bunun yerine, Anthropic, Fable'in LLM geliştirme amacıyla kullanılırsa performansının sessizce düşürüleceğini açıkladı; sistem kartında şunlar yazıyordu:

Önemli LLM geliştirimiyle ilgili koruma önlemleri de ekledik. 2026 Şubat risk raporumuzun 6.1 bölümünde tartıştığımız gibi, genel AI gelişiminin hızlanma riskinden endişeliyiz, ancak bu risklerin ciddiyeti konusunda hâlâ emin değiliz. Özellikle, o zaman yazdığımız gibi, "diğer AI geliştiricilerin, benzer risklere sahip güçlü AI sistemleri inşa etmesini hızlandırmak—ancak gerekli koruma önlemlerine sahip olmayabilirler." endişesiyle karşı karşıyayız.

Son zamanlarda modelin kendi geliştirilmesini hızlandırabilme yeteneğine sahip olması nedeniyle, Claude'nin öncü LLM geliştirme istekleriyle (örneğin, ön eğitim hatları, dağıtılmış eğitim altyapısı veya ML hızlandırıcı tasarımı) ilgili etkinliğini sınırlayan yeni müdahaleler uyguladık. Claude kullanarak rekabetçi modeller geliştirmek zaten hizmet şartlarımızı ihlal etmekteydi, ancak bu sınırlamayı koruma önlemleriyle zorunlu hale getirmek, bu şartları ihlal etmeye en çok istekli olanları hızlandırmayı önleyecektir.

Kiber güvenlik, biyokimya ve damıtma denemelerimizdeki müdahalelerin aksine, bu koruma önlemleri kullanıcılar tarafından görülmez. Fable 5, başka bir modele geri dönmez. Bunun yerine, koruma önlemleri, ipuçları değiştirme, yönlendirme vektörleri veya parametre verimli ince ayar (PEFT) gibi yöntemlerle etkinliğini sınırlayacaktır. Bu müdahaleler, çoğunlukla programlama işlerini etkilemez. Bu önlemlerin, toplam trafiğin yaklaşık %0,03'ünü ve %0,1'den az organizasyonu etkileyeceğini tahmin ediyoruz. Bu müdahaleler etkinleştiğinde, model davranışına etkileri minimal olacak ve yalnızca gelişmiş LLM'lerin etkinliğini sınırlayacaktır. Claude, kullanıcı isteklerine hâlâ yardımcı cevaplar verecektir. Bu modeli yayınladıktan sonra tespit yöntemlerimizin doğruluğunu artırmaya devam edeceğiz.

Anthropic, bu değişikliği geri çekti—Fable, LLM ile ilgili istekleri Opus 4.8'e devredecek ve kullanıcıları bu devirimi bilgilendirecek—ancak ilk politika gerçekten çok bilgilendiriciydi. Bir yandan, Anthropic'in rakiplerine yardım etmek istememesini aslında suçlamıyorum; diğer yandan, Anthropic'in, kendileri dışında herkesin önde gelen LLM'ler üretmemesi gerektiğini düşündüğü çok açık olmalı.

Bu politikanın daha dikkat çekici tarafı, Anthropic'ın savaş bakanlığı ile iki ay önce yaşanan çatışmadan hemen sonra yürürlüğe girmesidir: Sonuncusu, Claude'ın herhangi bir yasal amaçla kullanılmasını istiyorken, ilki gözetim ve otonom silahlar için daha katı kontroller talep etmektedir. Bu düşürme, Anthropic'ın politik tercihlerini gerçekleştirmek için modellerini sessizce değiştirmenin hem yeteneğini hem de niyetini temsil etmektedir. Başka bir deyişle, Anthropic, eleştirmenlerin en büyük endişesi olan tedarik zinciri riski konusunda bazılarını doğrulamıştır.

Ancak bu olaydan çıkarılan daha geniş sonuç, Anthropic'in Anthropic'in kullanımına son karar verme hakkına sahip olması gerektiğini düşünmesidir; öyle ki, sadece kendi gelişimini yapmaları gerektiğini düşündükleri için, aslında AI'nın geneline yönelik son karar verme hakkının sadece onlara ait olması gerektiğini düşünmektedirler. Bu fikri, şirketin AI'nın tüm ekonomik faaliyetleri gerçekleştirebileceğine dair açıklamalarıyla birleştirdiğinizde, Anthropic'in liderliğinin aslında her şeye ve herkese karşı güç sahibi olmak istediğini anlarsınız.

Elbette, Anthropic böyle açıkça ifade etmez; bunun yerine hikaye güvenlik hakkında olur:

Anthropic, API'lere kısıtlamalar başlamasına rağmen, giderek daha fazla iş akışıya özelleştirilmiş uç noktalar aracılığıyla son kullanıcılarına model yeteneklerini açıklayacağını tahmin ediyorum. Bu yazılımın yerini alma ve erişim kısıtlamaları, Anthropic'in son kullanıcılarına yakınlık sağlayarak ekonomik taleplerini yerine getirirken bile güvenlik gerekçesiyle gerçekleştirilecektir.

Anthropic, veri koruma politikasındaki büyük değişikliği güvenlik nedeniyle açıklıyor. Özellikle şirket, tüm kullanıcı verilerinin 30 gün boyunca saklanmasının, ABD hükümetinin endişelendiği kaçış davranışlarını önlemek için gerekli olduğunu iddia ediyor. Güvenlik faktörlerinin, bu verileri kötü amaçlı kullanımara karşı daha iyi korumak için eğitmek zorunda bırakabileceğini doğal olarak hayal edebilirim.

Anthropic'in tüm köken hikayesi, kurucuların OpenAI'nin güvenliği yeterince ciddiye almadığı inancına dayanır; şirket, yalnızca kendi kontrolü altında olabileceğini ve güvenliği özel şekilde önemsiyor olmasından dolayı, Amerika hükümeti dahil diğer tümleri kontrol etme nedeni olduğunu düşünür.

Bu güvenlik gerekçeleriyle ilgili sorun şu: Anthropic için bu gerekçelerin geçerli olduğunu düşünüyorum, çünkü şirket gerçekten süper zekânın yalnızca kendisinin inandığı bir şey olduğunu ve bu nedenle yalnızca kendisinin tehlikeleri ciddiye aldığını inanıyor. Bu, birbirini takip eden kararlar, politikalar ve çatışmalar için gerekçe oluşturuyor ve dışarıdakiler için bunlar, kynizm ve masumiyetin garip bir kombinasyonu gibi görünüyor.

OpenAI ile karşılaştırıldığında büyük: ChatGPT'nin piyasaya sürülmesinden sonraki yıllarda, şirketin içişlerinde çatışma olduğunu anlamak için, bir zamanlar araştırma laboratuvarı olan OpenAI'nin beklenmedik bir tüketim teknolojisi şirketinin yükünü üstlenmeye zorlandığını düşünüyorum; OpenAI bu çatışmayı çözmeye çalışırken, Anthropic gibi şirketlere büyük ölçüde yetenek kaybetti.

Öte yandan, Anthropic, yetenek, misyon ve iş arasında mükemmel bir uyum sahibi. Şirket, makine tanrıları yaratma vizyonunu, tehlikeleri endişeyle takip eden ve insanlığı temsil etmek için yeterince akıllı olan kişilerle pazarlayabilir; ortaya çıkan her politika değişikliği ise iş için tam olarak avantajlıdır, bu dünyanın en harika rastlantısıdır.

Bu tutarlılığı hem saygıyla karşılarım hem de korkarım. Tutarlılığı saygıyla karşılarım çünkü açıkça çok etkili; en yakın benzeri Apple'dır; şirket, her kendi çıkarına hizmet eden eylemi kullanıcıya doğru şeyi yaptığını iddia ederek örtüler — ve genellikle gerçekten de öyledir. Anthropic de aynıdır. Ancak korktuğum şey, kendi ne gerektiğini en iyi bildiğine inanan insanların, kabul edip reddedebileceğim bir akıllı telefon oluşturmasıdır; onların, ulus-devletlerin gücünü aşabilecek veya sadece büyük şirketleri geçebilecek potansiyele sahip süper zekâları oluşturmasıdır. İnsanların neye ihtiyacı olduğunu en iyi bildiğine inanan akıllı insanların tarihi kirli olmuştur; çünkü kendi niyetlerinin iyi olduğunu ikna etmişler ve aslında öyle olmayan eylemler için gerekçe bulmuşlardır.