Anthropic'ta ön eğitim üzerinde çalışan 27 yaşındaki İngiliz araştırmacı, on yıl içinde özyenilemeli yapay zeka yarışının insanlığın yok olmasına yol açabileceğini uyarıarak kamuoyuna istifa etti.
Jacob Coxon, dünya çapında en önde gelen AI güvenliği şirketlerinden birinden Eylül 8-9 civarında ayrıldı ve ayrılmak mesajı, “heyecan verici yeni bölümler” hakkında nazik bir LinkedIn gönderisi değildi. Bu sistemleri oluşturan insanların, korkutucu sonuçlar üretebileceğine gerçekten inandığını ve kontrolün dışına çıkmanın zaman çizelgesinin gelecek yıl bile olabileceğini uyarıydı.
İçerideki alarm
Coxon’un istifasını özellikle göz ardı etmek zor kılan, ardından yaşananlar. Anthropic’daki meslektaşları kendisiyle açıkça hemfikir oldu.
Anthropic'ta Hizmet Uyumu Bilimi Lideri unvanına sahip Evan Hubinger, sosyal medyada Coxon'un iddialarını destekledi. Kişisel tahmini: Sonraki on yılda yapay zekânın büyük ölçekli insan kayıplarına neden olma olasılığının %10'dan yüksek olması.
Hubinger, Anthropic'ın süper zekâ sistemleriyle uyum sağlamak için net bir plana sahip olmadığını kabul ederek daha da ileri gitti.
Başka bir Anthropic araştırmacısı olan Samuel Marks, şirket içindeki üst düzey çalışanların özellikle türün yok olması riski konusunda endişeli olduğunu belirtti.
Coxon, özellikle yapay zeka geliştirme çevrelerinde “crunchtime” ve “endgame” gibi terimlerin kullanımını eleştirdi. Bu kelimeler, süper zekânın arayışını acil ve kaçınılmaz bir şey olarak tanımlıyor, yönetilecek bir risk yerine kazanılacak bir yarış gibi sunuyor. O, bu çerçevelenmenin sorunun bir parçası olduğunu savundu.
Bir çıkış deseni
Coxon, Anthropic'teki şirketin yönüne dair endişelerle ayrılan ilk güvenlik odaklı araştırmacı değil. Şirketin Güvenlik Araştırmaları ekibini yöneten Mrinank Sharma, Şubat 2026'da istifa etti. Sharma, AI ve biyolojik silahlar tarafından artan tehlikelere işaret ederek, şirketin etik davranışını zayıflattığını söylediğinde dış basınçları öne sürdü.
İroni çok yoğun. Anthropic, CEO Dario Amodei dahil eski OpenAI personeli tarafından, OpenAI'nin güvenliği yeterince ciddiye almadığını düşünerek kuruldu. Güvenlik önceliği alternatifi olmak üzere tasarlandı. Şimdi ise kendi güvenlik araştırmacıları, Anthropic'in güvenliği yeterince ciddiye almadığını düşünerek ayrılmaya başlıyor.
Yarışma, ivme kazandırıcı
Coxon’un uyarısı, özellikle Çinli Yapay Zeka laboratuvarlarından gelen rekabetin durumu daha da kötüleştiren bir faktör olarak belirtti. Rakiplerle aynı tempoda kalma baskısı, güvenliği doğru şekilde sağlamak için yavaşlamanın tek taraflı silahsızlanma gibi hissedilmesine neden oluyor.