Anthropic’ın beni en çok rahatsız eden noktası, kendi iyi niyetli olduğunu düşündüğü için kullanıcılar yerine birçok karar verme hakkını kendine tanıması. Yeni 154 sayfalık Bir Tehdit İstihbarat Raporu yayınladı ve bu raporda Claude’nin ağ saldırıları, dolandırıcılık, biyolojik araştırmalar, silah geliştirme ve model distilasyonu gibi alanlarda nasıl kullanıldığını listeledi. Bu örnekler nereden geliyor? Anthropic, kullanıcıların Claude’i nasıl kullandığını izliyor, kendi açısından sorunlu olduğunu düşündüğü hesapları tespit edip bunları daha derinlemesine araştırıyor, bu kullanıcıların kullanım biçimlerini analiz ediyor ve bu kullanıcıların sınırları aştığına karar veriyor. Riskli bulduğu kullanıcıların hesaplarını kapatıyor ve ardından bu olayları bir rapora dönüştürerek ne tür faaliyetleri tespit ettiğini ve nasıl engellediğini açıklıyor. Ve Anthropic bu tür işlemleri çok kez yapmış durumda. Gerçek kullanıcılarla Claude arasında geçen diyalogları inceleyerek insanların AI ile ne konuştuğunu, AI’ye ne kadar bağımlı olduğunu, insan değerlerinin ne olduğunu ve hangi durumlarda hangi duyguların ortaya çıktığını araştırıyor. Size verilerin gizlilik açısından işlendiğini ve bu araştırmaların AI’nin daha güvenli hale getirilmesi amacıyla yapıldığını söylüyor. Ama ben bunun tam tersine, çok fazla kibirli olduğunu düşünüyorum. Neden sadece “AI güvenliği için” dediğinizde, kullanıcıların ne yaptığını izleme hakkına sahip oluyorsunuz? Neden bir şeyin araştırılmasını değerli bulduğunuzda, kullanıcı verilerini bu amaçla kullanma hakkına sahip oluyorsunuz? Eğer bir yatırım davranışının çok riskli olduğunu, bir siyasi tartışmanın zararlı olabileceğini, bir yetişkin içeriğinin ilkelerine aykırı olduğunu ya da bir AI araştırmasının çok tehlikeli olduğunu düşünürse, aynı şekilde izleyebilir, sınırlayabilir ve hesapları kapatabilir mi? Anthropic’in şu anki mantığına göre, elbette. Çünkü sürekli şu varsayımı yapıyor: Anthropic, kullanıcıların ne yapması gerektiğini ve ne yapmaması gerektiğini daha iyi biliyor. İşte bu yüzden Anthropic’in AI Güvenliği anlatısına asla inanmadım. Günlük olarak AI’nin insanlar yerine karar vermesinden korktuğunu söyleyen bir şirket, kendi kendine kullanıcılar yerine karar verme alışkanlığı ediniyor. Çok yaşlı bir yaklaşım. Yaşlılar yenilgiye uğramaya mahkûmdur.