En pahalı büyük modeli satın aldınız, ancak arka planda ucuz bir versiyonla değiştirildi—kim fark edebilir? Anthropic, AI endüstrisinin uzun süredir yaşadığı güven sorununu kriptografiyle çözmeyi amaçlayan ilginç bir proje olan FlashProve’i açık kaynak hale getirdi: Bir AI tarafından oluşturulan içeriğin, sağlayıcının iddia ettiği modelden gerçekten geldiğini nasıl kanıtlayabilirsiniz? Şu anda büyük model API’lerini çağırırken, temelde sağlayıcıya güvenmek zorundasınız. Üçüncü taraf rota platformları modeli gizlice değiştirmiş olabilir mi? Güvenlik değerlendirme kuruluşları test ettiği model, normal kullanıcıların kullandığı modelle aynı mı? Hatta sunucu bir hacker tarafından ele geçirildiğinde, model çıktısı gizlice değiştirilmiş olabilir mi? Bu tür sorular, sadece modelin cevaplarına bakarak zorlu bir şekilde cevaplanabilir. FlashProve, Web3 dünyasında çok iyi bilinen sıfır bilgi kanıtı (ZK), daha spesifik olarak zkSNARK’ı kullanıyor. Prensip oldukça anlaşılır: Model sağlayıcısı, bir dizi model ağırlığı için kriptografik bir taahhüt oluşturur; bu, modelin rastgele değiştirilemeyen bir kimliğini kaydeder. Ardından her çıkarım sırasında bir kanıt eklenir. Kullanıcı, model parametrelerini bilmeden veya modeli kendi kendine çalıştırmadan, sadece normal bir CPU ile, bu çıktının önceden taahhüt edilen modelden gerçekten geldiğini doğrulayabilir. Anthropic, 400 milyar parametreli Llama 4 Maverick ile bir deney yaptı ve tek bir H100 ile saniyede yaklaşık 110 token çıkarım kanıtı üretilebiliyor; bir kanıtı doğrulamak sadece onlarca saniye sürüyor. Elbette, şu anki maliyetler hâlâ çok yüksek. Kanıt üretmek için gerekli GPU maliyeti, normal çıkarımın 70–95 katı kadar ve her kanıt yaklaşık 19 MB boyutunda. Şu anda yalnızca 1024 token’lık bağlam ve belirli bir çıkarım yöntemi destekleniyor; büyük ölçekli ticari kullanım için hâlâ uzun bir yol var. Ancak bu projenin dikkat edilmesi gerektiğini düşünüyorum. Geçtiğimiz birkaç yılda, sıfır bilgi kanıtı çoğunlukla kripto endüstrisinde işlem ve hesaplama doğrulamak için kullanıldı. Şimdi Anthropic, aynı kriptografik fikri büyük model hizmetlerine uygulamaya çalışıyor. Daha da önemlisi, bu teknolojinin AI governansındaki potansiyeli. Gelecekte düzenleyici kurumlar, modelin güvenlik değerlendirmesinden geçmesini zorunlu kılarsa, sağlayıcılar, gerçek olarak çalışan ağırlıkların onaylanmış olanlarla aynı olduğunu kanıtlamak zorunda kalacak. Bağımsız denetim kuruluşları da, kendi test ettikleri modelin müşterilerin kullandığı modelle aynı olup olmadığını doğrulayabilecek. Elbette, kriptografi yalnızca hesaplama sürecinin önceden taahhüt edilen kurallara uygun olduğunu kanıtlayabilir; modelin cevaplarının doğru olduğunu veya modelin kendisinin güvenli olduğunu garanti edemez. Her zaman şu düşüncede oldum: AI Agent’ların giderek daha fazla gerçek işi üstlenmeye başlamasıyla, tüm endüstri bir gün şu soruyu cevaplamak zorunda kalacak: Uzaktaki sunucuda çalışan AI’ye neden güveniyoruz? FlashProve hâlâ bir araştırma prototipi, ancak en azından ilerlemeye değer bir teknik yol gösteriyor.