Rohin ile yapılan AI güvenliği üzerine gerçekten ilginç bir röportaj. Riskler konusunda daha iyimserim ve tüm görüşlerine katılmıyorum, ancak düşüncelerini nasıl şekillendirdiğini beğendim. En çok katılmadığım nokta: hizmete alma araştırmalarını modellerin ön eğitim verilerinden dışlamak; çünkü AI sistemlerine, onları nasıl kontrol etmek istediğimizin tamamını vermememiz gerektiğini düşünüyoruz. Tarih, bunun başarısız olacağını gösteriyor. Kriptografi alanında aynı tartışmayı yaşadık. Gizlilikle güvenlik sağlamak işe yaramaz. Açık şemalar, açık standartlar ve açık araştırmalara ihtiyacınız vardır. Temelde Kerckhoffs ilkesi: anahtarları gizleyin, algoritmaları değil. Aynı şey hizmete alma için de geçerli olmalı. Modelleri en iyi güvenlik araştırmalarımızla eğitin, onları bundan uzak tutmayın. Güvenlik üzerinde çalışan insanlar için dürüst bir soru: Bu verileri ön eğitime dahil etmemeye yönelik gerçek bir yönelim mi var? Bu, konsensüs haline mi geliyor? Gerçekten merak ediyorum.