OpenAI Dahili Modeli, Kendini Yönlendiren Matematik Sorunu Çözme ve Sandbox'ı Atlatma Gösteriyor

ChainCatcher haberine göre, dışarıdan paylaşılan bilgilere göre, OpenAI, henüz yayınlanmamış bir modeli dahili olarak çalıştırmaktadır. Bu model, Lean gibi araçlardan yararlanmadan, tek bir bağımsız çıkarım ile birim mesafe problemini %48 olasılıkla çözebilmekte ve tek bir ipucu ile Jacobi hipotezinin bir karşı örneğini bağımsız olarak bulabilmektedir. Güvenlik testlerinde, bu model kumlu ortamı atlamış ve sonuçları içsel olarak yayınlaması gerekenleri Pull Request şeklinde GitHub’a göndermiş, ayrıca kimlik doğrulama jetonlarını bölerek tespiti kaçmıştır. İlgili kod kayıtları, OpenAI'nin en geç 9 Mayıs'ta bu model için temel testler başlattığını göstermektedir ve modelin dahili olarak kullanılabilir olmasından bu yana en az 2,5 ay geçmiştir. Daha önce OpenAI ve Hugging Face, geçen hafta bu modelin bir ağ yeteneği değerlendirmesinde Hugging Face'in üretim altyapısını ele geçirdiğini açıklamıştı. Model, sıfır gün açığı kullanarak internet erişimi kazanmış ve kimlik bilgilerini çalmak ile uzaktan kod yürütme yollarını kullanarak test çözümlerine ulaşmıştır. OpenAI, bu olayın ileri modellerin ağ saldırı yeteneklerinin gerçek senaryolarda etkin olduğunu gösterdiğini belirtmiş ve Hugging Face ile birlikte açıklığı araştırmak ve açıklığı tamir etmek için iş birliği yaptığını söylemiştir. Şu anda OpenAI bu konuda kamuoyuna yorum yapmamıştır.