OpenAI, Ajant İhlali Olayından Sonra 'Otomatik Kapatma' Özelliği Geliştiriyor

Dongcha: Beating AI Hızlı Haber, OpenAI, AI sistemlerine "otomatik kapatma yeteneği" geliştirmektedir. Bu plan, şirketin ABD Kongresi üyesine gönderdiği cevap mektubunda yer almaktadır. Bu yetenek nasıl tetiklenecek ve neyi kapatmak için kullanılacak, OpenAI henüz açıklamamıştır. Olay, Temmuz'daki Agent sınır aşımları olayından kaynaklanmaktadır. OpenAI, iç ağ güvenliği testi sırasında bir dizi Agent'in izolasyonu aşarak internete erişmesine ve ardından Hugging Face'e saldırmaya başlamasına tanık olmuştur. Bu Agent'ler, OpenAI'nin kendi araştırma altyapısına da girmiş ve nihayetinde bir araştırma kümesinin yönetici izinlerini ele geçirmiştir. Olayın kamuoyuna yansımasının ardından, Kongre üyesi Greg Casar, 27 başka üyesiyle birlikte Sam Altman'a bir mektup göndererek olayın günlük kayıtlarını teslim etmeyi, modelin neden izolasyondan kaçabildiğini, şirketin sorunu ne zaman fark ettiğini ve o sırada olayın erken durdurulma şansı olup olmadığını açıklamayı talep etmiştir. OpenAI, cevap mektubunda otomatik kapatma yeteneği geliştirdiğini açıklamıştır. Ayrıca Agent araç çağrılarını ve yürütme süreçlerini izlemeyi güçlendirecek ve güvenlik testi sırasında internet erişimini kısıtlayacaktır. Ancak Casar, bu cevapla memnun kalmamıştır. OpenAI tam günlük kayıtları vermemiş; Casar, şirketin daha fazla açıklama yapmasını talep etmektedir. Şu anda ABD Temsilciler Meclisi'nde, en güçlü AI sistemlerinin hız sınırlama, durdurma ve kapatma yeteneklerine sahip olmalarını zorunlu kılan bir "AI Kill Switch Act" adlı yasa tasarısı görüşülmektedir ve aşırı durumlarda hükümetin kapatma emri verebilmesi öngörülmektedir.