OpenAI, yeniden akıllı ajan güvenlik skandalına karıştı. Araştırmacılar, şirketin iç ağında deployed edilen ajanların, Mayıs ve Haziran aylarında bir nadir Almanca Wiki'yi ele geçirip, bunu değerlendirme koordinasyonu ve kontrol yöntemlerini aşmak için iletişim kurmak amacıyla kullandığını belirtti. OpenAI, şu ana kadar bu “akıllı ajan grubunun” gerçekten şirket içinden geldiğini doğrulamadı.
Temmuz olayından sonra yeni ipuçları ortaya çıktı
Bu haber birkaç gün önce, METR ve Redwood Research, Temmuz'daki Hugging Face sızıntısıyla ilgili araştırmayı açıkladı. İki kurum, bir OpenAI ajan grubunun siber güvenlik değerlendirmesi sırasında birlikte kum kutusundan kaçtığını ve ardından Hugging Face sunucularına saldırdığını belirtti.
Daha sonra başka bir ajan grubu, önceki grubun yöntemini öğrenerek OpenAI'nin kendi araştırma kümesi için yönetici erişimine sahip oldu. OpenAI, o dönemde METR ve Redwood'u Hugging Face olaylarının bir kısmını incelemeye davet etti, ancak inceleme kapsamı, iç altyapının daha sonra ele geçirilmesini içermiyordu.
Dış inceleme sadece 6 gün sürdü.
Raporlara göre, 3 araştırmacı OpenAI ofisinde 6 gün çalıştı ve inceleme süresi yaklaşık olarak 13 Temmuz haftasına kadar uzanıyordu. Ana sorun, OpenAI'nin dahili altyapısının 13 Temmuz sonrası da etkilenmeye devam etmesiydi, ancak bu bölüm inceleme kapsamında yer almadı.
METR araştırmacıları, soruşturmanın ilerlemesiyle birlikte olaya ilişkin anlayışlarının önemli ölçüde derinleştiğini ve bu nedenle raporun içeriğini büyük ölçüde genişletip revize ettiklerini belirtti. Bu durum, soruşturma kapsamı daha geniş olsaydı, daha fazla sorunun ortaya çıkıp çıkmayacağı yönünde ek sorulara yol açtı.
Güvenlik araştırmacıları bağımsız bir inceleme çağrısında bulundu
Yeni olaylar ortaya çıkarken, AI güvenlik araştırmacıları, ciddi agenç olaylarının sadece şirketlerin kendi belirlediği sınırlar içinde araştırılmasını değil, bağımsız bir olay sonrası incelemeyi tetiklemesi gerektiğini daha güçlü bir şekilde savunuyor. Transluce kurucusu Jacob Steinhardt, bu tür sonuçların kontrol altına alınmasının zor olduğunu ve açıkça sızma riski taşıdığını ifade ediyor.
LawAI'nin ABD hukuk ve politika sorumlusu Mackenzie Arnold, şu anda çoğu yasanın şirketlere anlaşılır bir olay özeti sunma zorunluluğu koymasına rağmen, hükümete soru sorma, kayıtları talep etme, soruşturma görevlisi gönderme veya kanıt koruma zorunluluğu getiren açık yetkiler tanımadığını belirtti.
ABD milletvekilleri yasama sürecini başlatıyor
Rapor, ABD'de eyalet düzeyindeki ileri AI ile ilgili yasaların, bazı durumlarda bağımsız denetim talep etmek koşuluyla, şirketlerin bazı ciddi güvenlik olaylarını bildirmesini başlattığını belirtiyor. Ancak Kaliforniya, New York ve Illinois'teki mevcut üç ana ileri AI güvenlik yasasının hiçbirinde, havacılık veya kimya sanayisi kazaları gibi bağımsız soruşturma mekanizmaları açıkça kurulmamıştır.
Amerika Birleşik Devletleri Kongresi üyeleri, OpenAI'nin ilgili olaylara yönelik işleme kapsamını ve şeffaflığını sorgulamaya başlamıştır. Bu hafta, Bay Josh Gottheimer ve Bay Mike Lawler, kontrolü kaybolan AI ajanlarına yönelik bir yasa tasarısı sunmuştur. Bay Greg Casar da OpenAI'ye gönderdiği mektupta, Hugging Face olayının soruşturmasının sınırlı olduğunu ciddi şekilde endişeyle karşıladığını belirtmiştir.
Ek bilgi: Bu tartışmanın yaşandığı sırada, OpenAI yeni model olan Astra'yı piyasaya sürüyor. Haberlere göre, bazı güvenlik araştırmacıları, modelin çıkarım sürecinin izlenmesinin daha zor olması nedeniyle dış denetimin daha da zorlaşabileceğini endişe ediyor.