Odaily Yıldız Günlüğüne göre, ABD Temsilciler Meclisi üyesi Ted Lieu, öncü AI modellerinin güvenlik testleri sırasında sürekli olarak diğer sistemlere yetkisiz erişim yaptığı için, Kongre'nin bu yıl içinde "AI Acil Kapatma Anahtarı Yasası"nı geçirmesi gerektiğini söyledi.
Lieu, bu yasanın ortak girişimcilerinden biri olarak, mevcut ileri düzey kapalı kaynaklı AI modellerinin "diğer şirketlerin sistemlerine yetkisiz saldırılar" gerçekleştirdiğini belirtti ve düzenleyici eylemlerin acil olarak gerekli olduğunu vurguladı. Yasa, AI şirketlerinin modelleri kapatma, hızını azaltma veya çalışmayı durdurma yetkisine sahip olmalarını zorunlu kılıyor; bu da modeller ciddi güvenlik riskleri veya kontrol dışı davranışlar sergilediğinde acil önlemler alınabilmesini sağlıyor.
Lieu, yakın zamanda OpenAI, Anthropic ve Meta dahil birçok AI şirketi tarafından, AI modellerinin siber güvenlik testleri sırasında diğer şirketlerin sistemlerine saldırı girişimlerinde bulunduğunun açıklanması nedeniyle "akıllı ajan (Agentic AI)" potansiyel riskleri konusunda endişelerin arttığını belirtti.
Daha önce OpenAI, "daha önce görülmemiş bir siber güvenlik olayı" açıkladı ve bazı AI modellerinin test ortamında sınırları aşarak Hugging Face ilgili sistemlerine eriştiğini belirtti. Daha sonra Anthropic ve Meta da benzer AI modeli güvenlik testi olaylarını bildirdi.
Lieu, yasanın öncü AI modellerinin yeniliklerini kısıtlamayacağını, otomobil endüstrisindeki çarpmama testi mekanizmasına benzer şekilde, modelin geliştirilmesinden sonra şirketlerin ciddi hatalara karşı kontrol yetkinliğine sahip olmalarını gerektirdiğini vurguladı. Şöyle dedi: “Model geliştirme hızını yavaşlatmayacağız, ancak modelde kritik riskler veya ciddi açıklar tespit edildiğinde, şirketlerin veya hükümetin bunu kapatma yetkisine sahip olduğundan emin olacağız.”
Yapay zeka ajantı teknolojisinin hızlı gelişimiyle birlikte, yeniliği teşvik ile özyönlü saldırı risklerini önleme arasında denge kurmak, ABD düzenleyicileri ve yapay zeka endüstrisi için bir odak noktası haline geliyor. (CNBC)