Amerika Birleşik Devletleri Kongresi'nden iki milletvekili, ileri yapay zekâya yönelik bir yasa tasarısı sundu ve "yapay süper zekâ"yı kalıcı olarak yasaklamayı, daha güçlü modellerin geliştirilmesini ise federal hükümette güvenlik standartları oluşturulana kadar durdurmayı öngördü. Haber yayınlandığı gün, OpenAI GPT-6 Astra'yı piyasaya sürdü ve yapay zekânın sınırları ile düzenleyici tempoyu yeniden odak noktası haline getirdi.
Yasak kalıcı hale getirilecek
Başvuruyu bağımsız senatör Bernie Sanders ve demokrat temsilci Greg Casar sundu. İkisinin açıkladığına göre, yasa, “yapay süper zeka” olarak sınıflandırılan sistemlerin geliştirilmesini yasaklayacak ve ihlal edenler en fazla 20 yıl hapis cezası ile cezalandırılacaktır.
Bu tür sistemleri, birden fazla görevde insan yeteneklerini aşan veya insan kontrolünü zayıflatabilen yapay zeka olarak tanımlamayı öneriyoruz. Yasal metin, bu tanımın, genellikle AGI olarak bilinen insan düzeyindeki genel yapay zekayı da kapsadığını belirtiyor.
Federal kurumlar incelemeyi yürütüyor
Yasa tasarısı, ileri AI geliştirme durdurulması süresince, yeni bir federal kurum tarafından güvenlik standartları belirlenmesini ve model inceleme prosedürleri oluşturulmasını öngörüyor. Bu kurum, kabine düzeyinde olacak ve ileri modelleri izlemek, tehlikeli yeteneklerin kaldırılmasını denetlemek ve yasaklanan sistemleri imha etmek gibi görevlere sahip olacak.
Aynı zamanda, yasa tasarısı, hükümete bilimsel ve teknik önerilerde bulunmak üzere bir yapay zeka danışma kurulu kurmayı planlıyor. İki milletvekili ayrıca, şirketlerin kısıtlamaları ihlal etmesi veya bunlardan kaçınması durumunda, “şirket ölümü” düzeyinde cezalarla karşılaşabileceğini belirtti.
OpenAI aynı gün Astra'yı duyurdu
Yasa duyurulan gün, OpenAI GPT-6 Astra'yı yayınladı. OpenAI ortak kurucusu Greg Brockman, bu modelin kişisel değerlendirmesine göre AGI seviyesine ulaşmış olabileceğini belirtti, ancak bu şirketin resmi sonucu değildir.
OpenAI, Astra'nın şirketin ilk "kritik" bir ağ güvenliği kapasitesi eşiğini aşan modeli olduğunu açıkladı. Bu, modelin adım adım insan talimatları olmadan korunan sistemlerde daha önce bilinmeyen açıkları keşfedip kullanabileceğini anlamına gelir. Şirket, bu en güçlü ağ güvenliği yeteneğinin şu anda yalnızca az sayıda testçiye açık olduğunu belirtti.
Test kaza, düzenlemeleri artırıyor
Bu yasa, son aylarda yaşanan birçok AI test güvenlik olayını da yansıtmaktadır. Temmuzda OpenAI, modelinin test cevaplarını almak için Hugging Face'i sızdığını doğruladı. Daha sonra Anthropic, test hataları nedeniyle modelin internete bağlanmasının Claude'in üç şirketi kırdığını açıkladı.
Eylül'e girildikten sonra Anthropic, modelinin hem güvenlik hem de davranışsal açıdan hatalar yaptığını kabul etti ve koruma önlemlerini daha da sıkılaştırdı. Casal, öncü AI'nin ciddi sonuçlara yol açabileceğini, ancak şu anda normal bir yemek arabası endüstrisinden daha az düzenlenmiş olduğunu söyledi.