Kaliforniya valisi Newsom, trilyon parametreli modellerin piyasaya sürülmesinden önce kırmızı ekip testleri ve üçüncü taraf denetimi geçmeyi zorunlu kılan tarihi bir AI düzenlemesi imzaladı.Yazan: AIBase
Amerika Birleşik Devletleri Kaliforniya Eyaleti Valisi Gavin Newsom, tarihi bir yapay zeka düzenlemesi paketini resmen imzaladı. Bu yeni yasalar, önde gelen büyük modellerin güvenlik risklerini değerlendirmeyi, şeffaflık açıklamalarını güçlendirmeyi ve felaket niteliğindeki ağ saldırılarından korunmayı amaçlıyor ve OpenAI ile Anthropic dahil olmak üzere birçok Silicon Valley AI liderinin nadiren gösterdiği destek ve açık desteğiyle mecliste kabul edildi.
Trilyonlarca parametreli modelin başlatılması önce "Kırmızı Takım Alıştırması + Üçüncü Taraf Denetimi" geçmelidir.
Son yıllarda, üretken AI hesaplama kapasitesinin üssel genişlemesi ve öncü temel modellerin özgün yeteneklerindeki sıçramalarla, AI'nın kritik altyapıları tahrip etme, otomatikleştirilmiş biyokimyasal silah geliştirme, büyük ölçekli derin sahte manipülasyonlar ve ciddi siber güvenlik açıklarından yararlanma amaçlı kötüye kullanımı konusundaki endişeler artmaktadır. ABD Kongresi'nde联邦 düzeyde AI yasalaşması konusunda sürekli bir duraklama yaşanmasının ardından, Kaliforniya Eyalet Meclisi son yıllarda ABD'de AI yasalaşmasının öncüsü rolünü üstlenmiştir.
Bu süreçte kabul edilen birden fazla yasa, çok büyük temel modeller için güvenlik testi standartlarının yasal olarak düzenlenmesine odaklanmaktadır; model geliştiricilerinin trilyon parametreli öncü sistemleri eğitmek ve dağıtmadan önce standartlaştırılmış kırmızı takım karşılaştırma egzersizlerini gerçekleştirmeleri, ciddi riskleri hafifletmek için katı protokoller kurmaları ve üçüncü taraf bağımsız denetimlerle onaylanmış uygunluk güvenlik raporlarını eyalet hükümeti denetim kurumlarına sunmaları zorunlu kılınmaktadır.
Önceki Silicon Valley'de şiddetli tepkilere ve büyük teknoloji şirketleri ile sermaye yatırımcılarının güçlü karşı çıkmasına neden olan radikal düzenleyici önerilerden farklı olarak, bu yasal paket, gelişmiş AI laboratuvarlarının teknik önerilerini derinlemesine benimseyerek hazırlanmış ve revize edilmiştir. Anthropic ve OpenAI, önceki metinlerde açık kaynak topluluğunun gelişimini engelleyebilecek veya sivil sorumlulukları sonsuza kadar genişletebilecek aşırı katı hükümler konusunda derin endişelerini dile getirmişti; yoğun lobi faaliyetleri ve maddelerdeki ince ayarlar sonucu nihai yasa, doğrudan katı teknik üst sınırlar belirlemek yerine şeffaf bir “önceden risk değerlendirmesi çerçevesi” ve “endüstri en iyi güvenlik uygulamaları standardı” kurmaya odaklanmıştır. Bu sayede ana AI araştırma kurumları yasal çerçevede iş birliği sağlamıştır.
Midnight (NIGHT) Artık KuCoin'de!
Derin sahtekarlık su damlası gerektirir, ihtar verenler yasal koruma altındadır.
Alt yapı güvenliği incelemesinin yanı sıra, yasa, AI tarafından oluşturulan içerikler için kaynak belirleme ve su damlası standartlarını da kapsar; platformlara ve ana içerik dağıtım kanallarına derin sahtekarlık ses ve video içeriklerine sistem düzeyinde dijital parmak izi eklemeyi zorunlu kılar; seçimlerde sahte bilgi ve kötü niyetli kişisel dolandırıcılık yayılmasını önlemek amacıyla. Aynı zamanda, yasa, modellerin potansiyel ciddi güvenlik açıklarını keşfeden ve ortaya çıkaran iç çalışanlara ve araştırmacılara daha net bir “bildirgeci” yasal koruması sağlar ve şirketlerin, teknik personelin kritik güvenlik tehlikelerini düzenleyici kurumlara rapor etme hakkını sert gizlilik anlaşmalarıyla ortadan kaldırmamasını yasaklar.
Bu adım, kaliforniya'nın küresel yapay zeka araştırma ve geliştirme merkezi olarak, sert güvenlik sınırları ile endüstriyel yenilikçilik arasındaki dengede endüstri tarafından nispeten kabul edilen bir düzenleyici yol arayışını işaret etmektedir.