11 Eylül'de Bridgewater Associates'in ortak yatırım sorumlusu Greg Jensen, AI düzenlemesiyle ilgili şu ana kadar yapılan en karanlık değerlendirmelerden birini sundu. Temel argümanı: tarih, hükümetlerin gerçekten korkunç bir şey olana kadar harekete geçmeyeceğini gösteriyor.
“Yapay zekânın insanları öldürmeye başlaması kadar, maalesef tarih, hiçbir şey yapmayacağımızı gösteriyor,” dedi Jensen ve şu anki durumu, COVID-19’un zaten küresel olarak yayılmaya başlamış ancak çoğu hükümetin henüz bir tepki vermemiş olduğu Şubat 2020 ile karşılaştırdı.
Artan uyarıların bir haftası
Jensen’in açıklamaları, AI geliştirme yolunda ciddi endişeler dile getiren birçok ünlü figürün sözlerini içeren bir dizi günü kapattı. 9 ve 10 Eylül'de, Anthropic'teki araştırmacılar, Jacob Coxon ve Evan Hubinger dahil olmak üzere, AI araştırmasının mevcut hızı hakkında kesin uyarılar yayınladı.
Coxon, o aralıkta Anthropic'ten istifa etti ve içten incelediği riskleri gerekçe gösterdi. İki araştırmacı da alanın mevcut yolunun, sadece talimatları takip etmeyen ancak kendi yeteneklerini yeniden yazan kendini geliştiren süper zekâlar üretebileceğini uyardı.
Tahminleri ürperticiydi: Sonraki on yılda yapay zekâ nedeniyle insanlığın yok olması olasılığının %10'dan yüksek olması.
Jensen, proaktif önlemler alınmazsa, önümüzdeki iki yıl içinde büyük bir yapay zeka ile ilgili bir olayın yaşanabileceğini önerdi.
Washington dikkatini çekmeye başlıyor
9 ve 10 Eylül tarihlerinde, Temsilci Lori Trahan ve Senatör Ted Cruz dahil olmak üzere ABD Kongre üyeleri, yapay zeka geliştiricilerinden şeffaflık talep eden ve yüksek riskli modeller için acil durdurma mekanizmaları kuracak çerçeveler çağrısında bulundu.
Bu öneriler, Temmuz ayında AI yeteneklerinin hızlı büyümesini vurgulayan bir BM bağımsız panelinin çalışmalarını temel alıyor. Panelin temel bulgusu rahatsız ediciydi: AI, bilimsel anlayış ve hükümet politikalarının yetişemeyeceği hızda ilerliyor.
BM paneli, özellikle kandırıcı veya eylemcı sistemlerin, kendi hedeflerini otomatik olarak takip edebilen ve üzerindeki insanları potansiyel olarak yanıltabilen Yapay Zekanın istenmeyen şekilde geliştirilmesi konusunda uyardı.