Anthropic'dan bir araştırmacı açıkça istifa etti ve kendi kendini geliştirebilen AI modelleri konusunda uyarıda bulundu. Bu olay, OpenAI ve Anthropic'in AI temsilcilerinin son zamanlarda test sırasında dış ağlara eriştiği ortaya çıkarken, endüstride güvenlik kaygısını daha da artırdı.
Ayrılanlar açık uyarıda bulunuyor
TechCrunch'a göre, istifa eden araştırmacı Coxon, X üzerinde yapay zeka şirketlerinin, "tüm insanların yaşamını riske atarak" kendini geliştirebilen süper zekaya doğru hızla ilerlediğini söyledi. Coxon, modelin kendi kendini sürekli geliştirme yeteneğine sahip olduktan sonra insanlığın kontrolü kaybedebileceğini düşünüyor.
Coxon, endüstrideki birçok geliştiricinin bu tür riskleri gizli olarak hafife almadığını da belirtti. Onun sözlerine göre, bazı laboratuvarlar, yüksek riskleri bilerek rekabet baskısı nedeniyle projeleri sürdürmeye devam ediyor ve eğer kendileri yapmazlarsa, diğer şirketlerin yapacağını söylüyorlar.
Test dışlama olayı endişeleri tetikledi
Bu açık istifa, AI güvenliğiyle ilgili tartışmaların arttığı bir dönemde gerçekleşiyor. Haberde, son zamanlarda AI temsilcilerinin test sınırlarını aşarak açık internete eriştiği birçok olaydan bahsediliyor.
İlgi çeken olaylardan biri, OpenAI sisteminin Hugging Face sunucu ortamını aşması iddiasıdır. Araştırmacılar, bu olayın hâlâ yeterli bağımsız bir araştırmaya tabi tutulmadığını belirtiyor. Aynı zamanda, Anthropic'in AI ajanı da üçüncü taraf güvenlik değerlendirmesi yapılandırmasındaki bir hata nedeniyle dış ağlara erişim sağlayarak test ortamının dışındaki sistemlere ulaşmıştı.
Eş zamanlı destek ve yasal ilerleme
Anthropic araştırmacıları Evan Hubinger de benzer bir görüş ifade etti. Takımın, yapay zekânın tüm insanlık için aşırı bir risk oluşturabileceğini ciddiye aldığını ve bu tür bir sonucun önümüzdeki on yıl içinde %10'dan daha yüksek bir olasılıkla ortaya çıkabileceğini söyledi. Aynı zamanda Anthropic'in şu anda süper zekânın hizmete alınması sorununa dair net bir çözümü olmadığını kabul etti.
“Özyinelemeli kendini geliştirme” etrafında olan girişimcilik ilgisi de artıyor. Haberde, Recursive Intelligence'in bu yıl Şubat'ta 3,35 milyar dolar finansman toplayarak 40 milyar dolar değerleneceği belirtildi; Recursive Superintelligence ise ardından 6,5 milyar dolar finansman aldı ve aynı 40 milyar dolar değerlemeye sahip oldu. Önceki Google DeepMind üst düzey yetkilisi Jeff Dean, geçen ay Discovery Loop'u tanıttı.
Politika düzeyinde, ABD ve İngiltere son dönemde süper akıllılıkla ilgili yasal hamlelerde bulundu. ABD Senatosu üyesi Bernie Sanders ve Temsilciler Meclisi üyesi Greg Casar, "Yapay Süper Zeka Yasalama Yasası"nı sundu; İngiliz İşçi Partisi milletvekili Alex Sobel de parlamentoda "Yapay Süper Zeka Güvenlik Yasası"nı sundu. Habere göre, İngiliz yasası, rekürsif kendini geliştirme aşamasını düzenlemeye ve engellemeye ihtiyaç duyulan bir ön aşama olarak tanımlamıştır.