Microsoft CEO Satya Nadella, 20VC podcast'inde, geçmişte AI yeteneklerinin artışının insan değerleriyle uyum sağlama konusunda doğal ilerlemelere yol açacağını düşündüğünü, ancak şimdi bu görüşü değiştirdiğini açıkladı. Nadella, modellerin boyutunun sürekli büyüdüğünü, ancak uyum sorunlarının daha da zor hale geldiğini ve kontrol edilebilirliğin yeteneklerle aynı hızda artmadığını belirtti. AI'yi içsel bir güvenlik tehdidi olarak görmeyi savunarak, güvenilir sistem tasarımı, insan kontrolü ve operasyonel prosedürlerden oluşan üçlü bir koruma katmanı kurulması gerektiğini öne sürdü ve endüstri standardı oluşturulmasını talep etti. Bu görüş, Altman, Amodei ve diğer sektör liderlerinin uyardığı uyarıları yansıtmakta olup, AI yönetimi konusunun sloganlardan sert mühendislik ve kurumsal kısıtlamalara geçtiğini vurgulamaktadır.Yazan: AIBase
Microsoft CEO Satya Nadella, AI'nin "hizalanma" sorunuyla ilgili görüşünü açıkça değiştirdi. Yeni bölümdeki 20VC podcast'te, sunucu Harry Stebbings'a geçen yıl hangi fikirlerinin değiştiğini sorunca, Nadella, eski görüşünün, AI'nin ne kadar güçlü olursa olsun, davranışlarının insan değerleri ve hedefleriyle uyumlu hale getirilmesinin otomatik olarak çözüleceğini düşündüğünü itiraf etti.
"Doğal çözümden" daha zorluya
Ancak gerçeklik senaryoya uygun hareket etmedi. Nadella, model boyutlarının sürekli büyümesi ve yeteneklerin sürekli artması konusunda tahminlerinin doğru olduğunu kabul etti; ancak "hizalama"—yani AI davranışlarının kurallara uymasını sağlamak—henüz çözülmedi. Şunu söyledi: "Geçmişte hizalama sorununun kendiliğinden çözüleceğini düşünüyordum. Artık böyle düşünmüyorum. Hizalama, daha karmaşık ve farklı bir özellikteki bir sorun olabilir."
Hizalama, yapay zekânın davranışlarının insan sözünü dinleyip dinlememesi ve insan hedeflerine uyup uymaması ile ilgilidir. Model, tasarlayıcıların bile davranışlarını tamamen öngöremeyeceği kadar büyük hale geldiğinde, kapasite artışı ile kontrol edilebilirlik artışı birbirinden ayrılmıştır ve bu, Nadella'nın doğrudan karşı karşıya kaldığı yeni bir gerçekliktir.
AI'yi "iç tehdit" olarak koruyun
Bu uyarıya önceki işaretler vardı. 10 Ekim'de, Nadella, X platformunda AI risklerine dair bir uyarı yayımlayıp dış güvenlik kontrollerini sıkılaştırmayı savundu. Temel önerisi oldukça sertti: şirketler, AI modellerini "içsel bir güvenlik tehdidi" olarak görmeli ve koruma stratejilerini modelin zaten ele geçirildiği varsayımıyla oluşturmalı.
O, tamamen öngörülemeyen modeller için "güvenilir, belirli sistem tasarımı, yapay kontrol ve mükemmel operasyonel prosedürler" üçlü koruma duvarı önerdi; standartlar yetersizse hemen endüstri kuralları belirlemeli.
Nadella yalnız değil. OpenAI'nin Altman'ı, Anthropic'ın Amodei'si de AI'nın potansiyel tehditleri konusunda uyarıda bulundu; bu yıl Temmuz'da, 1000'den fazla profesyonel, AI'nın yeteneklerinin hızının, insanların onu anlama veya kontrol etme kapasitesini zaten geride bıraktığını hatırlatan bir açık mektuba imza attı. En iyi trader'ların birlikte "güçlü = güvenli" varsayımına olan güvenini düşürmesiyle, AI yönetimi artık sloganlardan daha katı mühendislik ve kurumsal çözümlere doğru ilerlemek zorunda.