Dario Amodei, kamuoyunun sadece daha iyi bir PR'ye ihtiyacı olduğuna inanan diğer AI yöneticilerine bir mesaj gönderiyor: sorun mesajlaşma değil, ürün.
Anthropic CEO, “Yapay Zekânın Üssel Politikası” başlıklı uzun bir makale yayımladı ve bu makale yapay zeka karşıtı artan tepkilere doğrudan karşı gelmektedir. Amodei, negatif medya örtüklerini veya sektör liderlerinin karamsar çerçevelendirmelerini suçlamak yerine, halkın yapay zeka konusundaki endişesinin meşru, iyi belgelenmiş risklere dayandığını savunmaktadır. Tanımlaması: Yapay zeka endüstrisi, iletişim krizi değil, güven kriziyle karşı karşıyadır.
Gerçek riskler, gerçek korku
Amodei'nin makalesi, ciddi endişe gerektirdiğini düşündüğü dört belirli risk kategorisini tanımlar: siber güvenlik tehditleri, biyolojik silah geliştirme, AI sistemleri üzerinde insan kontrolünün kaybı ve tamamen otomatikleştirilmiş araştırma ve geliştirme olasılığı.
Amodei, bu akıl yürütmenin tersine gittiğini söylüyor. İnsanlar, yapay zeka liderlerinin uyarıda bulunmasından endişelenmiyor; uyarıların gerekli olmasından endişeleniyor.
Bu pozisyonu desteklemek için, önemli hesaplama kaynaklarıyla eğitilen modeller için zorunlu üçüncü taraf değerlendirmeler öneriyor. Testler, aynı dört risk kategorisini kapsayacak ve AI laboratuvarları ile halk arasında bağımsız bir doğrulama katmanı oluşturacak.
200 milyon dolar ve bir politika tasarısı
Anthropic, Amodei'nin sözlerine para yatırıyor. Şirket, yapay zekânın daha geniş toplumsal etkilerini anlamaya odaklanan araştırmalara 200 milyon dolar taahhüt etti.
Yatırım, teknik güvenlikten çok daha öteye uzanan sorular üzerinde çalışmayı finanse edecektir. Amodei, yapay zeka otomasyonunun neden olması beklenen işgücü piyasası çalkantılarını hafifletmek amacıyla maaş yeniden sigortası programları ve hedeflenen vergi önlemleri çağrısında bulunmuştur.
Makalenin yayımlanmasıyla eş zamanlı olarak ABC News ile yapılan özel bir röportajda Amodei, ek politika önerilerini açıkladı. En dikkat çekici olanlar arasında, güvenli bulunmayan yapay zeka uygulamalarını durdurma yetkisini devlet kurumlarına vermek yer alıyor.
Tercih ettiği çerçeve mevcut düzenleyici modellerden yola çıkar. FAA benzerliği kasıtlıdır. Havacılık güvenliği düzenlemeleri havayolu endüstrisini yok etmedi. Bunun yerine, havacılığı Dünyanın en güvenli kitle taşıma şekli yaptı.