Anthropic, Yapay Zekânın Yakında Kendini Hızlandırma Aşamasına Girebileceğini Uyardı

Dongcha Beating AI Haberleri: Anthropic, 2 Kasım'da güncellenen IPO prospectus'unda, AI'nın yakında "özyinelemeli kendi kendini geliştirme" (RSI) ile ilgili kritik bir eşiği aşabileceğini ve bu sayede AI geliştirme hızının büyük ölçüde artabileceğini uyarıyor. Geçmişte, geliştirme ilerlemesinin hızla arttığını fark etmeden, hızlanma gerçekleştikten sonra bunu fark eden durumlar yaşanmıştı. Şu anda Claude, kod yazmada, deneyler çalıştırmada ve eğitim verilerini işlemede yer alarak, daha güçlü bir sonraki nesil modelin geliştirilmesine yardımcı oluyor. Yeni modeller, daha sonraki geliştirme süreçlerini hızlandırarak sürekli hızlanan bir döngü oluşturuyor. Anthropic'in güvenlik politikasına göre, bu kritik eşiğe ulaşmak iki durumda gerçekleşir: 1. AI, tüm AI araştırma ekibinin işini benzer maliyetle yapabiliyor; 2. veya AI teknolojisinin ilerleme hızını en az iki katına çıkararak, iki yıl içinde elde edilecek ilerlemeyi bir yılda tamamlıyor. AI'nın kendi geliştirme süreçlerine giderek daha fazla dahil olmasıyla, model yeteneklerinin güvenlik değerlendirmeleri, uyum araştırmaları ve koruma önlemlerinin güncellenmesinden daha hızlı artma ihtimali var. Anthropic, şu anda mevcut modellerin bu seviyeye ulaştığını kabul etmiyor; bu uyarı, içsel tahminler ve gelecek modeller üzerine yapılan öngörülere dayanıyor. Şu anda, kritik geliştirme süreçlerinin insan denetimi ve kontrolü altında kalmasını sağlamak amacıyla güvenlik politikalarını gözden geçiriyorlar.