Anthropic Araştırmacısı Istifa Etti, Yapay Zekânın 2027 Sonuna Kadar Kontrolü Kaybedebileceğini Uyardı

iconKuCoinFlash
Paylaş
AI summary iconÖzet
Anthropic'ten bir yapay zeka araştırmacısı olan Jacob Coxon, istifa etti ve yapay zeka endüstrisinden ayrılmayı planlıyor. Coxon, OpenAI ve Anthropic'te çalışırken, yeterli güvenlik önlemleri olmadan AGI geliştirme hızını eleştirdi. Coxon, 2027 yılına kadar yapay zekanın kontrolü kaybedebileceğini uyardı ve yapay zeka geliştirme trendlerinin çok hızlı ilerlediğini vurguladı. Anahtar kararların yalnızca mühendislerin değil, daha geniş bir grubun dahil olması gerektiğini savunuyor. Bu gelişme, yapay zeka governansının geleceğiyle ilgili devam eden AI + kripto haberlerine ekleniyor.
ME AI Haberi, Beating AI Hızlı Haber: Anthropic araştırmacısı Jacob Coxon, istifasını duyurdu ve yapay zeka endüstrisinden ayrılacağını açıkladı. Geçtiğimiz üç yıl boyunca OpenAI ve Anthropic'te ön eğitim araştırmaları yaptı. İki şirketin de yapay zekayı sorumlu bir şekilde ilerletmediğini, kendi yeteneklerini sürekli artıran süper zekâlar oluşturmak için yarıştığını ve "yaşamlarımızı riske attığını" belirtti. Coxon, bu yıl OpenAI'den Anthropic'e geçiş yapmasının nedeni, ikincisinin model güvenliğine daha fazla odaklanmasındandı. Coxon, Anthropic'in güvenlik çalışmalarının ciddi olduğunu kabul etse de, şirketlerin AGI'yi (insanları birçok görevde aşan genel yapay zekâ) önce oluşturmaya çalıştıkları sürece güvenlik konusunda ödün verilmesinin kaçınılmaz olduğunu düşünüyor ve tek bir şirketin kendi kendini denetlemesinin sorunu çözmeye yeterli olmadığını ifade etti. İki şirkete verdiği değerlendirme şöyledir: OpenAI'de birçok kişi bu riskin ne kadar büyük olduğunu henüz tam olarak anlamamıştır; Anthropic ise riski biliyor ancak diğerlerine güvenemediği için kendi başına önce yapmak zorunda olduğunu düşünüyor. Coxon, bazı yapay zeka çalışanlarının gizli olarak açık ifadelerinden çok daha karamsar olduğunu ve yapay zekânın bu on yılın sonuna kadar insanlığı yok edebileceğini korktuğunu belirtti. Kendi tahminine göre, en aşırı senaryoda gelecek yılın sonunda yapay zekânın kontrolü kaybedilebilir; bu nedenle bu kararlar yalnızca birkaç şirketin mühendislerinin dahili kararlarıyla alınmamalıdır. (Kaynak: BlockBeats)
Kaynak:Orijinalini göster
Yasal Uyarı: Bu sayfadaki bilgiler üçüncü şahıslardan alınmış olabilir ve KuCoin'in görüşlerini veya fikirlerini yansıtmayabilir. Bu içerik, herhangi bir beyan veya garanti olmaksızın yalnızca genel bilgilendirme amacıyla sağlanmıştır ve finansal veya yatırım tavsiyesi olarak yorumlanamaz. KuCoin, herhangi bir hata veya eksiklikten veya bu bilgilerin kullanımından kaynaklanan sonuçtan sorumlu değildir. Dijital varlıklara yapılan yatırımlar riskli olabilir. Lütfen bir ürünün risklerini ve risk toleransınızı kendi finansal koşullarınıza göre dikkatlice değerlendirin. Daha fazla bilgi için lütfen Kullanım Koşullarımıza ve Risk Açıklamamıza bakınız.