Anthropic Araştırmacısı İstifa Etti, Yapay Zekânın 2027'ye Kadar Kontrolü Kaybedebileceğini Uyardı

Mars Finans haberine göre, Anthropic araştırmacısı Jacob Coxon istifasını duyurdu ve yapay zeka sektöründen ayrılmayı planlıyor. Geçtiğimiz üç yıl boyunca OpenAI ve Anthropic'te önceden eğitim araştırmaları yaptı. Coxon, her iki şirketin de yapay zekayı sorumlu bir şekilde ilerletmediğini, kendi yeteneklerini sürekli artıran süper zekalar oluşturmak için yarıştığını ve "kendi hayatlarımızı riske attığını" belirtti. OpenAI'den Anthropic'e geçen Coxon, bu geçişi ikincisinin model güvenliğine daha fazla önem vermesi nedeniyle yapmıştı. Coxon, Anthropic'in güvenlik çalışmalarının ciddi olduğunu kabul etse de, her şirket AGI'yi (çok sayıda görevde insanları aşan genel yapay zeka) önce yapmaya çalıştığı sürece güvenlik konularında ödün verilmesinin kaçınılmaz olduğunu düşünüyor ve tek bir şirketin kendi kendini denetlemesi sorunu çözemiyor. İki şirkete verdiği değerlendirme şöyledir: OpenAI'de birçok kişi bu riskin ne kadar büyük olduğunu henüz tam olarak anlamamıştır; Anthropic riski biliyor ama başkalarına güvenemiyor, bu yüzden kendisi önce yapmalı. Coxon, bazı yapay zeka uzmanlarının gizli olarak açık ifadelerinden çok daha karamsar olduğunu ve yapay zekanın bu on yılın sonuna kadar insanlığı yok edebileceğini endişe ettiğini söyledi. Kendi tahminine göre, en aşırı senaryoda,明年 sonunda yapay zeka kontrolü kaybedebilir; bu nedenle bu kararlar sadece birkaç şirketin mühendislerinin dahili kararlarıyla alınmamalıdır.