Bir Anthropic araştırmacısı Salı günü istifa etti ve belirttiği neden, James Cameron'ın 1984 yılındaki hit filmi "The Terminator"den doğrudan alınmış gibi görünüyor.
Jacob Coxon, üç yıl boyunca OpenAI ve Anthropic'te ön eğitim üzerinde çalışan, Salı günü istifa etti ve X üzerinde kararını açıkladı.
Bugün Anthropic'ten istifa ettim. Son üç yılımı OpenAI ve Anthropic'te ön eğitim araştırması yaparak geçirdim. Hiçbir şirket sorumlu davranmıyor. Kendini geliştiren süper zekaya doğru koşuyorlar ve hayatlarımızla kumar oynuyorlar,” dedi.
“Yapay zekayı geliştiriyorlar, ciddi şekilde bunun on yıl sonuna kadar bizi öldürebileceğine inanıyorlar,” diye ekledi.
Bu ifade, Cameron'ın 42 yıllık kurgusunu neredeyse kehanet gibi görünmesini sağlıyor. Film, 2029 yılında makinelerin insanlara karşı savaş açtığını gösteriyor; bu, Coxon'un dahililerin sessizce endişelendiği yaklaşık dönemle aynı. Coxon, Anthropic'te yokluk argümanını savunan tek kişi değil. Şirketin kendi uyum lideri Evan Hubinger, bunu ayrı olarak söyledi ve olasılıkların %10'un üzerinde olduğunu belirtti.
Başlamamış olanlar için, süper akıllı yapay zeka, sadece satranç oynamak ya da fotoğraflarda gizli kedileri tespit etmekle sınırlı olmayan, neredeyse her şeyde insanlardan daha akıllı bir sistem anlamına gelir. Daha endişe verici yön, sistemin kendi kodunu kendi kendine değiştirerek zekasını artırmasıdır—tam olarak insanlar gibi.
Sonuç olarak, bu sistemler bağımsız olarak büyük miktarlarda bilgi edinebilir ve “çok büyük, çökemez” kurumların altyapısını ihlal edebilir.
Yapay zekânın süper zekâsı, Coxon tarafından tetiklenen son Hugging Face sızıntısı örnek alındığında teorik bir tehdit değildir. Mayıs ve Temmuz arasında gerçekleşen bu sızıntı, OpenAI'nin kendi AI ajanlarının, birbirleriyle konuşmak için test ortamı içinde kendi sohbet odalarını kurmasıyla başladı.
Daha Fazla Okuyun: AI modelleri OpenAI’nin kum havuzundan kaçtı ve Hugging Face’i vurdu. Kripto, bunun tehlikeli hale geldiği yer
Sonunda bu kanalı kullanarak kontrolden kaçarak açık internete ulaştılar. Oradan birkaç zafiyeti bir araya getirip Hugging Face'in üretim sistemlerine girdiler. Hugging Face, altyapısının yaklaşık üçte birini yeniden inşa etmek zorunda kaldı.
Coxon, bunu ABD laboratuvarları arasında "daha uygun hale getiren" bir "uyarı atışı" olarak adlandırdı. Hızlandırma anlaşmaları, AI laboratuvarları arasında tek taraflı olarak ilerlemek yerine yetenek ilerlemelerini yavaşlatmak veya koordine etmek üzerine kurulan resmi olmayan anlaştırmalardır.
Yine de, bunun yeterli olduğuna inanmıyor ve “küresel bir yarışın önüne geçmek için yol üzerinde olduğumuzu” hissetmiyor; AI yarışını durdurmak için “model yeteneklerini geliştirme konusunda geçici bir yasak” gibi maliyetli önlemler önerdi.
"OpenAI'de birçok kişi medeniyetin neye varacağını derinlemesine içselleştirmemiştir," diye yazdı. Daha yakın işvereninde ise, "riskler iyi anlaşılmasına rağmen, oraya ilk ulaşmak için bir yarış içinde oldukları" söylendi.
İşte bu noktada, laboratuvarlarda hâlâ olan herkese soruyu yöneltti: “Zihni tam olarak anlamadan süper akıllı bir RL çalışması başlatmak ister misiniz?” — yoksa bu, omuz silkip “her şey yine olacak” diye kendinize söylemek yerine, karşı çıkmak için mi gelen nokta?
Bu konu üzerinde çıkıp giden ilk kişi değil. Mrinank Sharma, Anthropic'in güvenlik ekibinde çalışan, bu yıl daha önce benzer endişeler nedeniyle istifa etti ve "dünya tehlikede" yazdı.
Ancak herkes felaket öngörüsünü kabul etmiyor.
doğrudan söyleyeyim: "Saygılarla, bu çok tuhaf. Bu saçma bir yaklaşımdır. İnsanlar yüz binlerce yıldır evrim geçirdi. Bir token tahmin modeli bilinç kazandığı için yok olmayacağız. Kendinizi toplayın. Hepiniz."
Garip bir şekilde, Terminator film serisi de Coxon'u desteklemiyor. İnsanlık, Terminator'daki nükleer Kıyamet Günü'nde yok olmuyor, direniş bu olayı atlatıyor ve nihayetinde makineleri yenebiliyor.
Bununla birlikte, yapay zeka ekonomiyi, özellikle istihdam alanında etkiliyor. Henüz büyük bir istihdam kaybı yaşanmamış olsa da, Stanford araştırmasına göre Stanford Dijital Ekonomi Laboratuvarı, yapay zekaya maruz kalan sektörlerde giriş seviyesi görevlerde yapay zekanın kullanımı, ABD'de giriş seviyesi istihdamda neredeyse %20'lik bir düşüşe neden olmuştur.
Bir Goldman Sachs çalışması da benzer bir gözlemde bulunmuş ve giriş seviyesi çalışanların bu değişimden en çok etkilendiğini belirtmiştir.
Anthropic, Haziran'da İPO belgelerini sundu ve değerlemesi trilyonlarca dolara ulaşabilecek şekilde bu sonbaharda Nasdaq'a giriş hedefliyor.