Dünyanın en büyük yapay zeka politika kışlalarından birinin köken hikayesi, bir köpek kripto parasıyla, Kanada'da bir dolapla ve 78 basamaklı bir sayıyla başlar.
2021 yılında Shiba Inu'nun yaratıcıları, SHIB tokenlarının büyük bir kısmını Vitalik Buterin'in cüzdanına izin almadan gönderdi. Fikir basitti: Pazarlama materyallerine “Vitalik, tedarikimizin yarısına sahip” yazın ve Dogecoin'in bir sonraki versiyonu olmak için bu ilişkiden yararlanın. Tokenlar hızla değer kazandı ve kitap değeri 1 milyar doları aştı.
Buterin çıkmak istedi. Cuma günü X üzerindeki bir gönderide, balon patlamadan önce likidasyon yapmak için çaba gösterdiğini anlattı; Kanada'daki basamakesiyle iletişime geçerek, dolabına girip 78 basamaklı bir sayıyı okumasını ve sırt çantasında bulunan bir kağıttan transkribe edilmiş başka bir 78 basamaklı sayıya eklemesini istedi.
ETH için satabileceklerini sattı ve 50 milyon doları GiveWell'e bağışladı. Ancak hâlâ SHIB'ın bir dağının üzerinde oturuyordu.
Yıllar önce @FLI_org'e çok büyük bir miktar fon bağışladığımı belirten birçok gönderi vardır ve bunu onların aldıkları çeşitli politika eylemleriyle ilişkilendirmektedirler. Ben de onlarla olan bağlantımın doğası ile benzerlikler ve farklılıklar konusunda netlik getirmek istedim…
— vitalik.eth (@VitalikButerin)Kalan miktarı ikiye böldü. Bir kısmı CryptoRelief'e gitti ve bu, Hindistan'da tıbbi altyapıyı finanse etmek ve Balvi'yi, Buterin'in kendi araştırma girişimini desteklemek için kısmen kullandı.
Diğer yarısı, yapay zeka, biyoteknoloji ve nükleer silahlardan kaynaklanan varoluşsal risklere odaklanan Future of Life Institute kurumuna verildi. FLI, ona tüm büyük risk kategorilerini ve "barışa ve epistemiklere destekleyici girişimleri" içeren bir yol haritası sunmuştu.
Buterin, SHIB'in likiditesinin ne kadar ince olduğu göz önünde bulundurulduğunda, FLI'nin 10 milyon ile 25 milyon dolar arasında para çekmesini bekliyordu. Bunun yerine, yaklaşık 500 milyon dolar likidasyon gerçekleştirdiler. CryptoRelief, kendi yarısından benzer bir çıkış yaptı, dedi.
Ciddiye alınmayan bir meme coin, milyar dolarlık bir hayır faaliyeti düzenlemişti ve bunun yarısı, tamamen stratejisini değiştirecek olan bir organizasyona gitmişti.
Bu yön değiştirmesi, Buterin'in Cuma günü gönderi yapmasının nedeni. O, FLI'nin "orijinal yaklaşımdan oldukça farklı olarak, kültürel ve siyasi eyleme ana yöntem olarak odaklanmaya başladığını" söyledi.
Buterin'e göre FLI'nin gerekçesi, AGI'nin hızla ilerlemesidir ve organizasyonun büyük AI şirketlerinin lobibütçelerine karşı agresif harekete geçmesi gerekmektedir.
FLI'nin biyogüvenlik yaklaşımına örnek gösterdi. Kurumun temel stratejisi, AI modellerine ve biyosentez cihazlarına güvence sistemleri entegre ederek tehlikeli çıktılar oluşturmasını engellemektir.
Buterin, bu durumu "çok kırılgan" olarak adlandırdı ve jailbreak'ler, ince ayarlar ve diğer geçici çözümlerin böyle kısıtlamaların kolayca atlanmasına neden olduğunu belirtti. Bu yaklaşımın mantıksal sonucunun "açık kaynaklı Yapay Zekayı yasaklayalım" ve ardından "küresel hakimiyet kurmak için sadece bir iyi niyetli Yapay Zeka şirketi destekleyelim ve başkalarının aynı seviyeye ulaşmasını olmayalım" şeklinde olacağını uyardı.
Ayrıca, düzenlemeye öncelik veren stratejilerle ilgili yapısal bir sorunu da işaretledi. Hükümetler tehlikeli teknolojileri kısıtladığında, ulusal güvenlik kuruluşları kaçınılmaz olarak istisnai tutulur ve bu aynı kuruluşlar sıklıkla riskin kendisi kaynağıdır. Hükümet laboratuvarı sızıntı programlarını örnek olarak gösterdi.
Ancak Buterin, FLI'nin son çalışmalarından bazılarının onu "cesaretlendirdiğini" söyledi, özellikle "muhafazakârları, ilericiyi ve özgürlükçüleri, Amerika, Avrupa ve Çin'i birleştiren" bir "insan odaklı AI ilanı"ndan bahsetti. Ayrıca FLI'nin AI'dan kaynaklanan güç birikimini önleme yolları araştırdığını belirtti.
Ancak temel mesaj açık idi. Buterin'in asla planlamadığı bir bağış, asla istemediği tokenlerden gelmiş ve inandığı yaklaşımdan uzaklaşan bir organizasyonu finanse etmiş; şimdi ise onu rahatsız eden şekillerde yüz milyonlarca dolar harcıyor. Kamuya açık olmadan önce FLI'ye "birden fazla kez" endişelerini iletti.
FLI, bağışlanan miktar ve AI güvenliği endişeleri üzerine CoinDesk'in yorum isteğine hemen yanıt vermedi.