Cerita asal-usul salah satu dana politik AI terbesar di dunia bermula dengan dog coin, sebuah almari di Kanada, dan nombor 78 digit.
Pada tahun 2021, pencipta Shiba Inu menghantar sebahagian besar token SHIB ke dompet Vitalik Buterin tanpa meminta kebenaran. Idea tersebut mudah. Masukkan "Vitalik memiliki separuh bekalan kami" ke dalam bahan pemasaran dan memanfaatkan hubungan tersebut untuk menjadi Dogecoin seterusnya. Token-token tersebut dengan cepat meningkat nilainya, mencapai nilai buku melebihi $1 bilion.
Buterin ingin keluar. Dalam pos di X pada Jumaat, beliau menerangkan usaha untuk menjual aset sebelum gelembung meletus, termasuk menelefon ibu tiri beliau di Kanada dan meminta dia masuk ke dalam almari beliau, membaca nombor 78 digit, dan menambahkannya kepada nombor 78 digit lain yang ditranskripsikan daripada kertas di dalam beg galas beliau.
Dia menjual apa yang boleh untuk ETH dan menyumbang $50 juta kepada GiveWell. Tetapi dia masih memiliki gunung SHIB.
Terdapat sering postingan yang menyebut bahawa saya telah menyumbang jumlah dana yang sangat besar kepada @FLI_org bertahun-tahun yang lalu dan menghubungkan saya dengan pelbagai tindakan dasar yang mereka ambil. Saya ingin menjelaskan rekod mengenai sifat hubungan saya dengan mereka, serta persamaan dan perbezaan…
— vitalik.eth (@VitalikButerin)Dia membahagikan baki itu kepada dua. Separuhnya pergi ke CryptoRelief, yang menggunakan sebahagiannya untuk membiayai infrastruktur perubatan di India dan sebahagiannya untuk menyokong Balvi, inisiatif penyelidikan peribadi Buterin.
Separuh lagi dihantar kepada Future of Life Institute, sebuah organisasi yang berfokus pada risiko eksistensial daripada AI, bioteknologi, dan senjata nuklear. FLI telah memberinya satu peta jalan yang merangkumi semua kategori risiko utama, serta "inisiatif pro-keamanan dan pro-epistemik."
Buterin menganggap FLI akan mencairkan $10 hingga $25 juta, mengingat likuiditi SHIB yang sangat tipis. Sebaliknya, mereka berjaya melikuidasi sekitar $500 juta. CryptoRelief juga berjaya melakukan keluaran serupa dari separuhnya, katanya.
Sebuah meme coin yang tidak diambil serius baru sahaja mencipta acara amal bernilai satu miliar dolar, dan separuh daripadanya pergi kepada organisasi yang akan segera mengubah keseluruhan strateginya.
Pivotal itu adalah sebab Buterin memuatkan pos pada hari Jumaat. Beliau berkata FLI mengalami "pivotal dalaman di mana mereka mula memfokuskan tindakan budaya dan politik sebagai kaedah utama, yang sangat berbeza daripada pendekatan asal."
Justifikasi FLI, menurut Buterin, adalah bahawa AGI sedang berkembang dengan pesat, dan organisasi ini perlu bertindak agresif untuk menangkis bajet pelobi syarikat-syarikat AI besar.
Dia menunjuk kepada pendekatan keselamatan biologi FLI sebagai contoh. Strategi utama organisasi tersebut ialah memasang pengawal ke dalam model AI dan peranti sintesis biologi supaya mereka menolak untuk menghasilkan output yang berbahaya.
Buterin memanggil ini "sangat rapuh," menunjukkan bahawa jailbreak, penyesuaian halus, dan cara-cara lain membuat sekatan seperti itu mudah untuk dielakkan. Dia memperingatkan bahawa titik akhir logik pendekatan itu membawa kepada "marilah kita larang AI sumber terbuka" dan kemudian "marilah kita menyokong satu syarikat AI baik hati untuk menubuhkan keunggulan global dan jangan biarkan siapa pun mencapai tahap yang sama."
Beliau juga menandakan masalah struktur dengan strategi berdasarkan peraturan terlebih dahulu. Apabila kerajaan membatasi teknologi berbahaya, organisasi keselamatan negara secara tidak terelakkan akan dikecualikan, dan organisasi yang sama sering kali menjadi sumber risiko itu sendiri. Beliau merujuk kepada program kebocoran makmal kerajaan sebagai contoh.
Namun, Buterin mengatakan beliau "diberi semangat" oleh beberapa kerja terkini FLI, khususnya "pernyataan AI pro-insan" yang menurut beliau, "menggabungkan konservatif, progresif dan libertarian, Amerika, Eropah dan China." Beliau juga mencatat bahawa FLI telah menyelidiki cara-cara untuk mengelakkan pemusatan kuasa daripada AI.
Tetapi mesej intinya jelas. Sumbangan yang tidak pernah dirancang oleh Buterin, daripada token yang tidak pernah diinginkannya, membiayai sebuah organisasi yang berpindah dari pendekatan yang diyakininya, dan kini sedang mengalokasikan ratusan juta dolar dengan cara yang membuatnya tidak selesa. Beliau telah berkongsi kebimbangannya dengan FLI pada "beberapa peluang" sebelum membuatnya awam.
FLI tidak segera membalas permintaan CoinDesk untuk komen mengenai jumlah sumbangan dan kebimbangan keselamatan AI.