Cerita asal-usul salah satu dana kebijakan AI terbesar di dunia dimulai dengan sebuah dog coin, sebuah lemari di Kanada, dan angka 78 digit.
Pada 2021, pencipta Shiba Inu mengirim sejumlah besar token SHIB ke dompet Vitalik Buterin tanpa izin. Ide tersebut sederhana: masukkan "Vitalik memiliki setengah pasokan kami" ke dalam materi pemasaran dan memanfaatkan asosiasi tersebut untuk menjadi Dogecoin berikutnya. Token tersebut cepat meningkat nilainya, mencapai nilai buku lebih dari $1 miliar.
Buterin ingin keluar. Dalam postingan di X pada hari Jumat, ia menggambarkan berusaha melepas posisi sebelum gelembung meledak, termasuk menelepon ibu tiri di Kanada dan meminta dia untuk masuk ke lemari pakaian, membacakan angka 78 digit, dan menambahkannya ke angka 78 digit lainnya yang ditranskripsikan dari kertas di dalam ranselnya.
Dia menjual apa yang bisa dia jual untuk ETH dan menyumbangkan $50 juta ke GiveWell. Tetapi dia masih memiliki gunung SHIB.
Sering ada postingan yang menyebutkan bahwa saya menyumbangkan sejumlah dana yang sangat besar ke @FLI_org bertahun-tahun lalu dan menghubungkan saya dengan berbagai tindakan kebijakan yang mereka ambil. Saya ingin menjelaskan secara jelas mengenai sifat keterhubungan saya dengan mereka, serta persamaan dan perbedaannya…
— vitalik.eth (@VitalikButerin)Dia membagi sisa jumlah tersebut menjadi dua. Setengahnya diberikan ke CryptoRelief, yang sebagian digunakan untuk membiayai infrastruktur medis di India dan sebagian lagi untuk mendukung Balvi, inisiatif penelitian pribadi Buterin.
Setengah lainnya pergi ke Future of Life Institute, sebuah organisasi yang berfokus pada risiko eksistensial dari AI, bioteknologi, dan senjata nuklir. FLI telah memberinya peta jalan yang mencakup semua kategori risiko utama, serta "inisiatif pro-perdamaian dan pro-epistemik."
Buterin memperkirakan FLI akan mencairkan $10 hingga $25 juta, mengingat likuiditas SHIB yang sangat tipis. Sebaliknya, mereka berhasil melikuidasi sekitar $500 juta. CryptoRelief juga melakukan penarikan serupa dari setengahnya, katanya.
Sebuah meme coin yang tidak dianggap serius baru saja menciptakan acara filantropi senilai satu miliar dolar, dan separuhnya disalurkan ke sebuah organisasi yang akan segera mengubah seluruh strateginya.
Pivot itu adalah alasan Buterin memposting pada hari Jumat. Dia mengatakan FLI mengalami "pivot internal di mana mereka mulai fokus pada tindakan budaya dan politik sebagai metode utama, sangat berbeda dari pendekatan awal."
Alasan FLI, menurut Buterin, adalah bahwa AGI berkembang pesat, dan organisasi tersebut perlu bertindak agresif untuk menanggapi anggaran lobi perusahaan AI besar.
Dia menunjukkan pendekatan biosafety FLI sebagai contoh. Strategi utama organisasi tersebut adalah memasukkan pengaman ke dalam model AI dan perangkat bio-sintesis sehingga mereka menolak untuk menghasilkan output berbahaya.
Buterin menyebut ini "sangat rapuh," mencatat bahwa jailbreak, fine-tuning, dan workaround lainnya membuat pembatasan semacam itu mudah dihindari. Ia memperingatkan bahwa titik akhir logis dari pendekatan tersebut mengarah pada "mari larang AI open-source" dan kemudian "mari dukung satu perusahaan AI baik hati untuk membangun dominasi global dan jangan biarkan siapa pun mencapai tingkat yang sama."
Dia juga menyoroti masalah struktural dengan strategi berbasis regulasi terlebih dahulu. Ketika pemerintah membatasi teknologi berbahaya, organisasi keamanan nasional tak terhindarkan mendapatkan pengecualian, dan organisasi yang sama sering kali menjadi sumber risiko itu sendiri. Ia mengutip program kebocoran laboratorium pemerintah sebagai contoh.
Namun, Buterin mengatakan ia merasa "terdorong" oleh beberapa pekerjaan terbaru FLI, khususnya "deklarasi AI yang pro-manusia" yang menurutnya, "menggabungkan konservatif, progresif, dan libertarian, Amerika, Eropa, dan Tiongkok." Ia juga mencatat bahwa FLI telah meneliti cara-cara untuk menghindari konsentrasi kekuasaan dari AI.
Tetapi pesan intinya jelas. Donasi yang tidak pernah direncanakan Buterin, dari token yang tidak pernah ia inginkan, membiayai organisasi yang berpaling dari pendekatan yang ia percayai, dan kini mengalokasikan ratusan juta dolar dengan cara yang membuatnya tidak nyaman. Ia telah berbagi kekhawatirannya dengan FLI pada "beberapa kesempatan" sebelum membuatnya publik.
FLI tidak segera menanggapi permintaan CoinDesk untuk komentar mengenai jumlah donasi dan kekhawatiran keamanan AI.