Vitalik Buterin mengatakan bahawa sumbangan sebelumnya kepada Institut Masa Depan Kehidupan (FLI) tidak bermakna bahawa beliau bersetuju dengan sikap politik kumpulan itu yang semasa mengenai AI.
Menurutnya, kempen politik besar mengenai keselamatan AI boleh membawa kepada kesan autoritarian atau pembalikan global jika kerajaan dan korporasi bertanding untuk mengawal teknologi tersebut.
Buterin Menjelaskan Hubungan dengan FLI
Pendiri ethereum menerangkan dalam postingan panjang di X bahawa beliau terlibat dengan FLI selepas pencipta Shiba Inu (SHIB) menghantar separuh daripada stok mereka kepadanya untuk membantu mempromosikan koin meme tersebut. Segera selepas itu, nilai kertas token itu melonjak, bahkan melebihi $1 bilion.
Buterin mengatakan beliau fikir gelembung itu akan pecah dengan cepat, jadi segera bertukar sebahagian SHIB kepada ETH, dan menyumbangkan dana tersebut kepada beberapa tujuan. Beliau juga memberikan separuh daripada SHIB yang tinggal kepada CryptoRelief, satu usaha bantuan perubatan yang berfokus di India, dan separuh lagi kepada FLI.
Institut tersebut akhirnya mencairkan sekitar $500 juta daripada simpanan SHIB yang disumbang, jauh lebih banyak daripada yang difikirkan Buterin, mengingat volum dagangan token pada masa itu yang nipis. Pembangun tersebut menyatakan bahawa beliau tertarik dengan FLI berdasarkan peta jalan mereka, yang merangkumi risiko eksistensial dalam keselamatan biologi, nuklear, dan AI, serta apa yang disebutnya sebagai “inisiatif pro-keamanan dan pro-epistemik” mereka.
Namun, menurutnya, organisasi tersebut telah berpindah fokus, lebih menekankan tindakan budaya dan politik. Mereka membenarkan perubahan ini dengan mengatakan situasi kini tidak lagi sama seperti pada 2021, dengan meluasnya kecerdasan buatan amanah yang menuntut perubahan untuk lebih baik menangkis dana lobi syarikat-syarikat AI besar.
Kekhawatiran Mengenai Pendekatan Politik
Buterin menekankan bahawa memfokuskan pada kempen regulasi atau politik untuk mengawal pembangunan AI boleh menghasilkan sistem yang rapuh atau struktur kuasa terpusat.
“Kekhawatiran saya ialah tindakan politik berskala besar yang dikoordinasikan dengan kumpulan wang besar adalah sesuatu yang mudah menyebabkan kesan tak dijangka, memicu reaksi balas, dan menyelesaikan masalah dengan cara yang otoriter dan rapuh, walaupun ia tidak bermaksud begitu pada mulanya,” tulisnya.
Orang berusia 32 tahun itu berkata bahawa membatasi alat biosintesis atau model AI dengan menetapkan pengawal “supaya mereka menolak untuk mencipta perkara buruk” adalah penyelesaian lemah yang boleh dengan mudah dielakkan. Beliau menambah bahawa strategi seperti itu juga boleh menyebabkan kerajaan melarang sistem sumber terbuka atau menyokong satu syarikat “disahkan” untuk mengambil alih pembangunan AI.
“Pendekatan seperti ini SANGAT MUDAH berbalik melawan anda,” kata Buterin. “Mereka menjadikan seluruh dunia sebagai musuh anda.”
Cadangannya adalah pendekatan teknologi yang berfokus pada membangun alat pertahanan untuk membantu masyarakat tetap selamat di dunia dengan teknologi yang kuat. Beliau menunjukkan bahawa keputusan pembiayaan terbaharu beliau termasuk kira-kira $40 juta untuk penyelidikan untuk membina peranti dan sistem selamat yang boleh meningkatkan privasi digital dan keselamatan siber.
Pos Vitalik Buterin Menjauhkan Diri Daripada Usaha FLI Ke Arah Keselamatan AI pertama kali muncul di CryptoPotato.