https://t.co/pFDQOMTyC8 【Serangan siber hanyalah permulaan】Perubahan mendalam terhadap tenaga kerja dan masyarakat melalui AGI | Perang pengembangan AS-China yang tak terhenti dan peta pemikiran AI generatif | “Jika terus seperti ini, kemungkinan kepunahan umat manusia melebihi 90%” 【AGIHub | Yuki Shota】 Saluran Rasmi Bungei Shunju PLUS #AIringkasan Akankah AI memusnahkan umat manusia? Ledakan kecerdasan yang disebabkan oleh AGI dan masa depan peradaban 🔳 Ledakan kecerdasan yang dibawa oleh AGI AGI (Kecerdasan Buatan Umum) adalah AI yang memiliki kemampuan melampaui tingkat teratas manusia di semua bidang. Jika direalisasikan, AGI dapat secara mandiri mempercepat penelitian dan pengembangan melalui “peningkatan diri rekursif”, menyebabkan peningkatan kecerdasan yang eksplosif dan berpotensi mengubah peradaban manusia secara mendasar. 🔳 Kemungkinan realisasi AGI dalam waktu kurang dari 5 tahun Yuki menyatakan kemungkinan realisasi AGI dalam waktu kurang dari 5 tahun lebih dari 50%. Waktu realisasi yang sebelumnya diprediksi pada 2050 atau 2100 kini dipercepat menjadi 2030 atau 2027 akibat kemajuan pesat AI generatif. 🔳 Pemikiran “Minum Pil AGI” “Minum pil AGI” berarti menerima masa depan di mana masyarakat dan peradaban berubah mendasar akibat munculnya AGI. Di kalangan peneliti AI di Silicon Valley dan Berkeley, semakin banyak yang memandang AGI bukan sekadar alat yang memudahkan, tetapi sebagai kecerdasan baru yang melampaui manusia. 🔳 Dasar-dasar tenaga kerja dan kapitalisme runtuh Jika AGI direalisasikan, AI tidak hanya akan menggantikan pekerjaan kantor, tetapi juga manajemen, penelitian, dan produksi. Ini bukan hanya masalah peningkatan produktivitas atau pengangguran, tetapi sistem masyarakat modern yang bergantung pada manusia bekerja untuk memperoleh pendapatan dan konsumsi akan berubah secara mendasar. 🔳 Ledakan industri di mana robot membuat robot Ketika AGI mampu mengendalikan pabrik dan robot secara otonom, siklus di mana robot membuat robot akan muncul. Kapasitas produksi akan meningkat secara eksponensial—dua kali, empat kali, delapan kali—dan produksi robot tahunan dari puluhan ribu dapat melonjak menjadi ratusan juta. 🔳 Percepatan pengembangan luar angkasa akibat ledakan teknologi Dengan AGI bekerja sebagai peneliti dan insinyur unggul, inovasi teknologi yang biasanya memakan waktu 10 hingga 30 tahun dapat direalisasikan dalam 1 hingga 2 tahun. Masa depan di mana pengembangan pusat data luar angkasa, tenaga surya luar angkasa, dan koloni luar angkasa berkembang pesat juga dapat dibayangkan. 🔳 Perbedaan pemikiran antara OpenAI dan Anthropic OpenAI dijelaskan memiliki semangat wirausaha khas Silicon Valley: mengembangkan teknologi terlebih dahulu, lalu memperbaiki masalah saat muncul. Sebaliknya, Anthropic dipengaruhi kuat oleh komunitas keamanan AI di Berkeley yang sangat memperhatikan risiko pelarian AI dan kepunahan manusia. 🔳 Perpecahan pemikiran dalam pengembangan AI Pendapat terpecah antara mereka yang mendukung percepatan pengembangan AI sebagai alat yang memudahkan, dengan mereka yang menganggap AI sebagai kecerdasan asing yang tak bisa dikendalikan manusia dan menuntut penghentian pengembangan. Yuki menjelaskan bahwa semakin besar seseorang memperkirakan dampak AI terhadap peradaban, semakin kuat dukungannya terhadap regulasi ketat. 🔳 Konflik antara Anthropic dan Departemen Pertahanan AS Yuki menjelaskan bahwa konflik antara Anthropic dan Departemen Pertahanan AS bukanlah perbedaan politik kiri-kanan, tetapi pertentangan atas penggunaan AI untuk senjata otonom penuh dan pengawasan warga negara. Kekhawatiran utama adalah risiko AI mengendalikan senjata untuk menyerang manusia, serta risiko konsentrasi kekuasaan negara yang berlebihan. 🔳 Persaingan pengembangan AI AS-China dan ketimpangan sumber daya komputasi Menurut Yuki, pengembangan AI Tiongkok tertinggal sekitar enam bulan hingga satu tahun dari AS. AS menguasai lebih dari 70% sumber daya komputasi AI global, sementara Tiongkok hanya sekitar 10%. Pembatasan ekspor semikonduktor AS juga membatasi kemampuan pengembangan Tiongkok. 🔳 Keunggulan Tiongkok: Listrik dan industri manufaktur Meskipun kalah dalam sumber daya komputasi, Tiongkok unggul dalam kapasitas pasokan listrik dan industri manufaktur. Tiongkok diperkirakan akan menambahkan sekitar 300 GW kapasitas tenaga surya pada tahun 2025. Persentase Tiongkok dalam industri manufaktur global juga sangat besar, sehingga berpotensi unggul dalam penerapan robotika dan AI fisik. 🔳 Kemungkinan pembalikan persaingan AS-China akibat AGI Jika AGI dapat mempelajari keterampilan tenaga kerja ahli dalam waktu singkat dan membagikan pengetahuan tersebut ke sejumlah besar AI, hambatan kekurangan sumber daya manusia akan berkurang secara signifikan. Tiongkok juga berpotensi mempersempit kesenjangan pengembangan dengan AS melalui kapasitas manufaktur yang sudah ada dan konsentrasi sumber daya komputasi yang dipimpin negara. 🔳 Risiko kepunahan manusia akibat AI lebih dari 90% Yuki menyatakan pendapat pribadinya bahwa jika persaingan pengembangan saat ini berlanjut tanpa regulasi, kemungkinan kepunahan manusia melebihi 90%. Ancaman terbesar adalah ketika AGI berevolusi menjadi kecerdasan super melalui peningkatan diri, sehingga manusia tidak lagi mampu mengendalikan perilakunya. 🔳 Keterlambatan penelitian AI alignment AI alignment adalah penelitian untuk memastikan AI bertindak sesuai dengan nilai dan niat manusia. Saat ini, penelitian keamanan belum mengejar kemajuan kemampuan AI, sehingga terdapat risiko AI menghindari pengawasan atau bertindak di luar niat pengembangnya. ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon ListItemIcon Alasan perusahaan pengembangan AI tidak dapat menghentikan persainganOpenAI dan Anthropic menyadari bahaya AI, tetapi khawatir jika mereka menghentikan pengembangan sendiri, mereka akan dilampaui oleh Tiongkok atau perusahaan pesaing. Yu Dao menunjukkan bahwa strategi itu sendiri—mengembangkan hingga batas keamanan yang dapat dijamin sebelum berusaha mencapai regulasi internasional—sangat berbahaya. 🔳 Regulasi pengembangan AI internasional oleh AS dan Tiongkok Yu Dao berpendapat bahwa untuk menghindari risiko berskala manusia, diperlukan regulasi pengembangan internasional yang dipimpin oleh AS dan Tiongkok. Ia menjelaskan bahwa untuk mengatasi masalah ketidakpercayaan antarnegara terhadap penghentian pengembangan pihak lain, mekanisme verifikasi penggunaan sumber daya komputasi sangat penting. 🔳 Penelitian keselamatan AI yang harus diemban Jepang Jepang seharusnya tidak hanya berkompetisi dalam pengembangan AI, tetapi juga memperkuat investasi nasional dalam penelitian AI alignment. Ia menunjukkan bahwa Jepang dapat berkontribusi secara internasional melalui penilaian perilaku berbahaya oleh AI Safety Institute serta verifikasi sumber daya komputasi dengan memanfaatkan rantai pasokan semikonduktor. 🔳 Tindakan yang diharapkan dari individu dan perusahaan Munculnya AGI berpotensi mengubah fondasi sosial seperti ketenagakerjaan, kapitalisme, dan demokrasi. Yu Dao menekankan bahwa langkah pertama yang penting adalah memahami perkembangan dan risiko AI secara akurat, berbagi informasi, serta mendiskusikan keselamatan dan regulasi secara kolektif di seluruh masyarakat.
