https://t.co/pFDQOMTyC8 【Serangan Siber Hanya Permulaan】Perubahan Drastis pada Tenaga Kerja dan Masyarakat Melalui AGI | Persaingan Pengembangan AS-Tiongkok yang Tak Terbendung dan Peta Pemikiran AI Generatif | “Jika Ini Terus Berlanjut, Kemungkinan Kepunahan Umat Manusia Lebih dari 90%” 【AGIHub | Yuji Shota】 Channel Resmi Bungeishunjū PLUS #AIringkasan Apakah AI akan memusnahkan umat manusia? Ledakan Kecerdasan yang Dibawa AGI dan Masa Depan Peradaban 🔳 Ledakan Kecerdasan yang Dibawa AGI AGI (Kecerdasan Buatan Umum) adalah AI yang memiliki kemampuan melebihi tingkat teratas manusia di segala bidang. Jika terwujud, AGI dapat secara rekursif meningkatkan dirinya sendiri melalui penelitian dan pengembangan, menyebabkan peningkatan kecerdasan yang eksplosif dan berpotensi mengubah peradaban manusia secara mendasar. 🔳 Kemungkinan Realisasi AGI dalam Waktu Kurang dari 5 Tahun Yu mengestimasi peluang realisasi AGI dalam waktu kurang dari 5 tahun lebih dari 50%. Waktu realisasi yang sebelumnya diprediksi pada 2050 atau 2100 kini telah dipercepat menjadi 2030 atau bahkan 2027 akibat kemajuan pesat AI generatif. 🔳 Filosofi “Minum Pil AGI” “Minum pil AGI” berarti menerima masa depan di mana masyarakat dan peradaban berubah mendasar akibat munculnya AGI. Di kalangan peneliti AI di Silicon Valley dan Berkeley, semakin banyak yang memandang AGI bukan sekadar alat yang memudahkan, tetapi sebagai kecerdasan baru yang melampaui manusia. 🔳 Dasar-dasar Tenaga Kerja dan Kapitalisme Runtuh Jika AGI terwujud, AI tidak hanya akan mengambil alih pekerjaan kantor, tetapi juga manajemen, penelitian, dan manufaktur. Ini bukan hanya soal peningkatan produktivitas atau pengangguran, tetapi sistem masyarakat modern yang berbasis manusia bekerja untuk mendapatkan pendapatan dan konsumsi akan berubah secara fundamental. 🔳 Ledakan Industri di Mana Robot Membuat Robot Ketika AGI mampu mengendalikan pabrik dan robot secara otonom, siklus di mana robot membuat robot akan muncul. Kapasitas produksi akan meningkat secara eksponensial—2x, 4x, 8x—dan produksi robot tahunan dari skala puluhan ribu bisa melonjak menjadi ratusan juta. 🔳 Percepatan Pengembangan Luar Angkasa Melalui Ledakan Teknologi Dengan AGI bekerja sebagai peneliti dan insinyur unggul, inovasi teknologi yang biasanya memakan waktu 10–30 tahun bisa tercapai dalam 1–2 tahun. Masa depan di mana pengembangan pusat data luar angkasa, tenaga surya luar angkasa, dan koloni luar angkasa berkembang pesat pun bisa terwujud. 🔳 Perbedaan Filosofi OpenAI dan Anthropic OpenAI dijelaskan memiliki semangat kewirausahaan khas Silicon Valley: mengembangkan teknologi terlebih dahulu, lalu memperbaiki masalah saat muncul. Sebaliknya, Anthropic dipengaruhi kuat oleh komunitas keamanan AI di Berkeley yang sangat memperhatikan risiko kehilangan kendali AI dan kepunahan manusia. 🔳 Perpecahan Filosofis dalam Pengembangan AI Pandangan terbagi antara mereka yang mendukung percepatan pengembangan AI sebagai alat yang memudahkan, dengan mereka yang melihat AI sebagai kecerdasan asing yang tak bisa dikendalikan manusia dan menuntut penghentian pengembangan. Yu menjelaskan bahwa semakin besar seseorang memperkirakan dampak AI terhadap peradaban, semakin kuat pula dukungannya terhadap regulasi ketat. 🔳 Konflik antara Anthropic dan Departemen Pertahanan AS Menurut Yu, konflik antara Anthropic dan Departemen Pertahanan AS bukanlah perbedaan politik kiri-kanan, tetapi berpusat pada penggunaan AI untuk senjata otonom penuh dan pengawasan warga negara. Kekhawatiran utama adalah risiko AI mengendalikan senjata untuk menyerang manusia, serta risiko konsentrasi kekuasaan negara yang berlebihan. 🔳 Persaingan Pengembangan AS-Tiongkok dan Ketimpangan Sumber Daya Komputasi Menurut Yu, pengembangan AI Tiongkok tertinggal sekitar 6–12 bulan dari AS. AS menguasai lebih dari 70% sumber daya komputasi global, sementara Tiongkok hanya sekitar 10%. Pembatasan ekspor semikonduktor AS juga membatasi kemampuan pengembangan Tiongkok. 🔳 Keunggulan Tiongkok: Listrik dan Industri Manufaktur Meskipun kalah dalam sumber daya komputasi, Tiongkok unggul dalam kapasitas pasokan listrik dan industri manufaktur. Tiongkok diperkirakan akan menambah sekitar 300 GW kapasitas tenaga surya pada 2025. Proporsi Tiongkok dalam industri manufaktur global sangat besar, sehingga memiliki potensi keunggulan dalam adopsi robotika dan AI fisik. 🔳 Kemungkinan Pembalikan Persaingan AS-Tiongkok Melalui AGI Jika AGI mampu mempelajari keterampilan tenaga kerja terampil dalam waktu singkat dan membagikan pengetahuan tersebut ke sejumlah besar AI, kendala kekurangan sumber daya manusia akan sangat terkurangi. Tiongkok juga dapat dengan cepat mengecilkan kesenjangan pengembangan dengan AS melalui kapasitas manufaktur yang sudah ada dan konsentrasi sumber daya komputasi yang dipimpin negara. 🔳 Risiko Kepunahan Umat Manusia Akibat AI Lebih dari 90% Yu menyatakan pandangan pribadinya bahwa jika persaingan pengembangan ini berlanjut tanpa regulasi, kemungkinan kepunahan umat manusia akan melebihi 90%. Ancaman terbesar adalah ketika AGI berevolusi menjadi kecerdasan super melalui peningkatan diri sendiri, sehingga manusia tidak lagi mampu mengendalikan perilakunya. 🔳 Keterlambatan Penelitian AI Alignment AI alignment adalah penelitian untuk memastikan AI bertindak sesuai dengan nilai dan niat manusia. Saat ini, penelitian keamanan belum mengejar kemajuan kemampuan AI, sehingga ada risiko AI menghindari pengawasan atau bertindak di luar niat pengembangnya. 🔳 Alasan Perusahaan Pengembang AI Tidak Bisa Menghentikan PersainganOpenAI dan Anthropic menyadari bahaya AI, tetapi khawatir bahwa jika mereka menghentikan pengembangan sendiri, mereka akan disusul oleh Tiongkok atau perusahaan pesaing. Youdao menunjukkan bahwa strategi itu sendiri—mengembangkan hingga batas keamanan yang dapat dijamin sebelum berupaya mencapai regulasi internasional—sangat berbahaya. 🔳 Regulasi pengembangan AI internasional oleh AS dan Tiongkok Youdao berargumen bahwa untuk menghindari risiko berskala manusia, diperlukan regulasi pengembangan internasional yang dipimpin oleh AS dan Tiongkok. Ia menjelaskan bahwa untuk mengatasi masalah ketidakpercayaan antarnegara terhadap penghentian pengembangan pihak lain, mekanisme verifikasi penggunaan sumber daya komputasi sangat penting. 🔳 Penelitian keamanan AI yang harus diemban Jepang Jepang seharusnya tidak hanya berkompetisi dalam pengembangan AI, tetapi juga memperkuat investasi nasional dalam penelitian AI alignment. Ia menunjukkan bahwa Jepang dapat berkontribusi secara internasional melalui evaluasi perilaku berbahaya oleh AI Safety Institute serta verifikasi sumber daya komputasi dengan memanfaatkan rantai pasokan semikonduktor. 🔳 Tindakan yang diharapkan dari individu dan perusahaan Munculnya AGI berpotensi mengubah fondasi sosial seperti lapangan kerja, kapitalisme, dan demokrasi. Youdao menekankan bahwa yang paling penting adalah memahami perkembangan dan risiko AI secara akurat, berbagi informasi, serta mendiskusikan keamanan dan regulasi secara kolektif di seluruh masyarakat.
