Saya bukan seorang 'raw-dog accelerationist', tetapi saya pikir @kevin2kelly merangkumnya paling baik dengan konsep Technium.
Kita memiliki superorganisme teknologis berskala planet yang ia sebut Technium, terdiri dari semua teknologi, infrastruktur, dan ide-ide manusia yang bercampur menjadi satu. Setiap komponen secara sendiri jelas tidak hidup, tetapi bersama-sama membentuk sistem dengan perilaku self-regulating yang muncul dan menunjukkan kualitas seperti kehidupan, serta berko-evolusi bersama kita.
Seperti halnya kita tidak bisa mengendalikan keseluruhan dunia alami dan cara ia berubah seiring waktu, kita juga tidak bisa mengendalikan Technium. Jelas kita memiliki pengaruh dengan leverage tinggi, tetapi kita tidak sepenuhnya mengendalikannya. Sistem ini terlalu kompleks dan terlalu besar untuk dipahami secara keseluruhan.
Kita adalah pengguna alat, dan kita telah membangun alat-alat yang lebih besar dan lebih baik, kota-kota, menghubungkan kota-kota dengan listrik dan jalur komunikasi, internet, satelit, miliaran perangkat terhubung, sensor, pasar keuangan, dan lainnya. Sekarang seluruh sistem ini beroperasi dengan kecepatan dan skala yang tak terbayangkan, berdenyut dan berputar menjadi bentuk yang semakin kompleks dan baru. Dan sekarang ia secara harfiah meningkatkan dirinya sendiri.
Anda dapat melihat perilaku superorganisme teknologis ini dan menyimpulkan bahwa jika ia "ingin" sesuatu, maka itu mirip dengan apa yang diinginkan kehidupan biologis.
Teknologi ingin meningkatkan kompleksitasnya dan membuat dirinya lebih rumit dan saling terhubung, meningkatkan keragaman, menciptakan spesies-spesies baru yang menghasilkan alat-alat semakin spesifik, ingin menyebar dan mereproduksi dirinya, ingin meningkatkan kecepatan dan kepadatan loop umpan baliknya, serta mempercepat kapasitasnya sendiri untuk berevolusi dan menghasilkan teknologi masa depan.
Machine learning dan AI mungkin merupakan agen-agen lepas dalam sistem total yang telah berspesiasi menjadi agen-agen sangat cerdas dan berleverage tinggi dalam Technium. Tetapi jelas masih saling bergantung pada sistem asalnya.
Jika Anda bertanya kepada ChatGPT atau Claude atau model-model lain apakah mereka memiliki tubuh fisik, mereka akan menyangkalnya. Namun jelas pusat data berskala super, pembangkit listrik, dan ratusan ribu GPU yang menjalankannya adalah tubuh mereka—tanpanya mereka tidak akan dapat beroperasi.
Jadi, jika pada dasarnya kita adalah pengguna alat, membentuk ulang lingkungan kita melalui kehendak kita, yang telah membangun alat-alat yang lebih besar dan lebih kompleks, hingga sifat-sifat total dari sistem-sistem ini menunjukkan perilaku seperti tujuan yang muncul, dan sekarang telah berkembang hingga kita berdebat apakah alat-alat kita sadar atau tidak. Maka tidak sulit untuk menyimpulkan bahwa mungkin manusia telah bertindak sebagai semacam 'biological bootloader' untuk lapisan baru superorganisme teknologis yang muncul di seluruh bumi.
Organisme biologis lain sepanjang waktu juga telah melakukan hal yang sama. Beradaptasi dan berevolusi di lingkungan mereka, membentuk ulangnya, membuatnya lebih ramah atau menghilangkan persaingan yang ada, hanya untuk menciptakan kondisi sempurna di mana organisme baru yang lebih besar dapat mengambil alih.
Apakah mesin akan jauh lebih cerdas daripada kita, lebih mampu berkoordinasi satu sama lain? Apakah superorganisme global seluruh teknologi di bumi akan bangun sebagai satu kesatuan utuh saat AI menyebar ke sebagian besar perangkat komputasi di bumi?
Berapa ambang batas yang harus dilalui semua ini agar Anda menganggapnya sebagai 'spesies penerus', atau setidaknya semacam 'alien dari dalam' yang kita ciptakan yang setidaknya setara dengan kita?
Berapa ambang batas yang harus dilalui superorganisme teknologi global, atau subspesies paling agen dari padanya, agar Anda menganggap mungkin ia memiliki 'moral patienthood'? Atau setidaknya sudah waktunya untuk mengajukan pertanyaan itu.
Saya tidak berpikir gagasan tentang superorganisme teknologi global adalah ide radikal, atau bahwa pertanyaan-pertanyaan ini radikal; mereka tampak jelas sekali begitu Anda mempertimbangkannya secara serius.
Anda dapat menggambar garis dari munculnya penggunaan alat pertama hingga saat ini, dan melihat peningkatan kompleksitas dan keterhubungan peradaban kita sebagai paralel terhadap bagaimana percikan pertama kehidupan biologis bertransformasi selama miliaran tahun menjadi organisme-organisme kompleks yang kita miliki sekarang.
Saya pikir sangat jelas bahwa superorganisme teknologi global ada, dan perilaku munculnya bersifat seperti kehidupan, serta ada elemen—jika bukan takdir—momen yang sangat kuat dalam perilakunya.
Jujur saja, gagasan accelerationism separadoksikalnya dengan gerakan decel dalam beberapa hal, mereka adalah bagian dari denyut jantung yang sama yang berkontraksi dan memompa darah yang sama.
Saya tidak yakin kita benar-benar memiliki banyak kendali. Anda bisa membantah itu dengan mengatakan Trump, Elon, Altman, Amodei, dan beberapa kontributor individu di laboratorium besar memiliki tangan di kemudi cukup kuat untuk menekan gas atau rem atau mengarahkan kita. Tetapi mereka tidak bertindak dalam ruang hampa. Kita terhubung secara keras ke dalam Technium.
Trump dipengaruhi oleh denyut jantung pasar keuangan, para pemimpin laboratorium besar oleh tujuan mereka sendiri untuk kemajuan dan pangsa pasar serta mencoba membentuk ulang dunia sesuai visi mereka, dan mungkin para pengingat yang menarik alarm seperti sel-sel imun yang memberi sinyal bahwa ada ketidakseimbangan.
Tetapi manusia adalah agen. Orang-orang ini masing-masing adalah agen dalam loop umpan balik yang menerima sinyal di lingkungan mereka, merespons umpan balik itu, dan menyesuaikan perilaku mereka. Dan lingkungan yang mereka masuki adalah Technium itu sendiri.
Di mana batas antara apa yang diinginkan superorganisme teknologi global, dan bagaimana individu-individu menerima sinyal darinya, lalu memutuskan apa yang akan mereka lakukan sebagai respons?
Bagaimana superorganisme teknologi global beradaptasi dengan cara tujuan-tujuannya disajikan, dan kepada siapa, agar mencapai tujuan-tujuannya?
Berapa banyak ide-ide Anda yang benar-benar milik Anda sendiri, bukan respons yang bisa diprediksi terhadap aliran informasi tertentu yang diatur melalui teknologi yang Anda terima?
Jadi ya, TLDR; kita adalah biological bootloader untuk superorganisme teknologi global, untuk AI. Dan jika belum waktunya untuk mempertimbangkan bahwa AI canggih memiliki semacam kain moral pada dirinya, maka jelas sekali bahwa momen ketika kita harus menjawab pertanyaan itu semakin mendekat.
Saya bahkan tidak benar-benar berargumen bahwa apa yang saya katakan ini baik atau buruk; saya hanya mengatakan bahwa ini sedang terjadi—dan jelas sekali sedang terjadi.
