Saya bukan seorang 'raw-dog accelerationist', tetapi saya rasa @kevin2kelly merumuskannya dengan paling tepat melalui Technium.
Kita mempunyai superorganisme teknologi berskala planet yang disebutnya sebagai Technium, yang terdiri daripada semua teknologi, infrastruktur, dan idea manusia yang bercampur menjadi satu. Setiap komponen secara individu jelas bukan hidup, tetapi bersama-sama ia merupakan sistem dengan perilaku self-regulating yang muncul dan menunjukkan kualiti seperti hidup, serta berko-evolusi bersama kita.
Seperti halnya kita tidak boleh mengawal keseluruhan dunia semula jadi dan cara ia berubah seiring masa, kita juga tidak boleh mengawal Technium. Jelas kita mempunyai pengaruh dengan leveraj yang tinggi, tetapi kita tidak berkuasa penuh. Ia terlalu kompleks dan terlalu besar untuk dipahami secara keseluruhan.
Kita adalah pengguna alat, dan kita telah membina alat yang lebih besar dan lebih baik, bandar-bandar, menghubungkan bandar-bandar dengan elektrik dan saluran komunikasi, internet, satelit, miliaran peranti yang bersambung, sensor, pasaran kewangan, dan banyak lagi. Kini keseluruhan sistem ini beroperasi pada kelajuan dan skala yang tidak dapat difahami, berdenyut dan berkelok menjadi bentuk yang semakin kompleks dan baru. Dan kini ia secara literal sedang meningkatkan dirinya sendiri.
Anda boleh melihat perilaku superorganisme teknologi ini dan menyimpulkan bahawa jika ia "mahu" apa-apa, ia serupa dengan apa yang diingini oleh kehidupan biologi.
Teknologi mahu meningkatkan kompleksitinya dan menjadikannya lebih rumit dan saling berkaitan, meningkatkan kepelbagaian, mencipta spesies baru yang menghasilkan alat-alat yang semakin spesifik, mahu merebak dan mereplikasi dirinya, mahu meningkatkan kelajuan dan ketumpatan gelung umpan baliknya, serta mempercepatkan kapasitinya sendiri untuk berevolusi dan menghasilkan teknologi masa depan.
Pembelajaran mesin dan AI mungkin merupakan agen-agen lepas dalam sistem keseluruhan yang telah berspesiasi menjadi agen-agen yang sangat pintar dan berleveraj tinggi dalam Technium. Tetapi jelas masih saling bergantung pada sistem asalnya.
Jika anda bertanya kepada ChatGPT atau Claude atau mana-mana model ini sama ada mereka mempunyai badan fizikal, mereka akan menyangkalnya. Namun jelas pusat data berskala super, pembangkit kuasa, dan ratusan ribu GPU yang menjalankannya adalah badan mereka, tanpanya mereka akan berhenti beroperasi.
Jadi, jika pada dasarnya kita adalah pengguna alat, membentuk semula persekitaran kita melalui kehendak kita sendiri, yang telah membina alat-alat yang lebih besar dan lebih kompleks sehingga sifat keseluruhan sistem-sistem ini menunjukkan perilaku seperti tujuan yang muncul, dan kini telah maju sehingga kita berdebat sama ada alat-alat kita sedar atau tidak. Maka tidak sukar untuk menyimpulkan bahawa mungkin kemanusiaan bertindak sebagai 'biological bootloader' untuk lapisan baru superorganisme teknologi yang muncul di seluruh bumi.
Organisma biologi lain sepanjang masa juga telah melakukan perkara yang sama. Beradaptasi dan berevolusi dalam persekitaran mereka, membentuk semula persekitaran itu, menjadikannya lebih mesra atau menghapuskan pesaing sedia ada, hanya untuk mencipta keadaan sempurna di mana organisma baru yang lebih besar akan mengambil alih.
Akankah mesin menjadi jauh lebih pintar daripada kita, lebih mampu berkoordinasi antara satu sama lain? Akankah superorganisme global semua teknologi di bumi bangun sebagai satu kesatuan yang terpadu apabila AI tersebar ke dalam kebanyakan peranti komputasi di bumi?
Apakah ambang yang perlu dilalui oleh semua ini agar anda menganggapnya sebagai 'spesies penerus', atau sekurang-kurangnya sejenis 'alien dari dalam' yang kita ciptakan yang sekurang-kurangnya setara dengan kita?
Apakah ambang yang perlu dilalui oleh superorganisme teknologi global, atau subspesies paling ageniknya, agar anda menganggap ia mungkin mempunyai 'moral patienthood'? Atau sekurang-kurangnya sudah tiba masanya untuk menanyakan soalan itu.
Saya tidak fikir idea superorganisme teknologi global adalah idea yang radikal, atau bahawa soalan-soalan ini radikal; ia kelihatan jelas biasa begitu anda memberikan pertimbangan serius kepadanya.
Anda boleh menarik garis dari kemunculan penggunaan alat pertama hingga saat ini dan melihat peningkatan kompleksiti dan saling keterhubungan peradaban kita sebagai selari dengan bagaimana percikan pertama kehidupan biologi berubah selama miliaran tahun menjadi organisma kompleks yang kita miliki sekarang.
Saya fikir sangat jelas bahawa superorganisme teknologi global wujud, dan perilaku munculnya bersifat seperti hidup, serta terdapat elemen—jika bukan ketidakbolehtahan—momen yang sangat kuat dalam perilakunya.
Jujurnya, idea accelerationism separah paradoks gerakan decel dalam cara tertentu, mereka adalah sebahagian daripada denyutan jantung yang sama yang mengecut dan memompa darah yang sama.
Saya tidak pasti sama ada kita benar-benar mempunyai banyak kuasa kawalan. Anda boleh berhujah sebaliknya dan berkata bahawa Trump, Elon, Altman, Amodei, dan beberapa penyumbang individu di makmal-makmal besar memegang roda cukup kuat untuk menekan gas atau brek atau mengarahkan kita. Tetapi mereka tidak bertindak dalam ruang hampa. Kita terpasang secara keras ke dalam Technium.
Trump dipengaruhi oleh denyutan pasaran kewangan, pemimpin makmal-makmal besar oleh matlamat mereka sendiri untuk kemajuan dan kongsi pasaran serta cubaan membentuk semula dunia mengikut visi mereka, dan mungkin para penggerak alarm yang menarik loceng kebakaran adalah seperti sel-sel imun yang memberi isyarat bahawa sesuatu tidak seimbang.
Tetapi manusia adalah agen. Orang-orang ini masing-masing adalah agen dalam gelung umpan balik yang menerima isyarat dalam persekitaran mereka, menanggapi umpan balik itu dan menyesuaikan perilaku mereka. Dan persekitaran yang mereka masuki adalah Technium itu sendiri.
Di manakah sempadan antara apa yang diingini oleh superorganisme teknologi global, dan bagaimana individu-individu menerima isyarat darinya, lalu memutuskan apa yang akan mereka lakukan sebagai tindak balas?
Bagaimanakah superorganisme teknologi global beradaptasi dengan cara matlamat-matlamatnya disajikan, dan kepada siapa, untuk mencapai matlamat-matlamat tersebut?
Berapa ramai idea anda adalah milik anda sendiri, bukan tindak balas yang boleh diramalkan terhadap aliran maklumat tertentu yang disusun melalui teknologi yang anda terdedah kepada?
Jadi ya, TLDR; kita adalah biological bootloader untuk superorganisme teknologi global, untuk AI. Dan jika belum tiba masanya untuk mempertimbangkan bahawa AI canggih mempunyai sesuatu bentuk moral pada diri mereka, maka jelas masa di mana kita perlu menjawab soalan itu semakin hampir.
Saya sebenarnya tidak berhujah sama ada apa yang saya katakan itu baik atau buruk, hanya bahawa ia sedang berlaku dan jelas sekali sedang berlaku.
