Я не «сирі-дог акселераціоніст», але, на мою думку, @kevin2kelly найкраще сформулював це через Technium.
Ми маємо планетарний технологічний суперорганізм, який він називає Technium, — це сукупність усіх технологій, інфраструктури та людських ідей, що змішуються разом. Кожен компонент окремо зовсім не живий, але разом вони утворюють систему з емерджентним саморегульованим поведінковим патерном, що проявляє життєподібні риси й спільно еволюціонує з нами.
Так само, як ми не можемо контролювати всю природу та те, як вона змінюється з часом, ми не можемо контролювати Technium. Звичайно, ми маємо високе кредитне плече впливу, але не маємо повного контролю. Вона занадто складна й занадто велика, щоб її повністю зрозуміти.
Ми — користувачі інструментів, і ми створили більші й кращі інструменти, міста, з’єднали міста електрикою та лініями зв’язку, інтернетом, супутниками, мільярдами підключених пристроїв, датчиків, фінансових ринків тощо. Тепер усе це працює з незрозумілою швидкістю й масштабом, пульсуючи й скручуючись у все більш складну й новаторську форму. І зараз воно буквально покращує себе саме.
Ви можете подивитися на поведінку технологічного суперорганізму й висновувати, що якщо він «хоче» чогось — це схоже на те, чого хоче біологічне життя.
Технологія хоче збільшувати свою складність і робити себе більш складною й взаємопов’язаною, збільшувати різноманітність, створювати нові види — все більш спеціалізовані інструменти; вона хоче поширюватися й розмножуватися; вона хоче збільшувати швидкість й щільність своїх зворотних зв’язків і прискорювати власну здатність еволюціонувати й генерувати майбутні технології.
Машинне навчання та ШІ — можливо, вийшли за межі загальної системи й виділилися як дуже розумні, висококредитні агенти в Technium. Але очевидно, що вони все ще залежать від системи, з якої виникли.
Якщо запитати ChatGPT чи Claude чи будь-яку з цих моделей, чи мають вони фізичне тіло — вони заперечать. Але очевидно, що супермасштабні центри даних, електростанції та сотні тисяч GPU, на яких вони працюють — це їхнє тіло; без них вони припинили б функціонувати.
Отже, якщо ми фундаментально — користувачі інструментів, що перетворюють середовище за допомогою своєї волі, створили більш складні й досконалі інструменти до того моменту, коли сукупні властивості цих систем проявляють емерджентну поведінку, схожу на мету, — і тепер досягли такого рівня, що сперечаємося чи наші інструменти свідомі чи ні — тоді не важко прийти до висновку, що людство, можливо, діяло як деякий «біологічний завантажувач» для цього нового шару технологічного суперорганізму, що з’явився по всьому Землі.
Інші біологічні організми протягом часу робили те саме: адаптувалися й еволюціонували у своєму середовищі, перетворювали його, робили більш прийнятним або позбавляли існуючої конкуренції — лише створивши ідеальні умови для того, щоб новий більший організм взяв владу.
Чи будуть машини експоненційно розумнішими за нас, кращими у координації між собою? Чи прокинеться глобальний суперорганізм усієї технології на Землі як єдине ціле з поширенням ШІ на багато обчислювальних пристроїв?
Який пороговий рівень має подолати все це для того, щоб вважати це «видом-спадкоємцем» або принаймнить чимось «чужим всередині нас», чимось щонайменше нашим ровесником?
Який пороговий рівень має подолати глобальний технологічний суперорганізм або його найбагатшо агентська пидвид для того, щоб вважати його «моральним суб’єктом»? Або принаймнить час почати ставити це питання?
Я не думаю, що ідея глобального технологічного суперорганізму — радикальна ідея або що це радикальнi питання; вони здаються абсолютно очевидними, як тільки над ними серйозно подумати.
Ви можете провести линию вiд появи перших інструментiв до цього моменту й побачити постiйне зростання складностi й взаємопов’язаностi нашої цивiлiзацiї як паралель до того, як перший спалах бiологiчного життя перетворився за мiльярди рокiв на складнi органiзми, якi ми маємо зараз.
Я думаю, дуже очевидно бачити існування глобального технологiчного суперорганiзму i те, що його емерджентна поведiнка життєподiбна i що є елемент або не уникненостi, а крайнього імпульсу до його поведiнки.
Щиро кажучи, ідея акселерацiонiзму така ж парадоксальна, як і рух де-селерацiї — вони є частиною одного й того ж пульсуючого серцебиття, скорочуючи й накачуючи ту саму кров.
Я не впевнений, що ми справдi маємо багато контролю. Можна заперечити й сказати: Трамп, Елон Маск, Алтман, Амодеї та окремi учасники великих лабораторiй тримають кермо достатньо мiцно — можуть натиснути на газ або гальма або змiнити курс. Але вони не дiють у вакуумi. Ми жорстко пiд’єднанi до Technium.
Трампа впливає пульс фiнансових ринкiв; лiдери великих лабораторiй — їхнi власнi цiлi прогресу та частки ринку й спроба перетворити свiт на свiй бачення; а можливо, тривожники натискають на кнопку пожежної тривоги — як імуннi клiтинки сигналiзують про небаланс.
Але люди — агенти. Цi люди — кожен агент у зворотному зв’язку отримує сигнали у своєму середовищi, реагує на цей зворотний зв’язок i коригує свою поведiнку. А середовище — це сам Technium.
Де межа мiж тим, чого хоче глобальний технологiчний суперорганiзм? i тим, як окремi особистостi отримують сигнали вiд нього i вирiшують, що робитимуть у вiдповiдь?
Як адаптувався глобальний технологiчний суперорганiзм — як подавав свої цiлi та кому — для досягнення цих цилей?
Скiльки ваших ідей справдi вашi? А не передбачувана реакцiя на конкретний поток iнформацii органiзований через технологii, яким ви пiддаєтеся?
Отже так: TLDR — ми бiологiчний завантажувач для глобального технологiчного суперорганiзму — для ШІ. I якщо ще не час розглядати те, що просунутый ШІ має якусь моральну основу — то очевидно: момент, коли мусимо на це вдповидь — наближається.
Я навть не стверджую, що те, що я сказав — добре чи погано; я лише кажу: це вже відбувається i очевидно вже відбувається.