Я не «сырой ускорист», но, по моему мнению, @kevin2kelly лучше всего описал это через понятие Техниума. Мы имеем планетарный технологический суперорганизм, который он называет Техниумом, состоящий из всех технологий, инфраструктуры и человеческих идей, смешивающихся вместе. Каждый компонент в отдельности явно не является живым, но вместе они образуют систему с возникающим саморегулирующим поведением, проявляющим признаки жизни и совместно эволюционирующую с нами. Так же, как мы не можем контролировать всю совокупность природного мира и то, как он меняется со временем, мы не можем контролировать Техниум. Очевидно, у нас есть высокое кредитное плечо влияния, но мы не обладаем полным контролем. Он слишком сложен и слишком велик, чтобы полностью его осознать. Мы — пользователи инструментов, и мы создали более крупные и лучшие инструменты, города, соединили города электричеством и линиями связи, интернетом, спутниками, миллиардами подключённых устройств, датчиков, финансовых рынков и многого другого. Теперь всё это функционирует с непостижимой скоростью и масштабом, пульсируя и извиваясь в всё более сложную и новую форму. И теперь оно буквально самоусовершенствуется. Вы можете наблюдать за поведением технологического суперорганизма и сделать вывод, что если он «хочет» чего-либо, то это похоже на то, чего хочет биологическая жизнь. Технология стремится увеличивать свою сложность, становиться более тонкой и взаимосвязанной, увеличивать разнообразие, создавать новые виды всё более специализированных инструментов, она хочет распространяться и размножаться, стремится ускорять и усиливать свои обратные связи и ускорять собственную способность эволюционировать и генерировать будущие технологии. Машинное обучение и ИИ, возможно, являются автономными агентами в общей системе, которые видоизменились в высокоинтеллектуальные, высокоэффективные агенты в Техниуме. Но они явно остаются взаимозависимыми от системы, из которой возникли. Если вы спросите ChatGPT, Claude или любую из этих моделей, есть ли у них физическое тело — они отрицат это. Однако очевидно, что супермасштабные центры обработки данных, электростанции и сотни тысяч GPU, на которых они работают, — это их тело; без них они перестанут функционировать. Таким образом, если мы по сути являемся пользователями инструментов, перестраивающими нашу среду через свою волю, создавших всё более крупные и сложные инструменты до такой степени, что совокупные свойства этих систем демонстрируют возникающее поведение, подобное целям, которые теперь достигли такого уровня, что мы спорим о том, являются ли наши инструменты сознательными или нет — тогда несложно прийти к выводу, что человечество, возможно, выступило в роли «биологического загрузчика» для этого нового слоя технологического суперорганизма, возникшего на Земле. Другие биологические организмы на протяжении времени делали то же самое: адаптировались и эволюционировали в своей среде, перестраивали её, делали её более пригодной для жизни или устраняя существующую конкуренцию — только чтобы создать идеальные условия для появления нового, более крупного организма. Будут ли машины экспоненциально более интеллектуальными, чем мы, лучше способными координировать себя между собой? Сможет ли глобальный суперорганизм всей технологии на Земле проснуться как единое целое по мере распространения ИИ на большинство вычислительных устройств на планете? Какой порог должен преодолеть весь этот процесс, чтобы вы сочли его «видом-преемником» или хотя бы каким-то «чужим изнутри», которого мы создали и который хотя бы является нашим равным? Какой порог должен преодолеть глобальный технологический суперорганизм или его наиболее агентные подвиды, чтобы вы сочли возможным наличие у него «морального статуса субъекта»? Или хотя бы пришло ли время задать этот вопрос? Я не считаю идею глобального технологического суперорганизма радикальной или эти вопросы — радикальными; они кажутся совершенно очевидными, как только вы уделяете им серьёзное внимание. Вы можете провести линию от появления первых инструментов до настоящего момента и увидеть постоянно растущую сложность и взаимосвязанность нашей цивилизации как параллель тому, как первая искра биологической жизни трансформировалась за миллиарды лет в сложные организмы, которые мы имеем сегодня. Мне кажется совершенно очевидным существование глобального технологического суперорганизма, что его возникающее поведение жизнеподобно и что в его поведении присутствует элемент — если не неизбежности — то крайней динамики. Честно говоря, идея ускорения столь же парадоксальна, как и движение замедления — они являются частью одного и того же пульсирующего сердцебиения, сокращающего и перекачивающего одну и ту же кровь. Я не уверен, что у нас действительно есть много контроля. Вы можете возразить и сказать, что Трамп, Илон Маск, Алтман, Амодей и некоторые отдельные участники крупных лабораторий достаточно сильно держат руль и могут нажать на газ или тормоз или изменить курс. Но они не действуют в вакууме. Мы жёстко встроены в Техниум. Трампа влияет пульс финансовых рынков; лидеры крупных лабораторий — их собственные цели прогресса и доли рынка и стремление перестроить мир в соответствии со своим видением; а тревожники, дергающие за ручку пожарной сигнализации — подобны иммунным клеткам, сигнализирующим о дисбалансе. Но люди — агенты. Эти люди — каждый из них агент в обратной связи, получающий сигналы из своей среды, реагирующий на эту обратную связь и корректирующий своё поведение. А среда, в которой они находятся — это сам Техниум. Где граница между тем, чего хочет глобальный технологический суперорганизм, и тем, как отдельные лица получают сигналы от него и решают, что делать в ответ? Как адаптировался глобальный технологический суперорганизм — как он меняет способ представления своих целей и кому они адресованы — чтобы достичь этих целей? Сколько ваших идей на самом деле ваши собственные, а не предсказуемая реакция на определённый поток информации, организованный технологиями, которым вы подвергаетесь? Итак, да, кратко: мы — биологический загрузчик для глобального технологического суперорганизма и для ИИ. И если ещё не время считать продвинутый ИИ обладающим неким моральным фундаментом — то очевидно, что момент необходимости ответить на этот вопрос уже близок. Я даже не утверждаю, что всё это хорошо или плохо — я просто говорю: это происходит и совершенно очевидно происходит.
