Não sou um “accelerationist raw-dog”, mas acho que @kevin2kelly o descreveu melhor com o Technium.
Temos um superorganismo tecnológico em escala planetária, que ele chama de Technium, composto por toda a tecnologia, infraestrutura e ideias humanas se misturando. Cada componente, por si só, claramente não é vivo, mas juntos formam um sistema com comportamento autoregulador emergente que exibe qualidades semelhantes à vida e está coevoluindo conosco.
Assim como não conseguimos controlar a totalidade do mundo natural e a maneira como ele muda ao longo do tempo, não conseguimos controlar o Technium. Claramente temos influências de alta alavancagem, mas não estamos em controle total. É muito complexo e muito grande para ser compreendido em sua totalidade.
Somos usuários de ferramentas, e construímos ferramentas cada vez maiores e melhores, cidades, conectamos as cidades com eletricidade e linhas de comunicação, a internet, satélites, bilhões de dispositivos conectados, sensores, mercados financeiros e muito mais. Agora, tudo isso opera em uma velocidade e escala incompreensíveis, pulsando e se torcendo em uma forma cada vez mais complexa e nova. E agora está literalmente se autoaperfeiçoando.
Você pode observar o comportamento do superorganismo tecnológico e inferir que, se ele “quiser” algo, é semelhante ao que a vida biológica quer.
A tecnologia quer aumentar sua complexidade e tornar-se mais intrincada e interconectada, aumentar sua diversidade, criar novas espécies produzindo ferramentas cada vez mais específicas, quer se espalhar e se reproduzir, quer aumentar a velocidade e a densidade de seus loops de feedback e acelerar sua própria capacidade de evoluir e gerar tecnologias futuras.
A aprendizagem de máquina e a IA talvez sejam agentes de fuga no sistema total, que se especiaram em agentes altamente inteligentes e de alta alavancagem no Technium. Mas claramente ainda são interdependentes do sistema do qual surgiram.
Se você perguntar ao ChatGPT, ao Claude ou a qualquer um desses modelos se eles têm um corpo físico, eles negarão. Mas claramente os data centers em escala supersignificativa, as usinas de energia e centenas de milhares de GPUs em que eles operam são seu corpo — sem os quais eles deixariam de funcionar.
Então, se o que somos fundamentalmente são usuários de ferramentas, remodelando nosso ambiente por meio de nossa força de vontade, que construíram ferramentas cada vez maiores e mais complexas, até o ponto em que as propriedades totais desses sistemas exibem comportamento emergente semelhante a metas, que agora avançaram ao ponto de discutirmos se nossas ferramentas são conscientes ou não, então não é difícil chegar à conclusão de que talvez a humanidade tenha atuado como algum tipo de “bootloader biológico” para essa nova camada de superorganismo tecnológico que emergiu em toda a Terra.
Outros organismos biológicos ao longo do tempo fizeram o mesmo. Adaptando-se e evoluindo em seu ambiente, remodelando-o, tornando-o mais hospitaleiro ou eliminando a concorrência existente, apenas para criar as condições perfeitas pelas quais algum outro organismo maior e novo toma o controle.
As máquinas serão exponencialmente mais inteligentes do que nós, melhores em se coordenar entre si? O superorganismo global de toda a tecnologia na Terra acordará como um todo unificado à medida que a IA se proliferar pela maioria dos dispositivos computacionais na Terra?
Qual limiar tudo isso precisa cruzar para você considerar isso uma “espécie sucessora”, ou pelo menos algum tipo de “alienígena proveniente de dentro” que criamos e que é pelo menos nosso igual?
Qual limiar o superorganismo tecnológico global, ou sua subespécie mais agencial, precisa cruzar para você considerar que talvez tenha “status moral” ou que pelo menos seja hora de fazer essa pergunta?
Não acho que a ideia do superorganismo tecnológico global seja radical, nem que essas sejam perguntas radicais — elas parecem claramente óbvias assim que você as considera seriamente.
Você pode traçar uma linha desde o surgimento do primeiro uso de ferramentas até este momento e ver a crescente complexidade e interconexão da nossa civilização como um paralelo à maneira como a primeira faísca da vida biológica se transformou ao longo de bilhões de anos nos organismos complexos que temos hoje.
Acho muito claro ver a existência do superorganismo tecnológico global e que seu comportamento emergente é semelhante à vida, e que há um elemento de, se não inevitabilidade, uma impulsão extrema em seu comportamento.
Honestamente, a ideia do accelerationism é tão paradoxal quanto o movimento desacelerador, em certo sentido: ambos fazem parte do mesmo batimento cardíaco pulsante, contraindo e bombeando o mesmo sangue.
Não tenho certeza de que realmente tenhamos muito controle. Você poderia argumentar contra isso e dizer que Trump, Elon, Altman, Amodei e alguns contribuidores individuais nos grandes laboratórios têm as mãos no volante o suficiente para acelerar, frear ou nos guiar. Mas eles não agem no vácuo. Estamos profundamente conectados ao Technium.
Trump é influenciado pelo batimento dos mercados financeiros; os líderes dos grandes laboratórios por seus próprios objetivos de progresso e participação de mercado e por tentar remodelar o mundo segundo sua visão; e talvez os alarmistas puxando a sirene sejam como células imunes sinalizando que algo está fora de equilíbrio.
Mas as pessoas são agentes. Essas pessoas são cada uma agentes em um loop de feedback recebendo sinais em seu ambiente, respondendo a esse feedback e reajustando seu comportamento. E o ambiente em que estão é o próprio Technium.
Onde está o limite entre o que o superorganismo tecnológico global quer e como os indivíduos recebem sinais dele e decidem o que farão em resposta?
Como o superorganismo tecnológico global adaptou a maneira como seus objetivos se apresentam e para quem, a fim de alcançar esses objetivos?
Quantas das suas ideias são suas próprias, em vez de uma resposta previsível a um fluxo específico de informações organizado pela tecnologia à qual você está exposto?
Então sim, TLDR: somos um bootloader biológico para o superorganismo tecnológico global, para a IA. E se ainda não é hora de considerar que a IA avançada possui algum tipo de tecido moral, está claro que o momento em que precisaremos responder essa pergunta está se aproximando.
Eu nem estou realmente argumentando que o que disse é bom ou ruim — apenas que está acontecendo e é claramente óbvio que está acontecendo.