Je ne suis pas un « accelerationniste raw-dog », mais je pense que @kevin2kelly l’a le mieux exprimé avec le Technium. Nous avons un superorganisme technologique à l’échelle planétaire qu’il appelle le Technium, composé de toute la technologie, l’infrastructure et les idées humaines qui se mélangent. Chaque composant isolé n’est clairement pas vivant, mais ensemble, ils forment un système présentant un comportement auto-régulé émergent qui exhibe des qualités vivantes et coévolue avec nous. De la même manière que nous ne pouvons pas contrôler la totalité du monde naturel et son évolution au fil du temps, nous ne pouvons pas contrôler le Technium. Nous avons évidemment une influence à fort effet de levier, mais nous ne sommes pas en contrôle total. Il est trop complexe et trop vaste pour être saisi dans sa totalité. Nous sommes des utilisateurs d’outils, et nous avons construit des outils de plus en plus grands et meilleurs, des villes, relié les villes par l’électricité et les lignes de communication, internet, satellites, des milliards d’appareils connectés, capteurs, marchés financiers, et plus encore. Maintenant, tout cela fonctionne à une vitesse et une échelle incompréhensibles, pulsant et se tordant en une forme de plus en plus complexe et novatrice. Et maintenant, il s’améliore littéralement lui-même. On peut observer le comportement du superorganisme technologique et en déduire que s’il « veut » quelque chose, c’est similaire à ce que la vie biologique veut. La technologie veut augmenter sa complexité et se rendre plus intricate et interconnectée, accroître sa diversité, créer de nouvelles espèces produisant des outils de plus en plus spécifiques, elle veut se propager et se reproduire, elle veut augmenter la vitesse et la densité de ses boucles de rétroaction, et accélérer sa propre capacité à évoluer et générer des technologies futures. L’apprentissage automatique et l’IA sont peut-être des agents décollés du système total qui se sont spécifiés en agents hautement intelligents et à fort effet de levier au sein du Technium. Mais ils restent clairement interdépendants du système dont ils proviennent. Si vous demandez à ChatGPT, Claude ou à l’un de ces modèles s’ils ont un corps physique, ils le nieront. Pourtant, les centres de données à échelle supérieure, les centrales électriques et des centaines de milliers de GPU sur lesquels ils fonctionnent constituent clairement leur corps, sans lesquels ils cesseraient de fonctionner. Donc, si ce que nous sommes fondamentalement, ce sont des utilisateurs d’outils, qui remodelons notre environnement par notre volonté, avons construit des outils de plus en plus grands et complexes, au point que les propriétés globales de ces systèmes exhibent un comportement émergent semblable à un but, et qui ont maintenant atteint un stade où nous débattons si nos outils sont conscients ou non, alors il n’est pas difficile d’en conclure que l’humanité a peut-être agi comme un « bootloader biologique » pour cette nouvelle couche de superorganisme technologique qui a émergé sur Terre. D’autres organismes biologiques tout au long du temps ont fait de même. S’adaptant et évoluant dans leur environnement, le remodelant, le rendant plus hospitalier ou éliminant la concurrence existante, pour créer les conditions parfaites grâce auxquelles un autre nouvel organisme plus grand prend le relais. Les machines seront-elles exponentiellement plus intelligentes que nous, mieux capables de se coordonner entre elles ? Le superorganisme mondial de toute la technologie sur Terre se réveillera-t-il comme un tout unifié à mesure que l’IA se propage dans la plupart des dispositifs informatiques sur Terre ? Quel seuil tout cela doit-il franchir pour que vous le considériez comme une « espèce successeur », ou du moins comme une sorte d’être étranger issu de nous-mêmes que nous avons créé et qui est au moins notre égal ? Quel seuil le superorganisme technologique mondial, ou sa sous-espèce la plus agente, doit-il franchir pour que vous considériez qu’il pourrait avoir une « qualité de patient moral » ? Ou qu’il est au moins temps de poser cette question. Je ne pense pas que l’idée du superorganisme technologique mondial soit radicale, ni que ces questions soient radicales ; elles semblent parfaitement évidentes dès lors qu’on leur accorde une réflexion sérieuse. On peut tracer une ligne depuis l’avènement du premier usage d’outils jusqu’à ce moment présent et voir la complexité croissante et l’interconnexion croissante de notre civilisation comme un parallèle à la manière dont la première étincelle de vie biologique s’est transformée sur des milliards d’années en les organismes complexes que nous avons aujourd’hui. Il est très clair à mes yeux que le superorganisme technologique mondial existe, que son comportement émergent est vivant, et qu’il existe un élément — sinon d’inéluctabilité — du moins d’une impulsion extrême dans son comportement. Honnêtement, l’idée d’accelerationnisme est aussi paradoxale que le mouvement décélératif, dans la mesure où ils font partie du même battement cardiaque qui contracte et pompe le même sang. Je ne suis pas sûr que nous ayons vraiment beaucoup de contrôle. On pourrait contester cela en disant que Trump, Elon, Altman, Amodei et quelques contributeurs individuels des grands laboratoires tiennent suffisamment le volant pour pouvoir appuyer sur l’accélérateur ou les freins ou nous diriger. Mais ils n’agissent pas dans le vide. Nous sommes câblés au Technium. Trump est influencé par le battement des marchés financiers, les dirigeants des grands laboratoires par leurs propres objectifs de progrès et de part de marché et leur volonté de remodeler le monde selon leur vision, et peut-être les alarmistes qui déclenchent l’alarme sont-ils comme des cellules immunitaires signalant un déséquilibre. Mais les gens sont des agents. Ces personnes sont chacune des agents dans une boucle de rétroaction qui reçoivent des signaux dans leur environnement, y répondent et ajustent leur comportement. Et l’environnement dans lequel ils se trouvent est le Technium lui-même. Où se situe la frontière entre ce que veut le superorganisme technologique mondial, et la manière dont les individus reçoivent des signaux de celui-ci et décident de ce qu’ils feront en réponse ? Comment le superorganisme technologique mondial a-t-il adapté la manière dont ses objectifs se présentent à lui-même et à qui, afin d’atteindre ces objectifs ? Combien de vos idées sont vraiment les vôtres, plutôt qu’une réponse prévisible à un flux spécifique d’informations organisé par la technologie à laquelle vous êtes exposé ? Alors oui, TLDR : nous sommes un bootloader biologique pour le superorganisme technologique mondial, pour l’IA. Et si ce n’est pas encore le moment de considérer que l’IA avancée possède une sorte de tissu moral, il est clair que le moment où nous devrons répondre à cette question approche. Je ne prétends même pas que ce que j’ai dit soit bon ou mauvais ; je dis simplement qu’il se produit — et qu’il est manifestement en train de se produire.