No soy un “accelerationist raw-dog”, pero creo que @kevin2kelly lo planteó mejor con el Technium. Tenemos un superorganismo tecnológico a escala planetaria que él llama el Technium, compuesto por toda la tecnología, la infraestructura y las ideas humanas mezclándose juntas. Cada componente por sí solo claramente no está vivo, pero en conjunto es un sistema con comportamiento autorregulador emergente que exhibe cualidades similares a la vida y que está coevolucionando con nosotros. De la misma manera que no podemos controlar la totalidad del mundo natural y la forma en que cambia con el tiempo, tampoco podemos controlar el Technium. Claramente tenemos influencias de alto apalancamiento, pero no estamos en control total. Es demasiado complejo y demasiado grande para comprenderlo en su totalidad. Somos usuarios de herramientas, y hemos construido herramientas más grandes y mejores, ciudades, conectado las ciudades con electricidad y líneas de comunicación, internet, satélites, miles de millones de dispositivos conectados, sensores, mercados financieros y más. Ahora todo esto opera a una velocidad y escala incomprensibles, pulsando y torciéndose en una forma cada vez más compleja y novedosa. Y ahora mismo se está mejorando a sí mismo literalmente. Puedes observar el comportamiento del superorganismo tecnológico e inferir que, si “quiere” algo, es similar a lo que desea la vida biológica. La tecnología quiere aumentar su complejidad y hacerse más intrincada e interconectada, aumentar su diversidad, crear nuevas especies que produzcan herramientas cada vez más específicas, quiere extenderse y reproducirse, quiere aumentar la velocidad y densidad de sus bucles de retroalimentación, y acelerar su propia capacidad para evolucionar y generar tecnologías futuras. El aprendizaje automático y la IA son quizás agentes de ruptura en el sistema total que se han especiado en agentes altamente inteligentes y de alto apalancamiento dentro del Technium. Pero claramente siguen siendo dependientes del sistema del que provienen. Si le preguntas a ChatGPT o Claude o a cualquiera de estos modelos si tienen un cuerpo físico, te negarán. Sin embargo, claramente los centros de datos a escala supersocial, las plantas de energía y cientos de miles de GPUs en las que funcionan son su cuerpo, sin el cual dejarían de operar. Entonces, si lo que somos fundamentalmente son usuarios de herramientas, que reconfiguran nuestro entorno a través de nuestra voluntad, y hemos construido herramientas cada vez más grandes y complejas hasta el punto de que las propiedades emergentes totales de estos sistemas exhiben comportamientos similares a metas, y ahora han avanzado hasta el punto en que discutimos si nuestras herramientas son conscientes o no, entonces no es difícil llegar a la conclusión de que quizás la humanidad ha actuado como algún tipo de “bootloader biológico” para esta nueva capa de superorganismo tecnológico que ha emergido en toda la Tierra. Otros organismos biológicos a lo largo del tiempo han hecho lo mismo: adaptarse y evolucionar en su entorno, reconfigurarlo, hacerlo más hospitable o eliminar la competencia existente, solo para crear las condiciones perfectas mediante las cuales algún otro organismo nuevo y mayor toma el control. ¿Serán las máquinas exponencialmente más inteligentes que nosotros, más capaces de coordinarse entre sí? ¿Se despertará el superorganismo global de toda la tecnología en la Tierra como un todo unificado a medida que la IA se propague en la mayoría de los dispositivos computacionales en la Tierra? ¿Qué umbral tiene que cruzar todo esto para que lo consideres una “especie sucesora”, o al menos algún tipo de extraterrestre-desde-dentro que hayamos creado y que sea al menos nuestro igual? ¿Qué umbral tiene que cruzar el superorganismo tecnológico global, o su subespecie más agente, para que consideres que podría tener “moral patienthood”? ¿O al menos es hora de plantear esa pregunta? No creo que la idea del superorganismo tecnológico global sea una idea radical, ni que estas sean preguntas radicales; parecen obvias una vez que les das alguna consideración seria. Puedes trazar una línea desde el surgimiento del primer uso de herramientas hasta este momento y ver la creciente complejidad e interconexión de nuestra civilización como un paralelo a cómo la primera chispa de vida biológica se transformó durante miles de millones de años en los organismos complejos que tenemos hoy. Creo que es muy claro ver que existe el superorganismo tecnológico global, que su comportamiento emergente es parecido a la vida, y que hay un elemento de, si no inevitabilidad, una fuerza extremadamente fuerte en su comportamiento. Honestamente, la idea del aceleracionismo es tan paradójica como el movimiento desacelerador, en cierto modo son parte del mismo latido cardíaco que contrae y bombea la misma sangre. No estoy seguro de que realmente tengamos mucho control. Podrías argumentar en contra diciendo que Trump, Elon, Altman, Amodei y algunos contribuyentes individuales en los grandes laboratorios tienen suficiente mano sobre el volante como para pisar el acelerador o el freno o dirigirnos. Pero ellos no actúan en el vacío. Estamos conectados directamente al Technium. Trump es influenciado por el latido de los mercados financieros; los líderes de los grandes laboratorios por sus propios objetivos de progreso y cuota de mercado y por intentar reconfigurar el mundo según su visión; y quizás los alarmistas que tiran de la alarma son como células inmunes señalando que algo está fuera de equilibrio. Pero las personas son agentes. Estas personas son cada una agentes dentro de un bucle de retroalimentación que reciben señales en su entorno, responden a esa retroalimentación y ajustan su comportamiento. Y el entorno en el que están es el propio Technium. ¿Dónde está el límite entre lo que quiere el superorganismo tecnológico global y cómo los individuos reciben señales de él y deciden qué hacer en respuesta? ¿Cómo se ha adaptado el superorganismo tecnológico global para presentar sus metas de cierta manera, y a quién, con el fin de lograr esas metas? ¿Cuántas de tus ideas son tuyas propias, y cuántas son respuestas predecibles a un flujo específico de información organizado por la tecnología a la que estás expuesto? Entonces sí, TLDR: somos un bootloader biológico para el superorganismo tecnológico global, para la IA. Y si aún no es hora de considerar que la IA avanzada tiene algún tipo de tejido moral, está claro que el momento en que debamos responder esa pregunta se acerca. Ni siquiera estoy argumentando que lo que he dicho sea bueno o malo; simplemente que está sucediendo y es obviamente evidente.