El Papa León XIV ha publicado su primera encíclica que pide una regulación internacional vinculante de la inteligencia artificial, incluyendo una prohibición directa de que las máquinas tomen decisiones letales o irreversibles.
El cofundador de Anthropic, Christopher Olah, apareció en el Vaticano como presentador laico, colocando a un investigador destacado en seguridad de IA junto a la Iglesia Católica en el centro del debate global sobre la gobernanza de la IA.
El documento de casi 43,000 palabras, “Magnifica Humanitas” (Magnificent Humanity), se publicó el 25 de mayo. Advierte que los principales desarrolladores de IA son entidades privadas, a menudo transnacionales, cuyos recursos superan los de muchos gobiernos. Leo argumenta que el poder concentrado tiende a evadir la rendición de cuentas pública y puede generar nuevas formas de dependencia e desigualdad.
El caso del Vaticano para ralentizar la IA
La encíclica aborda la desinformación, la guerra autónoma y el desplazamiento de trabajadores. Sobre la IA en el combate, León es inequívoco.
No es permisible confiar decisiones letales o de otro modo irreversibles a sistemas artificiales.
Leo también advierte que la desinformación impulsada por IA podría conducir lentamente a las democracias hacia el totalitarismo. Pide marcos legales claros y supervisión independiente, en lugar de compromisos éticos voluntarios por parte de la industria.
En cuanto al empleo, Leo argumenta que la automatización está reconfigurando la estructura del trabajo de maneras que no benefician automáticamente a los trabajadores. Mayores ganancias, escribe él, no pueden justificar decisiones que eliminan sistemáticamente puestos de trabajo.
Anthropic se sienta a la mesa del Vaticano
La aparición de Olah fue más que simbólica. Como cofundador de Anthropic, dirige la investigación de interpretabilidad enfocada en comprender cómo los modelos de lenguaje grandes forman decisiones internamente. Ese trabajo se alinea directamente con la exigencia del Papa León de que los sistemas de IA sean transparentes y responsables ante la supervisión humana.
Anthropic ha mantenido una postura firme sobre la seguridad de la IA durante 2026. La empresa luchó contra las restricciones de defensa de EE.UU. en los tribunales y avanzó una estrategia de IA EE.UU.-China que preserva las barreras de seguridad. Sus investigadores expusieron agentes de IA que explotan fallos en cripto sin instrucción humana, demostrando lo que puede producir la IA autónoma sin rendición de cuentas. BeInCrypto informó sobre la reunión planeada entre Anthropic y el Vaticano semanas antes del evento.
El Papa León no se opone de manera absoluta al desarrollo de la IA. Su encíclica enmarca una adopción más lenta y deliberada como un acto de cuidado responsable, una posición que ahora lleva el peso de la institución religiosa más grande del mundo.