El Vaticano publicó el 25 de mayo la primera encíclica del Papa León XIV, dedicada íntegramente a la inteligencia artificial. El documento titulado «Magnifica Humanitas» incluye datos, algoritmos y plataformas digitales dentro de la categoría de «bienes comunes» y exige una mayor regulación de las grandes empresas tecnológicas.
Los datos se consideran un recurso común
El documento indica que los datos provienen de la participación conjunta de numerosos individuos y grupos, y no deben ser monopolizados a largo plazo por pocas empresas ni considerados simplemente como activos privados susceptibles de venta. La encíclica también enfatiza que la tecnología no es moralmente neutral, ya que los algoritmos incorporan las valores, cegueras e incentivos de interés de sus diseñadores, patrocinadores y implementadores.
En torno a la gobernanza de la plataforma, el documento no se limita a una regulación top-down. La Santa Sede propone fomentar la transparencia algorítmica, auditorías comunitarias independientes y otorgar a los individuos derechos prácticos para impugnar legalmente sistemas automatizados, especialmente en áreas como puntuaciones de crédito, selección de empleo y evaluación de riesgos judiciales.
Oppose leaving sensitive decisions entirely to machines
La encíclica señala que los sistemas de inteligencia artificial no poseen experiencia corporal, ni sienten dolor, alegría o compasión, por lo que no pueden desarrollar una comprensión humana verdadera. Pueden simular expresiones de empatía y generar lenguaje aparentemente creíble, pero esto no equivale a comprender realmente el contenido generado.
Sobre la base de este juicio, el documento se opone a confiar decisiones sensibles como la contratación, los criterios de crédito y las puntuaciones de riesgo judicial a sistemas automatizados. La Santa Sede considera que, aunque los resultados generados por las máquinas parecen objetivos, en realidad aún contienen selecciones y sesgos preestablecidos por los desarrolladores.
Ejecutivos de Anthropic asisten al lanzamiento
En el lanzamiento del mismo día en el Vaticano, Christopher Olah, cofundador de Anthropic y responsable de investigación en explicabilidad, asistió junto a dos cardenales y académicos teológicos. Él indicó que los grandes laboratorios de IA operan dentro de un conjunto de incentivos y restricciones que a veces entran en conflicto con “hacer lo correcto”, por lo que la supervisión externa por parte del gobierno, las instituciones religiosas y la sociedad civil es indispensable.
También mencionó que, si la IA provoca una sustitución masiva de empleos en el corto plazo, la respuesta relacionada se convertirá en un tema moral de gran peso histórico. La encíclica también ofrece una expresión más fuerte: si el control de los datos y la capacidad de cómputo sigue concentrado en unos pocos actores, simplemente perseguir una "IA más ética" no es suficiente.
La Santa Sede ha activado su mecanismo de coordinación interna.
Esta encíclica consta de 245 párrafos y fue firmada el 15 de mayo, que también marcó el 135º aniversario de la encíclica Rerum Novarum, un texto fundamental de la doctrina social de la Iglesia Católica sobre el derecho al trabajo.
Antes de esto, León XIV ya había definido多次 la IA como una importante cuestión ética durante su pontificado. El Vaticano también aprobó el 16 de mayo la creación de un nuevo comité interno de IA, compuesto por siete departamentos, encargado de coordinar los futuros esfuerzos de gobernanza de la IA de la Santa Sede.