Le Vatican a publié le 25 mai la première encyclique du pape Léon XIV depuis son accession, entièrement consacrée à l'intelligence artificielle. Ce document intitulé « Magnifica Humanitas » inclut les données, les algorithmes et les plateformes numériques dans la catégorie des « biens communs » et appelle à renforcer la régulation des grandes entreprises technologiques.
Les données sont considérées comme un bien commun
Le document indique que les données proviennent de la participation collective de nombreux individus et groupes, et ne doivent pas être monopolisées à long terme par quelques entreprises, ni traitées simplement comme des actifs privés vendables. L'encyclique souligne également que la technologie n'est pas moralement neutre : les algorithmes intègrent les valeurs, les biais et les incitations des concepteurs, des financeurs et des déploieurs.
Concernant la gouvernance de la plateforme, le document ne se contente pas d'une régulation top-down. Le Saint-Siège propose de promouvoir la transparence des algorithmes, des audits communautaires indépendants, et de conférer aux individus des droits concrets de contester légalement les systèmes automatisés, notamment dans les domaines du score de crédit, du filtrage des candidatures à l'emploi et de l'évaluation des risques judiciaires.
S'opposer à la délégation entière des décisions sensibles aux machines
L'encyclique souligne que les systèmes d'intelligence artificielle ne possèdent pas d'expérience corporelle, ne ressentent ni douleur, ni joie, ni compassion, et ne peuvent donc pas développer une compréhension humaine véritable. Ils peuvent simuler des expressions d'empathie et générer un langage apparemment crédible, mais cela ne correspond pas à une compréhension réelle du contenu produit.
Sur la base de ce jugement, le document s'oppose à la délégation à des systèmes automatisés de décisions sensibles telles que le recrutement, les conditions d'octroi de crédit et les évaluations de risque judiciaire. Le Saint-Siège estime que les résultats fournis par les machines, bien qu'ils semblent objectifs, contiennent en réalité des choix et des biais intégrés à l'avance par les développeurs.
Les dirigeants d'Anthropic assistent à la conférence de presse
Lors de la conférence de presse du jour au Vatican, Christopher Olah, cofondateur d'Anthropic et responsable de la recherche en interprétabilité, a participé aux côtés de deux cardinaux et de spécialistes en théologie. Il a déclaré que les grands laboratoires d'IA fonctionnent dans un cadre d'incitations et de contraintes qui peuvent parfois entrer en conflit avec « faire ce qui est juste », rendant ainsi indispensable une surveillance externe de la part des gouvernements, des institutions religieuses et de la société civile.
Il a également mentionné que, si l'IA provoque à court terme un remplacement massif d'emplois, les mesures de réponse associées deviendront une question morale d'une portée historique. L'encyclique exprime également une position plus forte : tant que le contrôle des données et de la puissance de calcul reste concentré entre les mains de quelques acteurs, poursuivre simplement une « IA plus éthique » n'est pas suffisant.
Le Saint-Siège a mis en place un mécanisme de coordination interne.
Cette encyclique comprend 245 paragraphes et a été signée le 15 mai. Ce jour-là coïncidait également avec le 135e anniversaire de l'encyclique Rerum Novarum, un texte fondamental de la doctrine sociale de l'Église catholique sur le droit au travail.
Avant cela, Léon XIV avait déjà défini l'IA comme une question éthique majeure de son mandat. Le Vatican a également approuvé le 16 mai la création d'un nouveau comité interne sur l'IA, impliquant sept départements, chargé de coordonner les futures initiatives de gouvernance de l'IA au sein du Saint-Siège.