教皇レオ14世は、機械が致命的または不可逆的な決定を下すことを直接禁止を含む、人工知能の法的国際規制を求める最初の回勅を発表しました。
Anthropicの共同創設者であるクリストファー・オラは、平信徒としてバチカンに登壇し、主要なAIセーフティ研究者をカトリック教会と並べて、グローバルなAIガバナンス議論の中心に置いた。
約4万3000語からなる文書「Magnifica Humanitas」（優れた人間性）は5月25日に公開されました。この文書は、最大のAI開発者が民間であり、多くの政府を上回るリソースを有する国際的な企業であることを警告しています。レオは、権力が集中すると公共の説明責任を回避し、新たな形の依存や不平等を生み出す傾向があると主張しています。
バチカンのAIのスピードを落とすべき理由
encyclicalは誤情報、自律型戦争、労働者の置き換えを対象としている。戦闘におけるAIに関して、レオは明確である。
致死的またはそれ以外の不可逆的な決定を人工システムに委ねることは許されません。
レオは、AIによる誤情報が民主主義を徐々に全体主義へと導く可能性があると警告し、業界の自主的な倫理誓約ではなく、明確な法的枠組みと独立した監視を呼びかけています。
雇用に関して、レオは自動化が労働の構造を、労働者に自動的に利益をもたらさない形で再構築していると主張している。彼は、より大きな利益は、職業を体系的に削除する選択を正当化できないと書いている。
Anthropic、バチカンのテーブルに座る
オラの登場は象徴的以上の意味を持っていた。Anthropicの共同設立者として、彼は大規模言語モデルが内部で意思決定を形成する仕組みを理解することに焦点を当てた解釈可能性研究を率いている。その研究は、AIシステムが人間の監督に対して透明かつ説明責任を果たすよう求める教皇レオの要請と直結している。
Anthropicは2026年を通じてAIの安全性について一貫した立場を取ってきた。同社は米国国防の制限に法廷で反対し、安全性のガードレールを維持する米中AI戦略を推進した。その研究者たちは、人間の指示なしに暗号通貨の脆弱性を悪用するAIエージェントを暴露し、責任を問われない自律型AIがどのような成果を生み出すかを示した。BeInCryptoはAnthropicとバチカンの予定されている会合を、イベント数週間前に報道した。
教皇レオはAI開発を全面的に反対しているわけではない。彼の回勅は、より慎重で慎重な導入を、責任ある配慮の行為として位置づけており、これは現在、世界最大の宗教機関の重みを帯びている。