バチカンは5月25日、教皇レオ14世の就任後初の通諭を発表し、その全文は人工知能に特化している。この通諭『Magnifica Humanitas』は、データ、アルゴリズム、デジタルプラットフォームを「共通資源」の範疇に含め、大手テクノロジー企業への規制強化を要求している。
データは共有資源と見なされます
文書によると、データは多数の個人およびグループの共同参加から得られたものであり、少数の企業によって長期的に独占されるべきではなく、単なる販売可能な私的資産として扱われるべきではない。通諭はまた、技術は道徳的に中立ではなく、アルゴリズムには設計者、資金提供者、導入者の価値観、盲点、利益誘因が反映されることを強調している。
プラットフォームガバナンスに関して、文書は上からの規制にとどまらない。教廷は、アルゴリズムの透明性の推進、独立したコミュニティ監査の実施、そして信用スコアリング、求職者選考、司法リスク評価などの分野において、個人が自動化システムに対して法的異議を唱える実質的な権利を付与することを提唱している。
敏感な決定を機械に完全に任せるべきではない
教令は、人工知能システムは身体的な経験を持たず、苦痛や喜び、慈悲を感受しないことから、真の人類的な理解を形成できないと指摘している。それらは共感の表現を模倣し、信頼できる言語を生成することはできるが、これは出力内容を真に理解することを意味しない。
この判断に基づき、文書は、採用、信用条件、法的リスクスコアリングなどの敏感な決定を自動化システムに委ねることに反対している。教廷は、機械が導き出す結果は客観的に見えるが、実際には開発者が事前に組み込んだ選択肢と偏見を含んでいると見なしている。
Anthropicの経営陣が発表会に出席
バチカンでのその日の記者会見で、Anthropicの共同創設者で解釈性研究責任者であるChristopher Olahは、二人の枢機卿と神学者と共に出席しました。彼は、大規模AIラボは、時に「正しいことをする」という目標と衝突するインセンティブと制約の枠組みの中で動作しているため、政府、宗教機関、市民社会による外部監督が不可欠であると述べました。
彼はまた、AIが短期間に大規模な職務置換を引き起こす場合、それに対する対応は歴史的な道徳的課題となると述べた。教皇庁文書はこれに対してさらに強力な表現を示しており、データと計算能力の支配権が少数の主体に集中したままでは、「より道徳的なAI」を追求するだけでは不十分であると述べている。
バチカンは内部調整メカニズムを開始しました。
この通諭は245段からなり、署名日は5月15日である。この日は、労働権に関するカトリック現代社会訓導の重要な文書である『新事通諭』が発表されてから135周年の記念日でもある。
これ以前に、レオ14世はAIを自身の在任中の重要な倫理的課題として複数回定義してきた。バチカンは5月16日、7つの部門が参加する新しい内部AI委員会の設立を承認し、教皇庁の今後のAIガバナンス作業を調整する役割を担わせた。