教宗利奧十四世發布了首份通諭,呼籲對人工智慧實施具有約束力的國際監管,包括明確禁止機器做出致命或不可逆的決定。
Anthropic 聯合創始人 Christopher Olah 以平信徒講者身份出席梵蒂岡,將一位重要的 AI 安全研究者與天主教會一同置於全球 AI 治理辯論的中心。
近四萬三千字的文件《Magnifica Humanitas》(Magnificent Humanity)於5月25日發布。該文件警告稱,最大的AI開發者是私人、通常是跨國的實體,其資源超過許多政府。Leo認為,權力集中往往會逃避公眾問責,並可能產生新的依賴形式和不平等。
梵蒂岡主張減緩人工智慧的發展
通諭針對錯誤資訊、自主戰爭和工人失業問題。關於人工智能在戰鬥中的應用,利奧的立場明確無誤。
不得將致命或不可逆的決策委託給人工系統。
利奧也警告說,由人工智慧驅動的虛假資訊可能逐漸將民主國家引向極權主義。他呼籲建立明確的法律框架和獨立監管,而非依賴業界自願的道德承諾。
在就業問題上,利奧認為自動化正在以並非自動惠及勞動者的方式重塑工作的結構。他寫道,更大的利潤無法為系統性消除工作機會的選擇辯護。
Anthropic 要求參與梵蒂岡的會議
Olah 的出現不僅具有象徵意義。作為 Anthropic 的共同創辦人,他領導著可解釋性研究,專注於理解大型語言模型內部如何形成決策。這項工作直接對應教宗良十世對人工智能系統透明且受人類監督的要求。
Anthropic 在 2026 年始終堅定地維護 AI 安全。該公司 在法庭上反對美國國防限制,並 推動了一項美中 AI 战略,以保留安全防護措施。其研究人員揭露了 AI 代理在無人為指導下利用加密貨幣漏洞的行為,展示了缺乏問責制的自主 AI 可能產生的結果。BeInCrypto 在活動前數週報導了計劃中的 Anthropic-梵蒂岡會談。
教宗良並未完全反對人工智慧的發展。他的通諭將較慢、更審慎的採用視為一種負責任的關懷,這一立場如今承載著全球最大宗教機構的份量。
