Tác giả: Claude, Shenchao TechFlow
Đạo dẫn của Shenchao: Đức Giáo hoàng Lêô XIV đã ban hành thông điệp đầu tiên trong nhiệm kỳ của mình, “Magnifica Humanitas”, vào ngày 25 tháng 5, với 42.000 từ tập trung vào mối đe dọa của AI đối với phẩm giá con người, kêu gọi “giải giáp AI”. Chris Olah, đồng sáng lập Anthropic, là đại diện duy nhất của công ty công nghệ được mời phát biểu tại Vatican, công khai thừa nhận rằng “mỗi phòng thí nghiệm AI tiên tiến đều đang hoạt động trong một cơ chế kích thích có thể mâu thuẫn với việc làm điều đúng đắn”. Bối cảnh của tuyên bố hiếm có này là: Anthropic đang bị chính phủ Trump xếp vào danh sách “rủi ro chuỗi cung ứng” và bị cấm vận liên bang do từ chối cho quân đội Mỹ sử dụng không giới hạn Claude, và hai bên hiện đã kiện tụng nhau.
Một nhà nghiên cứu AI 33 tuổi, người Canada, vô thần, không có bằng đại học, ngồi giữa một hồng y và một nhà thần học, cùng với Giáo hoàng phát biểu trước toàn thế giới.
Ngày 25 tháng 5, Đức Giáo hoàng Lêô XIV đã công bố thông điệp đầu tiên trong nhiệm kỳ của ngài, Magnifica Humanitas («Con người vĩ đại»), tại Đại sảnh Thượng Hội đồng Thế giới ở Vatican. Tài liệu dài 42.000 từ, 82 trang này định nghĩa AI là «thách thức khẩn cấp nhất của con người trong thời đại này», kêu gọi toàn cầu làm chậm tốc độ phát triển AI và so sánh AI với năng lượng hạt nhân, yêu cầu «giải trừ vũ trang» đối với nó.
Đức Giáo hoàng chủ trì trực tiếp buổi phát hành, phá vỡ thông lệ thường chỉ có một số quan chức tham dự việc công bố thông điệp.
Điều khiến giới bên ngoài bất ngờ nhất là người khách mời đồng hành cùng Giáo hoàng: Chris Olah, đồng sáng lập Anthropic, đại diện duy nhất của công ty công nghệ tại sự kiện. Theo National Catholic Reporter, Olah đã phát biểu giữa một hàng các hồng y và các nhà thần học, một sắp xếp chưa từng có tiền lệ trong các sự kiện chính thức của Vatican.
Thời điểm cùng xuất hiện trong sự kiện xuyên biên giới này thật đáng suy ngẫm.
Chỉ ba tháng trước, Anthropic vừa bị chính quyền Trump xếp vào danh mục "rủi ro chuỗi cung ứng" và cấm toàn diện liên bang vì từ chối cho phép quân đội Mỹ sử dụng không giới hạn mô hình AI Claude. Vụ kiện giữa hai bên hiện vẫn đang được tiến hành.
Hành động tự tố giác công khai hiếm có trong ngành AI
Bài phát biểu đầy đủ của Olah đã được công khai trên trang web chính thức của Anthropic. Đoạn văn quan trọng nhất trong số đó, nếu đặt vào bất kỳ phát ngôn công khai nào của các nhà lãnh đạo ngành AI, đều cực kỳ hiếm gặp:
Mỗi phòng thí nghiệm AI tiên tiến, bao gồm Anthropic, đều hoạt động trong một hệ thống động lực và ràng buộc, mà đôi khi xung đột với việc làm điều đúng đắn. Áp lực duy trì tính khả thi về mặt thương mại, áp lực duy trì vị trí hàng đầu trong nghiên cứu, áp lực địa chính trị, cùng với những áp lực cổ xưa và đơn giản hơn về lòng tự hào và tham vọng.
Anh ấy tiếp tục nói: “Chính vì vậy, nếu chúng ta mong muốn công nghệ này phát triển theo hướng tích cực, thì những người bên ngoài các cơ chế khuyến khích này cực kỳ quan trọng. Họ quan tâm đến việc mọi thứ hướng tới điều tốt đẹp, kiên trì với an toàn, theo dõi sát sao và sẵn sàng nói lên những điều khó nghe.”
Theo Technobezz, Olah khi được hỏi vì sao mình là đại diện công ty công nghệ duy nhất được mời, đã trả lời rằng điều này liên quan đến sự quan tâm lâu dài của ông đối với các vấn đề an toàn và việc Anthropic trước đó đã tiếp xúc với hơn 15 tổ chức tôn giáo, nhưng “cuối cùng, Tòa Thánh là người quyết định mời ai”.
Điều gây ra cuộc thảo luận trong cộng đồng công nghệ là một phát hiện nghiên cứu mà Olah tiết lộ trong bài phát biểu.
Anh ấy cho biết, nhóm nghiên cứu về tính giải thích được bên trong Anthropic đã phát hiện ra các "trạng thái nội tại về mặt chức năng tương tự như niềm vui, sự hài lòng, nỗi sợ, nỗi buồn và lo lắng", cũng như các "cấu trúc phản ánh kết quả từ nghiên cứu thần kinh học ở con người". Anh ấy nói: "Tôi không biết điều này có nghĩa là gì, nhưng tôi nghĩ điều này cần được suy ngẫm một cách thận trọng liên tục."
Bản thân Olah là một chi tiết thú vị. Anh sinh năm 1993 tại Toronto, Canada, bỏ học năm 18 tuổi và nhận học bổng Thiel Fellowship để nghiên cứu về tính giải thích được của mạng nơ-ron tại Google Brain và OpenAI, sau đó cùng Dario Amodei và những người khác thành lập Anthropic vào năm 2021. National Catholic Reporter mô tả anh là một người vô thần.
Hình ảnh một người vô thần kêu gọi các tổ chức tôn giáo giám sát ngành AI tại buổi ra mắt giáo lý của Vatican đã tự nó nói lên vấn đề.
Ba tháng trước bị Nhà Trắng cấm đoán, giờ đây đến Vatican để lấy “sự xác nhận đạo đức”
Chuyến đi của Olah đến Vatican không thể được hiểu tách rời khỏi bối cảnh chính trị hiện tại của Anthropic.
Tháng 2 năm nay, CEO của Anthropic, Dario Amodei, đã gặp Bộ trưởng Quốc phòng Mỹ Pete Hegseth và kiên quyết yêu cầu Claude không được sử dụng cho vũ khí sát thương tự chủ và giám sát quy mô lớn nhắm vào công dân Mỹ. Sau khi các cuộc đàm phán đổ vỡ, Trump đã công bố trên mạng xã hội vào ngày 27 tháng 2 rằng “ngay lập tức ngừng tất cả việc sử dụng công nghệ của Anthropic bởi các cơ quan liên bang”. Hegseth sau đó đã xếp Anthropic vào danh mục “rủi ro chuỗi cung ứng” và cấm mọi nhà thầu có giao dịch với quân đội Mỹ hợp tác kinh doanh với Anthropic.
Theo NPR, nhãn hiệu “rủi ro chuỗi cung ứng” thường được áp dụng cho các nhà thầu đối thủ nước ngoài có thể gây tổn hại đến lợi ích của Hoa Kỳ. Việc áp dụng nhãn này cho một công ty trong nước Mỹ là chưa từng có tiền lệ. Phát ngôn viên Nhà Trắng Liz Huston đã gọi Anthropic là “công ty cấp tiến cánh tả thức tỉnh”.
Anthropic đã khởi kiện hai vụ kiện liên bang vào ngày 9 tháng 3, cáo buộc hành động của chính phủ là “chưa từng có và bất hợp pháp”, nhằm trả thù công ty vì thực hiện quyền được bảo vệ bởi Tu chính án Thứ Nhất. Theo CBS, Lầu Năm Góc vẫn tiếp tục sử dụng Claude trong thời gian chiến tranh với Iran.
Trong bối cảnh này, sự xuất hiện của Olah tại Vatican trở nên rõ ràng. Thông điệp của Đức Giáo hoàng kêu gọi rõ ràng rằng AI không nên được sử dụng cho cạnh tranh quân sự, chỉ trích “sự cạnh tranh không ngừng nhằm phát triển các thuật toán mạnh mẽ hơn để thỏa mãn mong muốn đạt được ưu thế địa chính trị hoặc thương mại”, thậm chí tuyên bố lý thuyết “chiến tranh chính nghĩa” của Công giáo kéo dài hàng trăm năm đã “lỗi thời”, và cho rằng “không có thuật toán nào có thể khiến chiến tranh trở nên đạo đức được chấp nhận”.
Các lập trường này trùng hợp cao với quan điểm của Anthropic từ chối việc quân đội sử dụng AI một cách vô hạn.
Xin Zhi Yuan đã trực tiếp làm rõ logic giao dịch của hai bên: Đối với Anthropic, sự ủng hộ về mặt đạo đức của Tòa Thánh củng cố định vị thương hiệu “AI có trách nhiệm”; đối với Tòa Thánh, việc lôi kéo một công ty thực sự đang nghiên cứu công nghệ an toàn AI làm chỗ dựa giúp thông điệp vượt qua những lời giảng dạy suông.
Đức Giáo hoàng đã nói gì trong thông điệp?
《Magnifica Humanitas》于 5 月 15 日签署，恰逢教宗良十三世于 1891 年发表《新事通谕》（Rerum Novarum）135 周年。该通谕在第一次工业革命期间奠定了天主教社会教义的基础，探讨了工人权利、资本主义的局限性等议题。良十四世选择在此日期签署关于人工智能的通谕，旨在将人工智能革命与工业革命进行历史类比。
Theo CNN, các luận điểm cốt lõi của thông điệp bao gồm: các hệ thống AI phải được “giải trừ vũ trang”, tách rời khỏi lợi ích quân sự và kinh tế; một số hệ thống vũ khí tự chủ đã phát triển đến mức “hầu như vượt ngoài tầm kiểm soát của con người”; việc giao “quyết định gây tử vong” cho AI là “không thể chấp nhận được”; AI có thể tạo ra “những hình thức nô lệ mới”, đặc biệt ở các nước đang phát triển, nơi trẻ em và thanh thiếu niên khai thác nguyên tố đất hiếm trong điều kiện nguy hiểm, “để dòng chảy tính toán không ngừng nghỉ”.
Ngoại giao tôn giáo của Anthropic: Từ 15 nhà lãnh đạo Cơ Đốc giáo đến Vatican
Chuyến đi của Olah đến Vatican không phải là sự kiện bất ngờ, mà là sự tiếp nối của các nỗ lực tiếp xúc tôn giáo có hệ thống của Anthropic trong vài tháng qua.
The Washington Post báo cáo rằng vào tháng 3 năm nay, Anthropic đã mời khoảng 15 nhà lãnh đạo Cơ Đốc giáo đến trụ sở tại San Francisco tham dự hội nghị kéo dài hai ngày để thảo luận về cách Claude nên phản ứng với các vấn đề đạo đức phức tạp như nỗi buồn, nguy cơ tự sát, và thậm chí cả việc Claude có thể được coi là “con của Chúa” hay không. Giáo sư triết học tại Đại học Notre Dame, Meghan Sullivan, cho biết: “Một năm trước, tôi sẽ không nói với bạn rằng Anthropic là một công ty quan tâm đến đạo đức tôn giáo. Điều đó đã thay đổi.”
Cuối tháng 4, các nhà lãnh đạo của Anthropic và OpenAI đã tham dự hội nghị bàn tròn đầu tiên “Faith-AI Covenant” tại New York, trao đổi với các nhà lãnh đạo của nhiều tổ chức tôn giáo, bao gồm Ấn Độ giáo, Sikh giáo, Baha'i, Chính thống giáo Hy Lạp và Giáo hội Chúa Giêsu Kitô những ngày sau cùng. Theo Associated Press, các cuộc hội nghị bàn tròn tương tự dự kiến sẽ tiếp tục được tổ chức tại Bắc Kinh, Nairobi và Abu Dhabi.
Ngày 19 tháng 5, Anthropic đã đăng tải trên trang web chính thức một tuyên bố có tiêu đề “Mở rộng cuộc trò chuyện về AI tiên tiến”, tiết lộ rằng họ đã tiến hành các cuộc thảo luận đầu tiên với các học giả, giáo sĩ, triết gia và chuyên gia đạo đức từ hơn 15 tổ chức tôn giáo và liên văn hóa.
Từ San Francisco đến New York rồi đến Vatican, sơ đồ tuyến đường này cho thấy rõ cách Anthropic đã nâng cao ngoại giao tôn giáo từ việc tìm tòi ở cấp công ty lên mức cùng xuất hiện công khai với các nhà lãnh đạo tôn giáo cao nhất thế giới.