Pope Leo và ECB cảnh báo về mối đe dọa của AI đối với các hệ thống tài chính

• Đức Giáo hoàng Lêô đã cảnh báo về những mối đe dọa do các hệ thống AI vượt ngoài tầm kiểm soát của con người gây ra.
• ECB đã triệu tập các ngân hàng tham dự cuộc họp về mối đe dọa do các hệ thống AI gây ra.
• Mythos đã phơi bày các điểm yếu bảo mật trong trình duyệt và hệ điều hành.

Sự lan rộng của trí tuệ nhân tạo (AI) trong nhiều lĩnh vực của không gian mạng đang trở thành một vấn đề đáng quan tâm đặc biệt, đặc biệt khi nó liên quan đến các rủi ro. Vào thứ Hai, Đức Giáo hoàng Leo, người đứng đầu hiện tại của Giáo hội Công giáo và chủ quyền của Thành Vatican, đã bày tỏ lo ngại về xu hướng đang diễn ra.

Trong các bình luận của mình, Đức Giáo Hoàng cảnh báo rằng một số hệ thống tự chủ đang “thực sự nằm ngoài tầm với của con người” để kiểm soát. Ngài nhấn mạnh rằng Giáo hội Công giáo dự định hợp tác với các nhà phát triển AI để thảo luận về cách sử dụng công nghệ này một cách tối ưu, đồng thời khẳng định rằng con người cần duy trì quyền kiểm soát then chốt đối với các hệ thống AI.

Thời điểm cảnh báo của Đức Giáo Hoàng về những rủi ro xung quanh các hệ thống tự chủ trùng với lời triệu tập của Ngân hàng Trung ương châu Âu (ECB) đối với các ngân hàng thuộc thẩm quyền của nó, kêu gọi tổ chức cuộc họp để thảo luận cách tăng cường hệ thống an ninh mạng. Theo các báo cáo, cuộc họp trở nên cần thiết sau khi những điểm yếu trong cơ sở hạ tầng ngân hàng được các mô hình AI mới phơi bày.

Mặc dù cuộc họp đã được lên lịch vào thứ Ba, ngày 26 tháng Năm, ECB đang kêu gọi hành động nhanh hơn để cải thiện an ninh CNTT của các tổ chức cho vay. Theo các báo cáo, Frank Elderson, phó chủ tịch hội đồng giám sát ECB phụ trách các ngân hàng, đã mô tả tình hình hiện tại là một sự phát triển “thay đổi cuộc chơi”. Elderson lưu ý rằng ECB muốn các ngân hàng xem xét nghiêm túc tình hình, khẳng định rằng “thời gian đang trôi qua”.

Cần lưu ý rằng mô hình Mythos AI được ra mắt vào tháng Tư và được báo cáo là có khả năng cấp cao trong việc phát hiện và khai thác các điểm yếu bảo mật mạng trong trình duyệt và hệ điều hành. Sự xuất hiện của Mythos đã gây ra mối lo ngại rộng rãi về mối đe dọa mà nó gây ra, cùng với các mô hình tương tự khác.

Liên quan: ECB từ chối các đề xuất thúc đẩy stablecoin euro, cho rằng quá rủi ro

An ninh AI là ưu tiên hàng đầu

Mặc dù ECB đã có quá nhiều việc phải xử lý với các vấn đề an ninh mạng khác, Elderson cho biết sự phát triển xung quanh các mô hình AI, đặc biệt là tốc độ tiến bộ của chúng, cần được giải quyết nhanh hơn.

Trong khi đó, một số ngân hàng lớn tại Mỹ, bao gồm JPMorgan Chase, Goldman Sachs, Citigroup, Bank of America và Morgan Stanley, đã được cấp quyền truy cập xem trước có kiểm soát vào Mythos. Tính đến thời điểm viết bài, chưa có ngân hàng châu Âu nào được cấp quyền truy cập vào Mythos. Tuy nhiên, ECB hy vọng sẽ có sự hợp tác giữa các tổ chức tài chính Mỹ và châu Âu về vấn đề này. ECB cũng cho rằng các ngân hàng trong phạm vi quản lý của mình cần chuẩn bị sẵn sàng cho những mối đe dọa mà Mythos và các giải pháp tương tự có thể gây ra.

Liên quan: ECB thiết lập điều kiện cho token hóa trên thị trường vốn châu Âu