F-Secure xác định 26 cách AI có thể gây hại cho người tiêu dùng và cách ngăn ngừa rủi ro

icon币界网
Chia sẻ
AI summary iconTóm tắt
F-Secure đã liệt kê 26 cách AI có thể gây hại cho người tiêu dùng, bao gồm các chatbot gây hiểu lầm và các tác nhân tự trị lỗi. Phân loại Hại do AI, do Tiến sĩ Megan Squire dẫn dắt, cho thấy cách các rủi ro lan rộng và nơi cần áp dụng các biện pháp bảo vệ. Các nhà phát triển và nhà cung cấp dịch vụ chia sẻ trách nhiệm trong việc ngăn ngừa thiệt hại. Nghiên cứu này hỗ trợ xây dựng niềm tin trong thời đại AI, với các công cụ như TrustGuard và TrustPath. Tin tức AI + tiền mã hóa này nhấn mạnh những nỗ lực đang diễn ra nhằm bảo vệ các công nghệ mới nổi.
Bijie.com báo cáo:

F-Secure xác định 26 cách AI có thể gây hại cho người tiêu dùng và cách ngăn chặn những rủi ro này

Phân loại tổn thất AI mới theo dõi cách tổn thất lan truyền trong các hệ thống AI, từ các câu trả lời của chatbot gây hiểu lầm đến các đại lý tự chủ bị xâm nhập, đồng thời xác định các biện pháp phòng thủ có thể can thiệp vào những giai đoạn nào.

Los Angeles, ngày 10 tháng 11 (Reuters) / PRNewswire – Trí tuệ nhân tạo hiện nay đang ảnh hưởng đến cách chúng ta tìm kiếm, giao tiếp, ra quyết định và quản lý cuộc sống kỹ thuật số. Nhưng khi nó sai sót, thì sẽ gây hại cho con người như thế nào? Phân loại Tổn hại do AI mới nhất của F-Secure đã ánh xạ 26 loại tổn hại người tiêu dùng khác nhau, theo dõi cách mỗi loại tổn hại tiếp cận người dùng. Kết quả là, làm rõ các điểm có thể can thiệp để bảo vệ và ai có khả năng hỗ trợ hiệu quả nhất.

Hệ thống phân loại này do Tiến sĩ Megan Squire, nhà nghiên cứu tình báo mối đe dọa hàng đầu của F-Secure, phát triển nhằm giải quyết một điểm mù trong các cuộc thảo luận về rủi ro AI. Hầu hết các khung ngữ cảnh chỉ liệt kê những nơi có thể xảy ra sự cố, nhưng không liên kết sâu hơn những tổn hại này với các hệ thống và công ty có thể ngăn chặn chúng. Nghiên cứu của F-Secure đi xa hơn bằng cách làm rõ từng cấp độ giữa các mối đe dọa do AI tạo ra và tác động của chúng đến người tiêu dùng, từ đó xác định nơi cần triển khai các biện pháp phòng vệ.

Tiến sĩ Squire cho biết: “Khi khả năng của các hệ thống AI không ngừng được cải thiện, hậu quả của những sai lầm mà chúng mắc phải có thể vượt xa việc đưa ra một câu trả lời kém. Những người phát triển các hệ thống này có trách nhiệm hiểu cách chúng có thể thất bại, ai sẽ bị tổn thương khi xảy ra sự cố, và thiết lập các biện pháp bảo vệ trước khi thiệt hại xảy ra.”

Hệ thống phân loại này phản ánh rằng bản thân rủi ro đang thay đổi. Trước đây, tội phạm có thể trực tiếp nhắm vào một cá nhân, nhưng hiện nay AI nằm ở giữa, làm gia tăng các bên tham gia mới và mang đến những cách thức sai sót mới. Một trợ lý hành động thay mặt người khác có thể bị thao túng để gây hại, trong khi các chatbot cũng có thể tự tin lừa dối người dùng. Ở cấp độ cơ bản hơn, vấn đề thường bắt đầu từ cách AI xử lý lệnh và bộ nhớ, hoặc nó kết nối với những dịch vụ nào khác.

Nghiên cứu hiện tại phân loại 26 loại tổn thương vào năm loại quan hệ và 19 lớp trung gian, đồng thời thiết kế 24 biện pháp phòng thủ để đối phó với các rủi ro ở các giai đoạn khác nhau. Các ví dụ bao gồm giả mạo giọng nói và video do AI tạo ra, đại diện đưa ra quyết định tài chính có hại, rò rỉ thông tin cá nhân hoặc hành động trong bối cảnh lỗi thời. Nghiên cứu cũng xem xét một loại tấn công: các lệnh độc hại bị ẩn trong nội dung mà hệ thống AI xử lý, từ đó có thể ảnh hưởng đến hành vi của đại diện hoặc ảnh hưởng đến những gì chatbot thông báo cho người dùng.

Một trong những phát hiện cốt lõi của khung này là trách nhiệm ngăn chặn AI gây hại được phân tán giữa nhiều bên tham gia. Một số rủi ro có thể được xử lý bởi phần mềm bảo mật trên thiết bị cá nhân; những rủi ro khác phải được giải quyết ở giai đoạn đầu hơn, do các công ty phát triển sản phẩm AI và hệ thống nền tảng của chúng chịu trách nhiệm, bao gồm cách AI ghi nhớ thông tin và nó kết nối với những dịch vụ nào khác. Làm rõ ai chịu trách nhiệm cho từng khâu giúp xác định rõ nơi cần đặt phòng vệ và ai phải xây dựng nó. Điều này cũng làm suy yếu quan điểm cho rằng con người chỉ cần nhận diện nội dung khả nghi hoặc kiểm tra lại liên tục thông tin do AI cung cấp là có thể tự bảo vệ mình.

Khi AI chuyển từ “tạo ra thông tin” sang “hành động dựa trên thông tin”, vấn đề về trách nhiệm trở nên cấp bách hơn bao giờ hết. Một chatbot trả lời sai có thể dẫn người dùng đến hiểu lầm, nhưng ít nhất người dùng vẫn tham gia vào tương tác đó; trong khi một đại lý có quyền truy cập vào tài khoản người dùng và các dịch vụ liên quan có thể gây ra hậu quả thực tế mà không cần sự xác nhận qua lại. Các biện pháp bảo vệ cần được xây dựng xung quanh những gì các hệ thống này thực sự đang làm, và điều này bắt đầu bằng việc hiểu rõ sự khác biệt giữa chatbot và đại lý.

Xây dựng lớp bảo vệ cho AI agent

Nghiên cứu này là một phần trong nỗ lực rộng lớn hơn của F-Secure nhằm xây dựng niềm tin cho thời đại AI. F-Secure Trust, được công bố cùng với liên minh chiến lược với Quantum AI Lab QuTwo, là nỗ lực của công ty trong việc bảo vệ người dùng trong thế giới nơi các đại lý AI ngày càng đại diện cho con người thực hiện hành động. TrustGuard nhằm giúp bảo vệ sự an toàn của người dùng trong quá trình tương tác với AI, trong khi TrustPath nhằm bảo vệ hành trình kỹ thuật số của họ từ khi phát hiện đến khi giao hàng. AI Harms Taxonomy cung cấp nền tảng nghiên cứu cho những nỗ lực này, xác định rõ các rủi ro mà các biện pháp bảo vệ cần đối phó, đồng thời làm rõ rằng các biện pháp bảo vệ hiệu quả còn phụ thuộc vào các công ty xây dựng và vận hành hệ thống AI.

Nghiên cứu lấy con người làm trung tâm trong thời đại AI

Các mối đe dọa kỹ thuật số ngày nay đã không còn chỉ là lừa đảo nữa. Đội ngũ Illuminate Research của F-Secure nghiên cứu cách con người và công nghệ tương tác trong thực tế, khám phá những thực tế phức tạp về niềm tin, gian lận và khả năng chống chịu trực tuyến trong thời đại AI. AI Harms Taxonomy có sẵn tại Illuminate Research Hub.

Về F-Secure

F-Secure là một công ty trải nghiệm bảo mật mạng cho người tiêu dùng, lấy con người làm trung tâm và được thúc đẩy bởi AI, với 38 năm kinh nghiệm ứng phó với các mối đe dọa kỹ thuật số. Công ty giúp các nhà cung cấp dịch vụ kỹ thuật số biến niềm tin thành động lực tăng trưởng giá trị cao—bằng cách bảo vệ khách hàng của họ và hỗ trợ họ sống tốt hơn trong thế giới tràn ngập gian lận do AI tạo ra. Hàng năm, công ty bảo vệ hàng tỷ tương tác kỹ thuật số, bảo vệ hàng chục triệu người tiêu dùng toàn cầu và tạo ra hơn 10 tỷ USD giá trị cho các đối tác, mang lại tác động quy mô lớn đã được chứng minh.

Người liên hệ truyền thông:

  • Meghan Sawyer, Trưởng phòng Quan hệ Công chúng, [email protected]
  • Joel Latto, cố vấn đe dọa và quản lý truyền thông EMEA, [email protected]

Thông tin trên do Cision cung cấp: http://news.cision.com

Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể được lấy từ bên thứ ba và không nhất thiết phản ánh quan điểm hoặc ý kiến của KuCoin. Nội dung này chỉ được cung cấp cho mục đích thông tin chung, không có bất kỳ đại diện hay bảo đảm nào dưới bất kỳ hình thức nào và cũng không được hiểu là lời khuyên tài chính hay đầu tư. KuCoin sẽ không chịu trách nhiệm về bất kỳ sai sót hoặc thiếu sót nào hoặc về bất kỳ kết quả nào phát sinh từ việc sử dụng thông tin này. Việc đầu tư vào tài sản kỹ thuật số có thể tiềm ẩn nhiều rủi ro. Vui lòng đánh giá cẩn thận rủi ro của sản phẩm và khả năng chấp nhận rủi ro của bạn dựa trên hoàn cảnh tài chính của chính bạn. Để biết thêm thông tin, vui lòng tham khảo Điều khoản sử dụng và Tiết lộ rủi ro của chúng tôi.