Cán bộ nhân quyền hàng đầu của Liên Hợp Quốc đã nêu tên Meta, OpenAI và Google khi kêu gọi các tiêu chuẩn bảo mật bắt buộc đối với các hệ thống AI tiên tiến.
Người đứng đầu nhân quyền của Liên Hợp Quốc đã đưa ra cảnh báo mới về những nguy hiểm từ sự phát triển không kiểm soát của trí tuệ nhân tạo. Vị quan chức này mô tả rủi ro đối với nhân loại là có thật, không phải lý thuyết, và kêu gọi thiết lập các biện pháp an toàn cụ thể.
Theo báo cáo từ Cryptopolitan và The Cryptonomist, quan chức Liên Hợp Quốc đã trực tiếp nêu tên ba công ty hàng đầu trong ngành: Meta, OpenAI và Google. Việc nêu tên các công ty cụ thể đánh dấu sự khác biệt so với những cảnh báo chung mà các tổ chức quốc tế thường đưa ra về rủi ro AI.
Lời phát biểu này góp phần làm gia tăng làn sóng lo ngại từ các tổ chức toàn cầu về tốc độ triển khai AI. Các chính phủ, nhà nghiên cứu và các nhóm quyền lợi đã dành vài năm qua tranh luận về cách thức điều tiết các hệ thống có khả năng tạo ra văn bản, hình ảnh và quyết định tự chủ quy mô lớn. Sự can thiệp của Liên Hợp Quốc đã đặt các xem xét về quyền con người ngay trung tâm của cuộc tranh luận đó.
Các lời kêu gọi thiết lập các biện pháp kiểm soát thường tập trung vào các vấn đề như tính minh bạch trong đào tạo mô hình, trách nhiệm giải trình đối với các đầu ra gây hại và giới hạn đối với việc ra quyết định tự chủ trong các lĩnh vực nhạy cảm. Cho đến nay, các báo cáo hiện tại vẫn chưa làm rõ cơ chế cụ thể nào mà trưởng phòng nhân quyền của Liên Hợp Quốc muốn được áp dụng, hay liệu lời kêu gọi này có sẽ trở thành chính sách quốc tế bắt buộc hay không.
Việc trình bày AI như một mối đe dọa sinh tồn phản ánh ngôn ngữ từng được một số nhà nghiên cứu và chuyên gia ngành AI sử dụng. Nhiều nhà phát triển nổi bật, bao gồm một số người tại chính các công ty được nhắc đến trong cảnh báo này, đã công khai thừa nhận những lo ngại về an toàn dài hạn liên quan đến các hệ thống AI tiên tiến. Sự tham gia của Liên Hợp Quốc vào cuộc thảo luận này mang lại trọng lượng thể chế từ góc độ nhân quyền, thay vì chỉ thuần túy kỹ thuật.
Meta, OpenAI và Google hiện chưa được báo cáo là đã đưa ra phản hồi chính thức trước tuyên bố của Liên Hợp Quốc. Mỗi công ty trước đây đã nêu rõ các nỗ lực về an toàn và sự phù hợp nội bộ của mình, mặc dù phạm vi và tính khả thi của các biện pháp này khác nhau và vẫn đang là chủ đề tranh luận công khai.
Sự can thiệp này diễn ra trong bối cảnh các nỗ lực quốc tế rộng lớn hơn nhằm thiết lập các khung quản trị AI. Liên minh Châu Âu, Hoa Kỳ và một số jurisdictions khác đã theo đuổi các tiếp cận quy định riêng biệt đối với việc giám sát AI trong những năm gần đây. Lời kêu gọi của Liên Hợp Quốc về các biện pháp bảo vệ có thể ảnh hưởng đến cách các nỗ lực quốc gia và khu vực riêng lẻ này được phối hợp, mặc dù bất kỳ sự đồng bộ nào như vậy sẽ mất thời gian để hình thành.
Tác động thị trường
Phản ứng trực tiếp của thị trường trước các tuyên bố của Liên Hợp Quốc về chính sách AI thường hạn chế trong ngắn hạn, vì những lời kêu gọi này thường thiếu quyền lực thực thi ngay lập tức. Tuy nhiên, ngôn từ gia tăng xung quanh an toàn AI từ một tổ chức quốc tế lớn có thể ảnh hưởng đến tâm lý nhà đầu tư đối với các cổ phiếu liên quan đến AI và các token gắn với các dự án cơ sở hạ tầng AI.
Các công ty được nêu tên trong cảnh báo, bao gồm Meta, các nhà đầu tư của OpenAI và Alphabet - công ty mẹ của Google, có thể đối mặt với những câu hỏi mới từ các cơ quan quản lý và cổ đông về các thực hành quản trị. Đối với thị trường tiền mã hóa, các token liên quan đến tính toán AI phi tập trung hoặc các nền tảng đại diện AI có thể chịu sự giám sát chặt chẽ hơn nếu các quy định rộng hơn về AI gia tăng đà, mặc dù chưa có hành động chính sách cụ thể nào được xác nhận.
Lời cảnh báo của Liên Hợp Quốc làm nổi bật sự lo ngại ngày càng tăng của các tổ chức về hướng đi của sự phát triển AI. Liệu điều này có dẫn đến các chính sách cụ thể hay không vẫn còn phải xem, nhưng nó đã tạo áp lực lên các nhà phát triển AI lớn để giải quyết các mối quan tâm về an toàn một cách công khai.
Câu hỏi thường gặp
Ai đã đưa ra tuyên bố về rủi ro tồn tại của AI?
Người đứng đầu quyền con người của Liên Hợp Quốc đã đưa ra tuyên bố này, theo báo cáo từ Cryptopolitan và The Cryptonomist.
Những công ty nào đã được nhắc đến trong cảnh báo?
Cán bộ Liên Hợp Quốc đặc biệt nêu tên Meta, OpenAI và Google là những công ty gây lo ngại trong bối cảnh rủi ro AI.
Liên Hợp Quốc có đề xuất các quy định cụ thể về AI không?
Các báo cáo hiện tại cho thấy một lời kêu gọi thiết lập các biện pháp an toàn, nhưng không nêu chi tiết các quy định ràng buộc hoặc cơ chế thực thi.
Meta, OpenAI và Google đã phản ứng như thế nào?
Hiện tại chưa có phản hồi chính thức nào từ các công ty này.
Điều này có ảnh hưởng trực tiếp đến thị trường tiền điện tử không?
Chưa có tác động thị trường trực tiếp nào được xác nhận, tuy nhiên sự chú ý ngày càng tăng đối với quy định AI có thể ảnh hưởng đến tâm lý đối với các token liên quan đến AI theo thời gian.