Trong bối cảnh tranh cãi về an toàn AI gia tăng, các phương tiện truyền thông nước ngoài cho biết, Jeffrey Hinton, Li Fei-Fei và Andrew Ng mới đây đã tập trung thảo luận về các mô hình mở tại hội nghị Ai4 tổ chức ở Las Vegas. Ba người có quan điểm không hoàn toàn thống nhất, nhưng đều phản đối việc một số ít công ty công nghệ lớn chi phối nhịp độ phát triển của AI.
Chống lại việc một số ít công ty kiểm soát lối vào
Bài viết cho biết, một điểm mà ba nhà nghiên cứu cùng lo ngại là nếu AI bị kiểm soát bởi một số ít công ty, không gian đổi mới có thể bị thu hẹp. Wu Enda thẳng thắn cho biết ông không mong muốn xuất hiện “người giữ cổng” trong lĩnh vực AI, vì điều này sẽ hạn chế cách các nhà phát triển, doanh nghiệp và công chúng tiếp cận AI.
Anh ấy cho rằng các công ty lớn tự nhiên sẽ bảo vệ lợi thế của chính mình và có thể ảnh hưởng đến việc hình thành các quy tắc ngành. Kết quả có thể là chỉ những doanh nghiệp có vốn dồi dào nhất và sức mạnh tính toán mạnh nhất mới có thể liên tục xây dựng các hệ thống tiên tiến nhất. Hướng đi mà Wu Enda đưa ra là cố gắng duy trì sự tồn tại đồng thời của nhiều nhà cung cấp mô hình, để các mô hình và công ty cạnh tranh trên thị trường, thay vì để một vài nền tảng chiếm ưu thế.
Hinton phân biệt mã nguồn mở với trọng số mở
Tuy nhiên, Hinton không coi “phần mềm mã nguồn mở” và “mô hình có trọng số mở” là một thứ. Theo ông, phần mềm mã nguồn mở công khai mã nguồn, cho phép bên ngoài kiểm tra lỗ hổng và đề xuất sửa đổi; trong khi mở trọng số là trực tiếp cung cấp các tham số của mô hình lớn đã được huấn luyện cho bên ngoài, điều này sẽ làm giảm đáng kể rào cản để phát triển lại.
Anh ấy cho biết, trước đây anh phản đối việc mở trọng số vì điều này sẽ khiến một số người sử dụng chi phí thấp hơn để biến đổi mô hình nền tảng thành các công cụ phục vụ các mục đích như tấn công mạng. Tuy nhiên, anh cũng thừa nhận rằng cuộc tranh luận này trong thực tế đã khó có thể đảo ngược. Khi các mô hình mở trọng số liên tục xuất hiện, rào cản về chi phí huấn luyện đã bị suy giảm rõ rệt.
Tuy nhiên, Hinton không đề xuất dừng phát triển AI. Bài viết cho biết ông vẫn tin rằng AI sẽ nâng cao năng suất và cải thiện các lĩnh vực như giáo dục và y tế, nhưng không vì vậy mà bỏ qua những rủi ro tiềm ẩn. Ông còn cho rằng, việc gán nhãn tất cả những người lo ngại về rủi ro của AI là “người gây hoảng loạn” là không công bằng.
Li Fei-Fei ủng hộ việc mở cửa theo từng cấp độ
Khác với Ngô Ân Đạt nhấn mạnh cạnh tranh mở và Hinton nhấn mạnh rủi ro an toàn, Lý Phi Phi phản đối việc rút gọn cuộc thảo luận thành hai lựa chọn “mở hoàn toàn” hoặc “đóng hoàn toàn”. Bà cho rằng, các hệ thống phần mềm và nghiên cứu khoa học phức tạp vốn đã tồn tại nhiều cấp độ khác nhau, và các giai đoạn khác nhau có thể áp dụng mức độ mở khác nhau.
Cô lấy vật lý hạt nhân làm ví dụ, cho rằng các bài báo học thuật có thể được công bố công khai, nhưng vật liệu uranium lại bị quản lý chặt chẽ, còn các thí nghiệm nằm ở giữa hai cực này. Dựa trên điều này, cô cho rằng AI cũng có thể áp dụng tư duy tương tự: duy trì mức độ mở nhất định trong nghiên cứu khoa học, giáo dục và hợp tác quốc tế, đồng thời cho phép các doanh nghiệp giữ các hệ thống và mô hình kinh doanh nguồn đóng.
Bài viết cũng đề cập rằng, Li Fei-Fei đã viện dẫn Kế hoạch Giải mã Bộ gen Người để cho thấy rằng nền tảng kiến thức cơ bản được hình thành thông qua sự hợp tác giữa các tổ chức công cộng và khu vực tư nhân có thể đồng thời hỗ trợ tiến bộ khoa học, lợi nhuận doanh nghiệp và ứng dụng xã hội. Bà cho rằng cơ sở hạ tầng AI cũng nên phát triển theo hướng này, thay vì rơi vào cuộc tranh luận nhị phân.
Cả ba đều đồng ý cần có sự giám sát
Mặc dù ba người có quan điểm khác nhau về ranh giới của các mô hình mở, nhưng họ có thái độ tương đồng về vấn đề quản lý. Bài viết cho biết, tất cả họ đều cho rằng AI vẫn cần một mức độ quy tắc ràng buộc để phát triển theo hướng có lợi hơn cho xã hội.
Hinton cho biết không thể để doanh nhân tự quyết định hoàn toàn cách AI nên phát triển. Cuộc tranh luận xung quanh các mô hình mở hiện nay không chỉ là vấn đề về con đường công nghệ, mà còn liên quan đến phân bổ quyền lực trong ngành, cạnh tranh quốc tế và hướng đi của quản trị an toàn AI.