CEO của Microsoft, Satya Nadella, đã thừa nhận trên podcast 2VC rằng trước đây ông từng cho rằng sự gia tăng năng lực của AI sẽ tự nhiên dẫn đến tiến bộ trong việc align với giá trị con người, nhưng hiện nay ông đã thay đổi quan điểm này. Ông chỉ ra rằng quy mô mô hình tiếp tục mở rộng, nhưng vấn đề align lại trở nên phức tạp hơn, khả năng kiểm soát không tăng trưởng đồng đều với năng lực. Ông chủ trương coi AI là mối đe dọa an ninh nội bộ, cần xây dựng ba lớp phòng vệ gồm thiết kế hệ thống đáng tin cậy, kiểm soát bằng con người và quy trình vận hành, đồng thời kêu gọi thiết lập các tiêu chuẩn ngành. Quan điểm này trùng hợp với cảnh báo từ các nhà lãnh đạo ngành như Altman và Amodei, làm nổi bật rằng quản trị AI đang chuyển từ khẩu hiệu sang các ràng buộc kỹ thuật và thể chế cứng nhắc.Tác giả bài viết, nguồn: AIBase
CEO của Microsoft, Satya Nadella, đã có sự đảo ngược công khai về quan điểm của mình đối với vấn đề “sự đồng bộ” của AI. Trong tập mới nhất của podcast 20VC, người dẫn chương trình Harry Stebbings hỏi ông rằng suy nghĩ nào đã thay đổi trong năm qua, Nadella thừa nhận: trước đây, ông luôn cho rằng AI càng mạnh mẽ, thì việc điều chỉnh hành vi của nó phù hợp với giá trị và mục tiêu của con người sẽ tự nhiên được giải quyết.
Từ "giải quyết tự nhiên" đến "phức tạp hơn"
Thực tế lại không diễn ra như kịch bản. Nadella thừa nhận rằng quy mô mô hình liên tục tăng lên và khả năng không ngừng được nâng cao, điều này đúng như dự đoán của ông; nhưng vấn đề “điều chỉnh” – tức là khiến hành vi của AI tuân thủ quy tắc – đến nay vẫn chưa được giải quyết. Ông nói: “Trước đây, tôi luôn cho rằng vấn đề điều chỉnh sẽ tự nhiên được giải quyết. Tôi không còn nghĩ như vậy nữa. Điều chỉnh có thể là một vấn đề phức tạp hơn và mang bản chất khác biệt.”
Sự căn chỉnh liên quan đến việc hành vi của AI có nghe theo con người hay không, có phù hợp với mục tiêu của con người hay không. Khi mô hình trở nên lớn đến mức ngay cả những người thiết kế cũng khó dự đoán hoàn toàn hành vi của nó, sự gia tăng năng lực và sự gia tăng khả năng kiểm soát trở nên tách rời, trở thành hiện thực mới mà Nadella buộc phải đối mặt.
Chống lại AI như một “gián điệp nội bộ”
Sự cảnh giác này đã có dấu hiệu từ sớm. Vào ngày 10 tháng 10, Nadella đã đăng bài trên nền tảng X cảnh báo về rủi ro AI và đề xuất siết chặt các biện pháp kiểm soát an ninh bên ngoài. Đề xuất cốt lõi của ông rất sắc nét: các doanh nghiệp nên coi các mô hình AI là "mối đe dọa an ninh nội bộ" và khi phòng vệ, hãy giả định rằng mô hình đã bị xâm phạm.
Anh ấy viết trong bài đăng rằng cần thiết lập ba lớp phòng vệ cho các mô hình có hành vi khó dự đoán hoàn toàn: thiết kế hệ thống đáng tin cậy và xác định, kiểm soát bằng con người và quy trình vận hành hoàn thiện; nếu tiêu chuẩn vẫn chưa đủ, hãy nhanh chóng xây dựng quy định ngành.
Nadella không phải là trường hợp duy nhất. Altman của OpenAI và Amodei của Anthropic đều từng cảnh báo về những mối đe dọa tiềm ẩn của AI; vào tháng 7 năm nay, hơn 1.000 chuyên gia đã cùng ký tên vào một bức thư công khai, nhắc nhở rằng tốc độ tiến bộ của AI có thể đã vượt xa khả năng hiểu hoặc kiểm soát của con người. Khi các chuyên gia hàng đầu cùng giảm bớt niềm tin vào quan điểm “mạnh thì an toàn”, quản lý AI có lẽ phải chuyển từ khẩu hiệu sang các giải pháp kỹ thuật và thể chế cứng rắn hơn.