MetaEra: Mùa hè “huyền thoại” AI che giấu marketing và hành vi sai trái

ME AI Trong vài tháng qua, sự hâm mộ xung quanh AI tiếp tục gia tăng. Cuối tháng 4, Anthropic tuyên bố rằng mô hình Claude Mythos của họ hoạt động tốt hơn hầu hết các chuyên gia an ninh trong việc phát hiện lỗ hổng phần mềm. Sau đó xảy ra vụ tấn công mạng giữa OpenAI và Hugging Face, sau đó Anthropic (khá tự hào) và Meta (không mấy sẵn lòng) đều tiết lộ các sự kiện tương tự liên quan đến mô hình của họ. Ngay sau đó, Anthropic tuyên bố một mô hình của họ đã đạt được bước đột phá toán học; không lâu sau, OpenAI cũng tuyên bố đạt được bước đột phá toán học riêng của mình. Gần đây, kỹ sư Anthropic Jacob Coxon trở nên nổi tiếng trên mạng khi tuyên bố rời công ty và cho rằng Anthropic và OpenAI đang “đi thẳng vào việc tạo ra siêu trí tuệ tự cải thiện, và đặt tính mạng của chúng ta vào cuộc cược.” Hầu hết các sự kiện này đều được truyền thông đưa tin với sự cuồng nhiệt gần như điên rồ, thường lặp lại các câu chuyện nhân cách hóa do các doanh nghiệp đưa ra — những câu chuyện nhằm miêu tả phần mềm của họ không chỉ mạnh mẽ, mà còn sắp trở thành “trí tuệ nhân tạo tổng quát”. Vậy sự thật là gì? Chúng ta đang chứng kiến một loạt đột phá công nghệ đủ thay đổi nền văn minh, hay chỉ là một chiến dịch tiếp thị? Trong tất cả các sự kiện này, sự tuyên truyền rầm rộ của các doanh nghiệp (trong trường hợp bị tấn công trái phép thì được đóng gói dưới dạng tuyên bố ăn năn) đi kèm với báo chí dày đặc. Khi các chuyên gia trong lĩnh vực liên quan có thời gian xem xét lại sự việc, một câu chuyện hoàn toàn khác thường xuất hiện — nhưng câu chuyện đó lại nhận được ít sự chú ý truyền thông hơn nhiều. Về các sự kiện “bị tấn công”, các chuyên gia an ninh mạng cho biết vấn đề chủ yếu nằm ở sự bất cẩn của OpenAI và việc họ không áp dụng các thực hành an ninh cơ bản và chín muồi, chứ không phải do “mô hình mất kiểm soát” hay “các đại diện AI tạo ra nền văn minh”. Về các thành tựu toán học, các nhà toán học ban đầu cảm thấy “bất ngờ” trước bản tin của OpenAI, trong đó tuyên bố rằng chatbot mới nhất của họ — Astra — đã giải quyết được một vấn đề “chưa được giải quyết trong ít nhất mười năm và không có tiến triển đáng kể nào”. Nhưng sau đó họ nhận ra rằng những kết quả này “không mới mẻ như ban đầu trông có vẻ vậy”. Sau đó, các nhà toán học buộc tội công ty này vi phạm đạo đức nghiên cứu và đạo văn, đồng thời nhấn mạnh lại rằng Astra không đạt được “bước nhảy vọt trí tuệ sâu sắc”. Chỉ vài tuần sau, OpenAI lại tuyên bố đạt được bước đột phá toán học riêng của mình. Hai ngày trước, giáo sư toán học Tristan Buckmaster tại Viện Courant, Đại học New York đã đưa ra một tuyên bố gây chấn động, ngụ ý rằng OpenAI đã ăn cắp kết quả nghiên cứu của người khác và gán sai quyền sở hữu thành quả. Các tuyên bố về việc siêu trí tuệ nguy hiểm sắp xuất hiện không dựa trên các thực hành khoa học hoặc kỹ thuật tốt. Thay vào đó, chúng xuất phát từ các ý thức hệ như siêu nhân văn, chủ nghĩa eugenic, cùng với những ảo tưởng mang tính mong muốn về một tương lai nhân loại kỹ thuật số. Đáng để suy ngẫm là tại sao lập trình máy tính và toán học lại trở thành những lĩnh vực trọng tâm để áp dụng các mô hình ngôn ngữ lớn và các công nghệ liên quan. Chúng không chỉ thường được coi là đỉnh cao của thành tựu trí tuệ con người, mà còn liên quan đến những vấn đề mà câu trả lời, khi được đưa ra, có thể được xác minh ngay lập tức. Đặc tính thứ nhất giúp những người thổi phồng AI bán được câu chuyện “họ đang tạo ra những cỗ máy vạn năng”; đặc tính thứ hai khiến các vấn đề toán học và lập trình dễ dàng hơn để điều chỉnh và tối ưu hệ thống, vì đầu ra của hệ thống (chuỗi từ có thể hoặc đoạn mã máy tính) có thể được đánh giá trực tiếp mà không cần trả phí cho hàng ngàn người. Chúng tôi đồng tình với lời kêu gọi này và chỉ ra rằng ảo giác về tốc độ và sự khẩn cấp do các công ty công nghệ tạo ra cũng là một chiến lược lừa dối các nhà lập pháp và công chúng. Tiếc thay, chiến lược này đôi khi thật sự hiệu quả — ví dụ như dự luật do Thượng nghị sĩ Bernie Sanders đề xuất nhằm ngăn chặn việc phát triển “siêu trí tuệ nhân tạo”. Dự luật này xuất phát từ thiện chí, nhưng cuối cùng lại đi sai hướng. Việc gọi những sản phẩm này là “siêu trí tuệ” hay “mô hình mất kiểm soát” thực chất là gán tính năng chủ động cho sản phẩm thay vì cho các doanh nghiệp tạo ra chúng. Câu chuyện này vừa đóng gói sản phẩm doanh nghiệp như “vượt trội hơn con người”, vừa giúp doanh nghiệp trốn tránh trách nhiệm với hành vi của chính mình. OpenAI tạo ra phần mềm độc hại và xâm nhập vào một công ty khác đáng lẽ phải bị truy cứu trách nhiệm; nhưng bản tin, truyền thông, nhân vật truyền thông và các nhà lập pháp lại gọi đó là “mô hình mất kiểm soát”, như thể mô hình tự mình hành động. Các nhà nghiên cứu đáng lẽ phải bị chất vấn: tại sao công ty của họ lại có thói quen đạo văn thành quả của học giả hoặc sử dụng dữ liệu khách hàng để huấn luyện mô hình mà không có sự đồng ý; nhưng trí tưởng tượng của công chúng lại bị hướng sang một hướng khác — lo lắng về tương lai khi những cỗ máy siêu trí tuệ hư cấu xuất hiện. Ngành AI thậm chí còn ngụ ý rằng phong trào phản đối trung tâm dữ liệu rộng rãi và mang tính lưỡng đảng đang “chuyển hướng sự chú ý” khỏi việc giám sát những cỗ máy “siêu nhân” đáng sợ sắp tới mà các doanh nghiệp đang tạo ra. Theo cách nói của ngành AI, chúng ta nên lo lắng hơn về một vị thần máy móc hư cấu hơn là về thảm họa khí hậu do trung tâm dữ liệu gây ra, vấn đề hen suyễn ảnh hưởng đến cư dân lân cận, hóa đơn điện tăng cao do công chúng phải cấp trợ cấp, hay nguồn nước bị điều chuyển để làm mát chúng. Chúng tôi rõ ràng nhận thức rằng không thể đưa ra quyết định dựa trên các tuyên truyền tiếp thị, cũng không nên đầu hàng áp lực từ doanh nghiệp để vội vàng đưa ra quyết định vì lý do “hiệu quả”. Cả nhà lập pháp lẫn cộng đồng đều cần thời gian để lắng nghe ý kiến từ các chuyên gia độc lập và đặt các tuyên bố của doanh nghiệp vào bối cảnh cụ thể để xem xét. Kết quả tốt nhất mà “Mùa hè thổi phồng” này có thể mang lại có lẽ là giúp các nhà lập pháp và công chúng học cách hít một hơi thật sâu, giữ thái độ hoài nghi, và nhận ra bản chất thực sự của những đợt thổi phồng tương tự khi chúng xuất hiện lần tới. Timnit Gebru là Giám đốc điều hành DAIR và là tác giả của cuốn sách sắp xuất bản *Deep Unlearning: The Radicalization of a Tech Idealist*. Cuốn sách hiện đã mở đặt trước và dự kiến ra mắt ngày 16 tháng Hai. Emily M. Bender là Giáo sư Ngôn ngữ học tại Đại học Washington và là đồng tác giả cuốn *The AI Con*. (Nguồn: MLion)