AI thực sự tiếp cận đại chúng không phụ thuộc vào việc nó có thể tạo ra bao nhiêu nội dung, mà phụ thuộc vào việc xã hội có tin tưởng vào những nội dung mà nó tạo ra hay không.

Tác giả bài viết, nguồn: ME News



Tóm tắt ngắn

• Cục Quản lý Không gian mạng Trung ương tiến hành giai đoạn hai của chiến dịch “Sạch sẽ·整治 AI 应用乱象”, tập trung xử lý các vấn đề như thông tin giả do AI tạo ra, nội dung đồi trụy bạo lực, mạo danh người khác và xâm phạm quyền lợi của trẻ vị thành niên. Tính đến nay, đã xóa bỏ hơn 5,61 triệu thông tin vi phạm pháp luật, xử lý hơn 49.000 tài khoản và xử lý hơn 2.400 trang web và ứng dụng vi phạm.
• Các nền tảng AI như DouBao, YuanBao, QianWen và Wenxin Yiyan đang tăng cường đào tạo dữ liệu kiểm duyệt, bộ lọc an toàn mô hình và cơ chế nhận diện nội dung được tạo ra, với mục tiêu cốt lõi không phải là hạn chế khả năng của AI, mà là giảm thiểu rủi ro bị lạm dụng công nghệ.
• Việc quản lý AI đang chuyển từ “xóa nội dung vi phạm” sang “kiểm soát quy trình tạo nội dung”, trong đó việc huấn luyện mô hình, nguồn dữ liệu, giai đoạn tạo sinh và chuỗi lan truyền đều trở thành trọng tâm giám sát.
• Sự cạnh tranh thương mại trong AI sinh thành, trong tương lai không chỉ so sánh thông số mô hình và trải nghiệm sản phẩm, mà còn so sánh khả năng bảo mật, khả năng tuân thủ và niềm tin lâu dài.
• AI thực sự tiếp cận đại chúng không phụ thuộc vào việc nó có thể tạo ra bao nhiêu nội dung, mà phụ thuộc vào việc xã hội có tin tưởng vào những nội dung mà nó tạo ra hay không.

Tốc độ phát triển của trí tuệ nhân tạo đang liên tục làm mới nhận thức của công chúng về ranh giới công nghệ.

Vài năm trước, mọi người thảo luận về AI, chủ yếu tập trung vào tham số mô hình, quy mô tính toán, chất lượng câu trả lời và các bối cảnh thương mại hóa. Ai sở hữu mô hình lớn hơn, ai có khả năng suy luận mạnh mẽ hơn, dường như đồng nghĩa với việc người đó sẽ chiến thắng trong tương lai.

Tuy nhiên, sau khi bước vào giai đoạn ứng dụng quy mô lớn của AI sinh tạo, một vấn đề thực tế hơn dần xuất hiện: nếu AI có thể tạo ra một đoạn văn bản, một hình ảnh, một đoạn âm thanh, thậm chí cả một bộ thông tin trông giống thật chỉ trong vài giây, thì ai sẽ đảm bảo những nội dung này sẽ không trở thành công cụ mới để tạo tin giả, thao túng dư luận và xâm phạm quyền lợi?

Đây không phải là một vấn đề xa vời.

Văn phòng Trung ương về quản lý không gian mạng gần đây đã triển khai giai đoạn hai của chiến dịch “Sạch sẽ – Chấn chỉnh tình trạng hỗn loạn trong ứng dụng AI”, nhằm xử lý các rủi ro thực tế này. Chiến dịch lần này tập trung vào việc chấn chỉnh các vấn đề nổi bật như sử dụng AI để tạo và phát tán thông tin giả, lan truyền nội dung bạo lực và thấp tục, giả mạo hoặc bắt chước người khác, cũng như xâm phạm quyền lợi của trẻ vị thành niên. Tính đến nay, chiến dịch đã xóa bỏ hơn 5,61 triệu thông tin vi phạm pháp luật, xử lý hơn 49.000 tài khoản, và xử lý hơn 2.400 trang web và ứng dụng vi phạm.

Những con số này phản ánh không phải là vấn đề với chính công nghệ AI, mà là chủ đề quản trị mà một ngành công nghiệp đang phát triển nhanh chóng phải đối mặt khi bước vào giai đoạn trưởng thành.

Bất kỳ công nghệ nào thay đổi cách thức vận hành của xã hội đều không chỉ mang lại lợi ích về hiệu suất.

Internet từng mang lại sự lưu thông tự do của thông tin, đồng thời cũng mang lại sự lan truyền của thông tin sai lệch; thanh toán di động đã thay đổi trải nghiệm tài chính, đồng thời sinh ra các mô hình lừa đảo mới; video ngắn đã hạ thấp rào cản sản xuất nội dung, đồng thời tạo ra môi trường cạnh tranh coi trọng lưu lượng truy cập.

AI cũng vậy.

Nó có thể nâng cao hiệu suất sản xuất, đồng thời cũng có thể khuếch đại các hành vi vi phạm pháp luật với chi phí thấp.

Trước đây, để tạo ra một bài viết giả mạo hay một đoạn video giả, cần đầu tư rất nhiều thời gian của con người. Nhưng hôm nay, AI đã hạ thấp rào cản sản xuất nội dung, giúp người dùng thông thường có khả năng tạo ra nội dung gần ngang với đội ngũ chuyên nghiệp. Nếu không có cơ chế quản lý tương ứng, lợi ích công nghệ có thể bị một số ít người lạm dụng để gây ra hỗn loạn.

Vì vậy, quản trị AI không phải là phanh lại sự đổi mới, mà là bổ sung hệ thống an toàn trên con đường phát triển nhanh chóng.

Nhiều người có thể thắc mắc: AI không nên càng mở càng tốt sao? Tại sao hiện nay ngày càng nhiều sản phẩm AI bắt đầu hạn chế nội dung được tạo ra?

Bản chất của vấn đề này là làm thế nào để hiểu ranh giới trách nhiệm của các sản phẩm trí tuệ nhân tạo.

Phần mềm truyền thống thường chỉ cung cấp công cụ, nhưng AI sinh tạo không phải là công cụ đơn giản. Nó tham gia vào quá trình sản xuất nội dung và thậm chí ảnh hưởng trực tiếp đến nhận thức của người dùng.

Khi người dùng đặt câu hỏi với AI, nội dung do mô hình tạo ra có thể ảnh hưởng đến quyết định đầu tư, quyết định về sức khỏe, học tập giáo dục, thậm chí nhận thức về các sự kiện công cộng. Do đó, các nền tảng AI không chỉ nên tập trung vào “có thể tạo ra hay không”, mà còn phải xem xét “tạo ra gì”, “tại sao tạo ra”, và “sau khi tạo ra sẽ gây ra ảnh hưởng gì”.

Các nền tảng như DouBao, YuanBao, QianWen, Wenxin Yiyan đang tăng cường quản lý nội dung, thực chất là xây dựng một hệ thống an toàn sản phẩm AI mới. Theo thông báo của cơ quan quản lý mạng và thông tin, các nền tảng liên quan đang kiểm duyệt nghiêm ngặt nội dung dữ liệu gốc, tăng cường bộ lọc nội dung vi phạm và củng cố yêu cầu gắn nhãn nội dung tổng hợp do AI tạo ra, nhằm giảm thiểu rủi ro sinh ra và lan truyền thông tin vi phạm pháp luật từ nguồn gốc. (Tổng cục Quản lý Thị trường Nhà nước)

Điều này có nghĩa là quản trị AI đã không còn chỉ là “xử lý sau sự việc” trong thời đại internet truyền thống.

Trước đây, nền tảng thường xử lý nội dung vi phạm bằng cách phát hiện, xóa và cấm.

Nhưng thời đại AI thì khác.

Nếu vấn đề xảy ra ở giai đoạn tạo nội dung, thì việc chỉ xóa nội dung đã được phát tán là chưa đủ. Vì AI có thể liên tục tạo ra các biến thể mới, và nội dung vi phạm cùng loại có thể xuất hiện trở lại dưới một hình thức diễn đạt khác.

Do đó, quản trị phải được đẩy về phía trước.

Từ dữ liệu huấn luyện, đến kiểm soát khả năng mô hình, rồi đến việc kiểm duyệt nội dung do người dùng tạo ra, tạo thành một chuỗi hoàn chỉnh.

Nói một cách đơn giản, các sản phẩm AI xuất sắc trong tương lai không chỉ trả lời câu hỏi chính xác hơn, mà quan trọng hơn là biết những câu hỏi nào không thể trả lời, những nội dung nào không thể tạo ra, và những tình huống nào cần cảnh báo người dùng về rủi ro.

Đây cũng là lý do khả năng an toàn AI đang trở thành một phần của năng lực cạnh tranh sản phẩm.

Tuy nhiên, quản trị AI không đơn giản là thiết lập một bức tường “cấm tạo ra”.

Nếu bị hạn chế quá mức, các sản phẩm AI có thể mất đi giá trị.

Nếu giới hạn không đủ, có thể gây ra rủi ro.

Đây là một cuộc博弈 lâu dài về biên giới.

Ví dụ, một người dùng muốn AI hỗ trợ sáng tác tiểu thuyết chứa các yếu tố như chiến tranh, tội phạm, xung đột, liệu đây có phải là nội dung vi phạm không?

Một nhà nghiên cứu mong muốn AI phân tích sự khác biệt giữa các lỗ hổng bảo mật mạng và các cuộc tấn công độc hại.

Một người yêu thích lịch sử mong muốn AI chuyển thể các tác phẩm kinh điển, làm thế nào để phân biệt giữa sáng tạo hợp lý và sự chế nhạo thấp cấp?

Những vấn đề này đều cho thấy rằng việc quản lý AI không thể dựa vào việc lọc từ khóa đơn giản.

Quản trị thực sự hiệu quả cần hiểu bối cảnh.

Đây cũng là lý do tại sao nền tảng không ngừng tăng cường khả năng nhận diện đa mô态, mở rộng động lực cơ sở dữ liệu khuôn mặt, cơ sở dữ liệu âm vân và cơ sở dữ liệu mẫu vi phạm. Các nền tảng như Douyin, Kuaishou, Weibo, Tencent, Baidu, Bilibili, Xiaohongshu, Zhihu, Douban, Taobao đang nâng cao khả năng nhận diện và xử lý nội dung AI thông qua các biện pháp công nghệ, đồng thời đã công bố tổng cộng 46 thông báo liên quan đến quản lý. (Tổng cục Quản lý Thị trường Nhà nước)

Cuộc cạnh tranh về bảo mật AI trong tương lai rất có thể sẽ giống như lĩnh vực xe tự lái.

Một hệ thống tiên tiến thực sự không hoàn toàn cấm xe hơi di chuyển, mà giúp xe hơi di chuyển an toàn trong các môi trường phức tạp.

AI cũng vậy.

AI chín chắn không phải là một hệ thống không làm được gì, mà là tìm được sự cân bằng giữa khả năng mở và kiểm soát rủi ro.

Một số vụ việc được công bố trong chiến dịch hành động này cũng cho thấy những hình thức lạm dụng AI đang xuất hiện.

Một trong những vấn đề điển hình là sử dụng AI để chỉnh sửa các tác phẩm kinh điển với chất lượng thấp.

Trước đây, mặc dù nội dung mạng tồn tại tình trạng sản xuất sơ sài, nhưng chi phí sản xuất vẫn hạn chế quy mô.

Sau khi AI xuất hiện, việc tạo hàng loạt đã trở nên khả thi.

Một số tài khoản sử dụng AI để “biến tấu” các tác phẩm kinh điển như Tam Quốc Diễn Nghĩa, Tây Du Ký, thay đổi nhân vật và tạo ra những cốt truyện kỳ quặc nhằm thu hút lưu lượng truy cập. Những nội dung này tuy trông giống như chỉ mang tính giải trí, nhưng nếu lan truyền rộng rãi và kéo dài, sẽ ảnh hưởng đến cách công chúng hiểu về các nội dung văn hóa, đồng thời có thể làm suy giảm hệ sinh thái nội dung chất lượng cao.

Một vấn đề khác là AI tạo ra thông tin giả mạo.

Trước đây, để tạo ra một hình ảnh giả hoặc một đoạn video giả cần có mức độ kỹ thuật cao.

Bây giờ, AI sinh tạo đã làm giảm rào cản.

Các cảnh giả tạo về thảm họa, các sự kiện nóng xã hội giả tạo, và các trò lừa đảo tiếp thị bằng người số AI đều có thể lợi dụng sự bất cân xứng thông tin của công chúng để tạo ảnh hưởng. Trong các vụ việc được cơ quan mạng và thông tin công bố lần này, bao gồm việc sử dụng AI để tạo ra hình ảnh giả về thảm họa, bịa đặt thông tin về các sự kiện nóng xã hội và thực hiện tuyên truyền sai lệch thông qua người số.

Điều đáng quan tâm hơn là AI thay đổi khuôn mặt và giọng nói.

Âm thanh và dung mạo là những căn cứ quan trọng để con người xác định danh tính.

Khi AI có thể mô phỏng giọng nói, biểu cảm và thậm chí thói quen hành vi của một người, hệ thống tin tưởng danh tính đang đối mặt với những thách thức mới.

This involves not only public figures but also ordinary users.

Hôm nay, hình ảnh và tài liệu âm thanh của một người đều có thể trở thành nguồn dữ liệu bị lạm dụng.

Vì vậy, bảo vệ dữ liệu trong thời đại AI không chỉ là ngăn chặn rò rỉ thông tin, mà còn bao gồm việc ngăn chặn việc sao chép số hóa danh tính cá nhân.

Trong vài năm qua, ngành công nghiệp AI của Trung Quốc đã phát triển nhanh chóng.

Từ việc phát triển mô hình lớn, đến trợ lý thông minh, rồi đến các ứng dụng thực tế như văn phòng, giáo dục, thương mại điện tử, tìm kiếm, AI đang bước từ giai đoạn trình diễn công nghệ sang giai đoạn ứng dụng thực tế.

Nhưng càng gần với người dùng phổ thông, vấn đề bảo mật càng quan trọng.

Một doanh nghiệp có thể chấp nhận việc mô hình thỉnh thoảng trả lời sai, nhưng khó có thể chấp nhận việc mô hình liên tục tạo ra thông tin sai lệch.

Một người dùng có thể chấp nhận khả năng của AI có hạn chế, nhưng khó chấp nhận AI giúp tạo ra các trò lừa đảo.

Vì vậy, cuộc cạnh tranh trong ngành AI trong tương lai sẽ không chỉ là cuộc cạnh tranh về công nghệ.

Kích thước tham số chắc chắn quan trọng, khả năng thuật toán chắc chắn quan trọng, nhưng niềm tin cũng quan trọng không kém.

Tại sao ngành tài chính coi trọng tuân thủ pháp luật đến vậy?

Vì các sản phẩm tài chính kết nối vốn.

Tại sao ngành y tế coi trọng an toàn đến vậy?

Vì quyết định y tế ảnh hưởng đến sinh mạng.

Và AI đang dần kết nối kiến thức, thông tin và quyết định.

It also requires building a foundation of trust.

Từ góc độ này, chiến dịch quản lý lần này của Văn phòng Internet Trung Quốc không nhằm vào sự phát triển của AI, mà đang thúc đẩy ngành công nghiệp AI bước vào giai đoạn phát triển chín chắn hơn. Việc giám sát làm rõ ranh giới, các nền tảng nâng cao năng lực, người dùng nâng cao nhận thức, từ đó hình thành một hệ sinh thái lành mạnh hơn.

Lịch sử phát triển công nghệ đã chứng minh lặp đi lặp lại rằng, một ngành công nghiệp thực sự trưởng thành không phải khi nó có thể tạo ra bao nhiêu kỳ tích, mà là khi nó có thể giải quyết được bao nhiêu vấn đề.

AI đã chứng minh được sự sáng tạo của mình.

Nó có thể giúp con người viết lách, lập trình, học tập, đồng thời thúc đẩy doanh nghiệp nâng cao hiệu suất.

Nhưng ở giai đoạn tiếp theo, AI cần chứng minh một điều khác: liệu nó có đáng tin cậy hay không.

Các nền tảng như DouBao, YuanBao, QianWen, Wenxin Yiyan đang tăng cường hạn chế nội dung vi phạm, về bản chất là đang trả lời một câu hỏi then chốt:

Khi trí tuệ nhân tạo ngày càng có khả năng sáng tạo mạnh mẽ hơn, liệu nó có cũng sở hữu ý thức trách nhiệm tương xứng với khả năng đó không?

Câu trả lời không chỉ quyết định hướng phát triển của một vài sản phẩm AI, mà còn quyết định liệu toàn bộ ngành công nghiệp có thể bước vào chu kỳ phát triển ổn định dài hạn hay không.

Tương lai của trí tuệ nhân tạo không thuộc về những hệ thống chỉ biết tạo ra thêm nội dung, mà thuộc về những hệ thống có thể tìm được sự cân bằng giữa sáng tạo, bảo mật và giá trị xã hội.

Công nghệ vĩ đại thực sự không phải vì nó có thể làm mọi thứ, mà vì nó biết những gì không thể làm và tại sao không thể làm.

1. Văn phòng Ủy ban An ninh mạng và Thông tin hóa Trung ương: “Văn phòng An ninh mạng Trung ương tích cực triển khai giai đoạn hai của chiến dịch ‘Sạch sẽ – Chấn chỉnh tình trạng hỗn loạn trong ứng dụng AI’”, ngày 2 tháng 9 năm 2026.
2. Văn phòng Ủy ban An ninh mạng và Thông tin hóa Trung ương: “Văn phòng An ninh mạng Trung ương triển khai chiến dịch ‘Sạch sẽ – Chấn chỉnh tình trạng hỗn loạn trong ứng dụng AI’”, ngày 30 tháng 4 năm 2026.
3. Quy định tạm thời về quản lý dịch vụ trí tuệ nhân tạo sinh thành, Văn phòng Thông tin Internet Quốc gia và các bộ phận liên quan, năm 2023.
4. Quy định về nhận diện nội dung được tạo ra bởi trí tuệ nhân tạo, Văn phòng Thông tin Internet Quốc gia và các bộ phận liên quan, năm 2025.
5. Russell, Stuart & Norvig, Peter. Artificial Intelligence: A Modern Approach. Pearson.
6. Shneiderman, Ben. AI hướng con người. Oxford University Press.