Cục Không gian mạng Trung Quốc siết chặt xử lý nội dung bạo lực và bất hợp pháp do AI tạo ra

Động sát Beating AI, gần đây, Văn phòng Internet Trung ương Trung Quốc đã tiến hành giai đoạn hai của chiến dịch đặc biệt “Sạch sẽ – Chấn chỉnh hỗn loạn trong ứng dụng AI”, tập trung xử lý các vấn đề như sử dụng AI để tạo và phát tán thông tin giả, nội dung bạo lực và thấp cấp, giả mạo hoặc sao chép người khác, cũng như xâm phạm quyền lợi của trẻ vị thành niên. Tính đến nay, chiến dịch đã xóa bỏ tổng cộng hơn 5,61 triệu thông tin vi phạm pháp luật, xử lý hơn 49.000 tài khoản và xử lý hơn 2.400 trang web và ứng dụng vi phạm. Trong lĩnh vực quản lý nội dung AI, các nền tảng như Douyin, Kuaishou, Weibo, Tencent, Baidu, Bilibili, Xiaohongshu, Zhihu, Douban và Taobao đã tăng cường khả năng nhận diện đa mô态, mở rộng động lực cơ sở dữ liệu khuôn mặt, mẫu âm thanh và mẫu vi phạm, đồng thời tăng cường xử lý tài khoản và thông tin vi phạm, tổng cộng đã phát hành 46 thông báo quản lý. Đồng thời, các nền tảng AI như DouBao, YuanBao, Qianwen và Wenxin Yiyan đã siết chặt việc kiểm duyệt nguyên liệu đầu vào, hạn chế nghiêm ngặt việc xuất ra nội dung vi phạm và tăng cường yêu cầu gắn nhãn nội dung do AI tạo ra; các cửa hàng ứng dụng như Huawei, Xiaomi, OPPO và vivo cũng tăng cường kiểm tra và đánh giá đầu vào đối với nhà phát triển ứng dụng, tiến hành kiểm tra ngẫu nhiên và tái đánh giá các ứng dụng đang được niêm yết. Trong thời gian chiến dịch, các cơ quan quản lý Internet đã công bố nhiều vụ điển hình, bao gồm việc sử dụng AI để “biến tấu” các tác phẩm kinh điển, tạo thông tin giả về thảm họa và các sự kiện xã hội nóng hổi, thay đổi khuôn mặt và giọng nói giả danh nhân vật công chúng, sản xuất hàng loạt nội dung bạo lực và thấp cấp, sử dụng AI để tạo thông tin xâm phạm quyền lợi của trẻ vị thành niên, cũng như sử dụng phần mềm “quản lý” AI để thực hiện hoạt động quân nước mạng. Đối với các sản phẩm và ứng dụng AI vi phạm, các cơ quan liên quan sẽ áp dụng các biện pháp theo pháp luật như cảnh cáo, phạt tiền, gỡ bỏ hoặc đóng cửa.