OpenAI đã công bố một bộ công cụ mới nhắm vào vật liệu lạm dụng tình dục trẻ em (CSAM). Trọng tâm là một bộ phân loại hình ảnh được xây dựng để phát hiện nội dung này, bao gồm cả các hình ảnh được tạo bởi AI.
Việc triển khai gồm bốn phần: bộ phân loại hình ảnh mới, cảnh báo và khối tạm thời bên trong ChatGPT, hướng dẫn mới dành cho nhà phát triển, và một bộ công cụ dành cho cơ quan thực thi pháp luật. Cùng nhau, chúng bao phủ người dùng, người xây dựng và người điều tra.
Điều mà OpenAI thực sự đang triển khai
Bắt đầu bằng phát hiện. OpenAI đã tích hợp các trình phân loại hình ảnh bên ngoài vào hệ thống của mình, bao gồm trình phân loại nội dung CSAM từ Thorn, một tổ chức phi lợi nhuận chuyên về công nghệ an toàn cho trẻ em.
Bộ phân loại này thực hiện hai nhiệm vụ riêng biệt. Đầu tiên là phát hiện CSAM đã biết thông qua khớp hash. Thứ hai là đánh dấu các tài liệu mới, bao gồm các biến thể do AI tạo ra mà chưa từng được thấy trước đây.
Sự khác biệt này quan trọng hơn những gì bạn nghe thấy. Việc khớp hash hoạt động như một cơ sở dữ liệu vân tay: một hình ảnh được rút gọn thành một chữ ký số duy nhất, và chữ ký đó được kiểm tra đối chiếu với danh sách các vật liệu lạm dụng đã được xác định trước đó.
Một hình ảnh được tạo mới không có dấu vân tay nào trong danh sách, vì vậy một hệ thống chỉ kiểm tra danh sách sẽ cho phép nó đi qua. Các bộ phân loại nội dung mới tồn tại để lấp đầy khoảng trống này bằng cách đánh giá nội dung mà hình ảnh mô tả, thay vì xem liệu nó đã được ghi nhận hay chưa.
Phần thứ hai nằm bên trong chính ChatGPT. Những người dùng cố gắng tạo hoặc truy cập nội dung có tính chất tình dục hóa trẻ em sẽ hiện cảnh báo tự động, và các nỗ lực lặp lại hoặc nghiêm trọng có thể dẫn đến chặn tạm thời hoặc tạm ngừng tài khoản.
Các can thiệp này bắt đầu triển khai dần trên phạm vi toàn cầu cho các tài khoản cá nhân vào giữa tháng 11 năm 2026. Chúng hiện chưa áp dụng cho các tài khoản doanh nghiệp, tài khoản giáo dục hoặc một số giao diện máy tính để bàn.
Sau các cảnh báo là một lớp phân loại thời gian thực rộng hơn có thể xử lý nội dung văn bản, hình ảnh và âm thanh. Bộ công cụ cũng bao gồm các bộ phân loại nhận biết ngữ cảnh và phát hiện ở cấp độ lời nhắc, nghĩa là một yêu cầu có thể bị cảnh báo dựa trên những gì người dùng yêu cầu, không chỉ dựa trên những gì mô hình tạo ra.
Các nhà phát triển nhận hướng dẫn riêng của họ. Vào ngày 15 tháng 11 năm 2026, OpenAI đã công bố hướng dẫn CSAM dành cho các nhà phát triển API, hướng dẫn từng bước tích hợp khớp vân tay nhận thức cùng với các bộ phân loại cho nội dung mới.
Perceptual hashing là người anh em dễ tính hơn của hàm băm tiêu chuẩn. Thay vì yêu cầu sự trùng khớp chính xác, nó có thể nhận diện một hình ảnh đã được thay đổi kích thước, cắt xén hoặc chỉnh sửa nhẹ.
Cuối cùng, là quy trình báo cáo. OpenAI báo cáo các trường hợp CSAM đã xác minh đến Trung tâm Quốc gia về Trẻ em Mất tích và Bị Lạm dụng (NCMEC), trung tâm thanh toán của Mỹ có nhiệm vụ chuyển các báo cáo này đến cơ quan thực thi pháp luật.
Các báo cáo CSAM được xác nhận từ OpenAI gửi đến NCMEC đã tăng đáng kể vào năm 2025, mức tăng mà công ty cho là do sự phát triển của các sản phẩm của mình.
OpenAI đã đến đây như thế nào
Vào ngày 8 tháng 4 năm 2026, OpenAI đã phát hành Bản thiết kế An toàn Trẻ em được phát triển cùng với NCMEC và các tổ chức khác.
Tài liệu đó dựa nhiều vào chính sách. Nó nhấn mạnh rằng các khung pháp lý cần được hiện đại hóa để xử lý CSAM do AI tạo ra, một danh mục mà các đạo luật hiện hành không được thiết kế để tính đến.




