OpenAI triển khai bộ phân loại hình ảnh và cảnh báo ChatGPT để chống lại CSAM do AI tạo ra

iconCryptoBriefing
Chia sẻ
AI summary iconTóm tắt
Tin tức AI + tiền điện tử nổi lên khi OpenAI ra mắt các công cụ phát hiện vật liệu lạm dụng tình dục trẻ em, bao gồm bộ phân loại hình ảnh và cảnh báo trên ChatGPT. Hệ thống sử dụng khớp hash và AI để phát hiện CSAM mới. Được ra mắt vào giữa tháng 11 năm 2026, nó bao gồm các công cụ dành cho nhà phát triển và lực lượng chức năng. OpenAI đã báo cáo phát hiện của mình cho NCMEC. Việc niêm yết token mới vẫn là trọng tâm chính của thị trường tiền điện tử.

OpenAI đã công bố một bộ công cụ mới nhắm vào vật liệu lạm dụng tình dục trẻ em (CSAM). Trọng tâm là một bộ phân loại hình ảnh được xây dựng để phát hiện nội dung này, bao gồm cả các hình ảnh được tạo bởi AI.

Việc triển khai gồm bốn phần: bộ phân loại hình ảnh mới, cảnh báo và khối tạm thời bên trong ChatGPT, hướng dẫn mới dành cho nhà phát triển, và một bộ công cụ dành cho cơ quan thực thi pháp luật. Cùng nhau, chúng bao phủ người dùng, người xây dựng và người điều tra.

Điều mà OpenAI thực sự đang triển khai

Bắt đầu bằng phát hiện. OpenAI đã tích hợp các trình phân loại hình ảnh bên ngoài vào hệ thống của mình, bao gồm trình phân loại nội dung CSAM từ Thorn, một tổ chức phi lợi nhuận chuyên về công nghệ an toàn cho trẻ em.

Bộ phân loại này thực hiện hai nhiệm vụ riêng biệt. Đầu tiên là phát hiện CSAM đã biết thông qua khớp hash. Thứ hai là đánh dấu các tài liệu mới, bao gồm các biến thể do AI tạo ra mà chưa từng được thấy trước đây.

Sự khác biệt này quan trọng hơn những gì bạn nghe thấy. Việc khớp hash hoạt động như một cơ sở dữ liệu vân tay: một hình ảnh được rút gọn thành một chữ ký số duy nhất, và chữ ký đó được kiểm tra đối chiếu với danh sách các vật liệu lạm dụng đã được xác định trước đó.

Một hình ảnh được tạo mới không có dấu vân tay nào trong danh sách, vì vậy một hệ thống chỉ kiểm tra danh sách sẽ cho phép nó đi qua. Các bộ phân loại nội dung mới tồn tại để lấp đầy khoảng trống này bằng cách đánh giá nội dung mà hình ảnh mô tả, thay vì xem liệu nó đã được ghi nhận hay chưa.

Phần thứ hai nằm bên trong chính ChatGPT. Những người dùng cố gắng tạo hoặc truy cập nội dung có tính chất tình dục hóa trẻ em sẽ hiện cảnh báo tự động, và các nỗ lực lặp lại hoặc nghiêm trọng có thể dẫn đến chặn tạm thời hoặc tạm ngừng tài khoản.

Các can thiệp này bắt đầu triển khai dần trên phạm vi toàn cầu cho các tài khoản cá nhân vào giữa tháng 11 năm 2026. Chúng hiện chưa áp dụng cho các tài khoản doanh nghiệp, tài khoản giáo dục hoặc một số giao diện máy tính để bàn.

Sau các cảnh báo là một lớp phân loại thời gian thực rộng hơn có thể xử lý nội dung văn bản, hình ảnh và âm thanh. Bộ công cụ cũng bao gồm các bộ phân loại nhận biết ngữ cảnh và phát hiện ở cấp độ lời nhắc, nghĩa là một yêu cầu có thể bị cảnh báo dựa trên những gì người dùng yêu cầu, không chỉ dựa trên những gì mô hình tạo ra.

Các nhà phát triển nhận hướng dẫn riêng của họ. Vào ngày 15 tháng 11 năm 2026, OpenAI đã công bố hướng dẫn CSAM dành cho các nhà phát triển API, hướng dẫn từng bước tích hợp khớp vân tay nhận thức cùng với các bộ phân loại cho nội dung mới.

Perceptual hashing là người anh em dễ tính hơn của hàm băm tiêu chuẩn. Thay vì yêu cầu sự trùng khớp chính xác, nó có thể nhận diện một hình ảnh đã được thay đổi kích thước, cắt xén hoặc chỉnh sửa nhẹ.

Cuối cùng, là quy trình báo cáo. OpenAI báo cáo các trường hợp CSAM đã xác minh đến Trung tâm Quốc gia về Trẻ em Mất tích và Bị Lạm dụng (NCMEC), trung tâm thanh toán của Mỹ có nhiệm vụ chuyển các báo cáo này đến cơ quan thực thi pháp luật.

Các báo cáo CSAM được xác nhận từ OpenAI gửi đến NCMEC đã tăng đáng kể vào năm 2025, mức tăng mà công ty cho là do sự phát triển của các sản phẩm của mình.

OpenAI đã đến đây như thế nào

Vào ngày 8 tháng 4 năm 2026, OpenAI đã phát hành Bản thiết kế An toàn Trẻ em được phát triển cùng với NCMEC và các tổ chức khác.

Tài liệu đó dựa nhiều vào chính sách. Nó nhấn mạnh rằng các khung pháp lý cần được hiện đại hóa để xử lý CSAM do AI tạo ra, một danh mục mà các đạo luật hiện hành không được thiết kế để tính đến.

Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể được lấy từ bên thứ ba và không nhất thiết phản ánh quan điểm hoặc ý kiến của KuCoin. Nội dung này chỉ được cung cấp cho mục đích thông tin chung, không có bất kỳ đại diện hay bảo đảm nào dưới bất kỳ hình thức nào và cũng không được hiểu là lời khuyên tài chính hay đầu tư. KuCoin sẽ không chịu trách nhiệm về bất kỳ sai sót hoặc thiếu sót nào hoặc về bất kỳ kết quả nào phát sinh từ việc sử dụng thông tin này. Việc đầu tư vào tài sản kỹ thuật số có thể tiềm ẩn nhiều rủi ro. Vui lòng đánh giá cẩn thận rủi ro của sản phẩm và khả năng chấp nhận rủi ro của bạn dựa trên hoàn cảnh tài chính của chính bạn. Để biết thêm thông tin, vui lòng tham khảo Điều khoản sử dụng và Tiết lộ rủi ro của chúng tôi.