OpenAI 已宣布推出一系列針對兒童性虐待內容(CSAM)的新工具。核心是一個用於檢測此類內容的圖像分類器,包括由 AI 生成的圖像。
推出內容分為四部分:新的圖像分類器、ChatGPT 內的警告和臨時封鎖、給開發者的全新指引,以及一組供執法部門使用的工具。這些措施共同涵蓋了使用者、開發者和調查人員。
OpenAI 真正部署的內容
從偵測開始。OpenAI 已將外部圖像分類器整合至其系統中,包括由專注於兒童安全技術的非營利組織 Thorn 提供的 CSAM 內容分類器。
該分類器處理兩項獨立的工作。第一項是透過雜湊匹配來識別已知的 CSAM。第二項是標記新內容,包括前所未見的 AI 生成變體。
這種區別比聽起來更重要。雜湊匹配類似於指紋資料庫:圖像會被縮減為一個獨特的數位簽名,然後該簽名會與先前已識別的濫用內容清單進行比對。
一張新生成的圖像在資料庫中沒有指紋,因此僅檢查清單的系統會放行它。新內容分類器的存在正是為了彌補這一缺口,它們透過判斷圖像所描繪的內容,而非是否已被歸檔來進行識別。
第二部分內建於 ChatGPT 本身。嘗試創建或存取兒童性化內容的用戶現在會觸發自動警告,重複或嚴重的嘗試可能會導致臨時封鎖或帳戶停用。
這些干預措施自 2026 年 11 月中旬開始逐步在全球範圍內推廣至個人帳戶,目前尚未適用於企業帳戶、教育帳戶或某些桌面介面。
在警告背後,是一層更廣泛的即時分類器,可處理文字、圖像和音訊內容。該工具包還包括情境感知分類器和提示層級的檢測功能,意味著系統可根據用戶的請求內容標記請求,而不僅僅是根據模型的輸出結果。
開發者將收到自己的指示。2026年11月15日,OpenAI 發布了針對 API 開發者的 CSAM 指南,詳細說明如何將感知哈希匹配與分類器結合用於新內容。
感知雜湊是標準雜湊較為寬容的對應技術,它不需要完全匹配,即可識別經過調整大小、裁剪或輕微修改的圖像。
最後是報告流程。OpenAI 會將確認的兒童性虐待內容(CSAM)報告給美國失踪與受剝削兒童國家中心(NCMEC),該機構負責將此類報告轉送至執法部門。
2025 年,OpenAI 報告給 NCMEC 的 CSAM 報告顯著增加,公司將此增長歸因於其產品的擴張。
OpenAI 是如何走到這裡的
2026 年 4 月 8 日,OpenAI 與 NCMEC 及其他組織合作發布了兒童安全藍圖。
該文件過度依賴政策,強調法律框架需要現代化,以應對人工智能生成的兒童性虐待內容,而現有法規並未考慮到這一類別。




