OpenAI 部署圖像分類器和 ChatGPT 警告以打擊 AI 生成的兒童性虐待內容

iconCryptoBriefing
分享
AI summary icon精華摘要
AI 與加密貨幣新聞:OpenAI 推出用於偵測兒童性虐待內容的工具,包括圖片分類器和 ChatGPT 警告系統。該系統透過雜湊比對和 AI 技術來識別新的兒童性虐待內容。該系統於 2026 年 11 月中旬推出,並提供開發人員與執法部門使用的工具。OpenAI 已將發現報告給 NCMEC。新代幣上線仍是加密貨幣市場的重點。

OpenAI 已宣布推出一系列針對兒童性虐待內容(CSAM)的新工具。核心是一個用於檢測此類內容的圖像分類器,包括由 AI 生成的圖像。

推出內容分為四部分:新的圖像分類器、ChatGPT 內的警告和臨時封鎖、給開發者的全新指引,以及一組供執法部門使用的工具。這些措施共同涵蓋了使用者、開發者和調查人員。

OpenAI 真正部署的內容

從偵測開始。OpenAI 已將外部圖像分類器整合至其系統中,包括由專注於兒童安全技術的非營利組織 Thorn 提供的 CSAM 內容分類器。

該分類器處理兩項獨立的工作。第一項是透過雜湊匹配來識別已知的 CSAM。第二項是標記新內容,包括前所未見的 AI 生成變體。

這種區別比聽起來更重要。雜湊匹配類似於指紋資料庫:圖像會被縮減為一個獨特的數位簽名,然後該簽名會與先前已識別的濫用內容清單進行比對。

一張新生成的圖像在資料庫中沒有指紋,因此僅檢查清單的系統會放行它。新內容分類器的存在正是為了彌補這一缺口,它們透過判斷圖像所描繪的內容,而非是否已被歸檔來進行識別。

第二部分內建於 ChatGPT 本身。嘗試創建或存取兒童性化內容的用戶現在會觸發自動警告,重複或嚴重的嘗試可能會導致臨時封鎖或帳戶停用。

這些干預措施自 2026 年 11 月中旬開始逐步在全球範圍內推廣至個人帳戶,目前尚未適用於企業帳戶、教育帳戶或某些桌面介面。

在警告背後,是一層更廣泛的即時分類器,可處理文字、圖像和音訊內容。該工具包還包括情境感知分類器和提示層級的檢測功能,意味著系統可根據用戶的請求內容標記請求,而不僅僅是根據模型的輸出結果。

開發者將收到自己的指示。2026年11月15日,OpenAI 發布了針對 API 開發者的 CSAM 指南,詳細說明如何將感知哈希匹配與分類器結合用於新內容。

感知雜湊是標準雜湊較為寬容的對應技術,它不需要完全匹配,即可識別經過調整大小、裁剪或輕微修改的圖像。

最後是報告流程。OpenAI 會將確認的兒童性虐待內容(CSAM)報告給美國失踪與受剝削兒童國家中心(NCMEC),該機構負責將此類報告轉送至執法部門。

2025 年,OpenAI 報告給 NCMEC 的 CSAM 報告顯著增加,公司將此增長歸因於其產品的擴張。

OpenAI 是如何走到這裡的

2026 年 4 月 8 日,OpenAI 與 NCMEC 及其他組織合作發布了兒童安全藍圖。

該文件過度依賴政策,強調法律框架需要現代化,以應對人工智能生成的兒童性虐待內容,而現有法規並未考慮到這一類別。

免責聲明:本頁面資訊可能來自第三方,不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用,不構成任何形式的陳述或保證,也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏,或因使用該資訊而導致的任何結果不承擔任何責任。 虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息,請參閱我們的使用條款和風險披露 。