OpenAIは、児童性虐待コンテンツ(CSAM)を対象とした新しいツールセットを発表しました。中心となるのは、AIによって生成された画像を含むそうしたコンテンツを検出するための画像分類器です。
展開は四つの部分から成ります:新しい画像分類器、ChatGPT内の警告と一時的なブロック、開発者向けの新しいガイドライン、および法執行機関向けのツールセットです。これらはユーザー、構築者、調査者をカバーします。
OpenAIが実際に導入しているもの
検出から開始します。OpenAIは、子供の安全技術に特化した非営利団体ThornのCSAMコンテンツ分類器を含む、外部の画像分類器を自社のシステムに統合しました。
その分類器は二つの別々のタスクを処理します。一つ目はハッシュ一致を通じて既知のCSAMを検出することです。二つ目は、これまで見たことのないAI生成の変種を含む新規コンテンツをフラグ立てることです。
この違いは、聞こえる以上に重要です。ハッシュ一致は指紋データベースのように機能します。画像は一意のデジタル署名に変換され、その署名は以前に特定された悪用コンテンツのリストと照合されます。
新しく生成された画像にはファイル上のフィンガープリントが存在しないため、リストのみをチェックするシステムはそれを通過させてしまいます。そのギャップを埋めるために、画像が何を描いているかを判断する新規コンテンツ分類器が存在します。
二つ目の対策はChatGPT自体に組み込まれています。子供を性的に描写するコンテンツの作成やアクセスを試みたユーザーには、今後自動警告が表示され、繰り返しまたは深刻な試みの場合、一時的なブロックや口座の停止につながる可能性があります。
これらの対策は、2026年11月中旬から個人口座に対して段階的に世界規模で展開されました。これらは企業口座、教育用口座、および特定のデスクトップインターフェースにはまだ適用されていません。
警告の背後には、テキスト、画像、オーディオコンテンツを処理できるより広範なリアルタイム分類器が存在します。このツールキットには、文脈に応じた分類器とプロンプトレベルでの検出機能も含まれており、モデルが生成した内容だけでなく、ユーザーが何を要求したかに基づいてリクエストをフラグ立てることができます。
開発者は独自の指示を受け取ります。2026年11月15日、OpenAIは、新規コンテンツに対してパーセプチュアルハッシュマッチングを分類器と併用する方法を解説するCSAMガイドラインをAPI開発者向けに公開しました。
パーセプチュアルハッシングは、標準的なハッシングのより寛容な Cousins です。正確な一致を必要とせず、リサイズされたり、トリミングされたり、軽く変更された画像を認識できます。
最後に、報告パイプラインがあります。OpenAIは、確認されたCSAMを、米国のクリアリングハウスであるMissing & Exploited Childrenのための国家センター(NCMEC)に報告し、NCMECはその報告を法執行機関に転送します。
OpenAIからNCMECへ報告されたCSAMの件数は2025年に大幅に増加し、同社はこの増加を製品の成長によるものとしています。
OpenAIがここに至った方法
2026年4月8日、OpenAIはNCMECおよびその他の団体と協力して開発した子供の安全に関するブループリントをリリースしました。
その文書は政策に大きく依存しており、既存の法令が想定していなかったAI生成CSAMに対処するために法的枠組みを近代化する必要性を強調した。




