OpenAI أعلنت عن مجموعة جديدة من الأدوات المستهدفة لمحتوى إساءة الأطفال الجنسي (CSAM). ويتضمن المحور الرئيسي مُصنف صور مصمم لاكتشاف مثل هذا المحتوى، بما في ذلك الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي.
يتضمن الإطلاق أربعة أجزاء: مُصنف الصور الجديد، التحذيرات والحظر المؤقت داخل ChatGPT، إرشادات جديدة للمطورين، ومجموعة من الأدوات لإنفاذ القانون. معًا، تغطي هذه العناصر المستخدم والمُطور والمحقق.
ما الذي تنشره OpenAI فعليًا
ابدأ بالكشف. قام OpenAI بدمج مصنفات صور خارجية في أنظمته، بما في ذلك مصنف محتوى CSAM من Thorn، وهي منظمة غير ربحية تركز على تكنولوجيا سلامة الأطفال.
يتعامل هذا المُصنف مع وظيفتين منفصلتين. الأولى هي اكتشاف محتوى إباحي للأطفال المعروف من خلال مطابقة القيم المرجعية. والثانية هي تحديد المواد الجديدة، بما في ذلك الإصدارات المولدة بالذكاء الاصطناعي التي لم تُرَ من قبل.
الفرق مهم أكثر مما يبدو. يعمل مطابقة الهاش مثل قاعدة بيانات البصمات: يتم تقليل الصورة إلى توقيع رقمي فريد، ويتم التحقق من هذا التوقيع مقابل قائمة من مواد الإساءة المحددة مسبقًا.
لا يحتوي الصورة المولدة حديثًا على بصمة مسجلة، لذا فإن النظام الذي يتحقق فقط من القائمة سيسمح لها بالمرور. توجد فئات لتحديد المحتوى الجديد لتغطية هذه الفجوة من خلال تقييم ما تُظهره الصورة بدلاً من ما إذا كانت مسجلة مسبقًا.
القطعة الثانية توجد داخل ChatGPT نفسه. المستخدمون الذين يحاولون إنشاء أو الوصول إلى محتوى يُجسّم الأطفال سيواجهون الآن تحذيرات تلقائية، ويمكن أن تؤدي المحاولات المتكررة أو الجادة إلى حظر مؤقت أو تعليق الحساب.
بدأت هذه التدخلات في النشر التدريجي العالمي على الحسابات الشخصية في منتصف نوفمبر 2026. وهي لا تنطبق بعد على الحسابات المؤسسية أو الحسابات التعليمية أو بعض واجهات سطح المكتب.
خلف التحذيرات توجد طبقة أوسع من المصنفات في الوقت الفعلي التي يمكنها معالجة المحتوى النصي والصوري والصوتي. كما يشمل الأدوات مصنفات واعية بالسياق وكشفًا على مستوى المطالبة، مما يعني أنه يمكن وضع علامة على الطلب بناءً على ما يطلبه المستخدم، وليس فقط على ما ينتجه النموذج.
يحصل المطورون على تعليماتهم الخاصة. في 15 نوفمبر 2026، نشرت OpenAI إرشادات CSAM للمطورين عبر واجهة برمجة التطبيقات التي تشرح دمج مطابقة الهاش الإدراكي جنبًا إلى جنب مع المصنفات للمحتوى الجديد.
الترميز الإدراكي هو الأخ الأقل تطلبًا من الترميز القياسي. بدلاً من الحاجة إلى تطابق دقيق، يمكنه التعرف على صورة تم تغيير حجمها أو قصها أو تعديلها بشكل خفيف.
أخيرًا، هناك عملية الإبلاغ. تُبلغ OpenAI مركز الوطنية لmissing & Exploited Children (NCMEC) عن حالات CSAM المؤكدة، وهو مركز التصفية الأمريكي الذي يحول مثل هذه التقارير إلى إنفاذ القانون.
زادت التقارير المؤكدة عن محتوى استغلال أطفال جنسيًا من OpenAI إلى NCMEC بشكل كبير في عام 2025، وهو ارتفاع تُنسبه الشركة إلى نمو منتجاتها.
كيف وصلت OpenAI إلى هنا
في 8 أبريل 2026، أطلقت OpenAI خريطة طريق لسلامة الأطفال وُضعت بالتعاون مع NCMEC ومؤسسات أخرى.
اعتمد ذلك المستند بشكل كبير على السياسة. وشدد على ضرورة تحديث الأطر القانونية للتعامل مع محتوى الاستغلال الجنسي للأطفال المُنشأ بواسطة الذكاء الاصطناعي، وهي فئة لم تُكتب لها القوانين الحالية.




