اوپن اے آئی تصویر طبقہ بند کرنے اور چیٹ جی پی ٹی انتباہات لگا کر AI سے بنائی گئی CSAM کے خلاف لڑ رہا ہے

iconCryptoBriefing
بانٹیں
AI summary iconخلاصہ
ای آئی اور کرپٹو خبریں یہ ہوئیں کہ اوپن اے آئی نے بچوں کی جنسی سرگرمیوں کے مواد کے پتہ لگانے کے لیے ٹولز جاری کیے، جن میں ایک تصویر طبقہ بندی اور چیٹ جی پی ٹی انتباہات شamil ہیں۔ یہ نظام ہیش میچنگ اور اے آئی کا استعمال کرتا ہے تاکہ نئے CSAM کو پکڑا جا سکے۔ نومبر 2026 کے وسط میں شروع کیا گیا، اس میں ڈویلپرز اور قانون نافذ کرنے والے اداروں کے لیے ٹولز شامل ہیں۔ اوپن اے آئی نے NCMEC کو اپنی دریافتیں رپورٹ کیں۔ نئے ٹوکن کی فہرست بندی کرپٹو مارکیٹس کے لیے اہم ترین توجہ کا مرکز رہتی ہے۔

OpenAI نے بچوں کی جنسی تشدد کے مواد (CSAM) کے لیے ایک نئے ٹولز کا اعلان کیا ہے۔ اس کا مرکزی عنصر ایک تصویر طبقہ بند کنندہ ہے جو ایسی مواد، بشمول AI د्वارا تخلیق کی گئی تصاویر، کو شناخت کرنے کے لیے تعمیر کیا گیا ہے۔

اس کا اطلاق چار حصوں پر مشتمل ہے: نیا تصویر طبقہ بند کنندہ، چیٹ جی پی ٹی کے اندر انتباہات اور عارضی بلاکس، ڈیولپرز کے لیے ایک نیا ہدایت نامہ، اور قانون نافذ کرنے والے اداروں کے لیے ایک ٹولز کا مجموعہ۔ اس کے ساتھ، صارف، تعمیر کرنے والا، اور تحقیق کرنے والا تینوں کو شامل کیا جاتا ہے۔

اوپن اے آئی کیا حقیقت میں ڈپلو کر رہا ہے

تشخیص کے ساتھ شروع کریں۔ اوپن اے آئی نے اپنے نظاموں میں باہری تصویر طبقہ بند کرنے والے شامل کر دیے ہیں، جن میں چائلڈ سیفٹی ٹیکنالوجی پر مبنی غیر منافع بخش تنظیم تھورن کا CSAM مواد طبقہ بند کرنے والا بھی شامل ہے۔

وہ طبقہ بندی دو الگ کاموں کو سنبھالتی ہے۔ پہلا کام ہیش میچنگ کے ذریعے معلوم CSAM کو پکڑنا ہے۔ دوسرا نئے مواد، جس میں ای آئی جنریٹڈ ورائنٹس بھی شامل ہیں جو پہلے کبھی نہیں دیکھے گئے، کو نشان زد کرنا ہے۔

یہ فرق اس سے زیادہ اہم ہے جتنا کہ سننے میں آتا ہے۔ ہیش میچنگ ایک انگریزی ڈیٹا بیس کی طرح کام کرتا ہے: ایک تصویر کو ایک منفرد ڈیجیٹل دستخط میں تبدیل کر دیا جاتا ہے، اور اس دستخط کو پہلے سے شناخت شدہ غلط استعمال کے مواد کی فہرست کے خلاف چیک کیا جاتا ہے۔

ایک تازہ جنریٹ کیا گیا تصویر کا فنگر پرنٹ فائل میں نہیں ہوتا، اس لیے صرف فہرست چیک کرنے والا سسٹم اسے آسانی سے گزاردے گا۔ نویل-کنٹینٹ طبقہ بند کرنے والے سسٹم اس خلا کو بھرنے کے لیے موجود ہیں جو یہ جانچتے ہیں کہ تصویر کیا ظاہر کرتی ہے، نہ کہ اسے درج کیا گیا ہے یا نہیں۔

دوسرا حصہ ChatGPT کے اندر موجود ہے۔ جو صارفین بچوں کو جنسی طور پر علامت بنانے والی مواد بنانے یا اس تک رسائی حاصل کرنے کی کوشش کریں گے، اب انہیں خودکار انتباہات ملیں گی، اور دہرائے جانے یا سنگین کوششوں کے نتیجے میں عارضی بلاک یا اکاؤنٹ کی معطلی کا سامنا کرنا پڑ سکتا ہے۔

یہ مداخلتیں نومبر 2026 کے درمیان ذاتی اکاؤنٹس پر تدریجی عالمی اطلاق شروع ہوئیں۔ اب تک یہ کاروباری اکاؤنٹس، تعلیمی اکاؤنٹس، یا کچھ دیسک ٹاپ انٹرفیسز پر لاگو نہیں ہوتیں۔

چیتنیوں کے پیچھے ایک وسیع تر لیورل ہے جو متن، تصویر اور آڈیو مواد کو فوری طور پر طبق کر سکتی ہے۔ ٹول کٹ میں ماحول کے مطابق طبقہ بندی اور پرومپٹ سطح پر تشخیص بھی شامل ہے، جس کا مطلب ہے کہ درخواست کو صرف اس بات پر نہیں بلکہ صارف کی درخواست کے مطابق بھی نشان زد کیا جا سکتا ہے۔

ڈیولپرز کو اپنے خود کے ہدایات ملتے ہیں۔ 15 نومبر، 2026 کو، OpenAI نے API ڈیولپرز کے لیے CSAM ہدایات جاری کیں جو نئے مواد کے لیے感知 ہیش میچنگ کو کلاسیفائرز کے ساتھ اندراج کرنے کے عمل کو سمجھاتی ہیں۔

پریسپچوئل ہیشنگ معیاری ہیشنگ کا زیادہ سہولت پذیر بھائی ہے۔ اس کا مقصد بالکل مطابقت کی ضرورت نہیں رکھتا، بلکہ اسے تبدیل شدہ، کٹ ہوئی یا ہلکی طرح ترمیم شدہ تصویر کو پہچاننے کی صلاحیت ہوتی ہے۔

آخر میں، رپورٹنگ پائپ لائن ہے۔ OpenAI نے تصدیق شدہ CSAM کی رپورٹ NCMEC، یعنی امریکہ کے نیشنل سینٹر فار مسنگ اینڈ ایکسپلوٹڈ چائلڈرن کو کی ہے، جو ایسی رپورٹس کو قانون نافذ کرنے والے اداروں کو رجوع کرتا ہے۔

2025 میں OpenAI سے NCMEC کو تصدیق شدہ CSAM رپورٹس میں کافی اضافہ ہوا، جس میں کمپنی اپنے پروڈکٹس کے اضافے کو ذمہ دار قرار دیتی ہے۔

اوپن اے آئی کیسے یہاں تک پہنچا

8 اپریل، 2026 کو، OpenAI نے NCMEC اور دیگر اداروں کے ساتھ مل کر ایک بچوں کی حفاظت کا منصوبہ جاری کیا۔

اس دستاویز پر پالیسی کا زور زیادہ تھا۔ اس نے زور دیا کہ قانونی فریم ورکس کو جدید بنایا جانا چاہیے تاکہ AI سے بنائے گئے CSAM کے ساتھ نمٹا جا سکے، ایک ایسا شعبہ جس کے لیے موجودہ قوانین میں کبھی نہیں سوچا گیا تھا۔

اعلان دستبرداری: اس صفحہ پر معلومات تیسرے فریق سے حاصل کی گئی ہوں گی اور یہ ضروری نہیں کہ KuCoin کے خیالات یا خیالات کی عکاسی کرے۔ یہ مواد کسی بھی قسم کی نمائندگی یا وارنٹی کے بغیر صرف عام معلوماتی مقاصد کے لیے فراہم کیا گیا ہے، اور نہ ہی اسے مالی یا سرمایہ کاری کے مشورے کے طور پر سمجھا جائے گا۔ KuCoin کسی غلطی یا کوتاہی کے لیے، یا اس معلومات کے استعمال کے نتیجے میں کسی بھی نتائج کے لیے ذمہ دار نہیں ہوگا۔ ڈیجیٹل اثاثوں میں سرمایہ کاری خطرناک ہو سکتی ہے۔ براہ کرم اپنے مالی حالات کی بنیاد پر کسی پروڈکٹ کے خطرات اور اپنے خطرے کی برداشت کا بغور جائزہ لیں۔ مزید معلومات کے لیے، براہ کرم ہماری استعمال کی شرائط اور خطرے کا انکشاف دیکھیں۔