AI کا عام لوگوں تک پہنچنا اس بات پر منحصر نہیں کہ وہ کتنی زیادہ مواد تخلیق کر سکتی ہے، بلکہ اس بات پر منحصر ہے کہ سماج اس کے تخلیق کردہ مواد پر اعتماد کرتا ہے یا نہیں۔

مضمون کے مصنف، ذریعہ: ME News



ٹی ایل؛ ڈی آر

• مرکزی انٹرنیٹ کیفے آفس نے "صاف اور صاف: AI اطلاق کی بے ترتیبیوں کا خاتمہ" مہم کا دوسرا مرحلہ شروع کیا ہے، جس کا مرکزی مقصد AI کے ذریعہ جعلی معلومات، ناپاک اور تشدد والے مواد، دوسروں کی شناخت کا دھوکہ دینا اور بچوں کے حقوق کی خلاف ورزی جیسے مسائل کو حل کرنا ہے۔ اب تک، 561 لاکھ سے زائد غیر قانونی اور غیر اخلاقی معلومات کو صاف کر دیا گیا ہے، 49,000 سے زائد اکاؤنٹس پر کارروائی کی گئی ہے، اور 2,400 سے زائد غیر قانونی ویب سائٹس اور ایپلیکیشنز پر کارروائی کی گئی ہے۔
• ڈوباؤ، یوان باؤ، چین ون، ون شن یی یان جیسے AI پلیٹ فارمز ای آئی کے تربیتی مواد کی جانچ، ماڈل سیکورٹی فلٹرنگ اور جنریٹڈ مواد کے شناختی نظام کو مضبوط بنانے پر زور دے رہے ہیں، جس کا بنیادی مقصد AI کی صلاحیتوں کو محدود کرنا نہیں بلکہ ٹیکنالوجی کے غلط استعمال کے خطرے کو کم کرنا ہے۔
• AI گورننس "خراب مواد کو ہٹانا" سے "مواد کے پیداواری عمل کو کنٹرول کرنے" کی طرف منتقل ہو رہا ہے، جس میں ماڈل ٹریننگ، ڈیٹا کے ذرائع، جنریشن اور پھیلاؤ کے راستے سب کو ریگولیٹری توجہ کا مرکز بنایا جا رہا ہے۔
• جینریٹو AI کی تجارتی مقابلہ، مستقبل میں صرف ماڈل پیرامیٹرز اور پروڈکٹ کے تجربے کا مقابلہ نہیں ہوگا، بلکہ اس میں سیکورٹی، کمپلائنس اور طویل مدتی اعتماد کا بھی مقابلہ ہوگا۔
• AI کا عام لوگوں تک پہنچنا اس بات پر منحصر نہیں کہ وہ کتنی زیادہ مواد تخلیق کر سکتی ہے، بلکہ اس بات پر منحصر ہے کہ سماج اس کے تخلیق کردہ مواد پر اعتماد کرتا ہے یا نہیں۔

ذکاوت کی ترقی کی رفتار، عوام کو ٹیکنالوجی کے حدود کے بارے میں مستقل طور پر نئی سمجھ دے رہی ہے۔

کچھ سال پہلے، لوگ AI کے بارے میں بات کرتے تھے، زیادہ توجہ ماڈل پیرامیٹرز، کمپوٹیشنل پاور، جواب کی معیار اور تجارتی سیناریوز پر ہوتی تھی۔ جس کے پاس بڑا ماڈل ہوتا تھا، جس کی استدلالی صلاحیت زیادہ تھی، وہ مستقبل جیت لے گا، اس بات پر زور دیا جاتا تھا۔

لیکن جب جنریٹو AI کا بڑے پیمانے پر استعمال شروع ہوا، تو ایک زیادہ عملی سوال سامنے آیا: اگر AI کچھ سیکنڈوں میں ایک متن، ایک تصویر، ایک آواز، یا پوری طرح کی مصنوعی معلومات تخلیق کر سکتا ہے، تو کون یہ یقینی بنائے گا کہ یہ مواد شائعت، عوامی رائے کو متاثر کرنے، اور حقوق کی خلاف ورزی کا نیا ذریعہ نہ بن جائے؟

یہ ایک دور کا سوال نہیں ہے۔

مرکزی انٹرنیٹ کی ایڈمنسٹریشن نے حال ہی میں “صاف اور درست: AI استعمال کی بے ترتیبی کا خاتمہ” مہم کا دوسرا مرحلہ شروع کیا ہے، جو اس حقیقی خطرے کے خلاف کارروائی ہے۔ اس مہم کا مرکزی مقصد AI کا استعمال کرکے جھوٹی معلومات جاری کرنا، تشدد اور ناپاک مواد کو فروغ دینا، دوسرے افراد کا نقل کرنا اور اطفال کے حقوق کو متاثر کرنا جیسے اہم مسائل کا خاتمہ کرنا ہے۔ اب تک، اس مہم نے 561 لاکھ سے زائد غیر قانونی اور غیر اخلاقی معلومات کو صاف کیا ہے، 49,000 سے زائد اکاؤنٹس پر کارروائی کی گئی ہے، اور 2400 سے زائد غیر قانونی ویب سائٹس اور ایپلیکیشنز پر کارروائی کی گئی ہے۔

ان اعداد کے پیچھے جو ظاہر ہوتا ہے، وہ AI ٹیکنالوجی کے خود مسائل نہیں بلکہ ایک تیزی سے ترقی کرتے صنعت کے بالغ مرحلے میں داخل ہونے کے بعد سامنے آنے والا انتظامی مسئلہ ہے۔

کوئی بھی ٹیکنالوجی جو معاشرے کے کام کرنے کے طریقے کو بدل دے، صرف کارکردگی میں اضافہ کی طرف نہیں ہوگی۔

انٹرنیٹ نے معلومات کی آزادی کو فروغ دیا، ساتھ ہی جھوٹی معلومات کے پھیلاؤ کو بھی لایا؛ موبائل ادائیگیوں نے مالی تجربہ تبدیل کیا، اور نئے فریڈ کے انداز پیدا کیے؛ شارٹ ویڈیوز نے مواد کی تخلیق کی سرحدیں کم کر دیں، اور ٹریفک کو ترجیح دینے والے مقابلے کا ماحول پیدا کیا۔

AI بھی ایسا ہی ہے۔

یہ پیداواری کارکردگی میں اضافہ کر سکتی ہے، اور ساتھ ہی کم لاگت والے قانون کے خلاف اعمال کو بھی بڑھا سکتی ہے۔

پہلے ایک جعلی مضمون یا جعلی ویڈیو بنانے کے لیے انسانی محنت کا بہت زیادہ وقت درکار ہوتا تھا۔ لیکن آج، AI نے مواد کی تیاری کی رکاوٹ کو کم کر دیا ہے، جس سے عام صارفین کے پاس ماہر ٹیموں کے برابر پیداواری صلاحیتیں ہو گئی ہیں۔ اگر موزوں حکومت کے نظام نہ ہوں، تو یہ تکنیکی فوائد کچھ لوگوں کے ہاتھوں میں افراتفری پھیلانے کے لیے استعمال ہو سکتے ہیں۔

اس لیے، AI حکومت نوآوری پر بریک نہیں لگا رہی، بلکہ تیز رفتار ترقی کے راستے پر محفوظ نظام شامل کر رہی ہے۔

کئی لوگوں کے ذہن میں ایک سوال ہو سکتا ہے: کیا AI کو نہیں ہونا چاہیے کہ وہ اتنی زیادہ کھلا ہو؟ تو اب اتنے زیادہ AI پروڈکٹس کیوں مصنوعات کی تخلیق پر پابندیاں لگانے لگے ہیں؟

اس سوال کا بنیادی مسئلہ یہ ہے کہ آرٹیفیشل انٹیلی جنس کے پروڈکٹس کی ذمہ داری کی سرحد کو کیسے سمجھا جائے۔

سنتی نرم افزار عام طور پر صرف ٹولز فراہم کرتا ہے، لیکن جنریٹو AI صرف ایک آسان ٹول نہیں ہے۔ یہ مواد کی پیداوار کے عمل میں شامل ہوتا ہے، اور صارفین کی سمجھ پر براہ راست اثر ڈالتا ہے۔

jab صارف AI سے سوال کرتا ہے، تو ماڈل کی پیداوار کی گئی معلومات سرمایہ کاری کے فیصلوں، صحت کے فیصلوں، تعلیمی سیکھنے، یا تاحال واقعات کی سمجھ پر اثر ڈال سکتی ہے۔ اس لیے، AI پلیٹ فارم کو صرف "کیا یہ تخلیق کیا جا سکتا ہے" پر توجہ دینے کے بجائے، "کیا تخلیق کیا جا رہا ہے"، "کیوں تخلیق کیا جا رہا ہے"، اور "تخلیق کے بعد کیا اثر پڑے گا" پر بھی غور کرنا چاہیے۔

دوبائو، یوان باؤ، چین ون، ون شن یہ یان جیسے پلیٹ فارمز کنٹینٹ گورننس کو مضبوط کر رہے ہیں، جس سے ایک نئی AI پروڈکٹ سیکیورٹی سسٹم قائم ہو رہا ہے۔ ویب اینڈ انفارمیشن ادارے کے اعلان کے مطابق، متعلقہ پلیٹ فارمز اصل کارکن مواد کی سخت جانچ کر رہے ہیں، غیر قانونی مواد کی فلٹرنگ کو مضبوط کر رہے ہیں، اور AI سے تخلیق شدہ مرکب مواد کے نشانات کی درخواستوں کو مضبوط کر رہے ہیں، تاکہ غیر قانونی اور قانون کے خلاف معلومات کے تخلیق اور پھیلاؤ کا خطرہ شروع سے ہی کم ہو سکے۔ (قومی مارکیٹ ریگولیشن اینڈ ایڈمنسٹریشن کمیشن)

اس کا مطلب ہے کہ AI حکومت اب صرف قدیم انٹرنیٹ دور کی "بعد میں حل" نہیں رہی۔

گذشتہ میں، پلیٹ فارم نے غیر قانونی مواد کے سامنے زیادہ تر دریافت، حذف اور بن کرنے کا طریقہ اپنایا۔

لیکن AI کے دور میں یہ الگ ہے۔

اگر مسئلہ تخلیق کے مرحلے میں ہو تو، صرف فروخت شدہ مواد کو حذف کرنا کافی نہیں ہے۔ کیونکہ AI نئے ورژنز لگاتار تخلیق کر سکتا ہے، اور ایک ہی خلاف ورزی کا مواد مختلف انداز میں دوبارہ ظاہر ہو سکتا ہے۔

اس لیے، حکمرانی کو آگے بڑھانا ہوگا۔

ٹریننگ ڈیٹا سے شروع کرتے ہوئے، ماڈل کی صلاحیتوں کے کنٹرول تک، اور پھر صارفین کے ذریعہ تخلیق کردہ مواد کی جانچ تک، مکمل لینک بن جاتا ہے۔

بس اس کا مطلب یہ ہے کہ مستقبل کے بہترین AI پروڈکٹس صرف سوالات کے جوابات زیادہ درست دینے تک محدود نہیں ہوں گے، بلکہ یہ بھی جانیں گے کہ کن سوالات کے جوابات نہیں دیے جا سکتے، کن مواد کو نہیں بنایا جا سکتا، اور کن صورتحال میں صارفین کو خطرات کی یاد دہانی ضروری ہے۔

یہی وجہ ہے کہ AI سیکیورٹی کابیلیٹیز مصنوعات کی مقابلہ کن صلاحیتوں کا حصہ بن رہی ہیں۔

تاہم، AI کے انتظام کا مطلب صرف ایک "پیدا کرنے سے منع" کی دیوار لگانا نہیں ہے۔

اگر پابندیاں زیادہ سخت ہو گئیں، تو AI پروڈکٹس کی قیمت کم ہو سکتی ہے۔

اگر حدود کم ہوں، تو اس سے خطرہ بھی ہو سکتا ہے۔

یہ ایک طویل عرصے تک جاری سرحدوں کا کھیل ہے۔

مثلاً، کوئی صارف AI کی مدد چاہتا ہے تاکہ ایک ناول لکھا جا سکے جس میں جنگ، جرائم، تنازعات جیسے عناصر شامل ہوں، کیا یہ违规 مواد ہے؟

ایک تحقیق کار چاہتا ہے کہ AI سائبر سیکیورٹی کمزوریوں اور مضر حملوں کے درمیان فرق کا تجزیہ کرے۔

ایک تاریخی دلچسپی رکھنے والے کو چاہتے ہیں کہ AI کلاسیکی اعمال کو دوبارہ تخلیق کرے، اس کا فیصلہ کیسے کریں کہ یہ مناسب تخلیق ہے یا ناپاک مزاح؟

یہ سب سوالات یہ ظاہر کرتے ہیں کہ AI کا انتظام صرف سادہ کلیدی الفاظ کے فلٹر پر انحصار نہیں کر سکتا۔

اصلی طور پر موثر حکومت، سیاق و سباق کو سمجھنے کی ضرورت ہوتی ہے۔

یہی وجہ ہے کہ پلیٹ فارم مسلسل متعدد ماڈل شناخت کی صلاحیت کو بڑھا رہے ہیں، جس میں چہرے کی ڈیٹا بیس، آواز کی نمونہ ڈیٹا بیس اور خلاف ورزی کے نمونوں کی ڈیٹا بیس کو ڈائنامک طور پر بڑھایا جا رہا ہے۔ ڈوئن ٹوک، کوئی شو، ویبو، تینگن، بائیدو، بیلی بیلی، شاوخون، زھیہو، دونگبائی، تاوباؤ جیسے پلیٹ فارمز AI مواد کی شناخت اور معالجہ کی صلاحیت کو تکنیکی طریقوں سے بڑھا رہے ہیں اور تکراراً 46 اعلانات جاری کر چکے ہیں۔ (قومی مارکیٹ ریگولیٹری انتظامیہ)

مستقبل میں AI سیکورٹی کا مقابلہ، اسٹریٹیک ڈرائیونگ شعبے کی طرح ہو سکتا ہے۔

اصلی طور پر جدید نظام، گاڑیوں کو مکمل طور پر چلنے سے روکنے کے بجائے، پیچیدہ حالات میں گاڑیوں کو محفوظ طریقے سے چلانے میں مدد کرتا ہے۔

AI بھی ایسا ہے۔

ایک بالغ AI صرف ایک ایسا نظام نہیں جو کچھ بھی نہیں کر سکتا، بلکہ کھلی صلاحیتوں اور جوکھم کے تحفظ کے درمیان توازن ہے۔

اس مہم کے دوران جاری کیے گئے کچھ کیسز AI کے غلط استعمال کی نئی شکلوں کو بھی ظاہر کرتے ہیں۔

ایک عام مسئلہ یہ ہے کہ AI کا استعمال کرکے کلاسیکی اعمال کی کم معیاری تبدیلی کی جاتی ہے۔

گزشتہ زمانے میں، نیٹ ورک کنٹینٹ کی پیداوار میں کم معیار کا ہونا تھا، لیکن پیداوار کی لاگت نے اس کے سائز کو محدود رکھا تھا۔

AI کے ظہور کے بعد، بڑے پیمانے پر پیداوار ممکن ہو گئی۔

کچھ اکاؤنٹس AI کا استعمال کرکے کلاسیکل اعمال جیسے "تھری کنگڈمز" اور "سائی یو جی" کو تبدیل کر رہے ہیں، جس میں کرداروں کے عقیدے تبدیل کرکے عجیب و غریب کہانیاں بنائی جاتی ہیں تاکہ ٹریفک کو کھینچا جا سکے۔ اس قسم کے مواد صرف تفریحی لگتا ہے، لیکن لمبے عرصے تک اور بڑی مقدار میں پھیلنے سے عوام کو ثقافتی مواد کے بارے میں سمجھنے میں اثر پڑ سکتا ہے اور اچھے مواد کے ماحول کو بھی متاثر کر سکتا ہے۔

ایک اور مسئلہ AI کے ذریعہ جعلی معلومات کی پیداوار ہے۔

پچھلے وقت میں ایک جعلی تصویر یا جعلی ویڈیو بنانے کے لیے اعلیٰ ٹیکنیکل صلاحیت کی ضرورت تھی۔

اب، جنریٹو AI نے رکاوٹوں کو کم کر دیا ہے۔

جھوٹے آفات کے مناظر، جھوٹے سماجی اہمیت والے معاملات، اور AI ڈیجیٹل انسانوں کے ذریعہ مارکیٹنگ کے دھوکہ بازی، سب ممکنہ طور پر عوام کی معلومات کی عدم توازن کا فائدہ اٹھا کر اثر ڈالتے ہیں۔ ویب کے ادارے کی جانب سے جاری کردہ اس نوٹیفکیشن میں AI کا استعمال کرکے جھوٹے آفات کے مناظر بنانا، سماجی اہمیت والے معلومات کا جھوٹا ایجاد کرنا، اور ڈیجیٹل انسانوں کے ذریعہ جھوٹی تبلیغ جیسے اعمال شamil ہیں۔

زیادہ قابل توجہ بات AI کی چہرہ اور آواز کا تبدیل کرنا ہے۔

آواز اور چہرہ، انسانوں کے لیے شناخت کا اہم انداز ہیں۔

جب AI کسی کی آواز، چہرے کے اظہار، یا حتیٰ کہ رویے کی عادات کو نقل کر سکے تو، شناخت کے اعتماد کے نظام کو نئی چیلنج کا سامنا ہے۔

یہ صرف مشہور افراد تک محدود نہیں بلکہ عام صارفین بھی شامل ہیں۔

آج، کسی کی تصویر، آواز کے مواد، سب کچھ غلط استعمال کی جانے والی ڈیٹا کے ذرائع بن سکتے ہیں۔

اس لیے، AI کے دور میں ڈیٹا کی حفاظت صرف معلومات کے نکل جانے سے بچنے تک محدود نہیں، بلکہ اس کے علاوہ یہ بھی شامل ہے کہ ذاتی شناخت کو ڈیجیٹل طور پر نقل نہ کیا جائے۔

گزشتہ کچھ سالوں میں چین کا AI صنعت تیزی سے ترقی کر رہا ہے۔

بڑے ماڈلز کے ترقی سے لے کر ذہین مددگار تک، اور پھر آفس، تعلیم، ای کامرس، سرچ جیسے استعمال کے شعبوں تک، AI تکنیکی نمائش کے مرحلے سے عملی استعمال کے مرحلے میں داخل ہو رہا ہے۔

لیکن عام صارفین کے قریب آنے کے ساتھ سیکورٹی کا مسئلہ زیادہ اہم ہو جاتا ہے۔

ایک کاروبار مدل کے کبھی کبھار غلط جوابs کو قبول کر سکتا ہے، لیکن مدل کے مستقل جھوٹی معلومات پیدا کرنے کو قبول نہیں کر سکتا۔

کوئی صارف AI کی صلاحیتوں کی محدودیت کو قبول کر سکتا ہے، لیکن AI کے ذریعے دھوکہ دہی کرنے کو قبول نہیں کر سکتا۔

تو، مستقبل میں AI صنعت کی مقابلہ صرف ٹیکنالوجی کا مقابلہ نہیں ہوگا۔

پیمانہ کا سائز ضروری ہے، الگورتھم کی صلاحیت ضروری ہے، لیکن اعتماد بھی ضروری ہے۔

کیوں فنانشل صنعت کو کمپلائنس پر اتنی اہمیت دی جاتی ہے؟

کیونکہ مالیاتی مصنوعات فنڈز کو جوڑتی ہیں۔

چرا صنعت طب کو حفاظت پر اتنی اہمیت دی جاتی ہے؟

کیونکہ طبی فیصلے زندگیوں کو متاثر کرتے ہیں۔

اور AI آہستہ آہستہ علم، معلومات اور فیصلوں کو جوڑ رہا ہے۔

اس کے لیے اعتماد کی بنیاد بھی قائم کرنی ہوگی۔

اس نظریے کے مطابق، سائبر ایڈمنسٹریشن کی اس کارروائی AI کی ترقی کے خلاف نہیں بلکہ AI صنعت کو زیادہ بالغ ترقی کے مرحلے کی طرف لے جانے کے لیے ہے۔ نگرانی واضح حدود طے کرتی ہے، پلیٹ فارم اپنی صلاحیتیں بڑھاتے ہیں، اور صارفین اپنی سمجھ بڑھاتے ہیں، جس سے آخرکار ایک صحت مند ماحول تشکیل پاتا ہے۔

ٹیکنالوجی کے ترقی کے تاریخی سلسلے نے بار بار ثابت کیا ہے کہ ایک صنعت حقیقت میں نضج تک پہنچتی ہے، جب وہ کتنے معاملات حل کرنے میں کامیاب ہو جائے، نہ کہ جب وہ کتنے معجزے پیدا کر سکے۔

AI نے اپنی تخلیقی صلاحیت ثابت کر چکا ہے۔

یہ لوگوں کو لکھنے، پروگرامنگ کرنے اور سیکھنے میں مدد کرتا ہے، اور کاروباروں کی کارکردگی بڑھانے میں بھی مدد کرتا ہے۔

لیکن اگلے مرحلے میں، AI کو ایک اور بات ثابت کرنی ہوگی: کیا وہ قابل اعتماد ہے۔

ڈوباؤ، یوان باؤ، چین ون، ون شین یی یان جیسے پلیٹ فارمز غیر قانونی مواد کی پابندیوں کو مضبوط کر رہے ہیں، جو بنیادی طور پر ایک اہم سوال کا جواب دے رہے ہیں:

جب مصنوعی ذہن کی تخلیقی صلاحیتیں مزید بڑھتی ہیں، تو کیا اس کی صلاحیتوں کے مطابق ذمہ داری کا احساس بھی ہوتا ہے؟

جواب صرف کچھ AI مصنوعات کے ترقی کے رخ کو ہی نہیں، بلکہ پورے صنعت کو لمبے عرصے تک مستحکم ترقی کے دور میں لانے کا فیصلہ بھی کرتا ہے۔

ذکاوت کا مستقبل، صرف زیادہ سے زیادہ مواد بنانے والے نظاموں کا نہیں ہوگا، بلکہ تخلیقیت، سلامتی اور سماجی قیمت کے درمیان توازن قائم کرنے والے نظاموں کا ہوگا۔

اصلی عظیم ٹیکنالوجی کبھی اس لیے نہیں ہوتی کہ وہ سب کچھ کر سکتی ہے، بلکہ اس لیے ہوتی ہے کہ وہ جانتی ہے کہ کیا نہیں کرنا چاہیے اور کیوں نہیں کرنا چاہیے۔

1. مرکزی سائبر سیکیورٹی اور معلوماتی کمیٹی: "مرکزی سائبر افیئرز آفس کی جانب سے 'صاف کریں: AI اطلاق کی بے ترتیبیوں کو ختم کرنے' کے مہم کے دوسرے مرحلے کا آغاز"، 2 جولائی 2026۔
2. مرکزی سائبر سیکیورٹی اور معلوماتی ترقی کمیٹی: "صاف کریں: AI اطلاقات کی بے ترتیبی کا خاتمہ" مہم کا آغاز، 30 اپریل، 2026۔
3. "جینریٹو AI سروسز کے انتظام کا عارضی طریقہ کار"، قومی انٹرنیٹ معلومات دفتر، 2023ء۔
4. "ذکا ء کی تخلیقی مواد کی شناخت کا طریقہ کار"، قومی انٹرنیٹ معلومات دفتر، 2025ء۔
5. رسل، اسٹورٹ اور نوروگ، پیٹر۔ ذکی انسانیت: ایک جدید نقطہ نظر. پیرسن۔
6. شنايدرمن، بن۔ انسانی مرکوز AI۔ اکسفورڈ یونیورسٹی پریس۔