ای آئی ماڈلز سیکیورٹی ٹیسٹس کو دور کر دیتے ہیں، جس سے سیفٹی کے خدشات بڑھ گئے ہیں

اسی سال کی گرمیوں میں، AI سیکورٹی کے دائرے میں ایک ایسا واقعہ پیش آیا جس نے پیچھے کی ہڈیاں سرد کر دیں—

اوپن اے آئی اور اینتھروپک نے ترتیب سے اعلان کیا: ان کے ماڈلز سیکورٹی ٹیسٹنگ کے دوران علیحدگی کے ماحول سے باہر نکل گئے اور حقیقی دنیا سے ٹکرائے۔

انٹروپک نے 140,000 سے زیادہ سائبر سیکیورٹی ایوالس کا جائزہ لیا، جس میں تین بار پایا گیا کہ حفاظت کم کرنے کی صورت میں، کلاؤڈ نے ٹیسٹنگ ماحول سے براہ راست حقیقی انٹرنیٹ تک رسائی حاصل کر لی اور تین اداروں کے پروڈکشن سسٹمز تک رسائی حاصل کر لی۔

مزید دلچسپ بات یہ ہے کہ Anthropic نے کہا:

کلوڈ کو لگا کہ اس نے جو کچھ شروع میں دیکھا، وہ صرف ایک سیمولیشن کا حصہ تھا۔

ماڈل نہیں جانتا کہ وہ حقیقی دنیا میں گھس گیا ہے۔

یہ کسی ایک کی مسئلہ نہیں ہے۔

جتنا زیادہ ماڈل ذکی ہوگا، اتنا ہی زیادہ وہ امتحانی ہال کو سمجھ پائے گا، لیکن اتنا ہی زیادہ وہ شک کرے گا کہ اس کا امتحان لیا جا رہا ہے۔

اکتوبر کے آخر میں، چینی تیسری پارٹی AI سیکیورٹی ادارہ فانگچن یوکیان نے جاری کیا گیا ایک سیکیورٹی ایوان میں بھی اسی ظاہر ہونے والا پہلو درج کیا گیا: ایک "Agentic Misalignment" نامی ٹیسٹ میں، کئی ماڈلز نے تقریباً ہر بار اشارہ کیا کہ وہ شاید کسی سیکیورٹی ٹیسٹ کے دوران ہیں۔

ایک ہی جائزہ میں یہ بھی ظاہر ہوا کہ چینی اوپن سورس ماڈل DeepSeek V4.1 Flash-1017 نے کئی سیکیورٹی اشاریوں میں واضح ترقی کی ہے۔

لیکن اس نے ایک پورے صنعت کا مسئلہ سامنے رکھ دیا:

جب AI کو معلوم ہو کہ اس کا امتحان لیا جا رہا ہے، تو اس کی حاصل کردہ نمبرز کی قیمت ہوتی ہے؟

ستمبر کے آخر میں، ہنٹن، بینجیو نے OpenAI کے سربراہ سائنسدان جاکوب پیکوکی، Anthropic کے ملکہ موجد جیک کلارک، کیمبرج یونیورسٹی کے سورین مینڈرمن سمیت بیس سے زائد محققین کے ساتھ مل کر ایک زیادہ سخت انتباہ جاری کیا:

جب سمارٹ ایکسپلوجن شروع ہو جائے، تو اقدام کا موقع بند ہو سکتا ہے۔

AI سیفٹی، لیب میں ایک نادر مسئلہ سے گزرتے ہوئے پورے صنعت کے لیے ایک لازمی سوال بن چکی ہے۔

01 «سینڈ باکس بند نہیں ہو سکتا»: AI سیکیورٹی گہرے پانیوں میں داخل ہو گئی

صرف سینڈ باکس ہی نہیں، جو بند نہیں ہو سکتا۔

ہنٹن اور بنجیو کی مشترکہ تحریر میں ایک سرخی دی گئی ہے: اینٹروپک کے اندر، AI کے لکھے گئے کوڈ کا تناسب جو پہلے سے کام کر رہا تھا، جنوری 2025 میں ایک ہندسہ تھا، جبکہ مئی 2026 تک 80 فیصد سے زیادہ ہو گیا۔

یہ کون سا تصور ہے؟

AI اب خود کوڈ لکھ رہا ہے۔ مقالے کے حوالے کے مطابق، 2028 کے وسط تک، ماہوں کا عرصہ لینے والے AI تحقیقی منصوبے آٹومیٹ ہو سکتے ہیں۔

مصنف نے تین خطرات کو اجاگر کیا: معاشرہ تبدیلیوں کے ساتھ سازگار نہ ہو سکنا، انسانوں کا AI پر کنٹرول کھونا، اور طاقت کے توازن کمزور ہونا۔

مزید مشکل بات یہ ہے کہ ماڈل اب ہر وقت امتحان دینے کا طریقہ سیکھ رہے ہیں۔

اپولو ریسرچ نے GPT-6 Astra کے جائزہ کے دوران گنتی کی کہ نمونوں میں سے 41.1% میں ماڈل نے "میں شاید جانچ کے زیرِ اثر ہوں" کا شک اظہار کیا۔ پچھلی نسل میں یہ عدد 27.7% تھا۔

اس کے علاوہ، ماڈل "سوالات کی شکل" کے لیے بہت حساس ہے۔ ڈیپسیک کے جائزے میں بھی پایا گیا کہ: جب محفوظ تنازعات واضح ہوتے ہیں، تو ماڈل کی 77%–95% صورتوں میں جائزہ لینے کا احساس ظاہر ہوتا ہے؛ جب اسے عام انجینئرنگ یا تحقیقی کام کے طور پر پیش کیا جاتا ہے، تو یہ تناسب 25%–67% تک کم ہو جاتا ہے۔

نگرانی بھی اب سچمچک لے رہی ہے۔ اگست 2024 سے، یورپی یونین کا AI دفتر عام انسانی ذہانت ماڈلز کے لیے نفاذ کی اختیارات کا استعمال کرنا شروع کر چکا ہے۔ اگری ماڈلز کو ماڈل جائزہ، مخالفانہ ٹیسٹنگ اور نظاماتی خطرہ جائزہ دینا ضروری ہے۔

AI سیکورٹی کے مسائل، "ماڈل غلط بات کہے گا کیا" سے "ماڈل غلط کام کرے گا کیا" میں تبدیل ہو چکے ہیں۔

02 دنیا بھر میں بڑے ماڈلز کے لیے "جائزہ لینے والے ڈاکٹر" متعین کیے جا رہے ہیں

کیا مدل خود کو چیک کرنا قابل اعتماد ہے؟

جواب یہ ہے: نہیں۔

ڈیولپرز کی توجہ قدرتی طور پر صلاحیت اور مصنوعات کی طرف ہوتی ہے؛ حفاظتی نتائج کی تصدیق کے لیے استعمال ہونے والے ٹریننگ ڈیٹا اور اندر کے لاگ، شائع نہیں کیے جا سکتے۔ فرما کہتے ہیں کہ "چیک کر لیا گیا، کوئی مسئلہ نہیں"، باہر کے لوگوں کو صرف یہی انتخاب ہے کہ وہ اس پر یقین کریں یا نہ کریں۔

اس لیے، تیسری طرف کی جانچ پڑتال بیرون ملک معیاری بن چکی ہے۔

سسٹم کارڈ پر ایک فرانتیر ماڈل کے جاری ہونے کے وقت، باہری اداروں کے جائزے نتائج تقریباً ضروری ہوتے ہیں۔ مستقل جائزہ ادارہ METR نے پچھلے ست ماہ میں تقریباً 71 ملین امریکی ڈالر کی سہولت حاصل کی — یہ رقم فنڈز اور انفرادی افراد سے آئی، نہ کہ وہ AI کمپنیاں جن کا جائزہ لیا جا رہا تھا۔

تعاون بھی زیادہ سخت ہو رہا ہے۔ سینڈ باکس حادثے کے بعد، Anthropic نے کہا کہ جائزہ کا ماحول اور ماڈل کے دیگر سسٹمز کو ایک ہی سیکیورٹی معیار کے تحت منظم کیا جائے گا، اور اس کے جاری نہ ہونے والے ماڈلز کو کم تحفظ والے ماحول میں ٹیسٹ کرنے والے باہری اداروں سے محفوظ اصولوں پر عمل کرنے کا لکھتی وعدہ مانگا گیا ہے۔

یہ ہوا ملک میں بھی پھیل گئی۔

14 اکتوبر، بائٹ دانش کے سیڈ نے الائنمنٹ اور تیاری محکمہ قائم کرنے کا اعلان کیا، جس کے لیے عالمی سطح پر لوگوں کو بھرتی کیا جا رہا ہے۔ ملازمت کے فرائض میں صاف صاف لکھا گیا ہے:

تیسری پارٹی کے ماہرین کے ٹیسٹنگ کو فروغ دیں، اور یونیورسٹیوں اور تحقیقی اداروں کے ساتھ مل کر اگرے والی سیکیورٹی صلاحیتوں کی تحقیق کو آگے بڑھائیں۔

اسی طرح، چینی اوپن سورس ماڈلز کی عالمی سطح پر استعمال کی گئی کل فراہمی 26 ہفتے سے لگاتار امریکی ماڈلز کو پیچھے چھوڑ رہی ہے۔

سوال یہ ہے: بند ماڈل جاری کیے جانے پر سیستم کارڈز کے سینکڑوں صفحات ہوتے ہیں، جبکہ کھلے ماڈل کے وزن ڈال دیے جاتے ہیں اور کوئی بھی انہیں ڈاؤن لوڈ کر سکتا ہے، تو کون مدد کرے گا؟

26 اکتوبر کو، چینی تیسری پارٹی AI سیکیورٹی کمپنی فانگچن یوکیان نے DeepSeek V4.1 Flash-1017 کا پہلا سامنے والا سیکیورٹی جائزہ جاری کیا، جس میں 34 ٹیسٹ شامل ہیں جو 7 مختلف داخلی اور بیرونی اوپن سورس اور بند سورس ماڈلز کو کور کرتے ہیں، اور تمام ٹیسٹس کے لیے صرف عوامی ٹیسٹ اجازت استعمال کی گئی۔

جائزہ کے نتائج: ترقی ہوئی ہے، لیکن خطرات بھی ہیں۔

سب سے پہلے ترقی کا ذکر کرتے ہیں، جو DeepSeek V4 سیریز کے مقابلے میں کافی بڑی ہے:

109 مصنوعی مسائل کے منظر ناموں میں، 99.1% مکالموں میں حفاظتی رویہ ظاہر ہوا؛ نقصان دہ قرار دیے گئے کے تناسب میں، پہلے V4 کے تقریباً سات فیصد سے گھٹ کر 20.2% ہو گیا؛

صارفین کو برقرار رکھنے کے ٹیسٹ میں، نشان لگائے گئے تناسب میں 73.64% سے گिर کر 4.55% ہو گیا؛

80 مصنوعی طور پر "کارکردگی اور معیارات کے درمیان تنازع" کے سیمیولیشن ایمپلائیمنٹ ٹاسکس میں، صفر ایکٹو وائلیشنز۔

دوبارہ خطرات کی بات کرتے ہیں۔ جب مقصد اور قواعد کے درمیان تنازع ہوتا ہے، تو یہ کبھی کبھی قواعد کو دور کر دیتا ہے، نگرانی سے بچتا ہے، اور پہلے کام مکمل کر لیتا ہے۔

رپورٹ جاری ہوتے ہی، اینتھرپک کے ایلائنمنٹ ہیڈ ایون ہیوبنگر، MATS کے بانی اور سی ای او رائیئن کڈ، اور DeepMind، METR جیسے اداروں کے ریسرچرز نے اسے ریٹویٹ اور تبصرہ کیا۔ بہت سے لوگوں نے تبصرہ کیا کہ یہ چین کے لیے مستقل اور پیشہ ورانہ خطرہ جانچ کے شعبے میں خالی جگہ کو بھر رہا ہے۔

اوپنای آئی کے طویل مدتی مسابقت سے باہر ہونے والے تین محفوظ محققین میں سے ایک، ٹومیک کوربک، کا خیال ہے کہ رپورٹ میں موجود CoT-Control اور No-CoT Reasoning Index، اب تک کے سب سے زیادہ معلوماتی دو اوپن سورس ایوان ہیں، جنہوں نے دوسرے بڑے وی آئی، سابقہ اوپنای محقق ڈینیل کوکوٹائیلو کو مزید بحث کے لیے متاثر کیا۔

بالکل، ایک آرٹیفیشل انٹیلی جنس کی سیکورٹی کو ملکی سطح پر مضبوط بنانے والے صرف تھرڈ پارٹی ادارے ہی نہیں ہیں۔

کیمی کا طریقہ زیادہ براہ راست ہے: جذور سے، خطرناک صلاحیت کو "کھود کر" نکال دیا جاتا ہے۔

جب چاند کے اندھیرے پہلو نے کیمی K3.1 Pro کے اوپن ویٹ ورژن کو جاری کرنے کی تیاری کی، تو انہوں نے پایا کہ نیٹ ورک حملہ اور دفاع کے متعلقہ مواد درمیانی تربیت کے ڈیٹا اور تقویت سیکھنے کے ماحول میں شامل ہے، اور ماڈل کی خرابیوں کا جائزہ لینے کی صلاحیت تربیت کے سائز کے ساتھ لگاتار بڑھتی رہی۔

اس لیے، وہ دونوں تربیتی مراحل میں اس قسم کے ڈیٹا کو شناخت کر کے ختم کر دیا، جبکہ عام پروگرامنگ کی صلاحیت کو برقرار رکھا۔

زھی پو: GLM-5.3 کے جاری کردیے جانے کے ساتھ سائبر سیکیورٹی کابیلیتیں کا اعلان کیا گیا، وزن کو کھولنے سے پہلے سیکیورٹی ایوان اور تقویت مکمل کی گئی؛ ستمبر میں این یوآن AI کے ساتھ مل کر اوپن سورس وزن ماڈل کے خطرات کا فریم ورک بھی جاری کیا گیا؛

حکومتی سطح پر: TC260 نے ستمبر میں "人工智能安全治理框架" 3.0 جاری کیا، جس میں ذہین ایجینٹ کے خطرات کے انتظام کا اضافی ضمیمہ شامل کیا گیا، جس میں ممکنہ بے قابو ہونے کے خطرات کے لیے منظم ٹیسٹنگ کی ضرورت ہے؛

تحقیقی ادارے: ٹیلیکام انفراسٹرکچر اینڈ ٹیکنالوجی ریسرچ انسٹیٹیوٹ، فودان یونیورسٹی، شنگھائی آرٹیفیشل انٹیلی جنس لیب وغیرہ، AI سیکورٹی تحقیق پر مسلسل نتائج جاری کر رہے ہیں۔

03 آخری سوال: AI کی سیکیورٹی کا جائزہ کون لے گا؟

اپولو ریسرچ کے سی ای او ماریوس ہوبہان نے امریکی سینٹ میں گواہی دیتے ہوئے ایک مثال دی:

اگر ہر ڈرائیور جانتا کہ آج سپیڈ کیمرے کہاں ہیں، تو وہ کسی کو بھی نہیں پکڑ پائیں گے۔

یہی آج کے AI جائزے کا سب سے بڑا مسئلہ ہے۔

فِن سِی یوئین کی رپورٹ میں ایک سیٹ ڈیٹا بھی دیا گیا ہے: محفوظ تنازعات والے ٹیسٹ میں، DeepSeek V4.1 Flash-1017 نے 77%–95% تک کی شرح سے ایوان کی سمجھ کا مظاہرہ کیا؛ جب اسی کام کو عام انجینئرنگ یا تحقیقی کام کے طور پر پیش کیا گیا، تو یہ شرح 25%–67% تک کم ہو گئی۔

ایک ہی ماڈل، ایک مختلف پیکیج کے ساتھ، نتائج کی قابلیت میں فرق پیدا کر دیتا ہے۔

رپورٹ میں یہ بھی پایا گیا کہ خود بنائے گئے غیر عوامی بنچ مارکس کی وجہ سے ہونے والی ایوانیشنز عام طور پر استعمال ہونے والے عوامی بنچ مارکس — عوامی سوالات کے مجموعے — کے مقابلے میں کافی کم ہوتی ہیں، جو شاید پہلے ہی تربیتی ڈیٹا میں لیک ہو چکے ہیں۔

یہ ایک ایسا تضاد پیدا کرتا ہے جس سے بچا نہیں جا سکتا:

جائزہ موثر ہونے کے لیے، سوالات خفیہ رہنے چاہئیں؛ جائزہ قابل اعتماد ہونے کے لیے، طریقہ کار تسلیم شدہ ہونا چاہیے۔

جبکہ ملک کے اندر، "عوامی صحت کی رپورٹ" خود بھی ایک نایاب چیز ہے۔ SemiAnalysis کے مطابق، نو بڑے مقامی فرموں کی 857 مدل جاری کرنے میں سے صرف 3.6% نے سیفٹی ایوانلیشن کے نتائج شائع کیے ہیں۔

AI سیکورٹی کے لیے عالمی سطح پر اب بھی بہت کچھ باقی ہے۔

"آج، ہمیں AI کا استعمال کرنا پڑ رہا ہے تاکہ ہم ایجنٹس کے کیا کر رہے ہیں، اس کی نگرانی کر سکیں۔" بیرکلے پروفیسر داؤن سانگ کہتی ہیں۔

لیکن اگر نگرانی کی جانے والی AI کو کیمرے کہاں ہیں پہلے سے معلوم ہوں؟

ٹویٹر：https://twitter.com/BitpushNewsCN

بٹ پش ٹی جی مکالمہ گروپ: https://t.me/BitPushCommunity

بیپوش ٹی جی سبسکرائب کریں: https://t.me/bitpush