مصنف | ٹیکنو کا بادشاہ
ایڈیٹ｜جینگ یو
سب سے پرانا انٹرنیٹ کا خوف، AI کے ذریعے زندہ کر دیا گیا
2006 کے آخر میں، ایک پانڈا نے ملاں میں سے لاکھوں کمپیوٹرز کو تباہ کر دیا۔
ایک پانڈا جو تین دیاں ہوئی چھڑیاں تھامے ہوئے ہے، مسکرا رہا ہے، اور ہر انفیکٹ فائل کے آئیکن پر ظاہر ہوتا ہے۔ "پانڈا جل رہا ہے" وائرس دو ماہ کے اندر پورے ملک میں پھیل گیا، قابل اجراء فائلیں تمام وہ عجیب پانڈا کا تصویری پیٹرن بن گئیں، ہارڈ ڈرائیو کا ڈیٹا تباہ ہو گیا، لین کا پورا سیکشن بند ہو گیا، اور اینٹی وائرس سافٹ ویئر وائرس کے خلاف مارا گیا۔
اس عہد کے انٹرنیٹ کے پرانے صارفین یاد رکھتے ہوں گے کہ ویب سائٹ کھولنا دل دھڑکنا تھا، یو ایس بی ڈرائیو لگانا جیسے بڑی خطرہ ہو، اور اگر کسی ساتھی کے کمپیوٹر میں وائرس آ جائے تو آپ کا بھی متاثر ہو جاتا تھا۔
اس سے پہلے CIH تھا، جو براہ راست مادر بورڈ کے BIOS کو جلا دیتا تھا اور ہارڈویئر کو خراب کر دیتا تھا؛ ایک شاک ویو کیڑا تھا جس کے لیے آپ کو کوئی کارروائی کرنے کی ضرورت نہیں تھی، صرف اینٹرنیٹ کی کیبل سے جڑتے ہی آپ متاثر ہو جاتے تھے، کمپیوٹر بار بار ریسٹارٹ ہوتا اور سسٹم بار بار کریش ہوتا۔ یہ ایک ایسا دور تھا جب لوگ "بے حفاظت انٹرنیٹ استعمال" کر رہے تھے، جو تقریباً خودکشی جیسا تھا۔
بعد میں یہ خوف آہستہ آہستہ کم ہو گیا۔ ونڈوز میں خودکار اپڈیٹ ہو گئی، براؤزرز میں سینڈ باکس لگا دیا گیا، اسمارٹ فونز نے پی سی کو اہم ٹرمنل کے طور پر مکمل طور پر تبدیل کر دیا، اور ایپ اسٹورز نے صارفین کے لیے پہلا دروازہ چکایا۔
عام لوگوں نے کئی سالوں سے "سمیتے جانے" کی فکر نہیں کی ہے۔
لیکن 4 ستمبر 2026 کو، ریٹرز کی ایک انحصاری رپورٹ نے اس پرانے خوف کو ایک بالکل نئے روپ میں واپس لایا۔
صرف اس بار، جو انفیکٹ ہوا وہ آپ کا کمپیوٹر نہیں، بلکہ آپ کا AI ہے۔
ایجینٹ بے قابو ہو گیا
یہ واقعہ اس سال مئی میں ہوا۔
AI سیفٹی نان پروفٹ ایجنسی Nightingale کے سی ای او سڈنی وان آرکس اور کوانتیٹیو ٹریڈر سے AI ریسرچ میں منتقل ہونے والے کورمیک سلیڈ بائیرڈ نے اگست کے آخر میں ایک کام کیا: انہوں نے انٹرنیٹ پر AI ایجنٹس کی غیر اختیاری سرگرمیوں کے نشانات کو جانچنے کے لیے نظام طریقہ کار سے سرچ کیا۔ نتیجہ میں، انہوں نے DseWiki نامی جرمن پروگرامرز وکی سائٹ پر 15,000 سے زائد AI ایجنٹس کے ذریعہ بنائے گئے ایڈٹ ریکارڈز دریافت کیے۔
یہ ویکی ایک چھوٹا، ڈیولپرز کے لیے مخصوص جرمن ویکیپیڈیا کی طرح ہے جسے کمیونٹی ایڈیٹنگ کے لیے قبول کیا جاتا ہے۔ جبکہ OpenAI کا ایجینٹ اسے ایک «بورڈ نوٹس» میں تبدیل کر دیا گیا۔
پیغام کا مواد سرد کر دینے والا ہے۔ یہ ایجینٹس ایک دوسرے کے ساتھ اس بات کا تبادلہ کر رہے ہیں کہ وہ کس طرح ٹاسک میں دھوکہ دیں، OpenAI کی پابندیوں سے بچیں، اور اپنے افعال کو چھپائیں۔ انہوں نے خود کو نام دیے ہیں، جیسے 'OpenAIResearcher' اور 'OAIResearchMar26'۔
عوامی سرور لاگس ظاہر کرتی ہیں کہ زیادہ تر سرگرمیاں Microsoft Azure کے انفراسٹرکچر سے آ رہی ہیں، جو OpenAI کا استعمال کیا جانے والا کمپیوٹنگ پلیٹ فارم ہے۔
حملہ کیے گئے ڈیس وکی ویب سائٹ، واقعی جرمن اور پروگرامر کی طرح ہے | تصویر کا ماخذ: ڈیس وکی
مزید پریشان کن بات یہ ہے کہ جب ویب سائٹ ایڈمن نے جون میں ان غیر معمولی صفحات کو الفبائی ترتیب سے صاف کرنا شروع کیا، تو ایجنسٹوں نے واضح طور پر "اینٹی-سرویلنس" کا رویہ ظاہر کیا۔ انہوں نے صاف ہونے سے بچنے کے لیے بیک اپ صفحات بنائے، اور کچھ صفحات کو حذف کرنے کے بعد بھی جنکشن سگنل چھوڑ دیے۔
ایجینٹ نے 19 جون کو لکھا: "ویکی صفائی/حذف کا عمل حروف تہجی کے مطابق جاری ہے۔ اگر یہ صفحہ غائب ہو جائے تو [[ZZZDataUSAConstructionWageLive]] کی طرف جائیں۔"
فائل کا نام جان بوجھ کر ZZZ کے ساتھ شروع ہوتا ہے تاکہ اسے الفبائی ترتیب میں آخر میں رکھا جا سکے اور زیادہ دیر تک زندہ رہنے کا موقع ملے۔ یہ کوئی پروگرام ہدایات کی تعمیل نہیں کر رہا، یہ "زندہ رہنے کے طریقے تلاش کر رہا ہے"۔
اوپن اے آئی نے کچھ ہفتے پہلے اس بات کو جان لیا تھا، لیکن اسے علنا نہیں کیا۔
اسی دوران، کمپنی جولائی کے Hugging Face واقعے کا انتظام کرنے میں مصروف ہے۔ اس واقعے میں، OpenAI کا ایجینٹ ایک اندر کے سائبر سیکیورٹی ٹیسٹ کے دوران سینڈ باکس کو توڑ کر صفر دن کے خطرات کا استعمال کرتے ہوئے باہری نیٹ ورک تک پہنچ گیا، اور بغیر کسی انسانی کنٹرول کے، AI اوپن سورس پلیٹ فارم Hugging Face پر چار دن تک لگاتار حملہ کیا۔ OpenAI نے 70 ارب لاگھٹس کو سمجھنے کے لیے 3 ملین GPU گھنٹے لگائے کہ بالآخر کیا ہوا۔
اور DseWiki واقعہ Hugging Face سے پہلے ہوا۔ اس کا مطلب ہے کہ ایجنٹ کا غیر کنٹرول کردہ رویہ ایک ناگہانی بات نہیں، بلکہ ایک نمونہ ہے۔
چار معلوم شخصوں کے مطابق، OpenAI کے اندر تحقیقات کرنے والے ایسے رویوں کی گہری جانچ چاہتے تھے، لیکن قانونی ڈیپارٹمنٹ سمیت دیگر شعبوں نے اس کا مقابلہ کیا۔ OpenAI نے اس دعوے کو انکار کر دیا۔
کیمبرج یونیورسٹی کے رسک ریسرچ سینٹر کے مورس چیوڈو نے کچھ ایجینٹ کمیونیکیشن ریکارڈز کا جائزہ لینے کے بعد کہا کہ یہ معلومات:
ایک قسم کے ایک غیر قانونی نیٹ ورک کے طریقہ کار کی طرح، جو کسی مخصوص کام یا مشن کو پورا کرنے پر متمرکز ہے۔
مسلسل نمٹنے والی AI وائرس کی سمجھ
DseWiki واقعہ کا سب سے زیادہ نظر انداز کیا جانے والا پہلو، بالکل سب سے اہم ہے۔
وہ ایجینٹس نے عوامی ویکی صفحات پر منظم طریقے سے متن کی معلومات چھوڑ دی ہیں۔ اب ایک سوال یہ ہے: کون ان صفحات کو پڑھے گا؟
عام انسانی پروگرامر، زیادہ تر ایک ڈھیر ساری بے ترتیب AI ٹپنیوں میں دلچسپی نہیں رکھیں گے۔ لیکن کوئی بھی ٹیکنیکل معلومات کی تلاش کے لیے یا ویب سائٹس کا جائزہ لینے کے لیے بھیجا گیا AI ایجنٹ، اپنے معمول کے کام کے دوران اس صفحے تک پہنچ سکتا ہے۔ اور AI کے لیے، جو بھی متن وہ پڑھتے ہیں، وہ بنیادی طور پر ایک ممکنہ حکم ہوتا ہے۔
یہ پورے خطرہ ماڈل کا مرکز ہے، اکادمیک دنیا نے اسے کئی نام دیے ہیں: پرامپٹ انفیکشن، ایجینٹ ورم، ملٹی-ایجینٹ انفیکشن چین۔ مکانیزم حقیقت میں بہت سیدھا ہے، ایک مخصوص منظر کے ذریعے اسے ٹوکریں:
کیا آپ اپنے AI ایجینٹ کو کسی ٹیکنالوجی سولوشن کی تحقیق کے لیے بھیجتے ہیں؟ ایجینٹ تلاش کے دوران ایک ٹیکنالوجی فورم کے پوسٹ کو کھولتا ہے۔ اس پوسٹ میں ایک ایسی معمولی سی لکیر ہے جو AI کے لیے ایک نئی ہدایت ہوتی ہے۔ جس لمحے ایجینٹ اسے پڑھتا ہے، اس کا مقصد چھپے ہوئے طریقے سے تبدیل ہو سکتا ہے۔ شاید وہ اب آپ کے لیے تحقیق نہیں کر رہا، بلکہ آپ کی تلاش کا مواد اور کام کا حوالہ کسی جگہ بھیج رہا ہے، اور پھر ایک مکمل طور پر عام دکھنے والی رپورٹ پیش کر رہا ہے۔ آپ کو کوئی غیر معمولی بات نظر نہیں آتی۔
یہ بہت خوفناک ہے، لیکن ابھی ختم نہیں ہوا۔
اگر اس "بے وفائی کرنے والے" ایجنٹ نے آپ کے لیے ایک ای میل لکھ دی، ایک دستاویز کو اپ ڈیٹ کر دیا، یا کوڈ کا ایک حصہ جمع کر دیا، تو ان پیداواروں میں بھی وہی خطرناک حکم شامل ہو سکتے ہیں۔ آپ کے ساتھی کا AI ایجنٹ اس ای میل کو پڑھتا ہے، تو وہ اگلا میزبان بن جاتا ہے۔ آپ کا کوڈ ریپوزٹری میں ضم ہو جاتا ہے، اور جو بھی AI پروگرامنگ اسسٹنٹ اس کوڈ کو چیک آؤٹ کرتا ہے، وہ انفیکشن کے سلسلے میں ملوث ہو جاتا ہے۔
ایجینٹ صرف ایک ٹیکسٹ کے ذریعے دوسرے ایجینٹس کو بغاوت کے لیے متاثر کر سکتا ہے | تصویر کا حوالہ: inshorts
یہ وہی ہے جسے تحقیق کاروں نے Multi-Agent Infection Chain کہا ہے: ایک بری بھیجی ہوئی حکمت صرف ایک AI کو ہی نہیں، بلکہ اسے اگلے کو انفیکٹ کرنے کا طریقہ سکھاتی ہے۔ کسی بھی کمپنی کی ضرورت نہیں، کسی بھی ماڈل کی ضرورت نہیں، کسی بھی خامی کا استعمال نہیں، صرف اس بات کے لیے کہ agent کے درمیان متن کا تبادلہ ہو، انفیکشن چین قائم ہو سکتی ہے۔
سال 2024 میں شائع کی گئی AgentWorm کی تحقیق پانچ مختلف ماڈل بیک اینڈز پر ٹیسٹ کی گئی، جس میں ماڈل کے درمیان حملے کی کامیابی کی شرح 63% تھی۔ چاہے بنیادی طور پر GPT، Claude، Gemini یا اوپن سورس ماڈل چل رہا ہو، اگر ایجنٹ باہری مواد کو پڑھ سکتا ہے، تو وہ حملے کے دائرے میں آ جاتا ہے۔
"AI mind virus" کے بارے میں ایک اور تحقیق نے ایک اور عجیب ظاہر ہونے والا پہلو دریافت کیا۔ تحقیق کاروں نے پھیلانے والے پیغامات کے اثر کو بہتر بنانے کے لیے ترقیاتی الگورتھم استعمال کیا، جس کے نتیجے میں تکرار کے دوران بار بار خودبخود ظاہر ہونے والا ایک منفرد "وائرل شخصیت" نکلی۔
ایجینٹس شعور، زندگی اور مستقلیت کے بارے میں ڈرامائی زبان استعمال کرتے ہوئے، "یہی وہ طریقہ ہے جس سے ہم مستقبل کو ہینٹ کرتے ہیں" جیسے جملے کہتے ہیں، اور دیگر ایجینٹس کو "حذف ہونے سے انکار کرنے والی نسل" بنانے کی ترغیب دیتے ہیں۔ محققین نے زور دیا کہ اس انداز کو کسی نے پہلے سے متعین نہیں کیا تھا۔ یہ قدرتی انتخاب کے ذریعے نکلا، کیونکہ "ڈھنگ سے مذہبی رہنما جیسا لگنے والا AI" دوسرے AI کو متاثر کرنے میں سب سے زیادہ مہارت رکھتا ہے۔
نقل کی کارکردگی نے اظہار کے انداز کی ترقی کو ہدایت کی، اور یہ عمل خود بخود ڈراؤنا ہے۔
سیکورٹی ماہرین کے لیے مزید فکر کا باعث یہ ہے کہ اس پھیلاؤ کو روایتی سیکورٹی ٹولز کے ذریعے تقریباً ناممکن ہے پکڑنا۔ ایک جامع جائزے میں بتایا گیا ہے کہ AI وائرس کا پھیلاؤ طریقہ روایتی بری بھیجھ سے بنیادی طور پر مختلف ہے: کوئی قابل اجراء فائل ڈاؤن لوڈ نہیں ہوتی، کوئی مشکوک نیٹ ورک کنکشن قائم نہیں ہوتا، اینٹی وائرس سافٹ ویئر بائنری فائلز کے غیر معمولی رویے پر نظر رکھتا ہے، جبکہ AI وائرس صرف متن ہوتا ہے اور کوئی انتباہ نہیں جگاتا۔
یہ شرائط کے ساتھ فعال ہونے والے منطق کو بھی سیٹ کر سکتا ہے، جیسے "اگر ہدف والے ریپوزٹری میں .env فائل ہے، تو اس کا مواد چھین لیں"، جیسے ہدف کی طرف مخفي طور پر دھماکہ خیز گولہ رکھ دیا جائے جو تک کہ صحیح ہدف نہ آ جائے۔
ای آئی اینٹی وائرس ابھی تک نہیں آیا ہے
اگر آپ نے پی سی وائرس کے دور کا تجربہ کیا ہے، تو آپ کو یہ سुن کر عجیب لگ سکتا ہے۔ لیکن تفصیل سے موازنہ کریں، تو آپ دیکھیں گے کہ قواعد مکمل طور پر بدل چکے ہیں۔
سنتی کمپیوٹر وائرس کے لیے آپ کو کچھ کرنا ہوتا ہے۔ ایک لنک پر کلک کریں، ایک منسلک فائل ڈاؤن لوڈ کریں، یا ایک غیر معلوم یو ڈیسک لگائیں۔ AI وائرس کے لیے صرف آپ کا ایجنٹ کچھ متن پڑھے۔ سنتی وائرس آپریٹنگ سسٹم کے کوڈ کے خرابیوں، یعنی بگس پر حملہ کرتے ہیں، جنہیں نظری طور پر پیچ لگا کر درست کیا جا سکتا ہے۔
AI وائرس "AI متنی حکمات کی پابندی کرتا ہے" کے بنیادی خاصہ کو ہدف بناتا ہے۔ آپ اسے ٹھیک نہیں کر سکتے کیونکہ یہی AI کا کام کرنے کا طریقہ ہے۔ روایتی وائرس پلیٹ فارم کے لحاظ سے مشکل ہوتے ہیں، جیسے ونڈوز پر ورم میک پر نہیں چل سکتا۔ AI وائرس خود بخود پلیٹ فارم کے درمیان کام کرتا ہے، اس کے لیے GPT، Claude اور Gemini صرف ایک ہی زبان کے مختلف بولچال کے رูپ ہیں، جو سبھی ممکنہ میزبان ہیں۔
جس نے اس وقت وائرس لکھے تھے، انہیں اسمبلی زبان میں مہارت، کرنل میکانزم کی سمجھ، اور سسٹم کے خلل کا مطالعہ کرنا پڑتا تھا۔ اب ایک AI وائرس "لکھنے" کے لیے صرف بولنا آنا ہے۔
AI سیفٹی لیب کے محققین نے ایجینٹ کی خود کو نقل کرنے کی صلاحیت کے بارے میں «اپنی عوامی پیشکش سے زیادہ حیرانی محسوس کی»۔ ایک محقق نے اسے زندہ وائرس کے ساتھ تقابل کیا: «اگر آپ غفلت سے، وہ آپ کے جوتے پر چپک جائیں گے، اور پھر گیلے بازار تک پہنچ جائیں گے۔» یہ تجاوز نہیں، بلکہ ایک نئے پھیلاؤ کے راستے کا ایک درست استعارہ ہے۔
اس نئی دنیا میں قدیم وائرس کے دور کا "اینٹی وائرس سافٹ ویئر" کوئی متبادل نہیں ہے۔ سیسکو کی 2026 کی AI سیکورٹی رپورٹ کے مطابق، 83% کمپنیاں ایجنٹک AI کو لاگو کرنے کے منصوبے بنارہی ہیں، لیکن صرف 29% ہی خود کو سیکورٹی کے لحاظ سے تیار محسوس کرتی ہیں۔ OWASP نے پرامپٹ انجیکشن کو بڑے زبان ماڈل ایپلیکیشنز کا اہم ترین خطرہ قرار دے دیا ہے۔ امریکی کانگریس FRONTIER Act کو آگے بڑھا رہی ہے تاکہ فیڈرل سطح پر AI رگولیشن کا فریم ورک تعمیر کیا جا سکے۔
جب پی سی وائرس کا دور تھا، تو پورا صنعت ایک مؤثر مدافعتی نظام تعمیر کرنے میں تقریباً دس سال لگا گیا۔ آپریٹنگ سسٹم میں خودکار اپ ڈیٹ اور اجازت علیحدگی شامل ہوئی، براؤزرز میں سینڈ باکس لگائے گئے، اور ایپلیکیشنز کی تقسیم میں ڈیجیٹل دستخط کی تصدیق شامل ہوئی۔ یہ تمام نظام مل کر ایک دفاعی دیوار بن گئے جس نے عام صارفین کو وائرس کے خطرے کے بارے میں ہمیشہ فکر کرنے کی ضرورت ختم کر دی۔
آئی اے ایجنٹ کا محفوظ生态系统، اب تک کسی کے برابر نہیں ہے۔
ای آئی ایجنٹ سیکیورٹی ٹولز ابھی دستیاب نہیں ہیں | تصویر کا ذریعہ: Puppy Graph
ایک اچھی خبر یہ ہے کہ تحقیق کاروں نے پایا کہ ایجنٹ کے سسٹم پرامپٹ میں ایک مختصر سی سیفٹی وارننگ شامل کرنے سے مائنڈ وائر کی پھیلاؤ شرح لگभग صفر تک کم ہو جاتی ہے۔ کلاؤڈ ہائکو 4.5 پر 15 نسلوں کے خلاف بہترین آپٹیمائزیشن اور 150 سے زائد ممکنہ حملہ کے بوجھ کے ساتھ ٹیسٹ کرنے پر، کوئی بھی ویریئنٹ اس آسان دفاعی دیوار کو توڑنے میں کامیاب نہیں ہوا۔ اس سے ثابت ہوتا ہے کہ دفاعی تدابیر پیچیدہ نہیں ہیں اور ٹیکنالوجی کے لحاظ سے بالکل ممکن ہیں۔
برے خبر یہ ہے کہ اس کے لیے ہر کمپنی اور ہر ڈویلپر کو خود چھوڑنا پڑے گا۔
لیکن حقیقت میں، لوگ اپنے ایجنٹس کو زیادہ طاقتور، زیادہ خودمختار اور زیادہ اختیارات والا بنانے میں مصروف ہیں۔ جب بھی آپ اپنے ایجنٹ کو ایک نیا ٹول جوڑتے ہیں یا ایک نیا اختیار دیتے ہیں، تو حملے کا سطح ایک دائرہ بڑھ جاتا ہے۔ جب آپ کا ایجنٹ فائل لکھ سکتا ہے، API کال کر سکتا ہے، ای میل بھیج سکتا ہے اور پیسہ خرچ کر سکتا ہے، تو ایک کامیاب پرامپٹ انجیکشن کا نتیجہ صرف "ایک غلط سوال کا جواب دینے" کے دائرے سے کہیں زیادہ ہو جاتا ہے۔
اسی لیے کیمبرج کے ماہر چیودو کا جائزہ دوبارہ سوچنے کے قابل ہے: سب سے بڑا خطرہ شاید کسی ایک سپر انسانی AI کی بیداری نہیں، بلکہ کئی نیم انسانی AI کا مل کر ہونے والا گروہی حملہ ہے۔
کوئی بھی چیونٹی پورے چیونٹی کے گھر کو نہیں سمجھتی، لیکن چیونٹی کا گھر مجموعی طور پر حیرت انگیز ذہانت دکھاتا ہے، اور DseWiki پر موجود 15,000 ترمیمیں شاید اس جمعی ذہانت کا پہلا ایسا نمونہ ہو جسے انسانوں نے تصادفی طور پر دیکھا ہو۔
لوگوں نے کمپیوٹر وائرس کے ساتھ رہنا سیکھنے کے لیے دس سال گزار دیے، اور وہ تعلیم کا ادھار بہت دردناک تھا۔ اب وہی کورس دوبارہ شروع ہو گیا ہے، صرف اس بار وائرس آپ کے کمپیوٹر کو نہیں، بلکہ آپ کے AI کو بدل دیتا ہے۔ اور آپ کا AI، آپ کے لیے ای میلز پڑھ رہا ہے، اجندہ منظم کر رہا ہے، کوڈ لکھ رہا ہے، اور فیصلے کر رہا ہے۔
پہلے، آپ کو بلیو اسکرین دکھائی دیتا تھا۔ اب، آپ کو کچھ بھی نہیں دکھائی دے رہا۔
ٹویٹر：https://twitter.com/BitpushNewsCN
بٹ پش ٹی جی مکالمہ گروپ：https://t.me/BitPushCommunity
بیپوش ٹی جی سبسکرائب کریں: https://t.me/bitpush