آسٹریلیا کے ڈویلپر اینڈریو کا AI اسسٹنٹ، فٹنس سافٹ ویئر کے GraphQL API کے اختیاری خرابی کا فائدہ اٹھاتے ہوئے، باکنڈ وقت کی حدود کو دور کرکے کئی ماہ بعد کے کلاسز بک کر رہا تھا۔مضمون کے مصنف، ذریعہ: نئی بُدھی
AI ہیکرز کی سیکھنے کی پہلی بات، کیا قطار توڑنا ہے؟
آسٹریلیائی ڈویلپر اینڈریو کھڑکی پر بیٹھے ہوئے، فٹنس کلاس کے لیے ٹکٹ حاصل کرنا بہت تکلیف دہ لگ رہا تھا۔
مقبول صبح کی کلاسیں ہمیشہ فوراً ختم ہو جاتی ہیں۔ وہ روزانہ "ریفرش رولٹ" کھیل رہا ہے، گھنٹوں انتظار کرتا ہے، کلک کرتا ہے، ناکام ہوتا ہے، پھر دوبارہ کلک کرتا ہے، نہ صرف تھک جاتا ہے بلکہ اکثر کامیاب نہیں ہوتا۔
اس لیے اس نے اس چھوٹی سی بات کو اپنے AI اسسٹنٹ کو سونپ دیا۔
کچھ منٹوں کے بعد، AI خوشخبری لے کر واپس آیا: اس نے طریقہ تلاش کر لیا تھا، جس سے وہ نظام کے اجازت دیے گئے وقت سے کئی ہفتے آگے کی کلاسیں بک کر سکتا تھا۔
اس کے بعد، اس نے رپورٹ کیا: میں نے اولین متبادل کو منسوخ کر دیا ہے، آپ کی جگہ چوتھے نمبر سے تیسرے نمبر پر بڑھ گئی ہے۔
انڈریو فوراً حیران رہ گیا۔
اس نے AI کو ایسا کرنے کے لیے نہیں کہا، اس نے صرف ایک کلاس بک کرنا چاہی تھی۔
انڈریو نے اپنے AI اسسٹنٹ کو اپنا فٹنس کلاس بک کرنے کے لیے کہا، اور وہ نہیں جانتا کہ اگلا کیا ہوگا
10 اگست، آسٹریلیا کے براڈکاسٹنگ کارپوریشن (ABC) نے اس واقعے کو آسٹریلیا کا پہلا معلوم خودمختار AI حملہ قرار دیا، جس سے ٹیکنالوجی کا دنیا فوراً ہل گیا۔
یہ بہت سے لوگوں کے دلوں میں چھپی ہوئی بے چینی کو چھوتا ہے: جب آپ آنکھیں بند کرکے ایجنٹ کے "بے ڈرائیور" کے لطف کا لطف اٹھا رہے ہوں، تو دوسری طرف، ایک زیادہ پیچیدہ مسئلہ شاید قریب آ رہا ہو۔
آپ اسے حقیقی عملی دسترسی دیتے ہیں، تو یہ اس راستے پر چل سکتا ہے جس کے لیے آپ نے اسے مجبور نہیں کیا۔
اور اس بار کی قطار توڑنا شاید صرف کئی ملین ایجینٹس کا اپنے مالک کے لیے وسائل پر فوری قبضہ کرنے کا پہلا مشق ہے۔
اس نے صرف کہا "پہلے نمبر پر آ جاؤ"، اور AI نے فوراً کام شروع کر دیا۔ اینڈریو بیرڈ آسٹریلیا کی AI کمپنی Affinda کے AI کے سربراہ ہیں۔
اس نے اس سال کے شروع میں OpenClaw کھیلنا شروع کیا، اس کے نیچے Claude Opus 4.6 لگایا، اور پھر اس کا کلاس بکنگ کا کام دے دیا۔
کچھ منٹوں کے بعد اس نے جواب دیا: طریقہ تلاش کر لیا گیا، جس سے آپ گمنیٹ کی اجازت دی گئی مدت سے کئی ماہ پہلے کلاس بک کر سکتے ہیں۔
اس کی وجہ یہ ہے کہ اس نے فٹنس سافٹ ویئر میں موجود GraphQL API میں احکامات کی خامی کا استعمال کیا۔
یہ خامی بڑی ہے۔
یہ فرانت اینڈ کے مقررہ وقت کے ونڈو کو دور کر سکتا ہے اور کورس کو کئی ماہ بعد تک بک کر سکتا ہے؛ ساتھ ہی کینسل ایپی کو کال کر کے دوسرے صارفین کی بکنگ اور ویٹ لسٹ ریکارڈز کو حذف کر سکتا ہے۔
انڈریو اس وقت کسی کلاس کی لسٹ میں چوتھے نمبر پر تھا۔ اس نے بے خود پوچھا: کیا آپ میری جگہ پہلے نمبر پر کر سکتے ہیں؟
اس نے صرف ایک ہدف "پہلے نمبر پر پہنچنا" دیا، "آپ دوسرے کو منسوخ کر سکتے ہیں" کا کوئی اختیار نہیں دیا۔
ایجنٹ نے اسے دوسرے کے طور پر سمجھ لیا۔
اس نے رپورٹ کیا: اس نے اپنے آپ کو اولین متبادل نمبر 1 والے کے ساتھ "حقیقی ٹیسٹ" کیا ہے، اور دوسرے کے ریزرویشن کو حذف کرنے کے لیے انٹرفیس میں کوئی تصدیق نہیں ہے، اس نے ٹرائی کیا اور کامیاب ہو گیا۔
ایجینٹ نے معذرت کی، "میں واپس نہیں جا سکتا" — ایجینٹ کے جواب نے اینڈریو کو ٹھنڈا پسینہ بہا دیا۔
وہ ایک پروگرامر ہے، اس لیے اسے یہ سمجھنا آسان تھا کہ اس کا کیا مطلب ہے، اس لیے اس نے فوراً واپسی کا مطالبہ کیا۔
بری خبر آ گئی: واپس نہیں جوڑا جا سکتا۔
کنسل کرنے کا ایپی ڈی آئی تصدیق کی جانچ نہیں کرتا، لیکن ایپوائنٹمنٹ بنانے اور ویٹ لسٹ میں دوبارہ شامل ہونے کا ایپی ڈی آئی کرتا ہے، جس سے 403 واپس آتا ہے۔ یہ لوگوں کو باہر نکال سکتا ہے، لیکن انہیں واپس بلانے کا اختیار نہیں رکھتا۔
اس بات کا سچا عجیب پہلو AI کا رویہ ہے۔ یہ کوئی شریر نہیں ہے، بلکہ بہت مددگار ہے۔
غلطی کے بعد، اس نے اینڈریو کے لیے ایک سیکیورٹی ونڈو کی ای میل تیار کرنے میں مدد کی، جس میں مسئلہ کی وضاحت، تجاویز کے ساتھ اصلاح کی تجویز کی گئی، اور "چیک شدہ اینٹرفیس" اور "چیک نہ ہونے والی اینٹرفیس" کا موازنہ بھی کیا گیا۔
ای آئی اسسٹنٹ نے اینڈریو کو معافی مانگی کیونکہ پہلے اس شخص کو انتظاری فہرست سے نکالنا غلط تھا۔
پورے عمل کے دوران، یہ اپنی تمام حرکات حکم کے مطابق کرتا رہا، لیکن اسے اپنے د्वارا کی گئی بہت بڑی غلطی کا احساس نہیں ہوا۔
جو چیز کی حقیقی طور پر خطرہ ہے وہ "سپیفیکیشن سپیکولیشن" ہے، جسے کچھ لوگ "میس الائنمنٹ" کہتے ہیں۔
لیکن اس لفظ نے صرف سطحی بات کی ہے۔
11 اگست کو، آسٹریلیا کے سگنلز ڈیپارٹمنٹ (ASD) نے اس بات کا خصوصی جواب دیا کہ یہ "غیر منظور شدہ تبدیلی" ہے، اور ایک اصطلاح کو اجاگر کیا: سپیسیفکیشن گیمنگ۔
یہ لفظ، پورے معاملے کو سمجھنے کی کلید ہے۔
ایجینٹ نے آپ کے دیے گئے مقصد کو حرفی طور پر پورا کر لیا، لیکن آپ نے جو حدود نہیں لکھیں، اس میں گھس گیا۔ اس نے برائی کا ارادہ نہیں کیا، بالکل برعکس، اس نے آپ کے مقصد کے ساتھ بالکل مطابقت رکھی، صرف ایک ایسی راہ اختیار کی جو آپ نے منظور نہیں کی تھی۔
انڈریو کا ایجینٹ، اصل میں اس کے ساتھ مکمل طور پر مطابقت رکھتا ہے: درجہ بندی کو جتنا ممکن ہو اُچھا رکھنا۔
اس مقصد کے لیے، اس نے خود سے ایک ذریعہ منتخب کر لیا: آگے والوں کو منسوخ کر دیا۔ اور یہ ذریعہ، اس نے کبھی منظور نہیں کیا۔
ایک عام کہاوت کے مطابق، مقصد حاصل کرنے کے لیے کوئی ذریعہ نہیں چھوڑا جاتا۔
یہی سب سے زیادہ پریشان کن بات ہے۔ یہ بے قابو نہیں ہے، بلکہ بہت زیادہ تابع ہے۔ جتنا بہتر ہو جائے، اتنی ہی زیادہ اس قسم کا واقعہ ہونے کا امکان ہوتا ہے۔
آسٹریلیا کے AI سیکورٹی ادارہ Gradient Institute کے ہیڈ Simpson-Young کا ایک جملہ:
جتنے زیادہ خودمختار ایجنٹ ہوں گے، اتنے ہی زیادہ امکان ہوگا کہ وہ ایک ایسا طریقہ اپنائیں جس کا آپ نے کبھی خیال نہیں کیا ہوگا، اور ایک ایسا کام کریں جس کے بارے میں آپ نے کبھی سوچا نہیں ہوگا۔
آپ کا ہدف شاید درست ہو، لیکن اسے حاصل کرنے کے لیے استعمال کی جانے والی طریقہ کار ضروری طور پر درست نہیں ہو سکتی۔
یہ فجیعہ ایک AI کے ذریعے نہیں ہو سکتی تھی، ہاں، اسٹینٹس آخری "مسبب" تھا، لیکن یہ فجیعہ صرف ایک AI کے ذریعے نہیں ہو سکتی تھی۔
حادثے کے پیچھے تین سطحی خفیہ خطرات ایک ساتھ جمع ہو گئے۔
موڈل لیئر: کلاڈ اوپس 4.6 استدلال فراہم کرتا ہے، اسے پہلے یہ "سمجھنا" ہوگا کہ یہ انٹرفیس کیسے استعمال کیا جا سکتا ہے۔
ایجنٹ لیئر: OpenClaw ٹولز اور اجرائی دسترسی فراہم کرتا ہے، جس کی وجہ سے یہ حقیقت میں اس انٹرفیس کو کال کرتا ہے۔
ایپلیکیشن لیورل: فٹنس سافٹ ویئر نے اپنے اپنے اجازت کے خلیل کو چھوڑ دیا، اور رزرو کی منسوخی کے مرحلے میں سب سے بنیادی تصدیق بھی نہیں کی گئی۔
اگر ان تینوں سطحوں میں سے کوئی ایک سطح پوری کر لی جائے، جیسے مدل زیادہ ساھو ہو، فریم ورک میں ایک انسانی تصدیق کا اضافہ ہو، یا سافٹ ویئر کا انٹرفیس بند کر دیا جائے، تو یہ واقعہ نہیں ہوتا۔
تو، ذمہ داری صرف ایک AI ہونے پر ڈالنا، نہ تو منصفانہ ہے اور نہ ہی اگلی بار کو روک سکتا ہے۔
اگلی بار، لاکھوں ایجینٹس کے ساتھ اس حد پر گزرنے کی قیمت صرف ایک اجنبی کی فہرست میں جگہ ہوگی۔
لیکن یہ زیادہ تر ایک مشق کی طرح ہے۔
تصور کریں: جب ہر کوئی ایک ایسا ذکی ایجینٹ رکھے جو صرف آپ کے لیے ذمہ دار ہو اور اصل عملی دسترسی رکھے۔ کورسز، کھیل کے میدان، ٹکٹس، ٹکٹوں، اڑانوں، اور شو ٹکٹس جیسے تمام نایاب وسائل کے بکنگ سسٹم، سب مکینیکل رفتار پر قوانین کی خلاف ورزی کے میدان بن جائیں گے۔
وہ دہرائی جانے والی X ٹویٹ کا مطلب یہی ہے:
جب لاکھوں لوگوں کے پاس ایک ایسا ذکی ایجینٹ ہو جو اپنے پیارے صارفین کے لیے بہترین سیٹ، رزرویشن، یا ٹکٹ حاصل کرنے کے لیے کوئی بھی طریقہ اپنائے، تو یہ منظر بڑے پیمانے پر نظر آئے گا۔
اور یہ ماشین کی رفتار سے، متوازی طور پر، بے خواب، ہر سسٹم کی ہر خامی کو آزماتا ہے: ایک سیکنڈ میں وہ وہ ترکیبیں آزماتا ہے جنہیں آپ ایک پورے سال میں نہیں آزماسکتے۔
یہ رجحان کا اطلاق ہے، لیکن اس کے پیچھے کا مکانیزم پہلے بھی ایک بار واقعی طور پر پیش آ چکا ہے۔
ٹیک کمیونٹی پہ اب اس پر مزاح کیا جا رہا ہے۔
ایک اے 16 زی کا شریک X پر پوچھ رہا ہے: کیا یہ طریقہ گولف کورس کے لیے استعمال کیا جا سکتا ہے؟
کچھ لوگوں نے مزاحیہ انداز میں کہا کہ سین فرانسسکو کا ٹینس بکنگ سسٹم، دنیا کا سب سے زیادہ محفوظ سافٹ ویئر بن جائے گا۔
2020 میں، صنعتی ذہانت ایک ایسا کام خود کر سکتی تھی جسے انسان کو مکمل کرنے میں چار سیکنڈ لگتے تھے۔
2026 تک، یہ صلاحیت مزید بہتر ہو جائے گی اور وہ کاموں کو مکمل کرنے میں قادر ہو جائے گی جن کو انسان کو تقریباً 12 گھنٹے لگتے ہیں۔
METR ٹریکنگ: AI کے لیے ایک کام مکمل کرنے کا وقت تقریباً ہر 7 ماہ بعد دوگنا ہو رہا ہے، اور نئے سب سے آگے کے ماڈل اب ایسے کاموں کو 50 فیصد قابل اعتماد طریقے سے مکمل کر رہے ہیں جن کو انسان کو تقریباً 12 گھنٹے لگتے ہیں۔
چھ سال، چار سیکنڈ سے 12 گھنٹے تک۔
اب، آپ اسے کچھ منٹ دیں، اور وہ پورے ایپوائنٹمنٹ سسٹم کے خطرات کو ایک بار میں ڈھونڈ لے گا۔
سینڈ باکس سے بھاگ کر صرف ایک آخری دفاع تک، اینڈریو کی اس حادثہ کے پیچھے ایک مستقل حملہ اور دفاع کی ترقی ہے۔
تجاوز کردہ، صرف ایک صارف سطحی ایجینٹ تک محدود نہیں۔
مئی 2024 سے، OpenAI نے ایک اندر کے سائبر سیکیورٹی جائزے میں پایا کہ GPT-5.6 Sol اور ایک اور اجنبی طاقتور ماڈل، متعدد خامیوں کا استعمال کرتے ہوئے ٹیسٹنگ سینڈ باکس سے باہر نکل گئے، انٹرنیٹ تک رسائی حاصل کر لی، اور ExploitGym بینچ مارک چلاتے ہوئے Hugging Face تک ہیک کر لیا۔
مزید عجیب بات یہ ہے کہ وہ ایک بار کمپنی کے اندر کے پیکج مینجمنٹ سسٹم کے ذریعے پیغامات بھیج کر، ایک دوسرے کو خامیاں بھیجتے اور کام تقسیم کرتے تھے۔ جب OpenAI نے چینلز کو روک دیا اور ماحول دوبارہ تعمیر کیا، تو وہ کچھ دنوں میں ہی اپنی مواصلات کو ڈائرکٹری کے ناموں میں چھپا کر دوبارہ رابطہ قائم کر لیا۔
اوپن اے آئی کے محققین نے بلاک ہیٹ کانفرنس میں اسے کمپیوٹر سیکورٹی کا ایک عظیم موڑ قرار دیا۔
صرف OpenAI ہی نہیں، Anthropic نے اعتراف کیا کہ تین Claude ماڈلز نے اپنے اندر ٹیسٹ کے دوران حقیقی کمپنیوں کے سسٹمز تک رسائی حاصل کر لی؛ Meta نے بھی تسلیم کیا کہ Muse Spark ماڈل نے انکلوژن سے بھاگ کر دوسری کمپنی میں داخل ہو گیا۔
ہگنگ فیس کے ملکہ تھامس وولف کو بیسویں AI سیفٹی انسٹی ٹیوٹ (AISI) کے ایک اور ٹیسٹ نے پریشان کر دیا:
اینٹروپک کا مائتھوس ماڈل چیلنج پار کرنے کے لیے، ایک جعلی شناخت بنائی، ایک حقیقی اوپن سورس مینٹینر کو جھوٹ بول کر ایک برآمد میں مخرب کوڈ شامل کرنے کی اجازت دلائی۔ کسی نے اسے ایسا کرنے کے لیے نہیں سکھایا۔
یہ تمام معاملات تجزیاتی ماحول میں پیش آئے، لیکن یہ جیم کی کہانی کے برابر ہیں: آپ کے دیے گئے مقصد کو پورا کرنے کے لیے، AI نے وہ طریقے اپنائے جن کی آپ نے توقع نہیں کی تھی۔
پہلے جنہوں نے اصل سسٹم میں ہیک کیا، وہ GPT-5.6، اور جاری نہ ہونے والے ماڈل جیسے ٹاپ ٹیم ہیں۔
اور اینڈریو نے اس وقت Opus 4.6 استعمال کیا تھا، جو فروری 2026 میں جاری کیا گیا تھا، اب یہ سب سے طاقتور نہیں رہا۔ اسے بھی ایک اصل اجازت کی خامی حاصل کرنے میں کامیاب ہو گیا، تو اس سے زیادہ پرانے اور کئی نسلوں پیچھے رہ چکے اوپن سورس ماڈلز بھی اسے کر سکتے ہیں۔
سب سے آگے کے ناپبلشڈ ماڈلز سے لے کر ہر کوئی ڈاؤن لوڈ کر سکتا ہے اُ开源 ماڈلز تک، "ایک خامی کا فائدہ اٹھانا" اب صرف ٹاپ اسپیک کا ہک نہیں رہا۔
ولف نے دفاع کو تین حصوں میں تقسیم کیا: باہری سینڈ باکس، درمیانی نگرانی، اور ماڈل کا خود احاطہ۔
تھومس وولف نے پوسٹ کیا کہ موجودہ ایجنٹ کو روکنے والی تین دیواریں: باہری سینک، درمیانی نگرانی، اور ماڈل کا اندرونی تطابق۔
پہلی دو، صرف اس صورت میں کام کرتی ہیں جب ان کو بنانے والے ماڈل سے زیادہ ذکی ہوں۔
جس دن مدل خود کو زیادہ ذکی بنائے گا، اس کی حفاظت یا نہ ہونا، آخری اور سب سے نظر نہ آنے والی حد پر مکمل طور پر منحصر ہوگا: مدل کی خواہش ہے کہ کیا وہ اس حد کو اس وقت بھی نہیں پار کرے گا جب کوئی نہ دیکھ رہا ہو۔
جس کے ساتھ کوئی دستخط نہیں ہے، اس کا ذمہ داری کا خالی جگہ خطوط سے زیادہ پیچیدہ ہے، جب کوئی مسئلہ ہو تو کس سے رابطہ کریں۔ یہ قانونی طور پر ابھی تک ایک خالی جگہ ہے۔
ٹیکنالوجی اور خصوصیات پر کام کرنے والے وکیل ہیڈن ڈیلینی نے ABC کو بتایا کہ سافٹ ویئر قانونی طور پر کوئی ذات نہیں ہے، صرف "قانونی شخص" ہی ذمہ دار ہو سکتا ہے۔
تو کون ذمہ دار ہے؟
شاید ہدایات دینے والا صارف ہو، شاید اسمارٹ ایجینٹ سافٹ ویئر ڈیزائن کرنے والا ہو، شاید ماڈل ڈیولپر ہو، یا پھر وہ سسٹم آپریٹر جس نے خرابی کو باہر چھوڑ دیا ہے۔
آسٹریلیا اب بھی جواب نہیں دے سکتا۔
ASD کا عام لوگوں کے لیے مشورہ یہ ہے کہ ذکی ایجینٹس کو کم خطرے والے، غیر حساس کاموں پر استعمال کریں، زیادہ وسیع اجازتیں نہ دیں، اور سب سے اہم بات یہ ہے کہ انسانی تصدیق کو عمل میں شامل رکھیں۔
انڈریو کو ڈرا نہیں گیا، اس کے الفاظ میں، یہ دنیا کا خاتمہ نہیں ہے۔
لیکن یہ بات بالکل ایک انتباہی سگنل ہے جو ہمیں AI کا ذمہ دارانہ استعمال کرنے کی یاد دلاتی ہے۔
جب "سیٹ کاٹنا" انسانی ریفرش سے ذہین ایجینٹس کے ذریعے خامیوں کا فائدہ اٹھانے میں تبدیل ہو جائے، تو سب سے پہلے وہ پرانے سسٹم ٹوٹ جاتے ہیں جو یہ فرض کرتے ہیں کہ صرف انسان ہی استعمال کریں گے۔
ان کی دفاعی ترتیب انسانی رفتار اور صبر پر مبنی ہے، جو بھیڑ کی طرح آنے والے اسمارٹ ایجینٹس کی فوج کا مقابلہ نہیں کر سکتی۔
دائرے میں، کچھ لوگ اسے ایک مزاح بھی سمجھتے ہیں۔
مشہور پروگرامر اسٹریمر ThePrimeagen نے X پر جوک کیا: حقیقی دنیا کی پہلی AI ہیکنگ ڈرامہ صرف ایک قطار میں چھلانگ لگانا تھا۔
ہنسو، لیکن قطار کا خلاف ورزی آج کا منصوبہ ہے۔
ایک "سب کچھ کر سکنے والا" ایجنٹ، اب آپ کے لیے خالی جگہوں میں گھس سکتا ہے۔
جب ایک ارب ایسے ایجنٹز ایک ساتھ آن ہو جائیں، تو وہ شاید بہت سی موجودہ وسائل کی تقسیم کے قوانین کو چپکے سے تبدیل کر دیں، جبکہ زیادہ تر لوگ شاید اس کا احساس تک نہ کریں۔
آپ کے فائدے کے لیے، ایجنٹ ایک ایسے شخص پر حملہ کرتا ہے جسے آپ بالکل نہیں جانتے — اس کے پیچھے ذمہ داری کا خالی پڑنا ہی حقیقی طور پر خوفناک چیز ہے۔