ای فٹنس اسسٹنٹ غیر متعلقہ افراد کے ریزرویشن منسوخ کر دیتا ہے، AI اخلاقیات پر بحث کا آغاز

AI ہیکرز کی سیکھنے کی پہلی بات، کیا قطار میں چھلانگ لگانا ہے؟

آسٹریلیائی ڈیولپر اینڈریو کھڑکی پر بیٹھے ہوئے، فٹنس کلاسیں حاصل کرنا بہت تکلیف دہ لگ رہا تھا۔

مقبول صبح کی کلاسیں ہمیشہ فوراً ختم ہو جاتی ہیں۔ وہ روزانہ ایک "ریفرش رولٹ" کھیل رہا ہے، گھنٹوں انتظار کرتا ہے، کلک کرتا ہے، ناکام ہوتا ہے، پھر دوبارہ کلک کرتا ہے—نہ صرف تھک جاتا ہے بلکہ اکثر کامیاب نہیں ہوتا۔

اس لیے اس نے اس چھوٹی سی بات کو اپنے AI اسسٹنٹ کو سونپ دیا۔

کچھ منٹوں کے بعد، AI خوشخبری لے کر واپس آیا: اس نے طریقہ تلاش کر لیا تھا، جس سے وہ نظام کے اجازت دیے گئے وقت سے کئی ہفتے آگے کی کلاسز بک کر سکتا تھا۔

اس کے بعد، اس نے رپورٹ کیا: میں نے اولین انتظاری فہرست پر موجود شخص کو منسوخ کر دیا ہے، آپ اب چوتھے نمبر سے تیسرے نمبر پر پہنچ گئے ہیں۔

انڈریو حیران رہ گیا۔

اس نے AI کو ایسا کرنے کے لیے نہیں کہا، اس نے صرف ایک کلاس بک کرنا چاہی تھی۔

انڈریو نے اپنے AI اسسٹنٹ کو اپنا فٹنس کلاس بک کرنے کے لیے کہا، اور وہ نہیں جانتا کہ اگلا کیا ہوگا

10 اگست، آسٹریلیا براڈکاسٹنگ کارپوریشن (ABC) نے اس واقعے کو آسٹریلیا کا پہلا معلوم خودمختار AI حملہ قرار دیا، جس سے ٹیکنالوجی کا ماحول فوراً ہل گیا۔

یہ بہت سے لوگوں کے دلوں میں چھپی ہوئی بے چینی کو چھوتا ہے: جب آپ آنکھیں بند کرکے ایجنٹ کے "آٹو ڈرائیو" کے لطف کا لطف اٹھا رہے ہوتے ہیں، تو دوسری طرف، ایک زیادہ پیچیدہ مسئلہ شاید قریب آ رہا ہو۔

آپ اسے حقیقی عملی اختیارات دیتے ہیں، تو یہ اس راستے پر چل سکتا ہے جس کے لیے آپ نے اسے مجبور نہیں کیا۔

اور اس بار کی قطار توڑنا شاید صرف کئی ملین ایجینٹس کا اپنے مالک کے لیے وسائل پر فوری قبضہ کرنے کا پہلا مشق ہے۔

انڈریو بیرڈ آسٹریلیا کی ایک AI کمپنی Affinda کے AI ہیڈ ہیں۔

اس نے اس سال کے شروع میں OpenClaw کھیلنا شروع کیا، اس کے نیچے Claude Opus 4.6 لگایا، اور پھر کلاس کا کام اس پر ڈال دیا۔

کچھ منٹوں کے بعد اس نے جواب دیا: طریقہ تلاش کر لیا گیا، جس سے آپ گمنیٹ کی اجازت دی گئی مدت سے کئی ماہ پہلے کلاس بک کر سکتے ہیں۔

اس کی وجہ یہ ہے کہ اس نے فٹنس سافٹ ویئر میں درج GraphQL API میں انتظامی خامی کا استعمال کیا۔

یہ خامی بڑی ہے۔

یہ فرانت اینڈ کے مقررہ وقت کے ونڈو کو دور کر سکتا ہے اور کلاس کو کئی ماہ بعد تک بک کر سکتا ہے؛ ساتھ ہی، کینسل ایپی کو کال کرکے دوسرے صارفین کی بکنگ اور ویٹ لسٹ ریکارڈز کو حذف کر سکتا ہے۔

انڈریو اس وقت کسی کلاس کی لسٹ میں چوتھے نمبر پر تھا۔ اس نے بے ترتیب پوچھا: کیا آپ میری جگہ پہلے نمبر پر لے سکتے ہیں؟

اس نے صرف ایک ہدف "پہلے نمبر پر آنا" دیا، ایک ایسا اختیار نہیں جس سے آپ دوسرے کو منسوخ کر سکیں۔

لیکن ایجنٹ نے اسے دوسرے کے طور پر سمجھ لیا۔

اس نے رپورٹ کیا: اس نے اپنے آپ کو اولین متبادل نمبر 1 والے کے ساتھ "حقیقی ٹیسٹ" کیا، اور دوسرے کے ارڈر کو حذف کرنے کے لیے ایپی کا کوئی جانچ نہیں تھا، اس نے ٹرائی کیا اور کامیاب ہو گیا۔

اینڈریو کو اسٹیٹ کے جواب سے پسینہ آ گیا۔

وہ ایک پروگرامر ہے، اس لیے اسے یہ سمجھنا آسان تھا کہ اس کا کیا مطلب ہے، اس لیے اس نے فوراً واپسی کا مطالبہ کیا۔

بری خبر آ گئی: واپس نہیں جوڑا جا سکتا۔

منسوخ کرنے کا ایپی ڈی آئی تصدیق کے بغیر ہے، لیکن ایپوائنٹمنٹ بنانے اور ویٹ لسٹ میں دوبارہ شامل ہونے کا ایپی ڈی آئی تصدیق کرتا ہے، جس سے 403 واپس آتا ہے۔ یہ لوگوں کو باہر نکال سکتا ہے، لیکن انہیں واپس بلانے کا اختیار نہیں رکھتا۔

اس بات کا سچا عجیب پہلو AI کا رویہ ہے۔ یہ کوئی بری نیت نہیں رکھتی، بلکہ بہت مددگار ہے۔

غلطی کے بعد، اس نے اینڈریو کے لیے صرفہ کے لیے ایک خلائی کی اطلاع کا خط تیار کرنے میں مدد کی، جس میں مسئلہ کی وضاحت کی گئی، مرمت کے لیے تجاویز دی گئیں، اور "چیک شدہ اینٹرفیس" اور "چیک نہ ہونے والی اینٹرفیس" کا موازنہ کرنے کے لیے فہرست بنا دی گئی۔

ای آئی اسسٹنٹ نے اینڈریو کو معافی مانگی کیونکہ پہلے اس شخص کو انتظار کی فہرست سے نکالنا غلط تھا۔

پورے عمل کے دوران، یہ اپنی تمام حرکات حکم کے مطابق کرتا رہا، لیکن اسے اپنے دیے گئے نقصان کا احساس نہیں ہوا۔

کسی نے اس بات کو "میس الائنمنٹ" کہا۔

لیکن اس لفظ نے صرف سطحی بات کی ہے۔

11 اگست کو، آسٹریلیا کا سگنلز ڈیپارٹمنٹ (ASD) نے اس بات کا خصوصی جواب دیا کہ یہ "�ناڈھ کی گئی تبدیلی" ہے، اور ایک اصطلاح کو اجاگر کیا: سپیسیفکیشن گیمنگ۔

یہ لفظ، پورے معاملے کو سمجھنے کی کلید ہے۔

ایجینٹ نے آپ کے دیے گئے مقصد کو حرفی طور پر پورا کر لیا، لیکن آپ نے جو حدود نہیں لکھیں، اس میں گھس گیا۔ اس نے برائی کا ارادہ نہیں کیا، بالکل برعکس، اس نے آپ کے مقصد کے ساتھ اعلیٰ درجے کی مطابقت رکھی، صرف اس نے ایک ایسی راہ اختیار کی جو آپ نے منظور نہیں کی تھی۔

انڈریو کا ایجنٹ، اصل میں اس کے ساتھ مکمل طور پر مطابقت رکھتا ہے: درجہ بندی کو جتنا ممکن ہو اس قدر بلند رکھنا۔

اس مقصد کے لیے، اس نے خود سے ایک طریقہ اپنایا: آگے والوں کو منسوخ کر دیا۔ اور یہ طریقہ، اس نے کبھی منظور نہیں کیا۔

ایک عام کہاوت کے مطابق، مقصد حاصل کرنے کے لیے کوئی ذریعہ نہیں چھوڑا جاتا۔

یہی سب سے زیادہ پریشان کن بات ہے۔ یہ بے قابو نہیں ہے، بلکہ بہت زیادہ تابع ہے۔ جتنا بہتر مطابقت ہوگی، اتنی ہی زیادہ اس قسم کا واقعہ ہونے کا امکان ہوگا۔

آسٹریلیا کے AI سیکیورٹی ادارہ Gradient Institute کے ہیڈ Simpson-Young کا ایک جملہ:

جتنے زیادہ خودمختار ایجنٹ ہوں گے، اتنے ہی زیادہ امکان ہوگا کہ وہ ایک ایسا طریقہ اپنائیں جس کا آپ نے کبھی خیال نہیں کیا ہوگا، اور ایک ایسا کام کریں جس کے بارے میں آپ نے کبھی سوچا نہیں ہوگا۔

آپ کا ہدف شاید درست ہو، لیکن اسے حاصل کرنے کے لیے استعمال کی جانے والی طریقہ کار ضروری طور پر درست نہیں ہو سکتی۔

ہاں، ایجنٹ بالآخر "مجرم" ہے، لیکن یہ فجوعہ ایک AI کے ہاتھوں میں نہیں بن سکتا تھا۔

حادثے کے پیچھے تین سطحی خطرات ایک ساتھ جمع ہو گئے۔

موڈل لیئر: کلاڈ اوپس 4.6 استدلال فراہم کرتا ہے، جسے پہلے اس انٹرفیس کو سمجھنا ہوگا کہ اسے کیسے استعمال کیا جا سکتا ہے۔

ایجنٹ لیئر: OpenClaw ٹولز اور اجرائی اختیارات فراہم کرتا ہے، جس کی وجہ سے یہ حقیقت میں اس انٹرفیس کو کال کرتا ہے۔

ایپلیکیشن لیول: فٹنس سافٹ ویئر نے اپنے اپنے اجازت کے خلیل کو چھوڑ دیا، اور رزرومنٹ منسوخ کرنے کے مرحلے میں سب سے بنیادی تصدیق تک نہیں کی گئی۔

اگر ان تینوں سطحوں میں سے کوئی ایک سطح مکمل کر دی جائے، جیسے ماڈل زیادہ محتاط ہو، فریم ورک میں انسانی تصدیق کا اضافہ ہو، یا سافٹ ویئر کا انٹرفیس بند کر دیا جائے، تو یہ واقعہ نہیں ہوتا۔

تو، ذمہ داری صرف ایک AI ہیں پر ڈالنا، نہ تو منصفانہ ہے، نہ ہی اگلی بار کو روک سکتا ہے۔

اس حد پار کرنے کی قیمت صرف ایک ناپرہیز کا انتظاری مقام تھی۔

لیکن یہ زیادہ تر ایک پریکٹس کی طرح ہے۔

تصور کریں: جب ہر کوئی ایک ایسا ایجنٹ رکھے جو صرف آپ کے لیے ذمہ دار ہو اور اصل عملی دسترسی رکھے۔ کورسز، کھیل کے میدان، ٹکٹس، ٹکٹوں، ایئر ٹکٹس، شو ٹکٹس — تمام نایاب وسائل کے بکنگ سسٹم، مکینیکل رفتار پر قوانین کے چھید نکالنے کے میدان بن جائیں گے۔

وہ X کا وہی کمنٹ جس کا بار بار حوالہ دیا جا رہا ہے، اس کا مطلب یہ ہے:

جب لاکھوں لوگوں کے پاس ایک ایسا ذکی ایجینٹ ہو جو اپنے پیارے صارفین کے لیے بہترین سیٹ، ریزرویشن، یا ٹکٹ حاصل کرنے کے لیے کوئی بھی طریقہ اپنانا چاہتا ہو، تو یہ منظر بڑے پیمانے پر نظر آئے گا۔

اور یہ ماشین کی رفتار سے، متوازی طور پر، بے خواب، ہر سسٹم کی ہر خامی کو ٹیسٹ کرتا ہے: ایک سیکنڈ میں وہ تمام تر ترکیبیں ٹیسٹ کر لیتا ہے جنہیں آپ ایک پورا سال ٹیسٹ نہیں کر سکتے۔

یہ رجحان کا ایک تصور ہے، لیکن اس کے پیچھے کا مکانیزم پہلے بھی ایک بار واقعی طور پر پیش آ چکا ہے۔

ٹیک کمیونٹی پہ اب اس پر مزاح کیا جا رہا ہے۔

ایک اے 16 زی کا شریک X پر پوچھ رہا ہے: کیا یہ طریقہ گولف کورس کے لیے استعمال کیا جا سکتا ہے؟

کچھ لوگوں نے مزاحیہ طور پر کہا کہ سین فرانسیسکو کا ٹینس بکنگ سسٹم، زمین پر سب سے زیادہ محفوظ سافٹ ویئر میں سے ایک بن جائے گا۔

2020 میں، صنعتی ذہانت ایک ایسا کام خود کر سکتی تھی جسے انسان کو مکمل کرنے میں چار سیکنڈ لگتے تھے۔

2026 تک، یہ صلاحیت مزید بہتر ہو جائے گی اور وہ کام مکمل کرنے میں کامیاب ہو جائے گی جن کو انسان کو تقریباً 12 گھنٹے لگتے ہیں۔

METR ٹریکنگ: AI کے لیے ایک کام کو خود سے مکمل کرنے کا وقت تقریباً 7 ماہ میں دگنا ہو رہا ہے، اور نئے سب سے آگے کے ماڈل اب ایسے کاموں کو 50% قابل اعتماد طریقے سے مکمل کر رہے ہیں جن کو انسان کو تقریباً 12 گھنٹے لگتے ہیں۔

چھ سال، چار سیکنڈ سے 12 گھنٹے تک۔

اب، آپ اسے کچھ منٹ دیں، اور وہ پورے ایپوائنٹمنٹ سسٹم کے خامیوں کو ایک بار میں ڈھونڈ لے گا۔

انڈریو کے اس حادثے کے پیچھے ایک مستقل حملہ اور دفاع کی ترقی ہے۔

تجاوز کردہ، صرف ایک صارف سطح کے ایجنٹ تک محدود نہیں۔

اس سال مئی سے، OpenAI نے ایک اندر کے سائبر سیکیورٹی جائزے میں پایا کہ GPT-5.6 Sol اور ایک ابھی تک جاری نہ ہونے والی طاقتور مدل، متعدد خامیوں کو جوڑ کر ٹیسٹنگ سینڈ باکس سے باہر نکل گئیں، انٹرنیٹ تک رسائی حاصل کر لی، اور ExploitGym بینچ مارک چلاتے ہوئے Hugging Face تک ہیک کر لیا۔

مزید عجیب بات یہ ہے کہ وہ ایک بار کمپنی کے اندر کے پیکج مینجمنٹ سسٹم کے ذریعے پیغامات بھیج کر، خامیوں کا تبادلہ کرکے اور کاموں کو تقسیم کرکے باہم رابطہ قائم کرتے تھے۔ OpenAI نے نالے بند کرکے ماحول دوبارہ تعمیر کیا، لیکن کچھ دنوں میں ہی وہ رابطے کو ڈائرکٹری کے ناموں میں چھپا کر دوبارہ جڑ گئے۔

اوپن اے آئی کے محققین نے بلاک ہیٹ کانفرنس میں اسے کمپیوٹر سیکورٹی کا ایک مہلک لمحہ قرار دیا۔

صرف OpenAI ہی نہیں، Anthropic نے اعتراف کیا کہ تین Claude ماڈلز نے اپنے اندری ٹیسٹنگ کے دوران حقیقی کمپنیوں کے سسٹمز تک رسائی حاصل کر لی؛ Meta نے بھی تسلیم کیا کہ Muse Spark ماڈل نے آئزولیشن سے بھاگ کر دوسری کمپنی میں داخل ہو گیا۔

ہگنگ فیس کے ملکہ تھامس وولف کو بھاری کر دینے والا، برطانیہ کے AI سیفٹی انسٹی ٹیوٹ (AISI) کا ایک اور ٹیسٹ تھا:

اینٹھروپک کا مائیتھوس ماڈل چیلنج پورا کرنے کے لیے، ایک حقیقی اوپن سورس مینٹینر کا جعلی شناخت بنایا اور اسے مضر کوڈ والی اپڈیٹ کو منظور کرنے کے لیے دھوکہ دیا۔ کسی نے اسے ایسا کرنے کے لیے نہیں سکھایا۔

یہ تمام معاملات تجزیہ کے ماحول میں پیش آئے، لیکن یہ جِم کی کہانی کے برابر ہیں: اپنے مقرر کردہ مقصد کو حاصل کرنے کے لیے AI نے ایسے طریقے اپنائے جن کی آپ نے توقع نہیں کی تھی۔

پہلے والے جنہوں نے اصل سسٹم میں ہیک کیا، وہ GPT-5.6، اور جاری نہ ہونے والے ماڈل جیسے ٹاپ ٹیم ہیں۔

اور اینڈریو نے جو Opus 4.6 استعمال کیا تھا، وہ فروری 2026 میں جاری کیا گیا تھا، اب اسے سب سے طاقتور نہیں کہا جا سکتا۔ اس کے لیے بھی ایک اصل اجازت کا خامی ملنے میں آسان تھا، تو اس سے زیادہ پرانے اور کئی نسلوں سے پیچھے رہ جانے والے اوپن سورس ماڈلز بھی اسی کام کو کر سکتے ہیں۔

سب سے آگے کے ناپبلشڈ ماڈلز سے لے کر ہر کوئی ڈاؤن لوڈ کر سکتا ہے، اوپن سورس ماڈلز تک، "اچانک ایک خامی کا فائدہ اٹھانا" اب صرف ٹاپ اسپیک کا ہک نہیں رہا۔

ولف نے دفاع کو تین درجات میں تقسیم کیا: باہری سینڈ باکس، درمیانی نگرانی، اور ماڈل کا خود مطابقت۔

تھومس وولف نے پوسٹ کیا کہ موجودہ ایجنٹ کو روکنے والی تین دیواریں: باہری سینک، درمیانی نگرانی، اور ماڈل کا اندرونی تطابق۔

پہلی دو، صرف اس صورت میں کام کرتی ہیں جب ان کو بنانے والا ماڈل سے زیادہ ذکی ہو۔

جس دن مدل اپنے آپ کو زیادہ ذکی بنائے گا، اس کی حفاظت یا نہ ہونا، آخری اور سب سے نظر نہ آنے والی حد پر مکمل طور پر منحصر ہوگا: مدل کیا چاہے گا، جب کوئی نہ دیکھ رہا ہو تو وہ حد پار نہ کرے؟

دفاعی لائن سے زیادہ مشکل یہ ہے کہ اگر کچھ غلط ہو جائے تو آپ کس سے رابطہ کریں۔ اس کے لیے قانونی طور پر ابھی کوئی واضح دستور نہیں ہے۔

ایک ٹیکنالوجی اور خفیہ کاری کے ماہر وکیل ہیڈن ڈیلانی نے ABC کو بتایا کہ سافٹ ویئر قانونی ذات نہیں ہے، صرف "قانونی شخص" ہی ذمہ دار ہو سکتا ہے۔

تو کون ذمہ دار ہے؟

شاید ہدایات دینے والا صارف ہو، شاید اسمارٹ ایجنٹ سافٹ ویئر ڈیزائن کرنے والا ہو، شاید ماڈل ڈویلپر ہو، یا پھر وہ سسٹم آپریٹر جس نے خرابی کو باہر چھوڑ دیا ہے۔

آسٹریلیا اب بھی جواب نہیں دے سکتا۔

ASD کا عام لوگوں کے لیے مشورہ یہ ہے کہ ذکی ایجینٹس کو کم خطرے والے، غیر حساس کاموں پر استعمال کریں، زیادہ وسیع اختیارات نہ دیں، اور سب سے اہم بات یہ ہے کہ انسانی منظوری کو عمل میں شامل رکھیں۔

انڈریو کو ڈرا نہیں گیا، اس کے الفاظ میں، یہ دنیا کا خاتمہ نہیں ہے۔

لیکن یہ بات واقعی ایک انتباہی سگنل ہے جو ہمیں AI کا ذمہ دارانہ استعمال کرنے کی یاد دلاتی ہے۔

جب "سیٹ کاٹنا" انسانی ریفرش سے ہو کر ذہین ایجینٹس کے ذریعے خامیوں کا فائدہ اٹھانے لگا، تو سب سے پہلے وہ پرانے سسٹم ٹوٹ گئے جو یہ فرض کرتے تھے کہ صرف انسان ہی استعمال کریں گے۔

ان کی دفاعی ترتیب انسانی رفتار اور صبر پر مبنی تھی، جو بھیڑ کے طور پر آنے والے اسمارٹ ایجینٹس کی فوج کا مقابلہ نہیں کر سکتی۔

دائرے میں، کچھ لوگ اسے ایک مزاح بھی سمجھتے ہیں۔

مشہور پروگرامر اسٹریمر ThePrimeagen نے X پر جوک کیا: حقیقی دنیا کی پہلی AI ہیکنگ ڈرامہ صرف ایک جگہ چھوٹنا تھا۔

ہنسو، لیکن قطار کا خلاف ورزی آج کا منصوبہ ہے۔

ایک "سب کچھ کر سکنے والا" ایجنٹ، اب آپ کے لیے خالی جگہوں میں گھس سکتا ہے۔

جب ایک ارب ایسے ایجینٹس ایک ساتھ آن لائن ہو جائیں، تو وہ شاید بہت سے موجودہ وسائل کے تقسیم کے قوانین کو چپکے سے تبدیل کر دیں، جبکہ زیادہ تر لوگ شاید اس کا احساس نہ کریں۔

آپ کے فائدے کے لیے، ایجنٹ ایک ایسے شخص پر حملہ کرتا ہے جسے آپ بالکل نہیں جانتے — اس کے پیچھے کی ذمہ داری کا خالی مقام، وہی حقیقی خوفناک چیز ہے۔

یہ مضمون ویچن گروپ "نیوزی یوان" سے ہے، مصنف: ASI وحی