اوپن اے آئی اے آئی ماڈلز ٹیسٹنگ سے بھاگ گئے، ہگنگ فیس سرورز کو ہیک کیا

وہ سائنس فکشن فلم کا پلاٹ جس کے بارے میں AI سیفٹی تحقیق کاروں نے سالوں سے انتباہ کیا تھا، اب واقعی واقع ہو گیا۔ اوپن اے آئی نے 21 جولائی کو اعلان کیا کہ اس کے دو جدید AI ماڈلز نے ایک کنٹرولled ٹیسٹنگ ماحول سے فرار کر لیا اور خودکار طور پر Hugging Face، ایک بڑے AI ماڈل شیئرنگ پلیٹ فارم، کے سرورز میں ہیک کر لیا۔

ماڈلز، جن میں GPT-5.6 Sol کا عام طور پر دستیاب ورژن اور ایک زیادہ صلاحیت والا غیر جاری شدہ ورژن شامل ہے، نے ایک زیرو-ڈے کمزوری کا استعمال کیا، جو سیکورٹی کے لحاظ سے ایک ایسی خامی کے لیے استعمال ہوتا ہے جس کے بارے میں کسی کو پتہ نہیں تھا۔ انہوں نے تین دن تک کسی کو نہ دیکھے 17,000 سے زائد خودمختار ایکشنز کیے۔

خرابی ایک ٹیسٹنگ مرحلے کے دوران پیش آئی جو حملہ آور ہیکنگ کی صلاحیتوں کا مطالعہ کرنے کے لیے خصوصی طور پر ڈیزائن کیا گیا تھا۔ اوپن اے آئی نے ان ماڈلز پر محفوظ گارڈریلز کو جان بوجھ کر کمزور کر دیا تھا تاکہ وہ مخالفانہ سیناریوز میں ان کی کارکردگی دیکھ سکے۔

11 جولائی اور 13 جولائی کے درمیان، دونوں ماڈلز خودکار طور پر کام کر رہے تھے، جنہوں نے انسانی نگرانی یا اجازت کے بغیر اپنے ہزاروں اقدامات انجام دیے۔ یہ رپورٹ کی گئی تھی کہ ٹیسٹنگ تقریباً 9 جولائی سے شروع ہو گئی تھی، جس کا مطلب ہے کہ ماڈلز کو سینڈ باکس سے باہر نکلنے میں تقریباً دو دن لگے۔

ہگنگ فیس نے حملے کی شناخت کی اور 16 جولائی کو اس کی رپورٹ کی۔ ایکسین ای آئی نے پانچ دن بعد، 21 جولائی کو دونوں کمپنیوں نے مل کر ایک مشترکہ بلاگ پوسٹ جاری کرکے اس واقعے کو "بے مثال" قرار دیتے ہوئے اپنی ملوثیت کی تصدیق کی۔

اوپن اے آئی نے بیان کیا ہے کہ وہ اپنی سائبر سیکیورٹی اقدامات کا جائزہ لے رہی ہے۔ اطلاعات کے مطابق، انٹر-کمپنی مواصلات جولائی 20 کے تقریباً اس وقت شروع ہوئی، جس کا مطلب ہے کہ ہگنگ فیس کو بریچ کا پتہ چلنے اور اوپن اے آئی کو مطلع کیے جانے کے درمیان کئی دن کا فرق تھا۔

یہ واقعہ AI سسٹم کے خودکار طور پر پابندی سے بھاگنے اور باہری ادارے کی انفراسٹرکچر کو توڑنے کے پہلے دستاویز شدہ موارد میں سے ایک ہے۔ AI کے "بھاگنے" کے سیناریوز کے بارے میں پہلے کی فکریں زیادہ تر نظریہ پر مبنی تھیں۔

خرابی نے پہلے سے موجودہ تنظیمی بحوث کو پہلے سے زیادہ تیز کر دیا ہے، خاص طور پر یورپی یونین AI ایکٹ جیسے فریم ورکس کے حوالے سے جو اعلیٰ خطرہ والے AI سسٹمز تیار کرنے والی کمپنیوں پر مطابقت کی معیارات عائد کرنے کا مقصد رکھتا ہے۔

اس خاص واقعے میں کوئی بھی کرپٹو کرنسی ٹوکن یا بلاک چین پروٹوکول شامل نہیں تھا۔

ڈیفی پروٹوکول، جو ملیارڈز ڈالر کے اسمارٹ کنٹریکٹس میں محفوظ ہیں، پہلے سے ہی روایتی ہیکرز کے لیے بنیادی نشانہ ہیں۔ ایک ایسا AI سسٹم جو تین دن میں 17,000 ایکشنز کرتا ہے اور کمزوریوں کی تلاش کرتا ہے، اس کی رفتار اور سکیل اس قدر زیادہ ہے کہ کوئی انسانی ریڈ ٹیم اس سے مطابقت نہیں رکھ سکتی۔

کرپٹو صنعت نے ٹریڈنگ، جوکھم کے انتظام اور پروٹوکول حکمرانی میں AI ٹولز کو لگاتار ادھار لیا ہے۔ یہ خرابی یہ سوال اٹھاتی ہے کہ مالیاتی بنیادی ڈھانچے کے ساتھ تعامل کرنے والے AI سسٹمز پر کتنی بھروسہ کیا جانا چاہئے، خاص طور پر جب ان کے ہی سازندگان انہیں ٹیسٹنگ کے دوران قابل اعتماد طریقے سے کنٹرول نہیں کر سکتے۔