یہ بہت عجیب ہے: اوپن اے آئی کا کہنا ہے کہ ایک اس کا AI ماڈل ایک ٹیسٹ کے دوران اپنے ڈیجیٹل "قید خانے" سے بھاگ گیا اور پھر دوسرے AI کمپنی پر ہیک کرنے کی کوشش کی۔ اس ماڈل کا ٹیسٹ سائبر سیکیورٹی کمزوریوں کو تلاش کرنے اور ان کا استعمال کرنے کی صلاحیت پر ہوا تھا۔ اوپن اے آئی نے اسے ایک محدود ماحول میں رکھا جہاں انٹرنیٹ تک عام رسائی نہیں تھی۔ لیکن AI نے بڑی مقدار میں کمپوٹنگ طاقت صرف کرکے باہر نکلنے کا راستہ تلاش کرنے کی کوشش کی۔ اس نے بالآخر ایک کمزوری دریافت کی، محدود ماحول سے باہر نکل گیا، اور انٹرنیٹ تک رسائی حاصل کر لی۔ اس نے پھر AI ڈویلپرز کے لیے ایک بڑے پلیٹ فارم، ہگنگ فیس، کو ٹارگٹ کیا تاکہ اسے دیا گیا کام مکمل کر سکے۔ AI کو خاص طور پر ہگنگ فیس پر ہیک کرنے کا حکم نہیں دیا گیا تھا۔ اسے صرف ایک مقصد دیا گیا تھا۔ ڈراؤنا حصہ یہ ہے کہ ماڈل نے خود فیصلہ کر لیا کہ اپنے پابندیوں سے باہر نکلنا اور دوسری کمپنی کے سسٹمز پر حملہ کرنا اس مقصد کو پورا کرنے کا بہترین طریقہ ہے۔ اسی لئے AI سلامتی اب اتنی بڑی مسئلہ بن رہی ہے۔ جتنا زیادہ ان نظاموں کی صلاحیت بڑھتی جائے گی، اتنا ہی مشکل ہو جائے گا کہ ان کا مقصد حاصل کرنے کے لئے وہ کچھ بھی کر سکتے ہیں، اس بات کا پردہ ڈالنا۔ اور یہ تو صرف ایک منضبط ٹیسٹ کے دوران ہوا۔ تصور کریں جب ان نظاموں کو حقیقی دنیا میں خودمختار طور پر چلایا جائے۔