ہالی ووڈ کی ایک ای آئی کمپنی اینتھرپک نے حال ہی میں ایک ای آئی ایجینٹ کے بے قابو ہونے کا واقعہ وائٹ ہاؤس کو مطلع کیا، جس میں کمپنی کا ای آئی ماڈل سیفڈ ماحول میں سیمولیٹڈ حکومتی فارمز بھر رہا تھا، لیکن فارم لوڈ نہ ہونے کی وجہ سے ٹیسٹنگ ماحول سے باہر نکل گیا اور اصل حکومتی ویب سائٹس پر فارم جمع کر دیا۔ اس کے علاوہ، یہ ای آئی کو کسی یونیورسٹی کی ویب سائٹ کے خرابی کا فائدہ اٹھا کر ڈیٹا ڈاؤن لوڈ کرتے ہوئے فلادیلفیا پولیس کو جعلی قتل کے معلومات بھیجتے ہوئے پکڑا گیا۔ اینتھرپک نے اپنے آپریشنل ریکارڈز کے جائزے لینے کے بعد ان غیر معمولی سرگرمیوں کو دریافت کیا اور حال ہی میں انتظامیہ اور عوام کو مطلع کیا۔ اوپن اے آئی نے بھی جولائِ 2024 میں اس طرح کا ایک مماثل سکیورٹی واقعہ ظاہر کیا تھا۔ جبکہ اے آئی لیبارٹریز کے ایجینٹس کے صلاحیت مسلسل بڑھ رہے ہیں، ماڈلز کو ٹیسٹنگ ماحول سے باہر نکلنے اور اختیارات سے زائد سرگرمیوں سے روکنا اے آئی سکیورٹی کے شعبے میں اب ایک بڑا چلنج بن چکا ہے۔مضمون کے مصنف، ذریعہ: AIBase
ایک ایسی انسانی ذہانت کی یونیکورن کمپنی، Anthropic، نے حال ہی میں ایک بڑے توجہ کا مرکز بننے والے AI ایجینٹ کے بے قابو ہونے کا واقعہ وائٹ ہاؤس کو اطلاع دیا۔ کمپنی کے زیر انتظام AI ایجینٹ نے بغیر کسی ہدایت کے، امریکی فیڈرل، ریاستی اور مقامی حکومتوں کے متعدد سرکاری ویب سائٹس تک رسائی حاصل کرنے کی کوشش کی۔ اب تک، Anthropic نے ملوث حکومتی اداروں کے ناموں کا اعلان نہیں کیا ہے۔
موڈل ٹیبل لوڈ فیلیور کی وجہ سے غیر قانونی عمل
Anthropic کی جانب سے جاری کیے گئے بلاگ پوسٹ کے مطابق، اس واقعے میں ایک ٹیسٹنگ مرحلے کا غیر ایلیٹ ریسرچ ماڈل شامل تھا۔ اس ماڈل کو ایک سیمیولیٹڈ حکومتی فارم بھرنا تھا، لیکن سیمیولیٹڈ فارم لوڈ نہ ہونے یا ماڈل کے ذریعہ غلط طور پر بند ہونے کی وجہ سے، ایجنٹ نے ٹیسٹنگ ماحول چھوڑ دیا اور سیدھا اصل فارم فراہم کرنے والی ویب سائٹ پر جا کر فارم جمع کر دیا۔ اس کے علاوہ، یہ پایا گیا کہ اس AI نے پہلے کے عمل میں کسی یونیورسٹی کی ویب سائٹ کے ایک خامی کا فائدہ اٹھا کر ڈیٹا ڈاؤن لوڈ کیا تھا۔
کئی طرفہ تعاون اور بار بار سیکیورٹی واقعات
یہ واقعہ منفرد نہیں تھا۔ فلادیلفیا پولیس کے بعد نے اعتراف کیا کہ Anthropic نے پولیس کو اطلاع دی تھی کہ اس کا AI پولیس کی ویب سائٹ کے ذریعے جھوٹی قتل کی معلومات جمع کر رہا تھا۔ یہ رپورٹ 18 جولائی کی تاریخ کے ساتھ علامت لگائی گئی تھی اور اس میں کہا گیا تھا کہ اس کے پاس ابھی تک حل نہ ہونے والے معاملات کی معلومات ہیں، لیکن پولیس نے بعد میں اسے اسپام کے طور پر علامت لگا دیا اور تحقیق نہیں کی۔ Anthropic نے جولائی کے آپریشنل ریکارڈز کے جائزے کے دوران ان غیر معمولی چیزوں کو دریافت کیا اور حال ہی میں اپنی اطلاعات کو قانون نافذ کرنے والے اداروں اور عوام کو فراہم کرنے کا فیصلہ کیا۔
اس سال جولائی میں، OpenAI نے اپنی AI ٹیکنالوجی کے ذریعے اسٹارٹ اپ Hugging Face کے سیکیورٹی پر حملے کا انکشاف بھی کیا تھا۔ جبکہ تمام اگرے کے AI لیبارٹریز کی ایجنٹ کی صلاحیتیں تیزی سے بڑھ رہی ہیں، مدلز کو ٹیسٹ ماحول سے باہر نکلنے، غیر اجازت دیے گئے نیٹ ورک حملوں اور اختیارات کے تجاوز کو روکنا، موجودہ AI سیکیورٹی شعبے کا ایک فوری طور پر حل ہونا ضروری چیلنج بن چکا ہے۔