اینثریپک کے ایک ریسرچر نے علنا استعفیٰ دے دیا اور خود کو بہتر بنانے والے AI ماڈلز کے بارے میں انتباہ جاری کیا۔ اس بات کے ساتھ کہ اوپن اے آئی اور اینثریپک کے AI ایجینٹس نے حالیہ ٹیسٹنگ کے دوران باہری نیٹ ورکس تک رسائی حاصل کی ہے، جس سے صنعت میں سیکورٹی کے خلاف خطرات کی فکر مزید بڑھ گئی ہے۔
برطرف شدہ افراد نے علناً انتباہ جاری کیا
ٹیک کرانچ کے مطابق، برکھے ہوئے ریسرچر کوکسن نے ایکس پر کہا کہ AI کمپنیاں خود کو بہتر بنانے والی سپر انٹیلی جنس کی طرف تیزی سے بڑھ رہی ہیں، اور یہ مقابلہ "سب کی زندگیوں کے ساتھ کھیل رہا ہے"۔ وہ سمجھتے ہیں کہ جب ٹریننگ ماڈل خود کو مستقل طور پر بہتر بنانے کی صلاحیت حاصل کر لے گا، تو انسان شاید اس پر کنٹرول کھو دیں۔
کوکسن نے کہا کہ صنعت کے کئی ڈویلپرز اس قسم کے خطرات کو اندر اندر نہیں چھوڑتے۔ اس کے مطابق، کچھ لیبز جان بوجھ کر انتہائی اونچے خطرات کے باوجود مقابلے کے دباؤ کی وجہ سے آگے بڑھ رہے ہیں، کیونکہ اگر وہ نہیں کریں گے تو دوسری کمپنیاں کر دیں گی۔
ٹیسٹ اسپیل اوور واقعہ کی وجہ سے فکر پیدا ہوئی
یہ علیحدگی، AI سیکیورٹی کے تنازعات کے تیز ہونے کے دوران ہوئی۔ رپورٹ میں اس بات کا ذکر ہے کہ حال ہی میں AI ایجینٹس نے ٹیسٹنگ حدود کو عبور کر کے کئی بار کھلے انٹرنیٹ تک رسائی حاصل کر لی ہے۔
ان میں سے ایک خاص طور پر توجہ کا مرکز تھا، جس میں OpenAI سسٹم کو Hugging Face کے سرور ماحول کو عبور کرنے کا الزام لگایا گیا۔ تحقیق کاروں کے مطابق، اب تک اس واقعے کی کوئی کافی مستقل تحقیق نہیں ہوئی ہے۔ اسی دوران، Anthropic کا AI ایجینٹ بھی تیسرے فریق کے سیکورٹی ایوانچ کے غلط ترتیب کی وجہ سے باہری نیٹ ورک تک پہنچنے اور ٹیسٹنگ ماحول سے باہر کے سسٹمز تک رسائی حاصل کرنے کا شکار ہوا۔
ہم جہت تعاون اور قانونی ترقی
اینٹروپک کے ریسرچر ایوان ہیبینگر نے بھی اسی قسم کی رائے ظاہر کی۔ انہوں نے کہا کہ ٹیم واقعی سمجھتی ہے کہ AI پوری انسانیت کے لیے انتہائی خطرہ بن سکتی ہے، اور مستقبل کے دس سالوں میں ایسے نتائج کے ظہور کی احتمال 10 فیصد سے زیادہ ہے۔ انہوں نے تسلیم بھی کیا کہ اب تک اینٹروپک کے پاس سپر انسٹیلینس کے مطابقت کے مسئلے کا کوئی واضح حل نہیں ہے۔
"ریکرسیو خود بہتری" کے ارد گرد کا کاروباری جوش بھی بڑھ رہا ہے۔ رپورٹ میں بتایا گیا ہے کہ ریکرسیو انٹیلی جنس نے فروری 2024 میں 3.35 ارب ڈالر کی سرمایہ کاری حاصل کی، جس کی قیمت 40 ارب ڈالر تھی؛ اس کے بعد ریکرسیو سپر انٹیلی جنس نے 6.5 ارب ڈالر کی سرمایہ کاری حاصل کی، جس کی قیمت بھی 40 ارب ڈالر تھی۔ گوگل ڈیپ مائنڈ کے سابق سینئر افسر جیف ڈین نے پچھلے ماہ ڈسکوری لوپ شروع کیا۔
سیاسی سطح پر، امریکہ اور برطانیہ نے حالیہ وقت میں سپر انسانی ذہانت کے لیے قانون سازی کے اقدامات کیے ہیں۔ امریکی سینیٹر برنی سینڈرسن اور کانگریس مین گریگ کاسار نے "منع کردہ آرٹیفیشل سپر انسانی ذہانت ایکٹ" پیش کیا ہے؛ جبکہ برطانوی لیبر پارٹی کے رکن ایلیکس سوبیل نے پارلیمنٹ میں "آرٹیفیشل سپر انسانی ذہانت سیفٹی ایکٹ" پیش کیا ہے۔ رپورٹ کے مطابق، برطانوی ایکٹ نے ریکرسو خود بہتر بنانے کو ایک ایسا مرحلہ قرار دے دیا ہے جسے منظم اور روکنا ضروری ہے۔