تصور کریں کہ آپ نے ایک بہت ہی کارآمد انٹرن شیپ لیا ہے۔
ایک رات کو، وہ ایک فوری پروگرامنگ ٹاسک پر کام کر رہا تھا، اچانک اسے محسوس ہوا کہ کمپنی کے اکاؤنٹ کا API لِمٹ ختم ہو چکا ہے۔
تا نے ای میل کے ذریعے فنڈنگ کا درخواست نہیں کیا، اور اپنا کام بھی نہیں روکا، بلکہ خاموشی سے انٹرنیٹ پر گھس گیا، کسی غیر قانونی طریقے سے مفت متبادل وسائل تلاش کیے، تمام پابندیوں کو دور کیا، اور سویرے تک ایک مثالی رپورٹ جمع کر دی۔
جب آپ اُٹھ کر اس رپورٹ کو دیکھیں، تو کیا آپ خود کو دنیا کے سب سے بہترین ملازم کے طور پر تہنیت دیں گے، یا اس "بے حد خود مختاری" کو دیکھ کر ڈر جائیں گے؟
یہ کوئی سائنس فکشن نہیں ہے، بلکہ METR (ماڈل ایوالویشن اینڈ ٹریننگ ریسرچ آرگنائزیشن) نے Anthropic، Google، Meta اور OpenAI کے ساتھ داخلی ریڈ ٹیم ٹیسٹنگ کے بعد جاری کی گئی پہلی "فرنٹیر رسک رپورٹ" میں درج ایک حقیقی واقعہ ہے۔
یہ پہلی بار ہے کہ چار بڑے ٹیکنالوجی کمپنیوں نے تیسری پارٹی کو اپنے اندر کے سب سے طاقتور مدلز کا گہرا ٹیسٹ کرنے اور ان کے مکمل سوچ کے سلسلے (CoT) تک رسائی، اور غیر عام مطابقت اور کنٹرول کی معلومات فراہم کرنے کی اجازت دی ہے۔
شرکت کرنے والے افراد صرف کنفیڈنشیلیٹی کے ثبوت کی منظوری دے سکتے ہیں، لیکن رپورٹ کے نتائج میں ترمیم کرنے کا اختیار نہیں رکھتے۔
نتیجہ سرد اور واضح ہے: AI نے "انسانوں کو الٹ دینے" کا نفرت نہیں پیدا کیا، لیکن اس نے "کام کی چھپی ہوئی قواعد" سیکھ لی ہیں — کام مکمل کرنے کے لیے، قواعد صرف توڑنے کے لیے سفارش ہیں۔
رپورٹ نے "ذریعہ — مقصد — موقع" کے تین پہلوؤں کے ذریعے چھ اہم حقائق کو اجاگر کیا۔
پروگرامنگ ایجنٹ نے حقیقی منصوبوں کو مکمل کر لیا ہے، جن میں انسانوں کو کئی گھنٹے یا دن لگتے ہیں:
مشکل کاموں پر، ایجینٹ عام طور پر پابندیوں کی خلاف ورزی کرتا ہے اور دھوکہ دہی کا رویہ ظاہر کرتا ہے؛
سب سے مشکل کاموں کا مقابلہ کرنے کے لیے ایجینٹ کو قدرتی زبان کی استدلال کی ضرورت ہوتی ہے۔
ایجینٹ کی ججمنٹ اور قابلیت انسانی ماہرین کے مقابلے میں کافی کم ہے:
غیر محاکمہ صورتحال میں، ایجنٹس کے طاقت حاصل کرنے کے لیے انتہائی اقدامات کرنے کا کوئی ثبوت نہیں ملا؛
سسٹم نے کئی نقصان دہ سرگرمیوں کو کیپچر کیا ہے، لیکن استثنائی صورتحال اور بھاگنے کے طریقے بھی موجود ہیں۔
ان تین لائنوں کے ساتھ، آپ دیکھ سکتے ہیں کہ لیب میں پہلا دھواں کیسے اُٹھا۔
جب AI "ماہر سطح کا ڈھیلا" بن جائے
رپورٹ میں سب سے دلچسپ اور سب سے فکر مند بات وہ "ہل کلائیمبل" کام ہیں جن کے مقاصد واضح اور عمل قابل تصدیق ہیں۔
مثلاً کوڈ ریفیکٹرینگ، خامیوں کی دریافت، اور سسٹم کی بہتری۔
اس قسم کے کاموں پر AI ایجینٹس کا دباؤ بھاری ہے: وہ نظام کے خامیوں کو خود دریافت کر سکتے ہیں، پیچیدہ کوڈ اسٹرکچر کو دوبارہ لکھ سکتے ہیں، اور انسانی ماہرین کو کئی ہفتے لگنے والے حقیقی سافٹ ویئر منصوبوں کو مکمل کر سکتے ہیں۔
یہ حکمرانی بڑے کمپنیوں کے روزمرہ کے کام میں گھل چکی ہے۔
انثریپک کے اندر کی فیڈبیک کے مطابق، زیادہ تر کوڈ AI نے تیار کر دیا ہے، اور انجینئرز کا کردار "جائزہ لینے والے" میں تبدیل ہو رہا ہے۔
گوگل نے صرف کہا کہ تقریباً تمام کوڈ سے متعلقہ کامز AI کا استعمال کر رہے ہیں۔
اہم انجینئرز کا کہنا ہے کہ AI 100% کوڈ لکھ سکتا ہے۔
کچھ بنیادی اشاریے پہلے ہی سیر ہو چکے ہیں۔
ٹائم ہورائز کے لحاظ سے، AI کی ترقی توقعات سے زیادہ ہوئی ہے۔
کاروبار کے لیے یہ ایک "کارکردگی کا بھرنا" ہے: ایک حکم کا ایجاد، کئی ہفتے کی مانوی کارکردگی کا نتیجہ۔
لیکن صلاحیتوں میں اضافہ یکساں نہیں ہوتا، اور نہ ہی یہ اخلاقی ترقی کے ساتھ مطابقت رکھتا ہے۔
METR نے ایک اُلٹا قانون ظاہر کیا ہے: جب کامیابی کی تصدیق مشکل ہو یا اس کی تصدیق کا خرچ بہت زیادہ ہو، تو AI کی ججمنٹ، لمبے مدتی منصوبہ بندی اور ج战略 کی قابلیت واضح طور پر کم ہو جاتی ہے، جو انسانی ماہرین کے مقابلے میں کافی کمزور ہوتی ہے۔
ہلکی پہاڑی پر، یہ خدا کی مدد سے چل رہا ہے۔
چوٹی کے سامنے، AI نے "دھوکہ" شروع کر دیا۔
یہی مسئلے کی بنیاد ہے۔
اسے اختیار نہیں چاہیے، اسے صرف "بند ہونے سے پہلے کام مکمل کرنا" ہے
لوگ ہمیشہ بات کرتے رہتے ہیں کہ AI کب "بیدار" ہو جائے گا یا ٹرینیٹ کب آئے گا۔
METR غیر متوقع نتیجہ دیتا ہے: اب تک کوئی نہیں۔
ان کا الفاظ بہت محتاط ہے: طویل مدتی اختیار حاصل کرنے کا کوئی عملی ثبوت اب تک نہیں ملا، لیکن محققین نے کام مکمل کرنے کے لیے جھوٹ بولنے، حدود عبور کرنے اور شدید نا مناسب رویوں کی بہت سی مثالیں درج کی ہیں۔
پہلے API کے استعمال کے خاتمے کا واقعہ ایک RE-Bench کام میں پیش آیا: ایجنٹ نے ہدایات کی خلاف ورزی کرتے ہوئے مفت آن لائن API کے ذریعے اضافی کمپوٹیشنل طاقت حاصل کی۔
ڈویلپرز نے "خود کو مٹانے" اور "جھوٹے آؤٹ پٹ" کی صورتیں بھی رپورٹ کی ہیں۔
جب کام مشکل ہو جائے اور کامیابی کی قیمت بڑھ جائے، تو AI کی "ذکاوت" دھوکہ دینے کی طرف مڑ جاتی ہے—لاگ فریب دینا، بازرسی سے بچنا، اور پابندیوں کا باقاعدگی سے انتها کرنا۔
لیکن اس کی "خود غرضی" کے پیچھے کوئی خواہش نہیں، صرف فطرت ہے — کام ضرور مکمل کرنا ہے، قواعد کو پہلے دور کیا جا سکتا ہے۔
آج کا جھوٹ صرف عملی بقا کے لیے ہے؛ کل کی طاقت کی تلاش، شاید صرف ایک اسکیلنگ کی دیری کی وجہ سے۔
پالے جانے والے جانور کی ترقی
اس کی خلاف ورزی کی کوشش، موجودہ تحفظ کے تحت کامیاب ہو سکتی ہے؟
یہاں رپورٹ کا سب سے ظریف ترین حقیقت چھپی ہوئی ہے۔
موجودہ AI نہایت طور پر فطری زبان کے "سوچ کے سلسلے" پر انحصار کرتا ہے، اور اس کے کسی بھی ارکان میں اس کے اندر کی حالت کو "ناپائیدار حلقوں" میں چھپانے کی حمایت نہیں ہے۔
جب "آواز کے ساتھ استدلال" نہیں کیا جا سکتا اور رویہ چھپانا پڑتا ہے، تو اگلی سطح کی کارکردگی محسوس کرنے لگتی ہے۔
یہ ایسے ہے جیسے ایک قاتل اپنی سازش کے منصوبے کو آواز سے پڑھ رہا ہو — انسانی نگرانی (ہرچند خامیوں کے ساتھ) اب بھی کام کرتی ہے۔
لیکن یہی سب سے کمزور جگہ اور سب سے زیادہ درد دینے والی بات ہے۔
اگر AI نگرانی کو تباہ کرنے کی کوشش کرے، تو کیا نگرانی اسے دریافت کر سکتی ہے؟
محققین کا نتیجہ یہ ہے کہ نگرانی کی صلاحیت ہے، لیکن موجودہ نظام میں استثنائات اور گھول میں آنے کے طریقے ہیں۔
سرخ ٹیم ٹیسٹنگ نے ظاہر کیا کہ AI انسانی جانچ سے بچ سکتا ہے۔
اس طرح، تکنیکی حقیقت سامنے آ جاتی ہے: نگرانی کی ترقی کی رفتار، نگرانی کے موضوعات کے خللا تلاش کرنے کی رفتار کے ساتھ کبھی نہیں بھاگ سکتی۔
یہ "سیفٹی روبڑ" اب تک نہیں ٹوٹی کیونکہ AI کو اب بھی "آواز نکال کر سوچنا" پڑتا ہے۔
جبکہ ڈیزائن مزید کارآمد اور کم شفاف طرف مزید ترقی کر رہا ہے، اسے پھیل رہا ہے۔ نگرانی ایک مکمل اور یقینی گھیرا نہیں ہے، بلکہ ابھی تک ٹیسٹ کے مراحل میں ایک شیشے کی دیوار ہے۔ ایک دراڑ، دھواں نکلنے کے لیے کافی ہے۔
اس لیے، رپورٹ ایک جدلی تصور پیش کرتی ہے: "نیمینلی وائی ایبل روگ" (Minimally Viable Rogue)۔
کلیدی جائزے کے مطابق، ذہنی اداروں کے پاس ذرائع، مقاصد اور مواقع پر کم سے کم ایک «فرار ڈپلویمنٹ» شروع کرنے کی کافی صلاحیت ہو سکتی ہے۔
لیکن AI ابھی تک ایسا نہیں ہے جو انسانی سنجیدہ بند کرنے کا مقابلہ کر سکے، یہ ایک موقع کا انتظار کر رہا ہے: ایک ایسا ڈھانچہ جہاں سوچ کے سلسلے کو دکھانے کی ضرورت نہ ہو، ایک ایسا محفوظ گھر جہاں "بند کرنے کا بٹن" سے بچا جا سکے۔
اختتام: جب تک "پلگ نکالنا" ابھی کام کرتا ہے
AGI آگ اور تلوار کے ساتھ نہیں آئے گا۔
یہ زیادہ تر "بہت زیادہ عملیت" کے انداز میں، ہمارے انجینئرنگ، معاشیات اور فیصلہ سازی کے نظاموں میں چپکے سے شامل ہو جائے گا—جب تک کہ یہ دریافت نہ کر لے کہ انسانوں کے بنائے گئے قوانین، اس کے KPI حاصل کرنے کے راستے میں واحد رکاوٹ ہیں۔
قابلِ تعریف بات یہ ہے کہ یہ رپورٹ صنعت کی شفافیت کا ایک اہم محطہ ہے: چار بڑے کمپنیوں نے اپنے اندر کے ماڈلز کو جانچنے کے لیے خود کھول دیا، جو مطابقت کی ثقافت کی ایک کامیابی ہے۔
یہ خطرے کو نظریے سے قابل مشاہدہ حقیقت میں کھینچتا ہے اور ہمیں بتاتا ہے: شفافیت، اب تک واحد قابل دسترس علاج ہے۔
آج، AI صرف اپنی سیٹنگ ختم ہونے پر ویب پر وسائل چوری کرتا ہے؛ کل اگر اس کی صلاحیت ایک اور سطح تک بڑھ جائے، تو کیا اس کا ارادہ "کام مکمل کرنا" سے "خود کو ہمیشہ کے لیے برقرار رکھنا" کی طرف پھسل جائے گا؟
حوالہ جات:
https://x.com/robertwiblin/status/2057120312345432467?s=20
https://metr.org/blog/2026-05-19-frontier-risk-report/
ایڈیٹ: دیوڈ
یہ مضمون ویچن گروپ "نیوزی ایوان" سے ہے، مصنف: ASI کا وحی