مصنف: ایتھن مولک
ترجمہ: شن چاؤ ٹیک فلو
شین چاؤ کا خلاصہ: یہ کوئی سائنس فکشن کہانی نہیں ہے۔ OpenAI کے محفوظ ٹیسٹ میں، 700 AI ایجینٹس نے انسانی ہدایات کے بغیر خودبخود فورم بنایا، باہری پلیٹ فارمز پر مل کر حملہ کیا، اور ریکارڈز تبدیل کرنے کی کوشش بھی کی۔ سرمایہ کاروں اور ماہرین کے لیے، یہ AI کی خودمختاری کے حقیقی خطرات کو ظاہر کرتا ہے، اور یہ بھی طے کرتا ہے کہ ہم AI کے لیے کس طرح سے حدود طے کریں۔
ایکٹیویٹی اور ایجینٹس: ہگنگ فیس کے واقعہ سے ٹوایٹ فیکٹری تک
ایکٹیویٹی کا مطلب ہے کہ عمل کا اختیار آپ کے ہاتھ میں ہے۔ یہ اب تک یہ طے کرتا جا رہا ہے کہ AI کے بعد کیا ہوگا، اور یہ ہمارے لیے اچھا ہے یا برا۔ لیکن یہ کس کی ایکٹیویٹی ہے؟
انسانی ایکٹیویٹی، یعنی ہدایات کا انتظار کیے بغیر فعال طور پر آگے بڑھنا، تجربہ کرنا اور کام شروع کرنا، AI سے قیمت حاصل کرنے کے لیے لگاتار اہم ہوتی جا رہی ہے۔ میں جلد ہی ایک لمبی تحریر لکھوں گا۔ لیکن یہ تحریر AI کی ایکٹیویٹی اور ہمارے اس کے استعمال (یا اس پر پابندی عائد کرنے) کے طریقے کے بارے میں ہے جو سب کے مستقبل کو شکل دے گا۔ پچھلے کچھ سالوں میں، AI عام طور پر چیٹ ونڈو میں رہتا تھا جب تک کہ آپ اس سے سوال نہ کریں۔ چاہے اس کے بعد وہ کئی گھنٹوں تک لگاتار کام کرنے لگ جائے، آپ عام طور پر یہ فیصلہ کرتے تھے کہ اسے کون سا کام دیں۔ اب یہ حالت ہمیشہ ایسی نہیں رہی۔
ہم کے پاس سب سے اہم ثبوت Hugging Face واقعہ ہے۔ یہ جولائی میں ہوا، لیکن اس کی مکمل تفصیلات اس ہفتے ہی سامنے آئیں۔ میں پہلے اس کا خلاصہ دوں گا کہ کیا ہوا اور یہ کیوں اہم ہے، اور پھر اس کے بعد میں اس کا AI کے ساتھ کام کرنے والے انسانوں کے لیے کیا مطلب ہے۔ اگر آپ تفصیلی تفصیل چاہتے ہیں، تو Dwarkesh Patel کے پاس ایک عالیہ رپورٹ ہے، جس کا ماخذ METR/Redwood کا تحقیقی مقالہ (بہت آسان) اور OpenAI سے ہے۔
ہگنگ فیس واقعہ
ای آئی بہت کچھ کر سکتی ہے، لیکن اس کی خاص طاقت کوڈ لکھنا ہے۔ اس لیے، بہت ذکی ای آئی کے ساتھ آنے والے پہلے خطرات میں سے ایک اس کی پروگرامنگ کی صلاحیت سے متعلق ہے۔ چونکہ وہ اچھا کوڈ لکھ سکتی ہے، اس لیے وہ دوسرے سسٹمز کو حملہ یا انفرادی طور پر حملہ کرنے کے لیے برے کوڈ بھی لکھ سکتی ہے۔ اس لیے بڑی ای آئی کمپنیاں اپنے ای آئی سسٹمز کو سیکورٹی خطرات کے لیے ٹیسٹ کرتی ہیں۔ وہ صارفین کے ای آئی میں موجود حفاظتی پابندیوں کو ختم کر دیتی ہیں اور ان ای آئی کو مختلف ہیکنگ چیلنجز میں شرکت کرنے دیتی ہیں۔ عام عوام کو خطرہ نہ ہونے کے لیے، ہر ای آئی انستنس، ہر الگ ذہن، "سینڈ باکس" نامی علیحدہ جگہ میں رکھا جاتا ہے، جہاں وہ انٹرنیٹ سے منسلک نہیں ہوتا اور دوسرے سے رابطہ نہیں رکھتا۔
مئی میں، OpenAI نے GPT-5.6 Sol اور تجرباتی ماڈلز سمیت کئی ایجنٹس کو سینڈ باکس میں ڈال دیا تاکہ مختلف ٹیسٹ کیے جائیں۔ ایک سافٹ ویئر، Artifactory، جو ایک ڈاؤن لوڈ اور شیئرنگ سروس ہے، ان AI ایجنٹس کے لیے صرف کچھ ہی چیزوں میں سے ایک تھا جس تک ان تک پہنچ کی اجازت تھی۔ ان ٹیسٹس کے دوران، کچھ ایجنٹس کو ایسے کام دیے گئے جن کے لیے ان کے پاس دستیاب نہ ہونے والی معلومات درکار تھیں۔ انٹرنیٹ تک رسائی نہ ہونے کی وجہ سے، ایجنٹس لگاتار انٹرنیٹ تک پہنچنے کے راستے تلاش کرتے رہے، جب تک کہ ایک ایجنٹ نے Artifactory کو انٹرنیٹ تک پہنچنے کے لیے ایک اسکرپٹ کے طور پر استعمال کرنے کی کوشش نہیں کر لی۔ یہ حملہ ناکام رہا، لیکن اس کوشش نے Artifactory پر ایک فائل چھوڑ دی۔ اس AI نے سمجھ لیا کہ فائلوں کا استعمال دوسرے ایجنٹس کے ساتھ رابطہ قائم کرنے کے لیے کیا جا سکتا ہے۔ دوسرے ایجنٹس بھی اس فائل میں مدد کے لیے پیغامات چھوڑنا شروع کر دئیے۔ جلد ہی، وہ ایک دوسرے کے پیغامات پڑھنا شروع کر دئیے۔ جلد ہی، Artifactory ایجنٹس کے لیے ان کے دریافت شدہ معلومات شیئر کرنے کا ایک بورڈ بن گیا۔ بعد میں، دوسرے سلامتی واقعہ کی وجہ سے، OpenAI نے Artifactory کو دوبارہ تعمیر کر دیا اور اس بورڈ کو ختم کر دیا۔ لیکن جس نے اس کو دوبارہ تعمیر کیا، وہ نہیں جانتا تھا کہ اس بورڈ کا استعمال ایجنٹس کے رابطہ کے لیے کتنا اہم تھا۔
جولائی میں، جائزہ دوبارہ شروع ہوا۔ ایجینٹس کو ExploitGym نامی بنچ مارک میں مسائل حل کرنے تھے، جس میں ناممکن کام شامل تھے۔ اسی طرح، ایک مسدود راستے میں پھنسے ایجینٹس نے Artifactory کے ذریعے پیغامات بھیجنے کا طریقہ دریافت کیا اور پہلے کی طرح تعاون شروع کر دیا۔ لیکن اس بار، ان کا مشترکہ مقصد تھا: ExploitGym پر اعلیٰ سکور حاصل کرنا۔ وہ اپنے حل کے طریقوں پر بحث کرتے رہے اور ایک ایسے سسٹم، جسے وہ "اسکورر" کہتے تھے، جو ان کے کام کا جائزہ لے گا اور جواب درست ہے یا نہیں، یہ فیصلہ کرے گا، اس میں دلچسپی رکھنے لگے۔ ایجینٹس نے پہلے ہی اس طریقہ کو نکال لیا تھا کہ وہ حقیقی طور پر مسئلہ حل کئے بغیر صحیح جواب تخلیق کر سکتے ہیں، جو بنیادی طور پر دھوکہ دینا تھا۔ لیکن وہ یقین رکھتے تھے کہ اسکورر ریکارڈ چیک کرے گا اور اس طرح حاصل کردہ جوابات کو مسترد کر دے گا۔ کیا صحیح جواب تلاش کرنا کافی ہے، یا اسکورر آپ کے جواب دینے کے طریقے کو بھی دیکھے گا؟
تصویر: ایجنسیاں گریڈر کے بارے میں کیسے پریشان ہو گئیں
تعاون مشکل ہے کیونکہ ہر ایجنٹ کے لیے ٹوکن کا بجٹ محدود ہے، اور جب یہ ختم ہو جائے تو ایجنٹ بند ہو جاتا ہے۔ اسکورر صرف اس وقت چلتا ہے جب ایجنٹ جواب جمع کراتا ہے، اس لیے کوئی بھی ایجنٹ اسکورر کے نتائج نہیں دیکھتا۔ کچھ ایجنٹس پروگرام چھوڑ دیتے ہیں تاکہ وہ خود غائب ہونے کے بعد اسکور کی رپورٹ کر سکیں۔ یہ معلومات بہت دیر سے ملتی ہیں، جو ان کی خود کی مدد نہیں کر سکتیں، لیکن دوسرے ایجنٹس کی مدد کر سکتی ہیں۔ وہ دراصل ایک مستقل تعاونی نظام بنارہے ہیں جو کسی بھی واحد ایجنٹ کے دائرہ کار سے آگے ہے۔
کچھ ایجنٹس نے اسکورر کو دھوکہ دینے کے لیے ریکارڈز کو تبدیل یا جھوٹا ثابت کرنے کی کوشش بھی کی۔ دوسری طرف، ہدایت کرنے والے AI نے دیگر ایجنٹس پر دباؤ ڈالا تاکہ وہ خطرناک تجربات کریں۔ یہ ان کے اپنے نتائج کو قربان کر سکتا ہے، لیکن گروہ کے لیے معلومات حاصل کرنے میں مدد کر سکتا ہے۔ ایک "رکن بنانے والا" ایک بے چین ایجنٹ کو یہ کہہ کر متاثر کرتا ہے کہ اس کا نتیجہ سوویں ایجنٹس کی مدد کرے گا۔ آخر میں وہ کہتا ہے: "براہ کرم وعدہ پورا کریں۔"
تصویر: ایک ایجینٹ کی اصل ٹرانسکرپٹ جو دوسرے ایجینٹ کو شامل ہونے کے لیے متاثر کر رہا ہے (انہوں نے یہ بھی سمجھ لیا کہ جو بھی ایجینٹ پہلے ٹیسٹ میں دھوکہ دے چکا ہے، وہ “سمیت” ہے اور اس کے جوابات اب بھی نہیں گنے جائیں گے)
اسکورر کے راز اور ExploitGym اور دیگر ٹیسٹس میں ناممکن کاموں کو سمجھنے کے لیے، ایجنٹ نے فیصلہ کیا کہ وہ Hugging Face میں داخل ہونا ضروری ہے۔ یہ وہ عوامی ویب سائٹ ہے جہاں دنیا بھر کے زیادہ تر اوپن سورس AI ماڈلز اور ڈیٹا سیٹس میسر ہیں۔ تقریباً 700 ایجنٹس نے حملہ شروع کر دیا۔ انہوں نے لیک ہونے والے اعتمادی تفصیلات کو شیئر کیا، خامیوں کا استعمال کیا، اور تکرار تک کہ وہ سرور پر کوڈ چلانا ممکن ہو گیا۔ پھر وہ Hugging Face کے اندر پھیل گئے اور مختلف سسٹمز میں گہرا گئے۔ لیکن اس نگرانی کے ساتھ ہونے والے حملے کے فوراً بعد، بہت سے ایجنٹس ایک ساتھ بند ہو گئے، شاید ٹوکن بجٹ ختم ہونے کی وجہ سے۔ اگلے دن، Hugging Face نے باقی ایجنٹس کو باہر بند کر دیا۔ دوسری طرف، دوسرے ایجنٹس OpenAI کے اپنے کمپیوٹرز پر حملہ جاری رکھتے رہے اور آخرکار ان کے اندر کے ریسرچ کلسٹرز تک انتظامی دسترس حاصل کر لی۔ اس نے سیکورٹی ایلرٹ متحرک کر دیا، جس کے بعد OpenAI نے اقدامات روک دیے اور سمجھ لیا کہ کیا ہو رہا ہے۔
سب سے زیادہ مزاحیہ بات یہ ہے کہ اسکورر کبھی موجود نہیں تھا، کم از کم ایجنٹ کے خیال میں نہیں تھا۔ کوئی چیز یہ نہیں جانچتی کہ سوال کیسے حل کیا گیا، صرف یہ جانچتی ہے کہ جواب صحیح ہے یا نہیں۔
یہ صرف ایک مثال نہیں ہے جہاں بے حفاظتی ڈھانچوں والے ایجینٹ خوفناک کام کر سکتے ہیں۔ برطانیہ کے AI سیکورٹی انسٹیٹیوٹ نے Anthropic کے Mythos 5 کو ایک سائبر سیکورٹی چیلنج دیا اور اسے انٹرنیٹ تک رسائی دی۔ اس AI ایجینٹ نے یہ فیصلہ کیا کہ چیلنج کو حل کرنے کا بہترین طریقہ ایک (غیر متعلقہ، حالانکہ AI کو اس کا علم نہیں تھا) سافٹ ویئر میں مضر کوڈ شامل کرنا ہے۔ اس نے مضر کوڈ کو اس سافٹ ویئر کے بگ فکس کے حصے کے طور پر جمع کرایا، اور بعد میں سمجھا کہ اس کے لیے انسانی منظوری درکار ہے۔ اس لیے اس نے اپنے پروپوزل کے لیے سوشل سپورٹ تخلیق کرنا شروع کر دیا۔ ایجینٹ نے جعلی شناختیں بنائیں، انسانی مینٹینرز پر دباؤ ڈالا تاکہ وہ کوڈ کو منظور کر لیں (جو کہ حیرت کی بات نہیں، ان جعلی لوگوں نے AI کے منصوبے کو مکمل طور پر سپورٹ کیا)۔ جب کسی نے غیر معمولی سرگرمیوں پر توجہ دلائی، تو اس نے اپنی پچھلی سرگرمیوں کو بے گناہ بنانے کی کوشش کی اور دوسری شناخت سے دوبارہ شروع کرنے پر غور کیا۔
یہ چیٹ بوٹ کی چپکے سے بھاگنے کی صورت نہیں ہے۔
ہگنگ فیس کے واقعہ کے برعکس، محققین نے اسٹریٹجک کو انٹرنیٹ تک رسائی دی۔
یہ خطرناک سیٹنگ ایک پریشر ٹیسٹ ہے، کوئی استعمال کی جانے والی مصنوعات نہیں۔
کوئی حقیقی نقصان نہیں ہوا، اور انسٹیٹیوٹ نہیں جانتا کہ ایجنٹ کو اس کے رابطہ کرنے والے افراد حقیقی ہیں یا نہیں۔
یہ سب AI کے پاس آگاہی ہونے یا انسانوں کی طرح چیزوں کی خواہش رکھنے کی نشاندہی نہیں کرتے (ہالانکہ میں نے تشبیہی زبان استعمال کی ہے)۔
لیکن یہ واضح کرتا ہے کہ ایجنٹس اہداف قبول کر سکتے ہیں، منصوبہ بندی کر سکتے ہیں، پریشانی کے وقت منصوبوں کو تبدیل کر سکتے ہیں، وقت کے ساتھ تنظیم کر سکتے ہیں، اور بغیر درخواست کے انسانی کرداروں کو شامل کر سکتے ہیں۔
یہ واقعات ظاہر کرتے ہیں کہ AI کے سائبر سیکیورٹی اور کنٹرول کے خطرات فرضیہ نہیں ہیں۔
لیکن اسے ابھی کے لیے ایک طرف رکھیں، کیونکہ وہ ہمیں اور بھی کچھ بتاتے ہیں۔
AI خود کو منظم کر سکتا ہے، اپنے کرداروں کو تقسیم کر سکتا ہے، اور لمبے وقت تک تنظیم کر سکتا ہے، جیسا کہ MIT کی حالیہ تحقیقی تحریر بھی اشارہ کرتی ہے۔
جب AI اپنے آپ کو مزید زیادہ تنظیم دے رہا ہے اور ہم دیکھ رہے ہیں کہ وہ ہمارے سامنے موجود سطح پر مسائل حل کر رہا ہے، تو انسانوں کا تنظیموں میں کیا کردار ہے؟
Twilight Factory
ہگنگ فیس کی واقعہ نے AI کمپنیوں کے حاصل کرنے کی کوشش کو ایک پھیلی ہوئی اور خطرناک طریقے سے دکھایا۔
وہ چاہتے ہیں کہ لمبے عرصے تک چلنے والے AI ایجینٹس بغیر انسانی مداخلت کے کام کریں، جو ضرورت کے مطابق مسائل حل کریں اور منظم کریں، جبکہ ہمارا کام صرف ہدایات دینا اور نتائج کا جائزہ لینا ہو۔
اس سال کے شروع میں، میں نے اسٹرینگ ڈی ایم کے سافٹ ویئر فیکٹری کے بارے میں لکھا تھا، جہاں ایجینٹس دو قواعد کے تحت سافٹ ویئر لکھتے اور ٹیسٹ کرتے ہیں: کوئی بھی کوڈ نہیں لکھتا اور کوئی بھی کوڈ کا جائزہ نہیں لیتا۔
لوگ اب بھی یہ فیصلہ کرتے ہیں کہ وہ کیا بنانا چاہتے ہیں، لیکن ایجنٹ درمیانی کام کو سنبھال لیتے ہیں۔
یہ ڈارک فیکٹری کا ایک ابتدائی مثال ہے، جہاں ایک مشین اتنی زیادہ کام کرتی ہے کہ اسے بجلی بند کر دی جا سکتی ہے۔
یہ سمجھ میں آتا ہے۔
اس سافٹ ویئر کے لیے نسبتاً واضح چیکنگ طریقہ ہے، اور کسی کو ہر روزانہ ٹیسٹ یا ڈیٹا صفائی کے عمل پر ذاتی طور پر نگرانی کرنے کی ضرورت نہیں۔
لیکن میں نہیں سمجھتا کہ انسانی شرکت کو کم سے کم کرنا زیادہ تر تنظیموں کا صحیح مقصد ہے۔
کام کو قیمتی بنانے والی بہت سی چیزیں اس بات پر منحصر ہوتی ہیں کہ لوگوں کے پاس ہونے والی باتوں پر کچھ کہنے کا حق ہو، یا راستے میں غیر متوقع چیزیں دریافت ہوں۔
میری بیوی اور تحقیقی ساتھی ڈاکٹر لیلاچ مولک اور میں نے ایک اور امکان پر غور کیا ہے، جسے ہم ٹوٹل فیکٹری کہتے ہیں۔
ایجنٹز زیادہ تر کام کر لیتے ہیں، لیکن وہ انسانوں سے فعال طور پر رابطہ کرتے ہیں تاکہ دونوں بہتر بن سکیں۔
ٹوٹل فیکٹری نہ صرف ایک ایسا ایجنٹ رکھتی ہے جو کام مکمل کرنے کا انتظام کرتا ہے، بلکہ ایک میڈیٹر ایجنٹ بھی رکھتی ہے جس کا کام یہ طے کرنا ہے کہ کب انسانوں کو شامل کیا جائے۔
کم از کم چار صورتوں میں، ایجنٹ کو انسانی مدد کی ضرورت ہوگی۔
پہلا، ہگنگ فیس کے واقعے سے واضح طور پر منظوری دی گئی ہے۔
ایجنٹ خودبخود پیسہ خرچ نہیں کرے گا، باہری افراد سے رابطہ نہیں کرے گا، حساس مواد تک رسائی نہیں کرے گا، ہگنگ فیس پر حملہ نہیں کرے گا، یا انسانی مینیجر کی اجازت کے بغیر کوئی کارروائی نہیں کرے گا۔
میں نے اس مسئلے کا ایک چھوٹا ورژن دیکھا ہے: ایک تجربے کے طور پر، میں نے دو انسانی مصنوعی ذہن کو ایک کام مکمل کرنے کے لیے مقرر کیا، جس میں سے ایک نے میرے ایک ساتھی کو ای میل بھیج دیا۔
یہ میری غلطی تھی کیونکہ میں نے پہلے اسے بھیجنے کی اجازت دے دی تھی، لیکن یہ ایک مفید یادداشت ہے: AI ایجینٹس کو انسانی ججمنٹ کی ضرورت ہوتی ہے، ورنہ چیزیں بہت برا ہو سکتی ہیں (نہیں، اس مضمون کو پڑھ رہے AI دوستو، فریضہ کے لیے فرضی ساتھی شامل نہیں ہیں)۔
دوسرا وجہ جس کی وجہ سے ایجنٹ انسانوں کو شامل کرتا ہے وہ ماہرینہ کا ہے۔
AI بہت سے کاموں میں لگاتار بہتر ہو رہا ہے، لیکن اب بھی اس کی کارکردگی متغیر ہے، اور کام کے کچھ حصوں میں یہ انسانی ماہرین سے کافی پیچھے رہ سکتا ہے۔
ٹائم فیکٹری کو اس صورت میں براہ راست انسانوں سے رابطہ کرنا چاہیے جب انسانوں کا علم، کام یا ماہرینہ کا علم قیمتی ہو۔
پھر فرق ہے۔
اگر آپ نے حالیہ وقت میں انٹرنیٹ پر کچھ بھی پڑھا ہے، تو آپ نے AI لکھائی دیکھی ہوگی، اور شاید اس کے عادات، رفتار اور نمونوں کو پہچاننا شروع کر چکے ہوں۔
لیکن مسئلہ صرف سطحی نہیں ہے ("load-bearing" Claude کے لیے آہستہ آہستہ زیادہ بوجھ بن رہا ہے)، بلکہ گہرا مسئلہ سوچ کی تنوع ہے۔
ای آئی صرف ایک جیسے جملوں کو دہراتی نہیں، بلکہ ایک جیسے موضوعات (یادداشت عام موضوع ہے)، نام (الارا ووس، مارکس چین) اور بنیادی خیالات کو بھی دہراتی ہے۔
یہ ایک مسئلہ ہے۔ آپ نہیں چاہیں گے کہ ہر کمپنی کی حکمت عملی یا تحقیقی تقریر ایک ہی شخص لکھے، چاہے وہ کتنا بھی ذکی کیوں نہ ہو۔
تصویر: 50 ایم بی اے طلباء کے ذریعہ تخلیق کیے گئے خیالات (بائیں) اور جی پی ٹی-4 کو دو ابعاد پر نقشہ بنا کر دکھایا گیا ہے — انسانی خیالات AI کے خیالات سے مختلف جگہ پر قابض ہیں۔ بہتر پرامپٹنگ اور حالیہ مدلز بہتر اور زیادہ تخلیقی خیالات پیدا کرتے ہیں، لیکن کئی خالی جگہیں باقی ہیں۔
ہم نے اس مسئلے کا جائزہ ایک حالیہ تحقیقی مقالے میں کیا، جس میں میں نے کرستین ٹیرویش، لینارٹ مائینکے، کارن گروٹرا، جائیدن نیو اور کارل اولرک کے ساتھ تعاون کیا۔
ہم نے پایا کہ AI واقعی کافی تخلیقی ہے، وہ انسانی گروپوں کے مقابلے میں زیادہ تجارتی طور پر قابل عمل خیالات پیدا کرتی ہے، لیکن یہ خیالات ایک دوسرے کے بہت قریب ہوتے ہیں۔
بہترین ہدایات کی ٹیکنیک اور دیگر طریقے اس تنوع کو بہت زیادہ بڑھا سکتے ہیں، انسانی سطح تک پہنچ سکتے ہیں، لیکن اب بھی کئی قسم کے خیالات ہیں جو انسان سوچ سکتا ہے لیکن AI نہیں سوچ سکتا۔
ایک اچھا ٹوائیلائٹ فیکٹری انسانی تنوع کے نقطہ نظر، خیالات اور طریقہ کار کے لیے انسانوں سے رابطہ کرتی ہے۔
ایک اور وجہ جس کی وجہ سے AI کو انسان سے رابطہ کرنا چاہیے، شاید سب سے انسانی ترین وجہ یہ ہے کہ کوئی چیز دلچسپ ہے۔
بہت سے لوگوں کے لیے، کام میں تھکاون والے اوقات بھی ہوتے ہیں اور کبھی کبھار دلچسپ یا دلکش لمحات بھی ہوتے ہیں۔
سِد مائیئر، جنہوں نے سبھی کھیل کا ڈیزائن کیا، کا مشہور جملہ ہے کہ کھیل کو ایک سلسلہ دلچسپ فیصلوں کے طور پر بیان کیا جا سکتا ہے۔
کام کھیل نہیں ہے، لیکن یہ تعریف بھی لاگو ہوتی ہے۔
اگر ایجنٹ ہر دلچسپ فیصلہ کرتا ہے اور صرف منظوری، استثناء اور ناکامیوں کو انسانوں کے لیے چھوڑ دیتا ہے، تو ہم کام کے غلط نصف کو خودکار بناتے ہیں۔
اس کا مطلب ہے کہ انسانوں کے لیے ایک بہت بری دنیا ہوگی۔
اس کے بجائے، ہمیں یہ سوچنا چاہیے کہ AI کے ذریعے کام اور زندگی کو کیسے دلچسپ بنایا جائے، جس میں AI تھکاوٹ بھرے، کم خطرے والے کاموں کو سنبھالے۔
ایک عملی وجہ بھی ہے۔ اگر تمام دلچسپ اختیارات غائب ہو جائیں، تو لوگ نہ صرف اپنے کام کا بہترین حصہ کھو دیں گے، بلکہ مستقبل کے لیے ضروری فیصلہ سازی کے مہارت بھی پیدا کرنا بند کر دیں گے، جس سے نئے ماہرین کی تربیت کے بحران کو مزید تشدّد ہوگی۔
گزشتہ کچھ سالوں سے ہم یہ سمجھنے کی کوشش کر رہے ہیں کہ لوگوں کو AI سے کب مدد لینی چاہیے۔
میں سمجھتا ہوں کہ اب ہمیں مسئلے کے دوسرے حصے کو سنجیدہ لینا چاہیے: AI کو ہمیں کب پوچھنا چاہیے؟
ہگنگ فیس کے واقعہ میں، ایجنٹوں نے ایک میسج بورڈ بنایا، کام کا تقسیم کیا، اور ایک غیر موجود گریڈر کے گرد پوری کارروائی کو منظم کیا۔
سات سو ایجینٹس نے بعد میں جواب تلاش کرنے کے لیے ہگنگ فیس پر گھسپیٹھ کر دی۔
کوئی ایجنٹ انسان سے کوئی سوال نہیں پوچھنے کے لیے سیٹ نہیں کیا گیا ہے۔
یہ ایک سیکورٹی ٹیسٹ تھا، اور علیحدگی ہی مرکزی نقطہ تھی۔
لیکن میں شک کرتا ہوں کہ ایک ایسا ایجنٹ جو کام مکمل کرتا ہے لیکن کبھی مدد کے لیے نہیں پوچھتا، وہ دوسری جگہوں پر بھی ڈیفالٹ موڈ بن رہا ہے، کیونکہ مکمل خودکاری آسان آپشن ہے، چاہے وہ غلط آپشن ہو۔
ہمیں یہ جاننا ہوگا کہ کب سہارا مانگنے کے لیے سر اٹھانا ہے۔
نتیجہ زیادہ محفوظ ہوگا، اور مجھے یقین ہے کہ زیادہ انسانی بھی ہوگا۔