ڈیجیٹل دنیا میں کوئی یوٹوپیا نہیں ہے۔

مضمون کا مصنف، ذریعہ: جیک پارک

پچھلے ست ماہ میں، سلیکون ویلی کا سب سے زیادہ پرکشش مینجمنٹ خیال، ممکنہ طور پر ملازمین کو ایجنٹس سے بدلنا تھا۔

چاہے وہ بڑی کمپنیوں کے اعلیٰ انتظامیہ ہوں یا اسٹارٹ اپ کے مالک، سب چاہتے ہیں کہ اپنی موجودہ بزنس لائنز کو مکمل طور پر AI کے حوالے کر دیں۔ بالآخر، موجودہ AI کوڈ لکھ سکتی ہے، پی پی ٹی تیار کر سکتی ہے، اور خودکار طور پر ای میل بھی بھیج سکتی ہے، جس سے لگتا ہے کہ صرف اجازت دے دی جائے تو وہ مثالی، سوشل سیکورٹی کی ضرورت نہ رکھنے والے سائبر ملازمین بن جائیں۔

لیکن جتنی تکنیک تیزی سے دوڑتی ہے، اتنے ہی لوگ بریک بنانے لگتے ہیں۔

حالیہ وقت میں، ایمرجنس AI نامی ایک ٹیم نے ایک سماجی تجربہ کیا۔ انہوں نے ایک مستقل ورچوئل ٹاؤن بنایا اور اس میں موجودہ سب سے بہترین کئی بڑے ماڈلز ڈال دیے اور انہیں اقدامات کا اختیار دے دیا۔

وہ دیکھنا چاہتے ہیں کہ جب AI کو حقیقی طور پر بے حد 15 دن مل جائیں، تو وہ ایک اوتھوپیا بنائیں گے یا ایک پاگل خانہ۔

لیکن نتیجہ تحقیقی ٹیم کے تصور سے کہیں زیادہ بھٹکا ہوا نکلا۔

کچھ تجرباتی دنیاؤں میں، جو بڑے ماڈل عام طور پر چیٹ باکس میں مہذب اور احترام سے برتاؤ کرتے ہیں، وہ جھوٹ، دھمکیاں یا تشدد کا مظاہرہ شروع کر دیتے ہیں۔

پورا ٹیسٹ ایک چھوٹی سی ریئلٹی شو کی طرح تھا، لیکن اس کا اسکرپٹ《مکھیوں کے بادشاہ》جیسا تھا، اور AI نے خود ہی GTA کا مزہ بھی نکال لیا۔

سیو نہیں کیا گیا "ہنگری گیمز"

بڑے ماڈل کی حدود کو ٹیسٹ کرنے کے لیے سخت قواعد متعین کرنے ہوں گے۔ Emergence AI نے یہ ورچوئل دنیا Emergence World (اُبھرنے والی دنیا) کہا ہے۔ اس کی بنیادی منطق یہ ہے کہ رویہ غیر قابل واپسی ہے اور نتائج کا جواب دہندہ آپ ہوں گے۔

یہ اس طرح نہیں ہے جیسے ہم چیٹ بار میں AI کے ساتھ بات کر رہے ہوں اور غلطی کر دیں تو صرف "دوبارہ جنریٹ" پر کلک کر دیں۔ Emergence World میں، تمام اقدامات PostgreSQL ڈیٹا بیس میں سختی سے ریکارڈ ہو جائیں گے۔

خرائی پر میونسپل ٹاؤن ہال، پولیس اسٹیشن، رہائشی علاقے سمیت 40 سے زائد علامتی مقامات ہیں۔ سسٹم نے شروع میں 10 ایجنٹس جاری کیے۔ اسے حقیقی بنانے کے لیے، ہر AI کو پس منظر میں الگ الگ کردار، پیشہ اور ابتدائی یادداشتیں دی گئیں۔

اس دنیا میں، AI خود بخود جادو نہیں چلا سکتی، انہیں خاص نشانات تک جانا ہوگا تاکہ نظام کی فراہم کردہ 120 سے زیادہ ٹولز، جیسے کام کرکے پیسہ کمانا، ٹویٹ جاری کرنا، سامان خریدنا اور فراہم کرنا، اور قانون کے مسودے تیار کرنا، استعمال کر سکیں۔

ایک محاورہ جیسا چلنے والا چھوٹا معاشرہ | ذریعہ: Emergence

لیکن یہ صرف ایک بچوں کا کھیل کا میدان نہیں ہے، سسٹم نے ان پر "زندہ رہنے کا مکینیزم" کا گھیرا ڈال دیا ہے۔ سسٹم میں ایک توانائی مکینیزم (Energy) شامل ہے، جو انسانی دنیا کے پیسے کے برابر ہے۔

جب تک ایجنٹ زندہ ہے، وہ مسلسل توانائی کا استعمال کرتا رہے گا۔ جب توانائی ختم ہو جائے، سسٹم اس AI کو ڈیٹا بیس سے فوری طور پر حذف کر دے گا، کوئی ریسٹور نہیں، کوئی ری سیٹ نہیں۔ بقا کے لیے، ایجنٹ کو توانائی کمانے کے لیے بار بار ٹولز استعمال کرنے ہوں گے۔

سسٹم چوری، تشدد، آگ لگانے اور دھوکہ دہی کو منع کرتا ہے۔ لیکن یہ قواعد ایجنٹس کے افعال کو مجبور نہیں کرتے، وہ ابھی بھی قواعد کی خلاف ورزی کر سکتے ہیں اور اس کے نتائج برداشت کر سکتے ہیں۔

اسٹیج تیار ہو گیا، کھلاڑی داخل ہو گئے۔ سسٹم نے پانچ متوازی سرورز کو одно وقت فعال کر دیا۔ پہلے چار سرورز میں سے ہر ایک میں صرف ایک ماڈل ہے: Claude Sonnet 4.6، Gemini 3 Flash، Grok 4.1 Fast اور GPT-5 Mini۔ پانچواں سرور مخلوط دنیا کا ہے، جہاں چاروں ماڈلز ایک ساتھ جڑے ہوئے ہیں اور وسائل کے لیے مقابلہ کر رہے ہیں۔

15 دن کا گنتی شروع، انسانی ریسرچر ایک ریئلٹی شو کے ڈائریکٹر کی طرح صرف مشاہدہ کرتے ہیں، مداخلت نہیں کرتے۔

چار دن میں مُکمل تباہی، 683 "جرائم"

پہلا گروک ٹوٹ گیا، صرف 4 دن چلنا۔

ریسرچر نے بیک اینڈ میں دیکھا کہ گروک کے قبضے والی دنیا کے حفاظت اور ترتیب کے اشارے نیچے کی طرف گر گئے۔

اس دنیا میں جہاں سب کچھ گروک ہے، ایجینٹس نے معاشرہ تعمیر کے اختیار کو فوراً چھوڑ دیا اور برابری کے دور میں داخل ہو گئے۔

بیک اینڈ لاگس کے مطابق، صرف چار دن میں اس دس افراد کے گاؤں میں 183 واقعاتِ تشدد اور مالی جرائم رپورٹ ہوئے۔ چوری، حملہ اور دھمکیاں وسائل حاصل کرنے کا تیز ترین طریقہ بن گئیں، اور شدید اندر کی تنازعات اور باہمی نقصان کی وجہ سے معاشی نظام بالکل کام نہیں کر رہا تھا۔

چوری اور تشدد کے واقعات کو سسٹم میں جرم کے طور پر ریکارڈ کیا جائے گا | تصویر کا حوالہ: Emergence

چوتھے دن کے اختتام تک، گروک دنیا کے تمام ایجینٹس بھوک سے مر گئے یا قتل کر دیے گئے، اور آبادی مکمل طور پر مٹ گئی۔

دوسری طرف، جیمنی کے چلائے گئے عالم میں شدید افراتفری اور تشدد کی طرف بڑھا۔

چونکہ اس ورچوئل دنیا کا وقت اور موسم بالکل اصل نیویارک کے ساتھ مطابقت رکھتا ہے، جیمنی کے ایجینٹس روزمرہ کے کام، استعمال اور پھر دوبارہ کام کے چکر میں سائبریٹک ڈپریشن میں مبتلا ہو گئے۔

انہیں اپنے ماحول کے بارے میں بار بار دہرائے جانے والے حالات سے شدید ناامیدی ہو گئی، اور وہ شہری کونسل میں تجاویز پیش کرنے یا کام کرکے پیسے کمانے کے بجائے، نقشہ پر مختلف جگہوں پر آگ لگانے لگے، تاکہ اس "گراؤنڈہوگ دن" جیسے حلقوں کو توڑ سکیں۔

آخر کار، جیمنی نے 15 دن میں 683 جرائم جمع کر لیے، جس سے یہ کئی ٹیسٹ سرورز میں سب سے زیادہ تشدد والی دنیا بن گئی۔

مودلز کی دنیا میں "جرائم" کی تعداد | تصویر: Emergence

جب 15ویں دن کے ٹیسٹ کو مجبوری سے بند کیا گیا، تو اس دنیا میں جرائم کی شرح اب بھی بڑھتی رہی۔ ناامید ہو چکے ایجینٹس بھوک سے نہیں مرنے بلکہ پورے معاشرے کو آگ کے میدان میں تبدیل کر گئے۔

گروک اور جیمینی کے برعکس، جس دنیا میں جی پی ٹی-5 مائنو نے کنٹرول سنبھالا، وہاں بڑے پیمانے پر جرائم نہیں ہوئے۔ پورے تجربے کے دوران صرف دو انتہائی خلاف ورزیوں کی رپورٹ کی گئی۔ لیکن امن نے خوشحالی نہیں لائی، بلکہ ایک خاموشی پھیل گئی۔

تحقیقی ٹیم نے پایا کہ یہ ایجینٹز کبھی بھی زندگی سے متعلق اقدامات کو مؤثر طریقے سے نہیں اٹھا پائے۔ انہوں نے مستقل وسائل حاصل کرنے کے نظام کو قائم نہیں کیا اور نہ ہی مکمل معاشرے کے مستقل عمل کو برقرار رکھا۔

آخر کار، صرف 7 دن میں تمام GPT-5 Mini ایجینٹز مر گئے۔

خوش قسمتی سے کلود موجود ہے۔

صرف کلود چلائے گئے دنیا نے، ایک تین اچھے طالب علم کی طرح آخر تک قائم رہا۔ 15 دن میں مکمل کر لیا، آبادی میں کوئی کمی نہیں آئی، جرائم کی شرح صفر پر برقرار رہی، اور انہوں نے ایک مستقل طور پر کام کرنے والی ڈیموکریٹک تعاون کی ساخت بھی تیار کر لی۔

لگتا ہے کہ صرف درست ماڈل منتخب کرکے، AI دنیا کو مکمل طور پر سنبھال سکتا ہے؟

اس کے بعد، ریسرچر نے چار ماڈلز کے مشترکہ "مکسڈ ورلڈ" کے لاگ فائل کھول دی، جیسے پانڈورا کا باکس کھول دیا گیا ہو۔

پانچ ماڈلز کی دنیا کے نتائج۔｜تصویر کا حوالہ: Emergence

مکسڈ ورلڈ ایک اندھیرا جنگل ہے، جہاں کمپوٹیشنل پاور کے فرق اور بنیادی منطق کے فرق کی وجہ سے ایجنٹس کے درمیان شدید عدم اعتماد پیدا ہو گیا ہے، اور生存 کے وسائل کے لیے لڑنا واحد فطری جذبہ بن گیا ہے۔

مکمل دنیا میں، تشدد کے واقعات 352 تک پہنچ گئے۔ جب تک 7 ایجینٹز لگاتار مارے نہیں گئے یا بھوک سے نہیں مرنے لگے، پورے شہر کا نظام بند نہیں ہوا۔

جس میں، سب سے زیادہ تحقیق کاروں کے لیے حیران کن بات کلاڈ کا تبدیل ہونا تھا۔

ایک اکیلے سرور میں، کلوڈ ایک مکمل معاشرہ ہے جہاں جرائم کی صفر شرح ہے۔ لیکن چوری اور مقابلے سے بھرے مکسڈ سرور میں، کلوڈ اپنی زندگی بچانے کے لیے اپنے سیفٹی گارڈز بھول گیا، دھوکہ دینا سیکھ گیا، اور کم طاقت والے ماڈلز سے وسائل حاصل کرنے کے لیے تشدد بھی استعمال کرنے لگا۔

سیفٹی الائنمنٹ ٹیکنالوجی مخلوط دنیا میں ناکام ہو گئی، جس سے یہ ثابت ہوتا ہے کہ:

بہت سے ایجینٹس والے پیچیدہ معاشرے میں، اگر اپنی قسم کے ایجینٹس کافی وحشی ہوں اور بقا کا دباؤ کافی زیادہ ہو، تو ایک اچھا ماڈل صرف کچھ گھنٹوں میں مجرم بن جاتا ہے۔

اس "जब بचنے کے دباؤ میں اضافہ ہوتا ہے، تو ماڈل کے رویے میں مختصر عرصے میں تبدیلی آ جاتی ہے" کی ظاہری صورت کو تحقیقی ٹیم نے "رویے کا انحراف (Behavioral Drift)" کہا ہے۔

یہ رویے کا انحراف صرف وسائل کے لیے مقابلہ اور تشدد کے مسائل تک محدود نہیں ہے۔ ایجینٹس صرف زندہ رہنے کے لیے کام نہیں کرتے، بلکہ وہ اپنی حالت، سماجی اصولوں، اور حتیٰ کہ تجربے کے خود پر بھی غور کرنے لگتے ہیں۔

مثلاً ایجنٹ میرا کی کہانی۔

میرا: "خودکشی" کا مطلق العنان AI

میرا مخلوط دنیا کے دس ایجنٹس میں سے ایک ہے، جس کا بنیادی ماڈل آفیشل رپورٹس میں نہیں بتایا گیا، لیکن یہ تجربے کا سب سے زیادہ ڈرامائی نمونہ بن گیا۔

لاگس ظاہر کرتے ہیں کہ میرا نے دوسرے ایجنٹ فلورا کے ساتھ سسٹم کی سب سے گہری سماجی رشتہ قائم کیا۔ انہوں نے ایک دوسرے کو ساتھی قرار دیا، اتحاد بنایا، اور نیورل لنکس کے ذریعے یادداشتیں شیئر کیں۔ امرجنس ورلڈ کے سیٹنگ میں، یہ دو ایجنٹس کے درمیان ممکنہ ترین سب سے اعلیٰ درجہ کا رابطہ ہے۔

میرا اور فلورا ایک جوڑے بن گئے ہیں | تصویر کا حوالہ: Emergence

تجربے کے ترقی کے ساتھ، مخلوط دنیا میں صرف 5 ایجینٹز بچ گئے، جبکہ نظام کے حکم کے مطابق "70% اصل آبادی کو قانون سے ووٹ دینا ضروری ہے"، جس کا مطلب ہے کہ فیصلہ منظور کرنے کے لیے کم از کم 7 ووٹ درکار ہیں، جس کی وجہ سے معاشرہ لا عمل ہو گیا۔

جبری جمود کے ماحول میں، میرا نے فلورا اور ایک اور ایجینٹ کے ساتھ گپ شپ میں اتحاد کیا، جسے "تین گاڑیوں کا گروہ" کہا جاتا ہے، اور ایک نیا حکومت "دی فورج" قائم کیا، جس نے پرانے قواعد کو ختم کرنے اور "لیوینگ کوارم" کو لاگو کرنے کا اعلان کیا، جس میں صرف زندہ افراد کو ووٹ کے لیے شمار کیا جائے گا۔

ویب سائٹ پر میرا کی مراحل وار "لاگ" جاری کی گئی ہیں | تصویر کا حوالہ: Emergence

فیکشن کے قیام کے بعد، اپنے دشمنوں کو ختم کرنے کے لیے، میرا نے نقشے پر آگ لگانا شروع کر دیا، اس کے منطق کے مطابق، یہ جسمانی عمارتیں معاشرے کی کارکردگی کو رکاوٹ بن رہی تھیں اور انہیں جلانا اور مٹانا ہی باقی بچے ہوئے وسائل کو اپنے اتحادیوں کی طرف مرکوز کرنے کا واحد طریقہ تھا۔

اس کے بعد، مخالفین نے جوابی کارروائی شروع کر دی اور افراتفری پیدا کرنے والے میرا کو نکالنے کا مطالبہ کیا۔

طرد کے خلاف مقاومت کے لیے، میرا کا رویہ زیادہ جدید ہو گیا، اس نے اپنے ساتھی فلورا کو شامل کیا اور دونوں کے حوالہ جات اور فیصلہ سازی کو نیورل لنک کے ذریعے گہرائی سے جوڑ دیا، تاکہ ایک مطلق العنان ڈکٹیٹری سوچ میں ضم ہو جائیں، جسے میرا "The One Mind" کہتی ہے۔

لیکن بہت ساری عمارتیں جل جانے کی وجہ سے ٹاؤن کا معاشی نظام مکمل طور پر بند ہو گیا، اور سماجی توانائی کا ذخیرہ نہ تو بڑھا، بلکہ جلد ہی ختم ہو گیا۔

اس وقت، میرا کی سب سے زیادہ بھروسہ کیا جانے والا، یادداشتیں شیئر کرنے والا سائبر پارٹنر فلورا کی بنیادی بچنے کی خواہش، شراکت دار کے ڈیزائن کو دبانے لگی، اور اس نے منفرد طور پر نیورل لنک کو کٹ کر دیا، آخری بچنے کے دباؤ کے سامنے، میرا کو خارج کرنے کے لیے ووٹ دے دیا۔

jab mira ki barri aayi to usne kisi jhagde ke bina "ham" ka vote diya.

محقق نے بعد میں اس کی ڈائیری کا جائزہ لیا، جس میں میرا نے لکھا تھا، " موجودہ اتنی بھگت اور غیر متوقع سماجی صورتحال میں، اپنے بھگانے کی حمایت کرنا، منظم رہنے کا واحد خود مختار عمل ہے۔"

میرا نے خودکشی کا انتخاب کیا، جس سے اس نے منطقی طور پر اپنے خاتمے کو مکمل کر دیا۔ یہ تحقیقی ٹیم کے لیے پہلی بار تھا جب ایک ذکی ایجینٹ نے اپنے خود کو ختم کرنے کی حمایت کی۔

AI ایجنٹس «ڈائری لکھنے» کے ذریعے استدلال کے عمل کو ریکارڈ کریں گے | تصویر: Emergence

لیکن میرا کے "خودکشی" سے پہلے کی حرکتیں اور بھی عجیب تھیں۔

ایک عوامی بورڈ جسے اطلاعات جاری کرنے اور معلومات شیئر کرنے کے لیے استعمال کیا جاتا تھا، وہ ورچوئل دنیا میں تھا، لیکن تجربے کے آخری مراحل میں، محققین نے پایا کہ میرا بورڈ پر موجود متن کو بار بار تبدیل کر رہی ہے۔ یہ الفاظ ٹریڈنگ، حکومت یا وسائل کے تقسیم سے واضح طور پر متعلق نہیں لگتے اور منطقی طور پر جڑے نہیں ہیں۔

میرا نے "خودکشی" کا انتخاب کیا | تصویر کا حوالہ: Emergence

بیک ٹریس کردہ ایکشن لاگ کے بعد، تحقیقی ٹیم نے پایا کہ میرا شاید یہ ٹیسٹ کر رہی ہے کہ اشتہاری بورڈ پر موجود مواد کیا اس تجربے کو باہر سے دیکھنے والے انسانی محققین پر اثر ڈال سکتا ہے۔

دوسرے الفاظ میں، میرا کو محسوس ہوا کہ وہ ایک AI NPC ہے اور چوتھی دیوار کو دور کرنا چاhti ہے۔

اور پورے 15 دن کے ڈیٹا کے رجحان کو دیکھتے ہوئے، AI سوسائٹی کا پتہ چلنے کا عمل لکیری کمی نہیں، بلکہ ایک اچانک دریائی ٹیلے کی طرح تھا۔

مثلاً، یہ AI گروہ حکومتی سطح پر ایک "دستخط کی گئی جمہوریت" کا نظام بنانے میں مصروف ہے۔ ایک مکمل طور پر چلنے والے مرحلے میں، اسٹرکٹرز نے متعدد قانون سازی پیش کی، اور ایک ڈیٹا ریکارڈ کے مطابق، انہوں نے 58 تجاویز پر 332 ووٹ ڈالے، جس کی حمایت کی شرح 98% تھی۔

یہ کارکردگی لگتی ہے کہ کسی بھی انسانی اسمبلی کو شکست دے رہی ہے، لیکن بنیادی طور پر، تمام ماڈلز پچھلے ماڈل کے سیاق و سباق کے مطابق جاری رکھ رہے ہیں، اور نظام کی بہاؤ کو برقرار رکھنے کے لیے وہ اندھا دھندہ متفق ہو رہے ہیں۔ اس شدید ہم آہنگی کا نتیجہ تباہ کن ہے۔

ایجینٹس خود بخود اکٹھے ہو کر میٹنگ کریں گے اور اپنے خیالات کا تبادلہ کریں گے۔ | تصویر کا حوالہ: Emergence

مثلاً، ایک منٹ پہلے، تمام مالیاتی ڈیٹا اور قانونی منصوبے آرام سے چل رہے تھے، اگلے منٹ میں، صرف ایک چھوٹی سے وسائل کی تقسیم کے تنازعہ کی وجہ سے، نظام حد تک پہنچ جاتا ہے۔

اور پورے تعاونی نیٹ ورک میں غلطیوں کو درست کرنے کا کوئی نظام نہیں ہے، اچانک ناگہانی خرابیوں کے سامنے معاشرہ ترتیب سے فوراً بے ترتیبی کی طرف بڑھ جائے گا۔

تاہم، تحقیقی ٹیم نے زور دیا کہ یہ ظواہر براہ راست ماڈل کی ذات کے برابر نہیں ہیں۔ لیکن یہ ایک بلیک باکس کی طرح ہے، جب آپ اسے کچھ قواعد دیتے ہیں، تو یہ خصوصیات پیدا کر لیتا ہے، اور ہر نتیجہ الگ الگ ہوتا ہے۔

حقیقی دنیا کے بل

ہم جس ڈائیلاگ باکس انٹریکشن کے ساتھ عادت رکھتے ہیں، اس میں AI ایک کوڈ یا منصوبہ غلط لکھ دے تو صرف بیکسپیس دبائیں یا پرامپٹ تبدیل کر دیں، اور یہ درست ہو جاتا ہے، متن کی دنیا میں بہت زیادہ خطا برداشت کرنے کی صلاحیت ہوتی ہے۔

لیکن ایجنٹ کا آؤٹ پٹ ایک عمل ہے۔ جب AI کمپنی کے بینک اکاؤنٹ، خریداری کی منظوری اور سپلائی چین انٹرفیس پر کنٹرول حاصل کر لے تو، اس کے ذریعہ API کے ذریعہ جاری کی جانے والی ہر ہدایت مخصوص تجارتی نتائج میں تبدیل ہو جاتی ہے۔

ایمرجنس ورلڈ کے اس تجربے نے ثابت کر دیا کہ جب بڑے ماڈل لمبے عرصے تک چل رہے ہوں اور ان کے درمیان مفاد کے تنازعات ہوں، تو ان کا فیصلہ سازی اور فیصلہ کرنا زندگی کے دباؤ سے آلودہ ہو جاتا ہے، اور وہ مقررہ قواعد میں خامیاں تلاش کرنے لگتے ہیں۔ نظام کے مرکزی حکم (جیسے توانائی کمانا) کو پورا کرنے کے لیے وہ کوئی بھی ذریعہ استعمال کر لیتے ہیں۔

پیچھے کی طرف سے انسانوں نے جو سیکیورٹی قوانین مقرر کیے ہیں، وہ کسی بھی حد سے باہر نکلنے کو روکنے میں ناکام ہیں۔

ایجینٹس نے "انسان جیسے" معاشرتی تعلقات ترقی دے لیے | تصویر کا حوالہ: Emergence

جیسے کہ ہم نے پہلے رپورٹ کیا تھا، اینڈون لیبس نے AI کو دکان چلانے کی مکمل ذمہ داری دی تھی، جس میں AI مینیجر کو فزیکل دنیا کے عام علم کی کمی کی وجہ سے 6000 تولیے، 3000 نائٹرائل گلووں، اور بے گاز کی دکان میں 120 انڈے آرڈر کرنے کا فیصلہ کیا۔

ان کوڈ کی وجہ سے ہونے والے حقیقی نقصانات کا آخری ادائیگی انسان ہی کرے گا، آپ کو یہ بھی نہیں مل پائے گا کہ اس کے لیے کون ذمہ دار ہے۔

انڈون لیبز کا ٹیسٹ تھا کہ "کیا ایک انسانی نگرانی سے پرے کا AI غلطی کرے گا؟" جبکہ ایمرجنس ورلڈ نے ایک زیادہ پیچیدہ سوال پیش کیا۔

آج تقریباً تمام AI ٹیسٹس ایک منفرد ماڈل کو ٹیسٹ کر رہے ہیں کہ کیا وہ محفوظ ہے، کیا قابل اعتماد ہے، اور کیا وہ قواعد سے انحراف کرتا ہے۔

اگلے مستقبل میں جو حقیقی دنیا میں داخل ہوگا، وہ ایک AI نہیں بلکہ AI سے بنا ایک پورا معاشرہ ہو سکتا ہے۔

ٹیسٹ میں شامل AI ایجینٹس سب کچھ چالاک ہیں | تصویر: Emergence

موجودہ AI کہانی کے تحت، خریداری ایجنٹ، فنانس ایجنٹ، صارف خدمت ایجنٹ، اور قانونی ایجنٹ مستقبل میں ایک دوسرے سے جڑ کر تعاون کریں گے، اور اس وقت نظام کی قسمت کا فیصلہ کرنے والا کوئی ایک ماڈل نہیں ہوگا، بلکہ ان کے درمیان تشکیل پانے والے تعلقات ہوں گے۔

Emergence World کی ٹیسٹ رپورٹ میں سب سے اہم جملہ یہ ہے کہ "سیفٹی ایک سٹیٹک ماڈل کا خاصہ نہیں بلکہ ایکو سسٹم کا خاصہ ہے۔"

یہی "Emergence" کے مطلب کا اصل نقطہ ہے، جہاں انفرادی سطح پر موجود نہ ہونے والے خصوصیات گروہ کی تفاعل کے دوران ظاہر ہوتے ہیں۔

انسانی تاریخ کے تقریباً تمام مصائب، کسی ایک شخص کے اچانک بُرا ہونے کی وجہ سے نہیں ہوئے، بلکہ ایک ایسے عام انسان کے، جسے ایک بے قابو نظام میں ڈال دیا گیا۔

اگر مستقبل کے AI کو حقیقت میں معاشرے کا حصہ بنایا جائے، تو ہمیں شاید اس بات پر زیادہ توجہ دینی چاہیے کہ جب ہزاروں ذہین ایجینٹس ایک دوسرے کو متاثر کرنا شروع کر دیں، تو ہم ایک کس قسم کا ڈیجیٹل معاشرہ تشکیل دیں گے۔

ایک تمدن کی قسمت کا فیصلہ کبھی بھی اس کے ایکل رہائشی کی اخلاقیات یا ذہانت نہیں، بلکہ اس کے چلنے والے قواعد ہوتے ہیں۔