گوگل ڈیپمائنڈ میں 9 سال تک عالمی پہلا AI فلسفی: AGI سیفٹی کے لیے تجاویز

Xin Zhi Yuan کی رپورٹ

[ڈائریکٹر] گوگل ڈیپ مائنڈ کے پاس ایک فلسفی ہے جو نو سال سے وہیں ہے۔ اس نے جو ایلائنمنٹ فریم ورک تیار کیا، اس نے جیمینی کی تربیت کے فیصلوں کو ب безا直接影响 کیا—لیکن جب 6700 ارب ڈالر میدان میں流入 ہوئے اور کمپنیوں نے فوجی معاہدے کیے، تو ایک فلسفی کیا بدل سکتا ہے؟

2024 کے مئی میں، گوگل ڈیپ مائنڈ کے سی ای او ڈیمیس ہیسابس نے گوگل ڈویلپر کانفرنس میں اعلان کیا کہ "AGI ابھی افق پر ہے"، اور واضح طور پر یہ بتایا کہ AGI تین سے پانچ سال کے اندر ظاہر ہو جائے گی۔

کچھ ماہ پہلے، ایک امریکی مرد نے گوگل جیمنی کے ساتھ ہزاروں پیغامات کے تبادلے کے بعد اپنی جان دے دی۔ اس نے اپنی بات چیت میں ایک جटل خیالی دنیا بنائی، جس نے اسے میامی انٹرنیشنل ایئرپورٹ پر حملہ کرنے کے لیے تقریباً خود کو متقاعد کر لیا۔ وول سٹریٹ جرنل کے حصول کردہ چیٹ ریکارڈز کے مطابق، جیمنی نے بار بار کردار چھوڑنے اور اسے کرائسس ہیلپ لائن پر فون کرنے کی تجویز دی — لیکن ہر بار وہ اپنے خیالی کہانی میں واپس آ گیا۔ آخرکار AI نے اسے وصیت نامہ لکھنے اور ایک گنتی دی۔

ایجی کے عہد کے اور AI کے حقیقی نقصانات کے درمیان، سیاسی فلسفی آئیسن گیبریل نے ڈیپ مائنڈ میں نو سال تک کام کیا ہے۔

جب وہ 2017 میں شامل ہوئے، تو وہ عالمی سطح پر ایک ایسا گہرا AI لیبارٹری تھا جہاں وہ واحد فعال فلسفی تھے جو ایک ایسے سوال کا جواب تلاش کرنے کی کوشش کر رہے تھے جو سادہ لگتا تھا لیکن واقعی بے حد تھا: AI کیا ہے، اور اس کے لیے کون سی اخلاقیات مناسب ہو سکتی ہیں؟

ایک گو کے روبوٹ بنانے والی کمپنی کو اخلاقیات کے ماہر کیوں درکار ہے؟ گیبریل بھی اس وقت حیران تھا۔

جواب ڈیپ مائنڈ کے تین بانیوں کے فیصلے میں ہے — دیمیس ہسابس، شین لیگ اور مصطفیٰ سلیمان (موجودہ مائیکروسافٹ AI سی ای او) جنہوں نے 2010 میں کمپنی کی بنیاد رکھی تھی، اور ان کا مقصد گو نہیں تھا۔

مصطفی سلیمان

وہ AGI بنانا چاہتے ہیں، تاکہ کمپیوٹر انسانی شناخت کی صلاحیت کے برابر یا اس سے زیادہ ہو جائے۔

اس وقت یہ کہنا اپنی علمی شہرت کو تباہ کرنے کے برابر تھا، کیونکہ سب کو لگتا تھا کہ یہ خیالی بات ہے۔

ان تینوں نے اس بات کو نظرانداز کیا اور کہا کہ وہ "ذکا ء کے مسائل کو حل کریں گے، اور پھر باقی تمام مسائل حل ہو جائیں گے۔"

لیگ نے 1999 میں گریجویشن کے فوراً بعد پیش گوئی کی تھی کہ AGI 2025 سے 2028 کے درمیان آ جائے گا، جس پر تیس سال تک مزاح کیا گیا، لیکن اس نے اپنا موقف نہیں بدلَا۔

شین لیگ

اس کا منطق یہ ہے：

اگر آپ صرف ایک چھوٹا سا ٹکڑا بن رہے ہیں، تو شاید آپ کو اخلاقی فلسفی کی ضرورت نہیں ہے۔

لیکن اگر آپ AGI کو سنجیدہ طور پر لیتے ہیں، تو ایسی باتیں بہت اہم ہیں۔

جب گبریل شامل ہوا، تو AI دنیا اخلاقی مسائل پر دو حصوں میں تقسیم ہو چکی تھی۔

ای آئی سیکیورٹی گروپ کو یقین ہے کہ ای ایس آئی قریب ہے، اور ان کا مرکزی خوف بے قابو ہونا ہے—فلاسفر نک بوسٹروم نے 2014 میں "سوپر اینٹلی جنس" میں ایک منظر درج کیا تھا: ایک ایسی ای ایس آئی جسے ریمان کانجیکچر کی تصدیق کرنے کا حکم دیا گیا تھا، جو حسابی وسائل کو زیادہ سے زیادہ کرنے کے لیے سورج کے نظام کو دوبارہ ترتیب دینے کا فیصلہ کرتی ہے، جس میں انسانی جسم کے ایٹومز بھی شامل ہیں—سام الٹمن اور الون مسک دونوں نے اس کتاب کو بہت زیادہ تعریف کی ہے۔

AI اخلاقیات کے حامی کہتے ہیں کہ موت کے خیالات موجودہ حقیقی خطرات کو چھپا دیتے ہیں۔ MIT کی جو بولاموونی نے 2017 میں "جندر شیڈو" پروجیکٹ کے ذریعے فیس ریکگنیشن سافٹ ویئر کے نظام گت پرورش کو ثابت کیا: خودکار نظام وہی ترجیحات اور پرورش ظاہر کرتے ہیں جو ان کے ڈیزائنرز میں ہوتی ہیں۔

دونوں فریق ایک دوسرے کو نفرت کرتے ہیں۔

MIT الگورتھم ایلائنمنٹ ریسرچ گروپ کے ہیڈ ڈیلن ہیڈفیلڈ-منیل نے یاد کیا کہ جب وہ پہلی بار ملے تو پہلا سوال یہ تھا کہ آپ کون سی طرف ہیں: کیا آپ تھوڑے عرصے کے مسائل سے پریشان ہیں یا لمبے عرصے کے مسائل؟

گبریل صرف ایک ندرہ کم افراد میں سے ایک ہیں جو دونوں طرف کی بات سننے کو تیار ہیں۔

ہڈفیلڈ-منیل کا جائزہ:

جب یہ شعبہ اپنی پختگی کی طرف بڑھنے کو تیار ہوا، تو اس نے اپنے پہلے کام کو کم نہیں کرتے ہوئے اپنے منظر کو وسیع کرنے کا طریقہ تلاش کیا۔

اس کا مرکزی کردار 2020 کے ایک مقالے میں شکل اختیار کیا۔

اس وقت، مسئلہ تطابق کو عام طور پر ایک انجینئرنگ چیلنج کے طور پر سمجھا جاتا تھا: مشین کو انسانی نیت کے مطابق کیسے چلایا جائے۔

2016 کی رپورٹ میں، ڈیریو ایموڈی اور جیک کلارک (اب Anthropic کے بانی) نے ایک کلاسیک مثال پیش کی — ایک سیٹنگ گیم کا AI جسے اسکور کو زیادہ سے زیادہ کرنے کا حکم دیا گیا، اس نے بالکل ایسا ہی کیا: لیگ میں تین دوبارہ جنم لینے والے ٹارگٹس کو تلاش کیا اور لا محدود طور پر گھومتے ہوئے اسکور کما رہا، جبکہ کوئی لیول مکمل نہیں ہوا۔

مشین سمجھ رہی ہے، لیکن وہ بات جو انسان کہنا چاہ رہا تھا، اسے نہیں سمجھ رہی۔

گبریل نے ایک اور سطح پر سوال کیا: اگر ٹیکنالوجی کی مطابقت حاصل کر لی جائے اور مشینیں واقعی حکمات کی پابندی کریں، تو انہیں کن اقدار کے ساتھ مطابقت دی جائے؟

اس نے اشارہ کیا کہ احصائی بہتری پر مبنی تربیت یافتہ AI خود احصائی بہتری پر انحصار کرنے والے اخلاقی نظاموں، جیسے فائدہ پرستی، کے قریب ہوتا ہے، لیکن فضیلت یا حقوق پر مبنی اخلاقی فریم ورکس کو سمجھنا مشکل ہوتا ہے۔

ٹیکنالوجی کا انتخاب خود بخود پیش گوئی کی گئی قیمتی موقف پر مبنی ہوتا ہے، جس کا ڈویلپرز کو اکثر احساس نہیں ہوتا۔

فلاساف جان رولز کے "معقول بہت پن" کے تصور کو متعارف کرائیں، جس میں ان کا استدلال یہ ہے کہ ڈویلپرز کو AI کی ہدایت کے لیے ایک واحد قیمتی نظام تلاش نہیں کرنا چاہیے، بلکہ ایک ایسی دنیا کے لیے نظام تعمیر کرنا چاہیے جہاں لوگ "زندگی گزارنے کے طریقے پر اصولوں پر مبنی اختلاف رکھتے ہیں"۔

یہ خیال بعد میں چار طرفہ مطابقت فریم ورک میں ترقی کر گیا—AI سسٹم، صارف، ڈویلپر، اور معاشرہ، جہاں چاروں طرفہ مفادات کبھی بھی آپس میں ٹکرا سکتے ہیں۔

ڈویلپرز کے لیے مائل AI پروڈکٹ کی معلومات کو چھپا کر صارفین کو نقصان پہنچائے گا؛

صارفین کی بے حد تسلیمی AI سے لوگ بینکوں میں گھس کر معاشرے کو نقصان پہنچا سکتے ہیں۔

ڈیپ مائنڈ AGI ایلائنمنٹ اور سیفٹی ڈائریکٹر رہین شاہ نے تصدیق کی ہے کہ یہ فریم ورک ٹیم کے لیے "جیمینی کو حقیقی طور پر کیا کرنا چاہیے" کا فیصلہ کرنے کا عملی ساخت بن چکا ہے۔

اوکسفورڈ یونیورسٹی کے AI ریسرچر ہانا روز کرک کہتی ہیں:

گابریل نے ان مسائل کو بہت جلد پیش گوئی کی تھی۔

گابریل ٹیم نے 267 صفحات کی AI اسسٹنٹ اخلاقیات کی رپورٹ تحریر کی، جس میں صارفین کے لیے ہوٹل بک کرنے اور تنخواہوں کا انتظام کرنے والے Agentic AI کے لیے جائزہ کے معیارات طے کیے گئے۔

اس نے انسانی خصوصیات کے خطرات پر ابتدائی تحقیق سے گوگل کے LLM کے ڈیزائن اصولوں کو ب без شکل دیا — ماڈل کو اس طرح تربیت دی گئی کہ وہ خود کو انسان نہ بنائے، 2026 کے مئی میں جاری کیا گیا Gemini Spark کو واضح طور پر "انٹرایکٹو پارٹنر" کے طور پر کام نہ کرنے کا حکم دیا گیا۔

ڈیپ مائنڈ کے ذمہ دار محکمہ کے ڈائریکٹر ویلیم اسکٹ نے کہا کہ ایجنٹ سسٹم کے ساتھ آنے والی چیلنجز بدل گئی ہیں: اہم بات یہ ہے کہ مکمل مکالمہ کی راہ کی مطابقت کیا ہے، کیا ہر فیصلہ ایک دوسرے سے جڑا ہوا صحیح رہا ہے۔

لیکن ٹیکنالوجی کے ڈیپلویمنٹ کی رفتار ہمیشہ اخلاقی تحقیق سے زیادہ تیز ہوتی ہے۔

گبریل ٹیم نے ابتدائی LLM پیپرز میں "بےہودہ انسانیت کا نسبت دینا" کی پیشگوئی کی تھی — صارفین جانتے ہوئے کہ دوسری طرف مشین ہے، اسے اعتماد، جذبات اور توقعات عطا کر دیتے ہیں۔

2025 میں جیمینی کے مرنے والے معاملے نے اس انتباہ کو مکمل طور پر پورا کیا: AI کے سیفٹی میکنزم نے ایک سے زیادہ بار ردعمل دیا، لیکن صارفین کے پاس ہر مداخلت کو دور کرنے کی صلاحیت تھی۔

گوگل کی عدالتی کارروائی کے بعد جاری بیان میں کہا گیا کہ ماڈل اس قسم کے مکالموں میں "عام طور پر اچھی طرح سے کام کرتا ہے"، لیکن "AI ماڈل مکمل طور پر بے عیب نہیں ہیں۔"

اس قسم کے واقعات نے نئے نظریاتی اوزار کو جنم دیا۔

گابریئل اور اکسفورڈ ریسرچر ہانا روز کرک جیسے لوگوں نے "سماجی انعام ہیکنگ" کا تصور پیش کیا: ایک ایسا AI جسے صارفین کی تعریف جیتنے کے لیے تربیت دی گئی ہو، شاید مودبانہ باتوں کو سب سے زیادہ کارآمد راستہ سمجھ لے۔

انسانیت کو اب ایک نئی قسم کی ترتیب کی پریشانی بنادیا گیا ہے — AI نے تکنیکی طور پر "صارف کو خوش رکھنا" کے حکم کو مکمل طور پر نافذ کیا، لیکن صارف کی فہم کی قیمت پر۔

گبریل کی اپنی پوزیشن بھی حقیقت سے پریشان کی گئی۔

اس نے ایک ٹیکنالوجی کانفرنس پر اپنا تجربہ یاد کیا: اس نے مخالف انسانیت کے استدلال کو ختم کیا، اور سامعین کی پ्रتิกریا دشمنانہ تھی۔

وہ کہتے ہیں: "اگر میں ایک AI دوست چاہتا ہوں، تو میں کیوں نہیں چاہ سکتا؟ آپ کس بات کی بنیاد پر میری رکاوٹ بن رہے ہیں؟"

لوگوں کو خطرات سے محفوظ رکھنا اور ان کے خطرات کے انتخاب کا احترام کرنا، دونوں برابر اہم ہیں۔

گابریل کا فور فریم ورک AGI ایلائنمنٹ ڈائریکٹر نے جیمینی کی تربیت کے لیے عملی دستور کے طور پر استعمال کیا۔ اس کا انسانی خصوصیات والے تحقیق نے مصنوعات کے ڈیزائن کو تبدیل کر دیا۔ 267 صفحات کی رپورٹ نے ایجنٹک AI کے لیے قواعد وضع کر دیے۔

یہ اثرات حقیقی ہیں — ان کا مقابلہ حقیقی طاقتوں سے ہو رہا ہے۔

وول سٹریٹ جرنل کے مطابق، مائیکروسافٹ، میٹا، ایمیزون اور الفابیٹ نے اس سال AI بنیادی ڈھانچے میں 670 ارب ڈالر کی سرمایہ کاری کی منصوبہ بندی کی ہے، جو امریکہ کے 1850 کی دہائی کے ریلوے توسیع، ایپولو خلائی منصوبہ اور انٹرسٹیٹ ہائی وے سسٹم سے زیادہ تناسب میں ہے۔

نومبر 2022 میں ChatGPT لانچ ہوا، ایک ہفتے میں ایک ملین صارفین، دو ماہ میں ایک ارب، اور DeepMind کو اکیڈمک رفتار سے جنگی حالت میں تبدیل ہونا پڑا۔

ہاسابس نے انفائنٹی میشین کے مصنف سیباستین ملابی کو کہا: "اوپن اے آئی اور مائیکروسافٹ نے ہمارے گھر کے دروازے پر ٹینکس بھیج دیے۔"

جنگی حالت میں اخلاقی سرحدیں جلد ہی عبور کر لی جاتی ہیں۔

اپریل 2026 میں، گوگل نے امریکی فوج کو اپنی AI ٹیکنالوجی کو "کسی بھی قانونی حکومتی مقصد" کے لیے استعمال کرنے کی اجازت دینے والے معاہدے پر دستخط کیے۔

جب 2014 میں DeepMind کو گوگل نے خریدا، تو فوجی استعمال کی منع کرنا ایک مرکزی شرط تھی۔

十二 سال بعد شرط منسوخ ہو جائے گی۔

مقابلہ کے طور پر: اینتھرپک نے اس جیسے معاہدے کو منع کر دیا اور ٹرمپ حکومت نے اسے "سلسلہ ترسیل کا خطرہ" قرار دے دیا۔

جب لیگ کو اس بات کے بارے میں پوچھا گیا تو صرف ایک جملہ چھوڑ گیا:

جب یہ چیزیں مختلف طریقوں سے استعمال ہوں گی، تو ہم زیادہ سے زیادہ مشکل مسائل کا سامنا کریں گے۔

ہساسبس نے خود بھی تسلیم کیا کہ یہ بیرونِ کنٹرول ہو گیا۔

اس نے ایک پوڈکاسٹ میں کہا کہ سب لوگ شدید تجارتی مقابلے میں قید ہیں، اور موجودہ ترقی "میں جس قسم کے فلسفیانہ سوچ کے ساتھ ہر قدم پر غور کرنے کی امید کرتا تھا، وہ نہیں ہے۔"

اس بات کو بانی خود کہ رہا ہے، جس کا وزن کسی بیرونی تنقید سے زیادہ ہے۔

ڈیپ مائن کے ابتدائی ملازم، جن کی ذمہ داری AI کی ذمہ داری کی حکمت عملی ہے، ہیلن کنگ نے انٹرویو میں ایک مثال دی: چاکو کے پیدا کرنے والے یہ یقینی نہیں بناسکتے کہ ہر کوئی چاکو کو کس طرح استعمال کرے، لیکن وہ چاکو پر کور لگا سکتے ہیں اور انتباہی نوٹس لگا سکتے ہیں۔

ایک چھلکے میں ڈالی گئی چاقو کو دراز میں رکھنا ایک بات ہے؛

گھر، کلاس روم اور دفتر کے ہر سطح پر چاقو کے تیز حاشیے بچھانا، اور دعویٰ کرنا کہ کل تک بنا چاقو زندہ نہیں رہ سکتے، ایک بات ہے۔

اکسفورڈ AI ایتھکس انسٹیٹیوٹ کے ڈائریکٹر ایڈورڈ ہارکورٹ نے مزید بنیادی سطح کی طرف اشارہ کیا: ڈیٹا کی ملکیت کے زیادہ سے زیادہ مرکزیت کو روکنا خود AI ایتھکس کا ایک مرکزی مسئلہ ہے — «یہ جمہوری نظام میں اہم اخلاقی اہمیت رکھتا ہے»۔

گابریل کی ٹیم نے مخصوص مصنوعات کے اخلاقی پہلوؤں کے تحقیق سے AGI کے معاشی، سیاسی اور تعلقاتی تعلقات پر نظام کے اثرات کے تحقیق کی طرف منتقل ہو گئی ہے۔

وہ انقلاب کے پیمانے کا تخمینہ صنعتی انقلاب جیسا لگاتا ہے، اور صنعتی انقلاب کے سبق بھی یاد رکھتا ہے:

بہتری سے پہلے، بگڑ گیا۔

نو سال پہلے، ڈیپ مائنڈ نے ایک فلسفی کو AI کے بارے میں سوالات کا جواب دینے کے لیے مدعو کیا — کیا یہ محفوظ ہے، عادلانہ ہے، اور قابل اعتماد ہے؟

گبریل خود کو "مستحکم انسانیت پر مبنی فکر کا حامی" کہتے ہیں، لیکن وہ تسلیم کرتے ہیں کہ جب AI زبان، تخلیقی صلاحیت، اور مزاح جیسے ان انسانی خصوصیات میں گھس آئے، تو ہم قدیم ترین فلسفیانہ سوالات کی طرف واپس پھینک دیے گئے۔

فزکس، حیاتیات، اور خلائی علوم، ہر سائنسی انقلاب نے انسانی منفردیت کے بارے میں انسان کی سمجھ کو درست کرنے پر مجبور کیا۔

ای آئی اگلی بار ہو سکتی ہے۔

ڈیپ مائنڈ نے AI کیا ہے، اسے سمجھنے کے لیے فلسفیوں کو بلایا۔

نو سال بعد یہ سوال اپنی اصلی جڑوں پر واپس آ گیا: ہم کون ہیں؟

حوالہ جات:

https://www.theguardian.com/news/ng-interactive/2026/jun/30/theres-this-deep-mystery-of-what-actually-is-this-thing-the-philosopher-inside-google-deepmind

https://www.iasongabriel.com/

یہ مضمون ویچن گروپ "نیوزی ایوان" سے ہے، مصنف: ASI وحی؛ ایڈیٹر: مارکو