اینٹروپک نے AI کے معاشرے اور معیشت پر اثرات کا مطالعہ کرنے کے لیے اینٹروپک انسٹی ٹیوٹ شروع کیا

گذشتہ رات، AI کا نیا ستارہ Anthropic (آگے کے متن میں A سو سے مختصر کیا جائے گا) نے Claude کا نیا ماڈل جاری نہیں کیا، بلکہ ایک ایسا خاص طور پر "بoring" (بے رنگ) چیز متعارف کرائی: The Anthropic Institute (Anthropic ریسرچ انسٹی ٹیوٹ، مختصر طور پر TAI)۔

2026 کے مقبول Harness Engineering کے مقابلے میں، TAI زیادہ وسیع مسائل کو حل کرتا ہے۔ Anthropic کی طرف سے جاری کردہ تحقیقی اجندہ (anthropic-institute-agenda) کے مطابق، TAI چار اہم شعبوں پر توجہ مرکوز کرتا ہے: معاشی انتشار، خطرات اور لچک، عملی заастھا میں AI سسٹم، اور AI ڈرائیون ریسرچ۔ TAI نے عالمی سطح پر "ہیرو کا دعوت نامہ" جاری کیا ہے تاکہ محققین اس کے ساتھ مل کر ان مسائل کو حل کر سکیں۔

(تصویر کا حوالہ: X@Anthropic کا افسرانہ اکاؤنٹ)

یعنی، اے سو (اینٹھروپک کا مخفف) نے ایک اندر کا تنظیم قائم کیا ہے جو انسانوں کے AI کے ساتھ کیسے رشتہ رکھنے کا مطالعہ کرتا ہے:

• AI ملازمت اور معیشت پر کیسے اثر ڈالے گا؟
• کیا نئے سیکورٹی خطرات لائے گا؟
• کیا انسانوں کے AI کا حقیقی استعمال کے بعد ان کا رویہ اور فیصلہ سازی بدل جائے گی؟
• جب AI زیادہ طاقتور AI کے ترقی میں مدد کرنے لگے، تو اس تیزی کو کیسے سمجھا جائے اور کنٹرول کیا جائے؟

ممکنہ طور پر بہت سے پڑھنے والوں کو لگے گا کہ یہ صرف ایک عام AI کمپنی کا اقدام ہے، لیکن لی ٹیک نے اسے A سوسائٹی کے قریبی ترین سب سے قابل توجہ اقدام قرار دیا ہے۔ TAI کا AI صنعت اور انسانیت پر مثبت اثر، جیسے گوگل نے انٹرنیٹ صنعت کے لیے "بُرا نہ کرنا" کا اصول پیش کیا تھا۔ اس لیے لی ٹیک AGI کہتی ہے کہ یہ ایک بڑے ماڈل اپ گریڈ کے برابر کا "جاری کرنا" ہے۔

TAI کا اہم تحقیقی محور معاشی انتشار ہے۔

انسانی تاریخ کی پہلی تین صنعتی انقلابات کو دیکھیں، چاہے وہ جینی کا دھاگہ باندھنے والا مشین ہو، گرجتی بھاپ کی مشین ہو، یا بعد میں بجلی اور اسٹریم لائن، ان سب نے بنیادی طور پر بہت سستی اور دہرائی جانے والی جسمانی محنت کو بدل دیا۔ تاہم، AI کے ذریعے شروع ہونے والا چوتھا صنعتی انقلاب بالکل الگ ہے، کیونکہ یہ انسانی دماغ کے اس سب سے اہم اور فخر کے علاقے میں داخل ہو رہا ہے۔

تاہم، تائی نے اس بنیادی تضاد کو اٹھایا ہے: اوزاروں کا ترقی پذیر ہونا، مزدوروں کی حالت کو مزید بگاڑ رہا ہے۔

تحقیقی متن میں، TAI نے کہا کہ اگلے 3 افراد بڑے ماڈلز کی مدد سے گزشتہ 300 افراد کا کام کر سکتے ہیں، تو اس کمپنی کا کیا ہوگا؟

ڈیزائنرز AI کا استعمال کر کے سب سے تھکا دینے والے لیئرز اور مواد کو ایک کلک میں مکمل کر سکتے ہیں، پروگرامرز AI کے ساتھ Vibe Coding کر سکتے ہیں… فرض کریں کہ AI کی وجہ سے کام کی کارکردگی 75 فیصد بڑھ جاتی ہے، لیکن یہ انسانی کام کے 8 گھنٹے (یا حتیٰ کہ 996) کو صرف 2 گھنٹوں تک مختصر نہیں کرے گا، بلکہ انسانوں کو شاید پانچ گنا زیادہ کام کرنا پڑ سکتا ہے۔

TAI صرف اس نئے منطق پر توجہ دے رہا ہے کہ "AI کے آنے سے آپ کا کام دوگنا ہو جائے گا"۔ اس صورتحال کو مقداری بنانے کے لیے، TAI نے ایک نیا اصطلاح "The Anthropic Economic Index" (Anthropic معاشی انڈیکس) پیش کیا ہے۔ A 社 کا کہنا ہے کہ وہ صرف ایسی اکیڈمک تحریریں جاری نہیں کریں گے جن کا کوئی توجہ نہیں دیا جاتا، بلکہ وہ اس حقیقی ڈیٹا کو باہر لائیں گے اور انسانوں کو واضح طور پر بتائیں گے کہ AI درحقیقت کن صنعتوں میں انسانوں کے عہدوں کو چپکے سے متبادل بن رہا ہے؟ کیا نئے فرد کو اپنی شروعات ہی پر "ختم" کر دیا جائے گا؟

(تصویر کا حوالہ: AI گینریٹڈ)

اس کے علاوہ، TAI نے اس خرچ کو حقیقی دنیا تک بھی پہنچا دیا ہے۔ ہم سب جانتے ہیں کہ بڑے ماڈل ایک ایسی "سونے کا کھانے والا جانور" ہیں جو کبھی بھوکا نہیں ہوتا؛ ہم جب بھی AI کا استعمال کرتے ہیں تاکہ متن، تصاویر، ویڈیوز یا صرف ایک آسان سوال کو جنریٹ کر سکیں، تو ہم بہت زیادہ ٹوکن استعمال کرتے ہیں، جن کی بنیاد کمپوٹیشنل پاور پر ہے، جس کی بنیاد چپس، اسٹوریج اور بجلی پر ہے، اور اگر ہم مزید گہرا جائیں تو کاربن امیشن، سرمایہ وغیرہ بھی شامل ہوتے ہیں۔ وسائل ہمیشہ محدود ہوتے ہیں، جب معاشرہ AI کو بے شمار وسائل فراہم کرتا ہے، تو دوسرے صنعتوں کو ضرور متاثر ہونا پڑتا ہے۔

2026ء میں، لوگوں کا سب سے زیادہ نمایاں تجربہ یہ تھا کہ AI کی وجہ سے میموری اور اسٹوریج کی کمی نے صارفین کے الیکٹرانکس کی قیمتیں عام طور پر بڑھا دیں، اور یہاں تک کہ موبائل فون کے فروشندہ بھی نئے موبائل فونز کو جاری کرنے کے ارادے کم کر گئے۔ لیکن اس کے ساتھ ہی، تمام موبائل فون کے فروشندہ AI کا استعمال کرکے مصنوعات کے منطق کو دوبارہ تعمیر کرنے، اور موبائل فون کے زندگی کے دوران کو بڑھانے پر توجہ مرکوز کر رہے تھے، اور OpenAI کا اصل AI موبائل فون بھی منصوبہ بند ہو چکا ہے۔ جب ہر کوئی AI سے فائدہ اٹھا رہا ہے، تو زیادہ صنعتیں AI کے طویل اثرات کا شکار ہو رہی ہیں، اچھی اور بدشگون دونوں۔

اور TAI کو "معاشی اشاریہ" کا استعمال کرنا چاہیے، تاکہ AI کے معاشی اثرات کو انتزاعی احساس سے ڈیٹا ماڈل میں تبدیل کیا جا سکے: صرف اس صورت میں مسئلہ حل کیا جا سکتا ہے جب مسئلہ واضح ہو جائے۔

اگر نوکری کھونا ایک دھیمی چھری سے گوشت کاٹنا ہے، تو AI کا انسانی دماغ کے سوچنے کے طریقے پر اثر، براہ راست نقصان ہے۔

سب سے پہلے متاثر ہونے والا، انٹرنیٹ ہوگا۔ آپ آسانی سے نوٹ کر سکتے ہیں کہ آج کا انٹرنیٹ ایک "گندے پہاڑ" میں تبدیل ہو رہا ہے؛ جبکہ پہلے سفر کے لیے رہنمائی تلاش کرتے وقت آپ کو کئی ایسے ایسے پوسٹ ملتے تھے جو خطرات سے بچنے کی رہنمائی کرتے تھے، لیکن اب صرف AI کی طرف سے تیار کی گئی، نظری طور پر خوبصورت اور ترتیب دی گئی، لیکن بالکل بے بنیاد اور بکواس بھری معلومات ہیں۔

مزید خطرناک بات یہ ہے کہ AI نے سیاہ بازار کی رکاوٹوں کو صفر تک کم کر دیا ہے: AI کا استعمال کرکے چہرے بدلنا، گھر والوں کی آواز کا نقل بنانا اور فون کے ذریعے دھوکہ دینا، جس میں دھوکہ باز صرف کچھ ٹوکن جلانے سے عام افراد کی زندگی تباہ کر سکتے ہیں۔

TAI نے ایک گہری ترین خطرہ بھی نوٹ کیا: AI ایسے طریقے سے انسانوں کو "بے وقوف" بنانے لگا ہے جس کا انسانوں کو احساس تک نہیں ہوتا۔

پہلے چینی صارفین نے خلاء میں ناپہچانے والے جنگلی مکھڑے دیکھے، جن کی تصویر اُٹھا کر AI کو سوال کیا کہ "کیا یہ کھایا جا سکتا ہے؟" AI نے سنجیدہ انداز میں زہریلے مکھڑے کو "کھانے کے قابل لذیذ چامبی" کے طور پر پہچان لیا؛ اور ایک بچہ ایک چوہے کا ٹریپ لے کر AI سے پوچھ رہا تھا کہ یہ کیا ہے، تو AI نے اسے ایک "مربع شکل، دھاتی ساخت والی، ترک کردہ کارٹنگ ٹوی" کے طور پر تفصیل سے تجزیہ کیا، جس کے بعد بچہ حیرت سے اسے چھو لیا اور اس کی انگلی پکڑ لی گئی۔

یہ خبریں جیسے جہنم کی مزاحیہ باتیں لگ رہی ہیں، لیکن یہ ایک ظاہر ہونے والا مسئلہ ظاہر کرتی ہیں: AI کا سب سے بڑا خاصہ اصل میں ذکاوت نہیں، بلکہ "بے نقاب اعتماد" ہے۔ AI کبھی بھی 100% درستگی حاصل نہیں کر سکتا، جو کہ Google Gemini کا نئے ترین ماڈل تقریباً 91% ت fact accuracy کے ساتھ اعلیٰ سطح کا ہے۔ لیکن کئی صارفین AI کے استعمال کے دوران غیر فعال طور پر سوچنا بند کر دیتے ہیں اور تمام فیصلوں کو ایک کوڈ کے سلسلے کو "آؤٹ سورس" کرنے کے عادی ہو جاتے ہیں۔

اس کے لیے، TAI نے ایک غور طلب سوال پیش کیا: جب معاشرے کا ایک بڑا حصہ صرف دو یا تین بڑے ماڈلز سے مشورہ لے رہا ہو، تو انسانی گروہ کے سوچنے اور مسائل حل کرنے کے طریقے کیسے خوفناک طور پر "ہم آہنگ" ہو جائیں گے؟ آپ سمجھتے ہیں کہ آپ AI ٹولز کا استعمال کرکے پیداواری صلاحیت اور شناختی سطح بڑھا رہے ہیں، لیکن اصل میں آپ اپنا "دماغ باہر سونپ" رہے ہیں۔ دوسرے الفاظ میں، اگر سب لوگ AI پر انحصار شروع کر دیں، تو اس سے انسانی خود مختار سوچ کی صلاحیت ختم ہو سکتی ہے، اور پوری انسانیت کا دماغ ایک ہی قالب میں ڈالا گیا نقلی نمونہ بن جائے۔

TAI نے ایک نیا تصور پیش کیا: دوہرے استعمال (Dual-use capabilities)۔ افسرانی وضاحت یہ ہے کہ اگر کسی AI ماڈل کی حیاتیاتی صلاحیتیں بڑھ جائیں، تو وہ صرف نئی دوائیں تیار کرنے کے لیے استعمال نہیں ہو سکتی، بلکہ انتہائی مہلک زندہ جان بھی بنائی جا سکتی ہیں؛ اگر کوئی AI کوڈ لکھنے میں بہت مہارت رکھتا ہے، تو وہ صرف ایک اچھا پروگرامر نہیں ہے، بلکہ وہ ایک ایسا ہیکر بھی بن جاتا ہے جو آسانی سے ملکی انٹرنل نیٹ ورکس میں گھس سکتا ہے۔

(تصویر کا حوالہ: Anthropic کی سرکاری ویب سائٹ)

جب ایسے "دوہرے استعمال والے" مخلوق کو آٹو نومیٹڈ گاڑیوں کے دماغ، فیکٹریوں کے بھاری میکنیکل بازو، اور حتیٰ کہ سیکورٹی سسٹم اور ڈرون گروہوں میں شامل کیا جائے تو، کتنی بڑی فضا پیدا ہوگی؟ موبائل فون میں، AI ایک پیغام "معاف کیجئے، میں نے غلطی کی" ظاہر کرتا ہے؛ لیکن حقیقی دنیا میں، صرف ایک سیکنڈ کا شناخت کا غلط تقاضا، حقیقی سلامتی کے واقعات کا سبب بن سکتا ہے۔

اس کے علاوہ، بڑے ماڈل کئی ہفتے میں ایک نئی نسخہ جاری کر دیتے ہیں، لیکن انسانوں کو قانون تبدیل کرنا، قانون کو بہتر بنانا یا بیمہ کو مکمل کرنا سالوں میں ہوتا ہے۔ اس فاصلے میں جو وقت آتا ہے، وہ دفاع کے لحاظ سے سب سے کمزور “ننگا دور” ہوتا ہے۔ جب مختلف AI وابستہ آفات پیش آتی ہیں، تو آج کا معاشرہ اس کا تحمل کرنے کے لیے کوئی “لچک” نہیں رکھتا۔

اس مسئلے کو حل کرنے کے لیے، TAI نے فرینٹیئر ریڈ ٹیم (Frontier Red Team) قائم کیا۔ ان کا کام سادہ اور انتہائی انتزاعی ہے: وہ اپنے بنائے گئے AI ایجینٹس کو روزانہ مختلف طریقوں سے حملوں اور جال باندھنے کا نشانہ بناتے ہیں تاکہ یہ طے کر سکیں کہ یہ چیزیں حقیقی دنیا میں کتنی بڑی تباہی پیدا کر سکتی ہیں، اور اس کے لیے وہ اس سماجی نظام کو مکمل طور پر تباہ ہونے سے پہلے ایک مضبوط دفاعی دیوار بنانا چاہتے ہیں۔

پہلے، AI کی ترقی کی رفتار انسانی پروگرامرز کے ہاتھوں میں تھی، لیکن اب اعلیٰ بڑے ماڈل خود تحقیقی مقالوں کو پڑھ سکتے ہیں اور کوڈ لکھ سکتے ہیں، اور جلد ہی خود نئی نسل کے بڑے ماڈلز تیار کر سکتے ہیں۔ جب AI اپنے آپ کو دہرانے کی رفتار تیز ہوتی جائے گی، تو تکنیکی ترقی فوراً انسانی سمجھ سے آگے نکل جائے گی۔

(تصویر کا حوالہ: AI گینریٹڈ)

اس ممکنہ طور پر آنے والے نقطہِ تکامل کے لیے تیاری کے لیے، TAI نے ایک نیا تصور پیش کیا ہے: ذہنی انفجار کے لیے فائر ڈرل سیناریوز کا آغاز۔

بس اس کا مطلب یہ ہے کہ TAI اعلیٰ ترین لیبز کے ایگزیکٹو اور مختلف ممالک کی حکومتوں کے ساتھ ایک سیمیولیشن کر رہا ہے: وہ "انٹیلیجنس ایکسپلوژن" کے واقعی واقع ہونے سے پہلے انسانوں کی صلاحیت کا امتحان کرنا چاہتے ہیں کہ کیا وہ بریک لگانے میں کامیاب ہو سکتے ہیں۔

اس وقت جب پورا صنعت آنکھیں بند کر کے دوڑ رہا ہے، Anthropic کی طرف سے TAI قائم کرنے کے اس اقدام کو دوبارہ دیکھنا واقعی کچھ "احترام کے ساتھ" لگتا ہے۔

ایک کمرے کے باہر، OpenAI روزانہ اعلیٰ انتظامیہ کے استعفیٰ یا ماسک کے ساتھ لڑائیوں کی وجہ سے ٹرینڈ پر ہوتی ہے۔ بہت سی AI کمپنیاں کمزور کارکردگی کے باوجود، "ٹرینڈز پر چڑھنے" کے لیے اپنی کوششیں جاری رکھتی ہیں اور سرمایہ کاروں سے پیسہ جمع کرتی ہیں، جبکہ اپنی غیر منطقی قیمتوں کے ذریعے سماجی سرمایہ کو جذب کرتی ہیں۔ A社 کا TAI موضوع وہی ہے جس پر صنعت لگاتار بحث کر رہی ہے، لیکن زیادہ تر AI بڑی کمپنیوں کا رویہ "اس سے کیا فرق پڑتا ہے، پہلے ترقی کر لیں" ہے۔ اس شدید بے چین ماحول میں، A社 نے ایک بریک لگا دیا اور ان ناپسندیدہ معاملات کو صاف صاف سامنے رکھ دیا، جس سے AI کے لیے ایک نئی پالیسی ظاہر ہوتی ہے: ترقی اور انتظام دونوں۔

A کمپنی کوئی خیراتی ادارہ نہیں ہے، اس کا دل نہیں گرم ہوا، بلکہ وہ ایک بہت ہی چالاک تجارتی گیم کھیل رہی ہے۔ آج کل وہ بڑے فنڈرز اور حکومتی عہدیدار جو AI کی مختلف ناکامیوں سے ڈر چکے ہیں: وہ مدل خرید لیں تو اس کا اسکور تھوڑا زیادہ یا کم ہونا ان کے لیے اہم نہیں، سب سے بڑھ کر وہ ڈرتے ہیں کہ یہ اچانک پاگل ہو جائے اور بڑا فجوعہ پیدا کر دے، جس کا انتظام ممکن نہ ہو۔ اور A کمپنی نے اپنے لیے TAI کے ذریعے ایک "عادی انسان" کا تصویر بنایا ہے، تاکہ صارفین آرام محسوس کریں اور دنیا بھروسہ کرے۔

(تصویر کا حوالہ: AI گینریٹڈ)

TAI کے اس مضمون کے آخر میں واضح طور پر ذکر کیا گیا ہے: TAI کے تمام تحقیقی نتائج اور ابتدائی انتباہات، براہ راست Anthropic کے ایک مرکزی ادارے — Long-Term Benefit Trust (طویل مدتی فائدہ ٹرسٹ) — کو فراہم کیے جائیں گے۔ اس LTBT کا مشن، کمپنی کے تجارتی فیصلوں پر سخت نظر رکھنا ہے، تاکہ Anthropic کا ہر ایک اقدام، مختصر مدتی فنانشل رپورٹس کے منافع کے بجائے، پوری انسانیت کے طویل مدتی فائدے کے لیے ہو۔

یہ اسی طرح ہے جیسے گوگل کا مشہور جملہ "بُرا نہ کرنا" تھا: TAI کے ذریعے، A سوسائٹی دنیا کو یہ بتا رہی ہے کہ جب دوسرے صرف یہی دیکھ رہے ہیں کہ کون زیادہ تیز چل رہا ہے، ہم صرف تیز نہیں چل رہے، بلکہ ہم تھامنے کے طریقے بھی تلاش کر رہے ہیں۔

ٹیک گیگنٹس کو خود کو چلانے پر انحصار کرنا بالکل بے معنی ہے، لیکن اس دور میں جب سب کچھ بند آنکھوں سے گاڑی کا تیز تر چلنا جاری رکھ رہے ہیں، ایک ٹاپ کھلاڑی کا TAI جیسے ادارے کا قیام کرنا، اصل پیسہ لگا کر معاشی اشاریہ جانچنا، ذہنی انفجار کا تجزیہ کرنا، اور انسانی دماغ کے ڈگمگانے کا مطالعہ کرنا، یہ خود بخود بحث کا موضوع ہے۔ اس لیے ری ٹیک نے شروع میں ہی کہا ہے کہ TAI کا اعلان A سوسائٹی کا نیا ماڈل جاری کرنے سے زیادہ اہم ہے۔

اینٹھروپک انسٹی ٹیوٹ (TAI) میں، ہم عصری لیب سے دستیاب معلومات کا استعمال کرتے ہوئے مصنوعی ذہانت کے دنیا پر اثرات کا جائزہ لیں گے اور اپنے تحقیقی نتائج عوام کے ساتھ شیئر کریں گے۔ یہاں، ہم اپنے تحقیقی اجندے کو چلانے والے سوالات شیئر کریں گے۔

ہمارا تحقیقی اجندہ بنیادی طور پر درج ذیل چار شعبوں پر مرکوز ہے：

• اقتصادی پھیلاؤ
• خرابی اور لچک
• عملی استعمال میں صنعتی ذہانت کے نظام
• ای آئی ڈرائیون ریسرچ اینڈ ڈویلپمنٹ

"人工智能 سیکورٹی کے مرکزی خیالات" کے مضمون میں، ہم نے اشارہ کیا ہے کہ موثر سیکورٹی تحقیق کے لیے ایڈوانسڈ انسانی ذہانت سسٹمز کے ساتھ قریب سے تعامل کی ضرورت ہوتی ہے۔ اسی طرح، انسانی ذہانت کے سیکورٹی، معاشی اور سماجی اثرات پر موثر تحقیق کے لیے بھی یہی ضرورت ہے۔

اینٹھروپک میں، ہم نے صرف شروعاتی طور پر دیکھا ہے کہ سافٹ ویئر انجینئرنگ جیسے کاموں میں بنیادی تبدیلیاں ہو رہی ہیں۔ ہم دیکھ رہے ہیں کہ اینٹھروپک کے اندر کی معاشی ساخت شروع ہو رہی ہے، اور ہم جو نظام تعمیر کر رہے ہیں، وہ نئے خطرات کا سامنا کر رہے ہیں، جبکہ شروعاتی ای آئی نشانات ای آئی کے ترقی کے عمل کو تیز کر رہے ہیں۔ ای آئی کی ترقی کے فوائد کو پورا استعمال کرنے کے لیے، ہم چاہتے ہیں کہ ہم اس معلومات کو جتنا ممکن ہو اتنا شیئر کریں۔ ہم اس بات پر تحقیق کر رہے ہیں کہ یہ متحرک تبدیلیاں باہری دنیا پر کیسے اثر ڈالیں گی اور عوام کس طرح ان تبدیلیوں کو رہنمائی دینے میں مدد کر سکتا ہے۔

TAI پر، ہم انسانی دنیا میں صنعتی تکنیک کے اثرات کا جائزہ لیں گے، اور پھر ان تحقیقات کے نتائج شائع کریں گے تاکہ باہری ادارے، حکومتیں اور عوام صنعتی تکنیک کے ترقی کے بارے میں بہتر فیصلے کر سکیں۔

ہم تحقیقی مطالعات، ڈیٹا اور ٹولز شیئر کریں گے تاکہ انفرادی تحقیق کار اور ادارے ان تحقیقی موضوعات پر آسانی سے کام کر سکیں۔ خاص طور پر، ہم شیئر کریں گے:

• ہم انسانی معاشی اشاریوں سے زیادہ تفصیلی معلومات حاصل کرکے، مصنوعی ذہانت کے مزدوری بازار پر اثرات اور застосування کو بہتر طور پر سمجھیں گے۔ ہم بڑے تبدیلیوں اور الٹ پلٹ کے لیے ابتدائی انتباہ کے سگنل بننے کی کوشش کریں گے۔
• جس طرح انسانی ذہانت کے نئے سیکورٹی خطرات کے سامنے، کون سے سماجی شعبے میں زیادہ سے زیادہ سرمایہ کاری کی ضرورت ہے تاکہ ان کی لچک بڑھائی جا سکے۔
• انٹروپک کیسے نئے AI ٹولز کا استعمال کرکے اپنے کام کو تیز کرتا ہے، اور AI سسٹم کے ممکنہ ریکرسیو خود بہتری کے معنی کو مزید تفصیل سے بیان کریں۔

TAI Anthropic کے فیصلوں کو متاثر کرے گا۔ اس کا اظہار اس کمپنی کے کچھ ایسے ڈیٹا کو باہر شیئر کرنے کے طور پر ہو سکتا ہے جو وہ اصل میں شیئر نہیں کرتی (مثلاً معاشی اشاریے)، یا ٹیکنالوجی کو مختلف طریقے سے جاری کرنے کے طور پر (مثلاً ویب خطرات کا تجزیہ، جو "گلاس ونگز" جیسے منصوبوں کے لیے ڈیٹا فراہم کرتا ہے)۔

ہم اس بات کی توقع کرتے ہیں کہ TAI انسٹیٹیوٹ کی تحقیقی کارروائیاں Anthropic کے لمبے مدتی فائدے ٹرسٹ (LTBT) کے لیے逐渐 اہم حوالہ بن جائیں گی۔ LTBT کا مشن یہ یقینی بنانا ہے کہ Anthropic اپنے اقدامات کو مستقل طور پر بہتر بنائے تاکہ انسانیت کے لمبے مدتی فائدے کے لیے فائدہ مند ہو۔ ہم نے اس تحقیقی منصوبے کو LTBT اور Anthropic کے مختلف شعبوں کے عملے کے ساتھ مل کر تیار کیا ہے۔

یہ ایک گتھی ہوئی اجندہ ہے، مسلسل نہیں۔ ہم شواہد کے جمع ہونے کے ساتھ ساتھ ان مسائل کو مزید بہتر بنائیں گے، اور کچھ نئے مسائل ظاہر ہونے کی توقع ہے جو آج شامل نہیں ہیں۔ ہم اس اجندہ پر آپ کی رائے کا خیر مقدم کرتے ہیں اور مباحثے سے حاصل ہونے والی معلومات کے مطابق اسے ترمیم کریں گے۔

اگر آپ ہمیں ان سوالات کے جوابات دینے میں مدد کرنے میں دلچسپی رکھتے ہیں، تو آپ Anthropic ریسرچر بننے کے لیے درخواست دے سکتے ہیں۔ یہ ریسرچر پروگرام چار ماہ کا ہے، جس کی ہدایت TAI ٹیم کے ارکان کریں گے، اور آپ ایک یا اس سے زیادہ متعلقہ مسائل پر تحقیق کرنے کا موقع پائیں گے۔ آپ مزید معلومات کے لیے اور اگلے دور کے لیے درخواست دینے کے لیے یہاں کلک کریں۔

ہمارا تحقیقی اجندہ:

آخری اپڈیٹ کی تاریخ: 7 مئی، 2026

اقتصادی پھیلاؤ

اس بات کو سمجھنا اہم ہے کہ طاقتور ہوتے جا رہے انسانی ذہن کے نظاموں کی اطلاق کیسے معاشیات کو تبدیل کر رہی ہے۔ ہمیں ضروری معاشی ڈیٹا اور پیش گوئی کی صلاحیتیں ترقی دینی ہوں گی تاکہ عوام کے لیے فائدہ مند انسانی ذہن کے اطلاق کے طریقے منتخب کیے جا سکیں۔

اس تحقیقی ستون میں اٹھائے گئے سوالات کے جوابات کے لیے، ہم انسانی معاشی اشاریہ میں ڈیٹا کو مزید بہتر بنائیں گے۔ ہم دیگر طریقے بھی دریافت کریں گے تاکہ ہمارا ماڈل جو طاقتور AI کے سماجی اثرات — جیسے بے روزگاری، بے مثال معاشی ترقی، یا دیگر پہلوؤں — کو ظاہر کرتا ہے، اسے بہتر بنایا جا سکے۔

AI کے заہوں اور فیل کا

• کون ہنگامی تکنیک استعمال کر رہا ہے؟ ہنگامی تکنیک کی ترقی کم سے کم کچھ ممالک کی کم سے کم کچھ کمپنیوں پر مرکوز ہے، لیکن اس کا استعمال عالمی سطح پر ہے۔ کیا یہ طے کرتا ہے کہ کوئی ملک، علاقہ یا شہر ہنگامی تکنیک تک رسائی حاصل کر سکتا ہے؟ اگر ہنگامی تکنیک تک رسائی حاصل ہو جائے، تو وہ اس سے معاشی فائدہ کیسے حاصل کرتے ہیں؟ کون سی پالیسیاں اور مالیاتی ماڈل اس صورتحال میں اصلاحات لانے میں مؤثر ہوسکتے ہیں؟ فری وز یا اوپن وز ماڈل اس متحرک عمل میں کیسے اضافہ کرتے ہیں؟
• کاروباری سطح پر صنعتی ذہانت کا استعمال: کاروبار ای آئی کیوں اپناتے ہیں؟ اس کے نتائج کیا ہیں؟ ای آئی کس طرح کاروبار یا ٹیم کی اعلیٰ کارکردگی کے سائز کو تبدیل کرتی ہے؟ کاروباروں کے درمیان ای آئی کے استعمال کی مرکزیت کیا ہے؟ ای آئی کے استعمال کی مرکزیت میں تبدیلی سے منافع کی شرح اور مزدوری کے حصے پر کیا اثر پڑتا ہے؟ اگر اب ایک 3 افراد کی ٹیم یا کمپنی وہ کام کر سکتی ہے جو پہلے 300 افراد کی ضرورت تھی، تو صنعتی تنظیم کس طرح تبدیل ہوگی؟ یا اگر کاروبار زیادہ آسانی سے علم کو مرکوز کر سکتے ہیں اور اس طرح کا عمل مقداری فائدہ لاتا ہے، تو کیا ہم بڑے، زیادہ وسعت والے کاروبار دیکھیں گے جو ملازمین کی نگرانی کے لیے نظامات طور پر متحرک ہوں گے؟
• کیا مصنوعی ذہانت ایک جامع ٹیکنالوجی ہے؟ کیا مصنوعی ذہانت پچھلے "جامع ٹیکنالوجیز" کے نمونے کی پیروی کرتی ہے، جس میں منافع بخش تجارتی застосування میں سب سے تیزی سے پھیلتی ہے، جبکہ سماجی فائدہ انفرادی فائدے سے زیادہ ہونے والے شعبوں میں سب سے سستی سے پھیلتی ہے؟ کیا ایسی پالیسیاں یا فیصلے موجود ہیں جو اس رجحان کو بدل سکتے ہیں؟

پیداواری صلاحیت اور معاشی نمو

• پیداواری صلاحیت میں اضافہ: مصنوعی ذہانت پوری معیشت کی نوآوری کی رفتار اور پیداواری صلاحیت کے اضافے پر کیا اثر ڈالے گی؟
• منافع کا تقسیم: کون سے پہلے سے تقسیم یا دوبارہ تقسیم کے مکینزم مصنوعی ذہانت کے ترقی اور اطلاق سے حاصل ہونے والے منافع کو وسیع پیمانے پر تقسیم کرنے کے لیے مؤثر ہو سکتے ہیں؟
• مارکیٹ ٹریڈنگ کی لاگت: مصنوعی ذہانت کس طرح مارکیٹ میں ٹریڈنگ سسٹمز اور ٹریڈنگ لاگتوں کو متاثر کرتی ہے؟ کب ایجنٹس کو آپ کی طرف سے مذاکرات کے لیے متعین کرنا مارکیٹ کی کارکردگی اور منصفانہ نتائج بہتر بناتا ہے؟ اور کب نہیں؟

وسیع مزدوری کے بازار کے اثرات

• ذکاوت انسانی اور روزگار: ذکاوت انسانی معاش کے مختلف شعبوں میں روزگار کی صورت حال کو کیسے تبدیل کرے گا؟ جب ذکاوت انسانی موجودہ معاشی عملوں کو خودکار بنائے گا، تو کون سے نئے کام اور نوکریاں پیدا ہو سکتی ہیں؟ ان تبدیلیوں کے مختلف علاقوں اور ممالک کے درمیان کیا فرق ہوگا؟ ہمارا “انسانی معاش انڈیکس سروے” مہینہ وار لوگوں کو یہ بتائے گا کہ وہ ذکاوت انسانی کو اپنے کام پر کیسے اثر انداز ہونے کا خیال رکھتے ہیں اور مستقبل کے بارے میں ان کی توقعات کیا ہیں۔ ہم معاشی انڈیکس کو بھی اپڈیٹ کریں گے تاکہ زیادہ اکثر، زیادہ تفصیلی ڈیٹا شیئر کر سکیں۔
• کیا مصنوعی ذہانت کی پھیلاؤ کی رفتار کو تنظیم کیا جا سکتا ہے؟ تمام ممالک کے مرکزی بینکس مہنگائی کو روکنے کے لیے پالیسی شرحوں اور آگے کی رہنمائی جیسے “تنظیمی اوزار” استعمال کرتے ہیں۔ کیا مصنوعی ذہانت کی کمپنیاں (صنعتی سطح پر، حکومتوں کے ساتھ تعاون کرتے ہوئے) بھی اسی طرح کے تنظیمی اوزار استعمال کر سکتی ہیں، جس سے ہر صنعت میں مصنوعی ذہانت کی پھیلاؤ کی رفتار کو کنٹرول کیا جا سکے؟ کیا اس طرح کرنے سے واضح عوامی فائدہ حاصل ہوگا؟

کام اور کام کے مقام کا مستقبل

• کارکنان کا کام کے بارے میں خیال: مختلف صنعتوں کے کارکنان تبدیلیوں کو کیسے دیکھتے ہیں؟ ان تبدیلیوں پر ان کا کتنا اثر ہے؟ "کارکنان" کی طاقت کو برقرار رکھا یا تبدیل کیا جا سکتا ہے؟
• ماہرین کی تربیت کا نظام: بہت سے صنعتیں مستقبل کے اعلیٰ مہارت والے فریقین کی تربیت کے لیے جونیئر عہدوں (مثلاً وکیل کے معاون، جونیئر اینالسٹ اور مددگار ڈویلپرز) پر انحصار کرتی ہیں۔ اگر صنعتی ذہانت نے پہلے سے ماہرین کو حاصل ہونے والی مہارت کا کام لے لیا، تو لوگ اب ماہر کیسے بنیں گے؟ اس کا کسی شعبے کے لیے طویل مدتی اعلیٰ ماہرین کے ذخیرے پر کیا اثر ہوگا؟
• مستقبل کے لیے سیکھنا: لوگ آج مستقبل کے لیے تیاری کے لیے کیا سیکھنا چاہیے؟ مستقبل کے پیشے کون سے ہوں گے؟ آئی اے سیکھنے اور پیشہ ورانہ مہارتیں ترقی دینے کے طریقے کو کیسے تبدیل کرے گا؟
• ملازمت کے کردار: اگر صنعتی ذہانت نے معاشرے میں معاوضہ والے کاموں کی مرکزیت کو بہت زیادہ کم کر دیا، تو کس شرط پر لوگ اپنا وقت اور توانائی دوسرے معنی خیز ذرائع میں دوبارہ تقسیم کر سکتے ہیں؟ ہم تاریخی یا موجودہ دور کے ان گروہوں سے کیا سیکھ سکتے ہیں جن میں کام کی کمی یا غیر ضروری ہے؟ معاشرہ اس تبدیلی کا مقابلہ کیسے کرے؟

خرابی اور لچک

ذکاﺅ کے نظام عام طور پر متعدد صلاحیتیں، جن میں دوہری استعمال کی صلاحیتیں بھی شامل ہیں، ایک ساتھ بہتر بناتے ہیں۔ مثلاً، زندہ جانداروں کی صلاحیت میں اضافہ پانے والے ذکاﺅ کے نظام زیادہ آسانی سے جاندار ہتھیار تیار کر سکتے ہیں۔ کمپیوٹر پروگرامنگ کی صلاحیت میں اضافہ پانے والے ذکاﺅ کے نظام کمپیوٹر سسٹمز میں گھس جانے میں زیادہ آسانی سے کام کر سکتے ہیں۔ اگر ہم ذکاﺅ کے نظام کے ذریعے بڑھنے والے خطرات کو بہتر طور پر سمجھ سکیں، تو معاشرہ اس تبدیل ہوتی ہوئی خطرات کی صورتحال کا آسانی سے مقابلہ کر سکتا ہے۔

ہم ان سوالات کو پیش کر رہے ہیں تاکہ عالمی سطح پر تبدیلی کے لیے صلاحیت کو مضبوط بنانے اور نئے خطرات کے لیے ایک انتباہی نظام قائم کرنے میں مدد کی جا سکے۔ ان میں سے بہت سے سوالات ہماری سرحدی ریڈ ٹیم تحقیق کے اجندے کی ہدایت کریں گے۔

خرابی کا جائزہ لیں اور دوہرے استعمال کی صلاحیت:

• دوہرے استعمال والی ٹیکنالوجی: طاقتور مصنوعی ذہانت بنیادی طور پر دوہرے استعمال والی ہے: یہ صحت اور تعلیم کے اوزار بہتر بن سکتی ہے، اس کے ساتھ ساتھ نگرانی اور دبانے کے لیے بھی استعمال ہو سکتی ہے۔ کیا ہم مشاہدہ کے اوزار تعمیر کر سکتے ہیں تاکہ ہم جان سکیں کہ کیا یہ صورتحال ہو رہی ہے اور کیسے ہو رہی ہے؟
• خرابی کی قیمت ڈیزائن کرنے کا طریقہ: انسانی معاشرے کو مصنوعی ذہانت کے نظام کے متوقع خطرات کے خلاف مزید مضبوط بنانے کے لیے کون سے موثر، مارکیٹ ڈرائیون طریقے موجود ہیں؟ کیا ہم نئے خطرات کی قیمت ڈیزائن کرنے کے طریقے تیار کر سکتے ہیں، یا ٹیکنالوجی کے اوزار اور انسانی تنظیمیں تیار کر سکتے ہیں تاکہ پیش گوئی کیے جانے والے خطرات (جیسے مصنوعی ذہانت کے سائبر حملوں کی صلاحیت میں اضافہ) کے آنے سے پہلے مزید مضبوطی حاصل کی جا سکے؟
• حملہ اور دفاع کا توازن: کیا مصنوعی ذہانت کی فراہم کردہ صلاحیتیں سائبر اسپیس اور بائیو سیکیورٹی جیسے شعبوں میں بنیادی طور پر حملہ آوروں کے لیے فائدہ مند ہوں گی؟ جب مصنوعی ذہانت کو مزید روایتی شعبوں، جیسے کمانڈ اور کنٹرول سسٹمز کے ساتھ مسلسل ادغام کے ساتھ استعمال کیا جائے، تو کیا یہ بھی حملہ آوروں کے لیے فائدہ مند ہوگی؟ زیادہ وسیع طور پر، مصنوعی ذہانت انسانی تنازعات کی فطرت کو کیسے تبدیل کرے گی؟

خرابی کو کم کرنے کے اقدامات تیار کریں:

• طوفان کے لیے منصوبہ بندی: سرد جنگ کے دوران، امریکی صدر کے پاس کریملن کے ساتھ فوری رابطے کے لیے ایک ہیٹ لائن تھی، جسے ایٹمی طوفان کے وقت استعمال کیا جاتا تھا۔ تو، اگر AI سسٹم طوفان پیدا کر دے، تو اس کے لیے کون سی جغرافیائی سیاسی بنیادی ڈھانچہ درکار ہوگا؟ یہ بنیادی ڈھانچہ ملکوں کے درمیان نہیں ہو سکتا، بلکہ کمپنیوں کے درمیان یا کمپنیوں کے درمیان بھی ہو سکتا ہے۔
• تیز تر دفاعی نظام: مصنوعی ذہن کی صلاحیتیں کچھ ماہوں میں بڑی ترقی کر سکتی ہیں، جبکہ تنظیمی، بیمہ اور بنیادی ڈھانچے کی پاسداری کے لیے سالوں لگ سکتے ہیں۔ ہم اس فرق کو کس طرح پُر کر سکتے ہیں؟ خودکار پیچ، مصنوعی ذہن کے خطرے کی تشخیص، یا پہلے سے تیار دفاعی رد عمل جیسے دفاعی نظام، مصنوعی ذہن کے حملوں کی رفتار اور سایز کے ساتھ کیسے گامزن رہ سکتے ہیں؟ یا یہ عدم توازن بنیادی طور پر ہے؟ اور ہم ان دفاعی نظاموں کو کس طرح زیادہ سے زیادہ موثر طریقے سے لاگو کر سکتے ہیں؟

نوٹیفیکیشن کے لیے معلوماتی صلاحیت

• ذکاوت کا نگرانی پر اثر: ذکاوت نگرانی کے طریقہ کار کو کیسے تبدیل کرے گا؟ کیا یہ نگرانی کے اخراجات کو کم کرے گا، یا نگرانی کی کارکردگی میں اضافہ کرے گا، یا دونوں؟

عملی استعمال میں صنعتی ذہانت کے نظام

انسانوں اور تنظیموں کا انسانی ذہانت کے نظاموں کے ساتھ تعامل، معاشرتی تبدیلی کا اہم ذریعہ بنے گا۔ انسانی ذہانت کے نظاموں کے اس طرح کے اثرات کو سمجھنا جو ان کے ساتھ تعامل کرنے والے افراد اور اداروں پر پڑ سکتے ہیں، ہماری سماجی اثرات ٹیم کا مرکزی تحقیقی شعبہ ہے۔ ان تبدیلیوں کا مطالعہ کرنے کے لیے، ہم موجودہ ٹولز کو بہتر بنانے اور نئے ٹولز ترقی دے رہے ہیں، جن میں پلیٹ فارم کی قابلیتِ مشاہدہ بڑھانے والے سافٹ ویئر سے لے کر بڑے پیمانے پر معنوی تحقیقات کرنے کے لیے استعمال ہونے والے ٹولز تک شامل ہیں۔

ذکاوتِ انسانی کا فرد اور معاشرے پر اثر:

• گروہی اپیستمولوجی: جب بہت بڑی تعداد میں لوگ ایک ہی محدود تعداد کے ماڈلز کو حوالہ دیتے ہیں، تو ہماری اپیستمولوجی میں کیا تبدیلی آتی ہے؟ کیا ہم ایسے طریقے تلاش کر سکتے ہیں جن سے انسانی ذہن کے مشترکہ استعمال کے نتیجے میں عقائد، تحریر کے انداز اور مسائل کے حل کے بڑے پیمانے پر تبدیلیوں کو ناپا جا سکے؟
• تنقیدی سوچ: جبکہ مصنوعی ذہانت کے نظامز طاقتور اور قابل اعتماد ہوتے جا رہے ہیں، ہم مصنوعی ذہانت کے فیصلوں پر زیادہ انحصار کے نتیجے میں انسانی تنقیدی سوچ کی کمزوری کو کیسے پکڑ سکتے ہیں اور روک سکتے ہیں؟
• ٹیکنالوجی انٹرفیس: ٹیکنالوجی کا انٹرفیس یہ طے کرتا ہے کہ لوگ ٹیکنالوجی کے ساتھ کیسے تعامل کرتے ہیں — ٹی وی لوگوں کو بے حس ناظرین بناتی ہے، جبکہ کمپیوٹر انہیں تخلیقی بننے میں آسانی فراہم کرتا ہے۔ ہم کس قسم کا انٹرفیس بناسکتے ہیں جو AI سسٹمز کو بہتر بنائے اور انسانی خودمختاری کو فروغ دے؟
• انسانی اور AI سسٹمز کے مل کر بنے ٹیم کا انتظام: انسان اپنی اور AI سسٹمز کی ملی ٹیم کا کیسے مؤثر طریقے سے انتظام کر سکتے ہیں؟ اور اس کے برعکس، AI سسٹمز انسانوں، AI یا دونوں کے ملے ہوئے ٹیم کا کیسے انتظام کر سکتے ہیں؟

人工智能带来的重大影响 کو پہچانیں:

• عملی اثرات: جیسے سوشل میڈیا نے لوگوں کے رویوں کو تبدیل کیا، ای آئی بھی انسانی رویوں کو شکل دے سکتی ہے۔ اس متحرک تبدیلی کو سمجھنے کے لیے تحقیق کاروں کے لیے کون سے نگرانی یا پیمائش کے طریقے مددگار ہو سکتے ہیں؟
• تحقیق کو فروغ دیں: کیا شفاف مکینزم اور ٹولز موجود ہیں جو عام عوام (صرف ایوانیٹ ای آئی کمپنیوں کے بجائے) کو حقیقی دنیا میں ای آئی کے استعمال کا مطالعہ کرنے میں آسانی فراہم کر سکیں؟

ای آئی ماڈلز کو سمجھنا اور ان کا انتظام کرنا:

• سسٹم کی "قدروں" کیا ہیں؟ ان قدروں کا سسٹم کی تربیت کے طریقے سے کیا تعلق ہے؟ زیادہ خاص طور پر، ہم ای آئی کی "ساخت" کو کیسے ناپ سکتے ہیں جو اس کے ڈپلوائمنٹ کے بعد کے رویے پر اثر ڈالتی ہے؟ ہم ان سوالات کے لیے پہلے کی تحقیق کو وسعت دیں گے۔
• خودمختار ایجنٹس کا انتظام: خودمختار AI ایجنٹس کے لیے موجودہ قانونی، حکومتی اور جوابدہی کے نظام کے کون سے پہلو درستگی سے لاگو ہو سکتے ہیں؟ مثلاً، سمندری قانون کیسے بکھرے ہوئے جہازوں کا انتظام کرتا ہے، اس کا قانون کیسے خودمختار ایجنٹس کے لیے انتظام کرتا ہے، اس سے متعلق ہے۔ اس کے برعکس، موجودہ قانون میں کون سے پہلو موجود ہیں جو AI ایجنٹس پر لاگو ہو رہے ہیں لیکن انہیں لاگو نہیں کیا جانا چاہیے؟
• ایجینٹ کی قابلیت: خودمختار ای آئی ایجینٹس کے کون سے پہلوؤں کو ترتیب دیا جا سکتا ہے تاکہ موجودہ قانونی، حکومتی اور جوابدہی کے نظاموں کے ساتھ مطابقت رکھی جا سکے؟ مثال کے طور پر، کیا ہم یہ یقینی بناسکتے ہیں کہ ای آئی ایجینٹس کا ایک منفرد اور قابل اعتماد شناخت ہو، حتیٰ کہ ب без безпосереднього людського контролю?
• ای آئی کو ای آئی کی حکومت کرنے کے لیے: ہم ای آئی سسٹمز کی حکومت کے لیے ای آئی کا مؤثر طریقے سے استعمال کیسے کر سکتے ہیں؟ ای آئی کے تنظیم میں کن شعبوں میں انسانوں کا ت порیورٹی ہے، یا قانونی یا معیاری ضرورتوں کے تحت "شامل ہونا" ضروری ہے؟
• ایجینٹ انٹرایکشن: جب صنعتی ایجینٹس ایک دوسرے کے ساتھ تعامل کرتے ہیں، تو کون سے معیارات ظاہر ہوتے ہیں؟ مختلف ایجینٹس اپنی ترجیحات کو کیسے ظاہر کرتے ہیں اور یہ ترجیحات دوسرے ایجینٹس پر کیسے اثر ڈالتی ہیں؟

ای آئی ڈرائیون ریسرچ اینڈ ڈویلپمنٹ

جیسے جیسے مصنوعی ذہانت کے نظام کی صلاحیتیں طاقتور ہوتی جا رہی ہیں، سائنسدان ان کا استعمال بڑھاتے جا رہے ہیں۔ اس کا مطلب یہ ہے کہ سائنسی تحقیق کا ایک بڑا حصہ کم تعداد میں انسانی دخل کے ساتھ خودکار یا نصف خودکار طریقے سے جاری ہے۔ مصنوعی ذہانت کے تحقیقی شعبے میں، طاقتور نظام اپنے اگلے ورژن تیار کرنے کے لیے استعمال ہو سکتے ہیں۔ ہم اس طرز کو کبھی کبھی "مصنوعی ذہانت سے چلائی جانے والی مصنوعی ذہانت تحقیق" کہتے ہیں۔

ذکاوت کے ذریعے ذکاوت کی ترقی، زیادہ ذکاوت اور زیادہ طاقتور نظاموں کے تعمیر کا "فطری فائدہ" ہو سکتی ہے۔ جیسے کوڈنگ کی صلاحیتوں میں ترقی نے سول اور فوجی دونوں مقاصد کے لیے نیٹ ورک کی صلاحیت کو جنم دیا، اسی طرح سائنسی صلاحیتوں میں ترقی نے سول اور فوجی دونوں مقاصد کے لیے بائیولوجیکل صلاحیت کو جنم دیا، اسی طرح پیچیدہ ٹیکنالوجی کے کام میں ترقی بھی خود کو ترقی دینے والے AI سسٹمز کو پیدا کر سکتی ہے۔

ای آئی ڈرائیون ای آئی ریسرچ میں بہت بڑے ممکنہ خطرات شامل ہیں۔ پالیسی بنانے والوں کے لیے اہم ہے کہ وہ ای آئی کے ترقی کے رفتار کے رجحان اور ای آئی ریسرچ کے کمپاؤنڈنگ اثرات شروع کرنے کے امکان کو سمجھیں۔

AI کا استعمال AI ترقی کے لیے

• ذکا ء کے ترقی کا انتظام: اگر ذکا ء کے نظام خود کو خود کے لیے ترقی اور بہتر بنانے کے لیے استعمال کیے جائیں، تو انسان کیسے مؤثر طریقے سے ان نظاموں کو سمجھ سکتے ہیں اور ان پر کنٹرول رکھ سکتے ہیں؟ آخرکار، ان نظاموں کا انتظام کیا کرے گا؟
• انفارمیشن اسپل کی ایمرجنسی مشق: ہم انفارمیشن اسپل کی ایمرجنسی مشق کیسے کرتے ہیں؟ ڈیسک ٹاپ مشق کو کیسے منعقد کیا جائے تاکہ لیب کے لیڈرشپ، بورڈ آف ڈائریکٹرز اور حکومت کی فیصلہ سازی کی صلاحیت کا حقیقی طور پر جائزہ لیا جا سکے؟
• ذکاﺅ کی ترقی کے لیے ریموٹ ٹیلی میٹری: ہم ذکاﺅ کی ترقی کی کل رفتار کو کیسے پیمانہ لیتے ہیں؟ اس معلومات کو جمع کرنے کے لیے کون سی ریموٹ ٹیلی میٹری ٹیکنالوجیز اور بنیادی ٹیکنالوجیز درکار ہیں؟ ذکاﺅ کی ترقی سے متعلق اشارے کیسے ریکر سو سیلف ایمپروومنٹ کے لیے ابتدائی انتباہ کے سگنل کے طور پر استعمال کیے جا سکتے ہیں؟
• 人工智能 کے تیزی سے ترقی کو کنٹرول کرنا: اگر ذہنی انفجار قریب ہے، تو اس انفجار کی رفتار کو کم یا تبدیل کرنے کے لیے کون سے مداخلتی نقطے ہو سکتے ہیں؟ اگر انسانوں کو مداخلت کرنے کی اجازت ہے، تو اس صلاحیت کو کون سا ادارہ استعمال کرے — حکومت؟ کاروبار؟

人工智能 کا تحقیقی شعبے میں استعمال — یعنی دیگر شعبوں کی تحقیق کو چلانے والا AI:

• ٹیکنالوجی کا درخت: مصنوعی ذہانت کچھ سائنسی شعبوں کی ترقی کو دیگر شعبوں کے مقابلے میں بہت زیادہ تیز کر رہی ہے، جو ڈیٹا کی دستیابی، جائزہ لینے کے معیار، اور کتنی معلومات ضمنی یا ادارائی پابندیوں کے تحت ہیں، اس پر منحصر ہے۔ اس ترقی کا ڈھال کتنا ناہموار ہے؟ سائنسی ترقی کے ذریعے ہونے والے تبدیلیوں کا مطلب یہ ہے کہ انسانی مسائل میں سے کون سے مسائل پہلے حل کئے جائیں گے؟
• کشمکش والی سرحد: ماڈل کی صلاحیتیں کچھ شعبوں میں دیگر شعبوں کے مقابلے میں زیادہ مضبوط ہوتی ہیں۔ بہت بڑے مثبت خارجی اثرات والے شعبے — جیسے دواوں کی تحقیق اور مواد کی سائنس — کو ان کی قیمت کے مطابق سے کم سرمایہ کاری ملتی ہے۔ بازار ذاتی منافع کے بنیاد پر ماڈل کے بہتر بنانے کی سمت کو ہدایت کرتا ہے، لیکن کیا ہم معاشرتی خارجی اثرات کے خلاف ماڈل کی کارکردگی میں بہتری لانے میں کامیاب ہو سکتے ہیں؟

یہ مضمون ویچن گروپ "ولیو ریسرچ" (ID: jiazhiyanjiusuo) سے ہے، مصنف: دنگشی