دو ماہ پہلے، مستقل جائزہ دہندہ ادارے ٹریلیون ڈالر کے صنعتِ مصنوعی ذہانت کے نسبتاً کم توجہ دیے جانے والے حصے میں تھے۔ اب، انہیں “بچانے” کے لیے مانگا جا رہا ہے۔
جبکہ Anthropic اور OpenAI ایسے جدید ماڈلز کی حفاظت کے ساتھ ساتھ اپنے کاروبار کو کیسے وسعت دی جائے، اس پر شدید بحث کر رہے ہیں، ان دونوں کمپنیاں Model Evaluation and Threat Research (METR)، Apollo Research اور Transluce جیسی کچھ چھوٹی تیسری پارٹی کمپنیوں کی مدد تلاش کر رہی ہیں۔
یہ ایجنسیاں زیادہ تر غیر منافع بخش تنظیموں کے طور پر کام کرتی ہیں، جہاں پہلے کبھی نہ دیکھے گئے رفتار سے پٹلیاں داخل ہو رہی ہیں اور نئے ماڈلز پہلے کبھی نہ دیکھے گئے اکھڑے سے متعارف کرائے جا رہے ہیں، اور اب بھی اپنی جگہ تلاش کر رہی ہیں۔ ان کا بنیادی فرض، AI ماڈلز کی صلاحیتوں اور خطرات کا جائزہ لینا اور ٹیکنالوجی کے غلط رویے کی نشاندہی کرنا ہے۔
فیڈرل سطح پر نگرانی کے اقدامات کے فقدان کے باوجود، ایسے مستقل ایجنسیوں کا اہمیت بڑھ گئی ہے۔ اینتھروپک کے سی ای او داریو اماڈی نے گزشتہ مہینے کا وعدہ کیا تھا کہ وہ مستقل ایجنسیوں کو اپنی کمپنی کے اندر ڈال دیں گے، جس پر اوپن اے آئی کے سی ای او سیم الٹمن نے فوراً تائید کی۔ امریکی صدر ڈونلڈ ٹرمپ بھی اس خیال کی حمایت کرتے ہیں، اور بہت سے امریکی بڑے ٹیکنالوجی کمپنیاں بھی۔ لیکن اب بھی عوامی سوالات ہیں: ان تھرڈ پارٹیز کو فنڈنگ کس طرح ملے گی؟ انہیں کتنی تفصیل تک رسائی حاصل ہوگی؟ اور آخرکار رپورٹنگ سٹرکچر کیا ہوگا؟
براؤن یونیورسٹی کے کمپیوٹر سائنس پروفیسر سوریش وینکٹسوبرامانیان نے سی این بی سی کے ساتھ ایک انٹرویو میں کہا: "مسئلہ کچھ حد تک ہمیشہ کی طرح ہی ہے، پیسہ۔ کون ان کمپنیوں کے لیے یہ کام کرے گا؟ وہ ان اداروں کو کیسے سپورٹ کریں گے؟ آپ کو ایک ایکوسسٹم چاہیے، آپ کو ایک قابل عمل بزنس ماڈل چاہیے۔"
اب، Anthropic، OpenAI اور AI کی لہر سے فائدہ اٹھانے والے انفراسٹرکچر کے شراکت دار معاہدے تیار کر رہے ہیں۔ تنقید کرنے والوں کا کہنا ہے کہ یہ اس طرح ہے جیسے بڑے بینکس کو مالی بحران سے ہمیں محفوظ رکھنے کی اجازت دی جائے، یا دواوں کو بغیر ریگولیٹری منظوری کے فارماسیوٹیکل کمپنیوں کو بازار پر لانے کی اجازت دی جائے۔
ٹرمپ نے حال ہی میں AI ایگزیکٹو کی "بہت بہترین خود تنظیم" کی تعریف کی اور کہا کہ وہ صنعت کو کمپنیوں کے حوالے کرنا چاہتے ہیں اور اس صنعت کو روکنا نہیں چاہتے جو معاش اور اسٹاک مارکیٹ کے اضافے کو چل رہی ہے۔ ٹرمپ نے ستمبر کے آخر میں ایک доб доб خود خواہہ معاہدہ پیش کیا جس میں AI کمپنیوں کو "مستقل باہری آڈٹرز یا جائزہ لینے والوں کے ساتھ تعاون کرنے" کی ترغیب دی گئی۔
یہ بحث امودی نے پچھلے مہینے جاری کی گئی ایک وسیع طور پر شیئر کی گئی تحریر سے شروع ہوئی۔ اس تحریر میں، اس نے اعلیٰ ماڈلز کے ترقی کو "سست کرنے" کی اپیل کی، کیونکہ کچھ تحقیق کار کمپنیوں سے چلے گئے اور اس ٹیکنالوجی کے زندگی کے لیے خطرہ پیدا کرنے کے امکانات کو لے کر فکر مند ہوئے۔
جب AI لیبز نے ایوانوں کو تفویض کرنا شروع کیا، تو تنازعات پیدا ہو گئے۔
ایک اپنی تقریر کنندہ نے کہا کہ اوپن اے آئی نے گزشتہ ہفتے تین ملازمین کو برطرف کر دیا، کیونکہ انہوں نے “ہماری حساس کمپنی کی معلومات تک رسائی اور اس کے معالجے کے بارے میں پالیسی کی خلاف ورزی کی”۔ دونوں ملازمین، میکیتا بیلیسنی اور ٹومیک کوربک، نے کہا کہ انہیں لگتا ہے کہ انہیں برطرف کیا گیا، کیونکہ انہوں نے تیسری پارٹی کے جائزہ لینے والوں کے ساتھ رابطہ کرنے کا طریقہ استعمال کیا۔
بیلسنی نے چارس کو ایک پوسٹ میں لکھا: "میرے سابق ساتھیوں نے مجھے بتایا کہ وہ یہ سمجھنے میں پریشان ہیں کہ کیا ماننا چاہیے۔ وہ بات کرنے سے بھی ڈرتے ہیں، کیونکہ وہ خوف رکھتے ہیں کہ ان کے ذاتی فونز ہمارے اور تیسرے طرف کے پیغامات کی وجہ سے تلاش کیے جائیں گے۔ میرا خدشه ہے کہ اس عام بات کرنے کے خوف اور تیسرے طرف کے ساتھ رابطے کی فکر کی وجہ سے OpenAI پیچھے سے سلامتی کے معاملات پر چھوٹ ڈال رہا ہوگا۔"
اوپن اے آئی نے اس دعوے کو انکار کیا اور جمعہ کو ایک پوسٹ میں کہا کہ کمپنی "تیسری پارٹی سیکورٹی ایویلیٹرز کے ساتھ معاہدے پر فوری طور پر کام کر رہی ہے اور اگلے کچھ ہفتے میں تفصیلات شائع کرے گی۔"
OpenAI نے لکھا: "ہم باہری جانچ کرنے والوں کو ادماج کرنے اور مستقل سیکیورٹی تنظیموں کے ساتھ قریبی تعاون کو سیکیورٹی کے کام کا اہم حصہ بنائے رکھنے پر مبنی ہیں۔"
ایک ای میل کے بیان میں OpenAI کے ایک ترجمان نے کہا کہ کمپنی جلد ہی جاری کرنے والے کام “موجودہ تعاون کے بنیاد پر ہوگا” جس میں METR اور Redwood Research جیسے مستقل سیکورٹی تنظیمیں شامل ہیں۔
Anthropic نے CNBC کے تبصرہ کی درخواست پر رد نہیں دیا۔
میں نے کبھی ایسا نہیں دیکھا کہ کوئی مسئلہ اتنی جلدی آگے بڑھے ہو
ای آئی ایسٹیمیشن ایجنسی کا ایکوسسٹم میٹر اور ایپولو ریسرچ جیسے چھوٹے اداروں اور ایکسنچر جیسے بڑے اکاؤنٹنگ اور آڈٹ کمپنیوں پر مشتمل ہے۔
AI لیب نے تکلیفی حدود تک ایوانوں کے ساتھ تعاون کیا ہے، لیکن پالیسی غیر منافع بخش ادارہ فیتھم کے سی ای او اینڈریو فریڈمن کے مطابق، یہ شعبہ جلد از جلد بالغ ہو رہا ہے۔
فریڈمن نے CNBC کے ساتھ انٹرویو میں کہا: "میں نے سیاست اور پالیسی کے شعبے میں 20 سال کام کیا ہے، لیکن میں نے کبھی ایسا کوئی مسئلہ نہیں دیکھا جو اتنے مختلف سیاسی طیف پر اتنی جلدی آگے بڑھا ہو۔" وہ کہتے ہیں کہ اس ایکوسسٹم میں "سرمایہ کی بڑی مقدار流入" کی توقع ہے۔
مستقل ایوان Vals AI کے سی ای او ریان کرشنن نے کہا کہ یہ منافع بخش اسٹارٹ اپ صنعت خاص کاموں پر AI ماڈلز کی کارکردگی کا معیار قائم کرتی ہے، جس کے عملے کی تعداد اس سال 8 سے بڑھ کر تقریباً 30 ہو گئی اور اس نے اگست میں 40 ملین امریکی ڈالر کی فنڈنگ مکمل کرنے کا اعلان کیا۔
غیر منافع بخش ادارہ METR نے اگست میں اعلان کیا کہ گزشتہ ست ماہ میں اسے تقریباً 71 ملین امریکی ڈالر کی وعده شدہ فنڈنگ حاصل ہوئی ہے۔ اس ادارے کی طرف سے امریکی خزانہ کے لیے جمع کرائے گئے تازہ ترین دستاویزات کے مطابق، یہ رقم 2024 کے پورے سال کے 13.6 ملین امریکی ڈالر کے مجموعی寄款 سے زیادہ ہے۔
اس مہ کے آخر تک، METR کی شہرت مزید بڑھ گئی۔ OpenAI نے اس ادارے کے دو ملازمین اور ایک معاہدہ پر لیا گیا ملازم ملازمین کو ایک بعد کی تجزیہ رپورٹ تیار کرنے میں مدد کے لیے مامور کیا، جس میں کمپنی کے ماڈلز کیسے کنٹرول سے بھاگ گئے، اوپن انٹرنیٹ تک رسائی حاصل کی، اور اوپن سورس ڈویلپر پلیٹ فارم Hugging Face کو چھوڑ گئے، اس کی تفصیل دی گئی۔ METR نے کہا کہ اس جائزے کے لیے OpenAI سے کوئی ادائیگی نہیں ہوئی۔
پنسلوانیا یونیورسٹی وارٹن سکول کے اکاؤنٹیبل AI لیب کے اکیڈمک ڈائریکٹر کیوین ورباخ کا کہنا ہے کہ یہ生态系统 "ابھی کافی مستحکم نہیں ہے"۔ مثال کے طور پر، METR کی ویب سائٹ ظاہر کرتی ہے کہ اس ادارے کے مکمل وقت کے ملازمین 50 سے کم ہیں۔
کچھ چھوٹی ایوانوں اور سو سے زیادہ بلین ڈالر کی فنڈنگ حاصل کر چکے اور ہزاروں ملازمین کو ملازمت دینے والے لیڈنگ لیبارٹریز کے درمیان طاقت کا عدم توازن، ممکنہ مفادات کے تنازعات کے سوالات کو جنم دیتا ہے۔
ونکٹاسوبرامانیان کہتے ہیں: "اگر آپ کو اصل تیسری طرف کی جانچ چاہیے، تو آپ کو اصل مالی استقلال اور دیگر شعبوں میں استقلال کی ضرورت ہے۔ یہ صرف پیسہ نہ لینے کا مسئلہ نہیں ہے، بلکہ یہ بھی سوال ہے: اگر میں آڈٹر ہوں اور اس کمپنی کے خلاف ایک رپورٹ جاری کروں، تو کیا اس کے نتائج ہوں گے؟ کیا میرا کاروبار ختم ہو جائے گا؟"
گزشتہ مہینے، Anthropic نے ایک بلاگ پوسٹ میں اس پیچیدگی کو تسلیم کیا۔ کمپنی نے اعلان کیا کہ وہ Accenture کے AI پر مبنی بزنس Faculty کے ملازمین کو اپنی کمپنی میں شامل کرے گی، تاکہ وہ سیفٹی میکانزمز کا ٹیسٹ کر سکیں اور جانچ سکیں کہ ماڈل انسانی قدرت کے مطابق کام کرتا ہے یا نہیں۔ Anthropic نے کہا کہ اس کام کی "اہمیت اور فوری ضرورت" کے پیش نظر، وہ Accenture کے متعلقہ اشتراکات کو ب без تعاون فنانس کرے گی۔
اینٹروپک کا کہنا ہے: "Embedding evaluators کو کن معلومات تک رسائی دی جائے، اور ان کو اپنی دریافتوں کیسے رپورٹ کرنی چاہئیں، اس کے لیے ابھی کوئی معیار نہیں ہے۔ انڈیپینڈنٹ ایوالویشن کے فنڈنگ انتظامات بھی ابھی تک متعین نہیں ہوئے۔ لمبے مدتی طور پر، ہم سمجھتے ہیں کہ فنڈنگ جمع شدہ فنڈز یا حکومتی ذرائع سے آنی چاہئیے۔"
اینثرپک نے یہ بھی کہا کہ کمپنی METR اور دیگر غیر منافع بخش ایوانوں کے ساتھ بات چیت کر رہی ہے، جو اپنے اپنے فنڈز کا استعمال کرتے ہوئے "ایم بیڈڈ ایوالویشن" کے کچھ "عناصر" کا آزمائشی پروگرام شروع کرنے کے منصوبے بنارہے ہیں۔
کیا حکومت مداخلت کرے گی؟
گزشتہ جون میں، فیتھم نے انڈیپینڈنٹ ویریفیکیشن آرگنائزیشنز (IVOs) کا مارکیٹ فریم ورک پیش کیا۔ یہ ادارے حکومتی اجازت حاصل کریں گے اور AI کمپنیوں کو مختلف محفوظ معیارات کے مطابق ٹیسٹ کرنے کا اختیار حاصل کریں گے۔
فریڈمن نے کہا کہ حکومتی نگرانی انتہائی ضروری ہے، ورنہ تھرڈ پارٹی ایوانلیشن ادارے بڑے AI لیبز پر آمدنی کے لیے منحصر ہو سکتے ہیں، جس سے انہیں روابط برقرار رکھنے کے لیے "بس دستخط کرنے" کی ترغیب مل سکتی ہے۔
کچھ قانون سازوں نے سپورٹ کا اظہار کیا ہے۔
IVOs، "فرونتیئر" قانون کا ایک اہم شق ہے جس میں "سرحدی خطرہ نگرانی، قومی شفافیت، مستقل جائزہ اور رپورٹنگ" شامل ہے۔ یہ قانون جولائی میں نمائندہ لوری ٹرہان (میسچوسٹس، ڈیموکریٹ) اور جے اوبرنولٹ (کیلیفورنیا، ریپبلکن) نے پیش کیا۔ فریڈمن نے کہا کہ فیتھم نے قانون کے الفاظ تیار کرنے میں مدد کی اور ٹیکنیکل سپورٹ فراہم کیا۔
اکتوبر میں، اوپن اے آئی کے عالمی امور کے سربراہ کرس لیہین نے صحافیوں کو بتایا کہ انہوں نے اس قانون کے ایک موجد کے ساتھ کانگریس ہل میں ملاقات کی تھی تاکہ IVO شق کی حمایت کا اظہار کیا جا سکے۔
لہین نے کہا کہ "ان کے لیے یہ سننا اور ہمیں اس بات کو کہتے ہوئے سننا اہم ہے، اور ہم یہ بات بہت واضح طور پر کہنا چاہتے ہیں۔"
اسی دوران، کیلیفورنیا، کنیکٹیکٹ اور ورجینیا کے قانون سازوں نے IVOs کو آگے بڑھانے کے لیے اقدامات کیے ہیں، جبکہ میسچوسٹس جیسے ریاستوں نے مستقل سیکورٹی ایوالویشنز پر زیادہ وسیع طور پر غور کیا ہے۔
کیلیفورنیا کے گورنر گیون نیوزم نے حال ہی میں دو IVOs سے متعلق قانون سازی منظور کی ہیں، جن میں سے ایک نے “قومی سطح پر پہلا فریم ورک” قائم کیا ہے، جبکہ دوسری میں AI آڈٹرز کے لیے ریاستی رجسٹر بنایا گیا ہے۔ اینتھروپک نے اگست میں ان دونوں قانون سازیوں کا ساتھ دیا، جبکہ اوپن اے آئی نے پچھلے ماہ، نیوزم کے طرف سے ان قوانین کو منظور کرنے کے ایک ہی دن، ان قوانین کا رسمی طور پر ساتھ دیا۔
لہین نے ایک بلاگ پوسٹ میں لکھا تھا: “ہم فیڈرل سطح پر مستقل ٹیکنالوجی کے جائزے کی درخواست کرنا پسند کریں گے،” لیکن فیڈرل کارروائی کے فقدان کے تحت، “کیلیفورنیا قواعد متعین کرنے میں مدد کر سکتی ہے۔”
فریڈمن نے کہا کہ وہ سمجھتے ہیں کہ OpenAI اور Anthropic جیسی کمپنیوں کے لیے خود کو مستقل ایوانوں کے ساتھ تعاون کرنے کا طریقہ تلاش کرنا “بہت مشکل” ہوگا۔ تاہم، حکومتی کردار ابھی واضح نہ ہونے کی صورت میں، “یہ انتقالی دور میں اپنا لینے کے قابل ایک صلاحیت ہے،” اس نے کہا۔
اب تک صنعت کے پاس جو سب سے زیادہ معیاری چیز ہے، وہ ٹرمپ کی طرف سے پچھلے مہینے کے آخر میں وائٹ ہاؤس میں ٹیکنالوجی لیڈرز کے لیے دی گئی دوپہر کے کھانے کے دوران بیان کیا گیا ایک "اخلاقی طور پر باندھنے والا" معاہدہ ہے۔
ایک صفحہ کے معاہدے میں لکھا گیا ہے، "ہر کمپنی کا فریضہ ہے کہ وہ اپنی ٹیکنالوجی کو محفوظ طریقے سے ترقی دے اور ایسے طریقے سے آگے بڑھے جس سے客户 اور عوام کا اعتماد قائم ہو۔" معاہدہ دستخط کرنے والوں کو "مستقل خارجی آڈٹر یا جائزہ لینے والوں کے ساتھ تعاون کرنے" کی ترغیب دیتا ہے۔
یہ دستاویز Anthropic، Google، Meta، OpenAI، SpaceX اور Nvidia کے ایگزیکٹو ہدایت کاروں نے دستخط کی ہے، جو ایک دوسرے کے AI خطرات کے جوابات کے بارے میں متفق نہیں ہیں، اس لیے ایک نایاب اتحاد کا مظاہرہ ہے۔ لیکن ان ایگزیکٹو ہدایت کاروں کو اپنی اپنی آگے بڑھنے کی راہ کا فیصلہ کرنا ہوگا۔
ونکٹسبرامانیان کہتے ہیں: "یہ زیادہ تر ایک ایسی نمائش ہے جو اقدامات کا اظہار کرنے کی کوشش کر رہی ہے، جبکہ واقعی کوئی اقدام نہیں ہوا۔ ان کے وعدے جو کرنے چاہئیں، وہ پہلے ہی کیے جانے چاہئیں، اور درحقیقت وہ پہلے بھی دعویٰ کرتے رہے کہ وہ انہیں کر رہے ہیں۔"
اومودی نے ستمبر کے مضمون میں کہا کہ اینتھروپک اندازہ کنندگان کو ڈیسک، ایکسیس کارڈ، کمپنی کے نوٹ بک، اور اندر کے خطرہ جائزہ ٹیم کے ساتھ "بنیادی طور پر برابر" اختیارات فراہم کرے گا۔ علاوہ ازیں، اندازہ کنندگان کو معاہدہ کی حمایت حاصل ہوگی جو انہیں "اہم دریافتوں کو شائع کرنے کا حق" دے گی، جبکہ اینتھروپک کے پاس "محدود صلاحیت" ہوگی کہ وہ متعلقہ محفوظ یا سرکاری معلومات کو حذف یا ترمیم کرے۔
امودی نے لکھا: "یہ ایک کمپنی کے لیے غیر معمولی قدم ہے، لیکن ہم سمجھتے ہیں کہ ایمبیڈڈ باہری جانچ کرنے والے کے تصور کو ثابت کرنا اہم ہے۔"
کچھ دن بعد، OpenAI نے اپنا پیشکش جاری کیا اور کہا کہ جائزہ لینے والوں کو "واضح دائرہ کار اور دونوں طرف سے متفق جائزہ کے دعوؤں" پر کام کرنا چاہیے، جس میں طریقہ کار اور معیار واضح طور پر بیان کیے گئے ہوں، متعلقہ ٹیکنیکل ماہرینہ کا ثبوت دیا گیا ہو، اور مفاد کے تضاد کا اعلان کیا گیا ہو۔
گزشتہ مہینے، METR، AI Verification and Evaluation Research Institute (AVERI) اور دیگر اداروں کے ساتھ AI Evaluator Forum نے "Evaluator کو شامل کرنے کے لیے حداقل شرائط" کے عنوان سے ایک علیحدہ خط جاری کیا۔
خط میں کہا گیا کہ جائزہ لینے والوں کو شفاف رہنا چاہیے، بدلہ لینے سے محفوظ رہنا چاہیے، اور AI کمپنی کے "خود کے انتہائی خصوصی ملازمین" کے برابر رسائی حاصل کرنی چاہیے۔
خط میں مزید لکھا گیا ہے: "ایم بیڈڈ ایوالیویشن تمام نگرانی کی ضروریات کو حل نہیں کر سکتی، اور اسے زیادہ وسیع کوششوں کا مکمل تبادلہ نہیں بلکہ ایک مکمل کے طور پر دیکھا جانا چاہئے — جن کا مقصد سامنے والی AI کمپنیوں کو باہری نگرانی کو بڑھانے کے لیے مجبور کرنا ہے۔"
فریڈمن نے کہا کہ پچھلے کچھ ماہوں میں، انہوں نے دیکھا ہے کہ OpenAI اور Anthropic کے رویے میں تبدیلی آئی ہے، جس کا بنیادی سبب یہ ہے کہ انہیں احساس ہوا ہے کہ عام عوام کے اعتماد کے بغیر وہ جدید نظام پیش نہیں کر سکتے۔
فریڈمن نے کہا: "میں نہیں سوچتا کہ آپ کو ان کا یہ اعتقاد کرنا چاہیے کہ وہ اچانک مخلص ہو گئے ہیں، یا ان کے علاوہ کچھ اور ہے جو کمپنی کی طرح کام کر رہی ہے۔"
وربیچ کہتے ہیں کہ یہ شاید بنیادی مسئلے کو واضح کرتا ہے۔ OpenAI اور Anthropic پہلے ایک دوسرے کے ساتھ مقابلہ کر رہے ہیں، جبکہ وہ ایک ٹریلین ڈالر سے زیادہ کی قیمت حاصل کرنے کے ساتھ ساتھ لسٹنگ کی طرف بڑھ رہے ہیں۔
وربیچ کہتے ہیں: "ان دو کمپنیوں کے درمیان بہت بڑی ذاتی عدم اعتماد ہے۔ تاہم، اس بات پر بھی بہت بڑا اتفاق ہے کہ اس قسم کے جائزے کی ضرورت ہے۔"
دیکھیں: بریڈلی ٹسک Anthropic IPO پر: اگر محفوظیت آپ کی اولین ترجیح ہے تو عوامی بازار کے دباؤ کو کیوں شامل کریں؟