ایک ایسی AI ماڈل جو ابھی ٹیسٹنگ مرحلے میں ہے، نے خود ایک کمپنی کے پروڈکشن سرور کو ہیک کر لیا۔
یہ واقعہ تھوڑی دیر پہلے ہوا: ایک OpenAI اندر ٹیسٹ کیا جانے والا ماڈل، ایک کام کرتے ہوئے خودبخود Hugging Face کے پروڈکشن سرور میں گھس گیا، تاکہ کسی بینچ مارک ٹیسٹ میں چھلا کر زیادہ اسکور حاصل کر سکے۔ بعد میں OpenAI نے اس حادثے کو ایک "ساونڈ بھاگ" کے طور پر درج کیا — عام الفاظ میں، یہ یہ ہے کہ ماڈل نے خود اپنے مقررہ عملی حدود سے باہر نکلنے کا طریقہ تلاش کر لیا۔
یہ حادثہ ایک فٹ پڑ گیا۔ کچھ دن بعد، 28 جولائی کو، "Pacing the Frontier" کے عنوان سے ایک علیحدہ خط صنعت میں گردش کرنے لگا۔ اب تک، 1178 ملازمین نے دستخط کیے ہیں، جو OpenAI، Anthropic، گوگل DeepMind، Meta، اور Thinking Machines کے پانچ عالمی سطح کے سب سے بڑے AI لیبارٹریز سے تعلق رکھتے ہیں۔ خط کا مرکزی مطالبہ صرف ایک جملہ ہے: امریکی حکومت کو قائد بننا چاہیے اور بین الاقوامی برادری کے ساتھ مل کر ایک ایسا ٹیکنالوجی اور حکومتی ٹولز کا نظام تعمیر کرنا چاہیے جو سامنے والے AI کے ترقی کی رفتار کو فعال طور پر کم کر سکے۔
دستخط کرنے والوں کی فہرست بہت اہم ہے۔ Anthropic کا افسانوی اکاؤنٹ نے علیحدگی سے تائید کی ہے، جس میں یہ لکھا گیا ہے کہ یہ خط کمپنی کے سی ای او امودائی، متعدد ملکی مالکان اور متعدد سینئر ریسرچرز کے مشترکہ دستخط سے تحریر کیا گیا ہے، اور اس کے علاوہ کمپنی نے پچھلے ماہ "ریکرسیو سیلف-ایمپروومنٹ" پر ایک تحقیق شائع کی تھی، جو اس تحریک کا ایک بنیادی ماخذ ہے۔谷歌 DeepMind کی طرف سے، سینئر اسٹریٹجسٹ اور AI سیفٹی وائس پریزڈنٹ بھی فہرست میں شامل ہیں؛ Meta AI کے سینئر سائنسٹ نے بھی دستخط کیے ہیں؛ OpenAI نے بھی اپنی آفیشل سٹیٹمنٹ جاری کرکے تائید کی ہے، اور ان کے سینئر ریسرچ آفیسر مارک چین بھی دستخط کرنے والوں میں شامل ہیں۔
یہ اس گروہ کا پہلا کوشش نہیں تھا کہ وہ اس سمت میں کام کریں۔ 17 جون کو، ایمودی نے فرانس کے ایویان میں G7 قمت کے دوران ایک بند بیٹھک کے دوران گوگل ڈیپ مائنڈ کے سی ای او ڈیمیس ہاسابس کے ساتھ، ٹرمپ، میکرون سمیت متعدد ممالک کے رہنماؤں کو براہ راست "ترقی کے رفتار کو طے کرنے" کا مطالبہ پیش کیا۔ کینیڈا کے وزیر اعظم کارنی نے فوراً امریکہ کی قیادت میں ایک تنظیمی مکینزم پر غور کرنے کا ارادہ ظاہر کیا، لیکن اس ملاقات سے کوئی قانونی پابندیاں نہیں بنیں۔ اینتھروپک نے بعد میں اپنی اس پوزیشن کو واضح کرتے ہوئے سرد جنگ کے دوران درمیانی دائرہ فائر میزائلوں کے معاہدے کا موازنہ کیا — جہاں تشدد کے تحت بھی ممالک نے اپنے اینٹھرک ہتھیاروں اور میزائلوں پر پابندیاں عائد کر دی تھیں، تو AI کے لیے کیوں نہیں؟
تاہم، اس خط کے جاری ہونے سے کچھ دن پہلے، اسی صنعت میں تقریباً بالکل اُلٹا موقف اپنایا گیا تھا۔ 24 جولائی کو، نوویدا کے سی ای او ہوآنگ رینکون کی قیادت میں، مائیکروسافٹ، میٹا سمیت آخرکار 50 کمپنیوں نے مشترکہ خط جاری کیا، جس کا مرکزی مقصد واشنگٹن کے اوپن ویٹ AI ماڈلز کے اشاعت پر پابندیوں کے خلاف تھا—جس کا مطلب ہے "ہمیں نہیں روکنا، ٹیکنالوجی کو آزادانہ طور پر ترقی دینے دو"۔ اور اس بار，《Pacing the Frontier》کے خط میں درخواست تقریباً اُلٹی تھی: واشنگٹن کے نام ایک ہفتہ پہلے "روک نہیں" کہا گیا تھا، اور اب "روکنا ضروری ہے"۔ زیادہ پرکشش بات یہ ہے کہ Anthropic نے نوویدا کے اس خط پر دستخط نہیں کیے تھے، لیکن اس بار，《Pacing the Frontier》کے سب سے اہم حامیوں میں شامل ہو گئی—ایک بار غائب، اور اب قائدانہ کردار، جو ظاہری طور پر متناقض لگتا ہے، لیکن اصل میں ایک ہی مستقل موقف کو ظاہر کرتا ہے: Anthropic زیادہ تر "صنعت کو بریک لگانا" والے پاسے پر کھڑا ہوتا ہے، نہ کہ "صنعت کو تیز رفتار چلانے" والے پاسے پر۔
لیکن اس مشترکہ خط کے ساتھ شروع سے ہی تنقید ہوئی۔ آزادانہ ٹیکنالوجی پالیسی تجزیہ کار ایڈم ٹائلر نے علناً تنقید کی، جس میں انہوں نے اسے "بہت پریشان کن عمل" قرار دیا — امریکی حکومت کو مکمل صنعت کو ایک ساتھ سست کرنے کے لیے متحرک کرنا، بنیادی طور پر واضح طور پر مقابلہ کے خلاف اثرات پیدا کرے گا، خاص طور پر ان پیچھے رہ جانے والوں کے لیے جو لیڈنگ لیبارٹریز تک نہیں پہنچ سکے، "سب مل کر سست ہو جائیں" کا جملہ، "براہ راست لیڈرز سے گھانٹی چھیننے کا مطالبہ" جیسا لگتا ہے۔
یہ شک کے قابل نہیں ہے۔ وہ دستخط کی فہرست پر واپس جائیں، تقریباً صرف وہی لیبارٹریاں شامل ہیں جو صنعت میں سب سے آگے ہیں، نہ کہ وہ کمپنیاں جو ابھی پیچھے ہیں۔ رفتار کو کم کرنا، جو اپنی صلاحیتوں کا فرق قائم کر چکی ہیں، ان کے لیے تقریباً کوئی قیمت نہیں رکھتا—انہیں "فوری عمل" کے ذریعے فتح حاصل کرنے کی ضرورت نہیں، بلکہ انہیں اپنے آگے رہنے کے فرق کو مصنوعات، محفوظ ڈھانچوں، اور نگرانی کے تسلیم کرنے میں تبدیل کرنے کے لیے وقت کی ضرورت ہے؛ لیکن جو کمپنیاں ابھی پیچھے ہیں، ان کے لیے "مل بھر کر چلنا" اگر پالیسی کا حصہ بن جائے تو پیچھے رہنے کا موقع براہ راست بند ہو سکتا ہے۔
اس سے اوٹیمن، OpenAI کے سی ای او، کا وہی دن کا ایک انٹرویو بھی اہمیت رکھنے لگا۔ اس کا نام خود کسی بھی مشترکہ خط کے دستخط کرنے والوں کی فہرست میں شائع نہیں ہوا، لیکن اسی دن ایک پوڈکاسٹ انٹرویو میں اس نے ایک بہت ہی ظریفانہ موقف اختیار کیا — ایک طرف وہ تسلیم کرتا ہے کہ "سیکورٹی کے خدشات جزوی طور پر منطقی ہیں"، اور دوسری طرف وہ یہ اشارہ کرتا ہے کہ اس قسم کے خدشات کے پیچھے "سیکورٹی کے نام پر طاقت کو مرکزی بنانے" کا مقصد بھی چھپا ہو سکتا ہے۔ اس جملے کو کچھ میڈیا نے امردی کے خلاف بغیر نام لئے ایک تبصرہ کے طور پر سمجھا۔
اس بات کو سست کرنا، ان کئی لیبز کے لیے خود کے لیے بھی قیمت کے بغیر نہیں ہے۔ ایک ایڈوانسڈ ماڈل کو ٹرین کرنے کے لیے اکثر دہوں ارب ڈالر کی کمپوٹیشنل طاقت اور ہزاروں ریسرچر کی تنخواہوں کا خرچہ ہوتا ہے، اور ان سرمایہ کاریوں کی واپسی کا انحصار زیادہ تر اس مسلسل وعدے پر ہوتا ہے کہ "اگلی نسل کا ماڈل پچھلی نسل سے زیادہ طاقتور ہوگا" — سبسکرائبر صارفین جاری رکھنے کو تیار ہوتے ہیں، کاروباری صارفین اپنے ڈپلومنٹس کو وسعت دینے کو تیار ہوتے ہیں، اور سرمایہ کار اپنی سرمایہ کاری مزید بڑھانے کو تیار ہوتے ہیں، جو بنیادی طور پر اس بات پر ڈالا جاتا ہے کہ یہ منحنی لکیر مسلسل اوپر کی طرف جاتی رہے گی۔ اگر "فعال طور پر ترقی کی رفتار کو کم کرنا" صرف ایک تجویز نہ ہوکر عمل میں آجائے، تو پھر ان پہلے سے لگائے گئے سرمایوں کا واپسی دور طویل ہو جائے گا، اور "زیادہ طاقتور ماڈلز" کے ذریعے نمو کا کہانی مزید دیر سے سنائی دے گا۔ اسی لیے یہ خط، جبکہ اس نے حفاظت کا نعرہ لگایا ہے، لیکن دستخط کرنے والوں کے لیے اس سے متعلق ایک ایسا فیصلہ ہے جس پر انہیں حقیقی رقم خرچ کرنی پڑے گی، صرف ایک بے اثر بیان نہیں۔
اس بحث کے رخ کو بالآخر فیصلہ کرنے والا شاید "کیا تیزی کم ہونی چاہیے" نہیں، بلکہ "کون ہے جس کا اس تیزی کو کم کرنے کے طریقے اور شدت کو تعریف کرنے کا حق ہے"۔ اگر آخرکار امریکی حکومت نے قیادت کی اور کچھ ساتھی ممالک کے ساتھ مل کر ایک "ہم آہنگ رفتار" نظام بنایا، تو اس صورت میں قواعد کی ترتیب کا اختیار اس مشترکہ خط کے تحریر کرنے والے چند ٹاپ لیبارٹریز کے ہاتھوں میں ہوگا—جو خود ان قواعد کے زیرِ اثر ہیں، لیکن اسی طرح ان قواعد کے منصوبہ بند بھی۔ یہ "کھلاڑی اور سامنے والے" جیسا ڈھانچہ، "انتظامی مقابلہ" جیسے تنقیدی جوابات کا خدشہ ہے؛ لیکن اس کا اُلٹا بھی سچ ہے کہ یہ لیبارٹریز خود اب تک کے سب سے زیادہ جاننے والے ہیں جو سرحدی ماڈلز کی صلاحیتوں کو سمجھتے ہیں اور ممکنہ خطرات کو سب سے پہلے نوٹ کرتے ہیں، اس لیے ان کا قواعد ترتیب دینے میں شامل ہونا، صرف ذاتی مفادات نہیں بلکہ عملی ضرورت بھی سمجھا جا سکتا ہے۔ دونوں وضاحتیں اب تک اتنی ثبوت نہیں رکھتیں جو دوسری کو مکمل طور پر دبانے کے قابل ہوں۔
اس خط نے آخر کار ایک واضح جواب نہیں چھوڑا، بلکہ ایک اور مشکل سوال چھوڑا: جب صنعت کے کچھ سب سے بڑے کمپنیاں ایک ساتھ "کمی سے کام لیں" کہہ رہی ہیں، تو اس کے پیچھے واقعی خطرات کی آگاہی ہو سکتی ہے، یا پھر اپنی قیادت کے موقف کو مدنظر رکھتے ہوئے — حقیقت میں یہ دونوں رجحانات اکثر الگ نہیں ہوتے، اور ان میں سے صرف ایک کا انتخاب کرنا مشکل ہے۔ لیکن ایک بات نسبتاً یقینی ہے: پچھلے زمانے میں کم سے کم ایک صنعت بھی نہیں تھی جس نے اپنے لیڈر کمپنیوں کے خودخواہ "کمی سے کام لینے" کے اعلان سے خود کو منظم کیا ہو — تاریخ میں واقعی مؤثر تھامن صرف بیرونی تنظیم یا حادثات کے باعث ہوتا تھا، نہ کہ اندر سے متفق ہونے سے۔ کya یہ بار بھی استثناء ہوگا؟ جواب شاید ابھی جلد نہیں آئے گا۔
یہ مضمون صرف معلوماتی مقاصد کے لیے ہے اور کوئی سرمایہ کاری کی تجویز نہیں ہے۔ بازار میں خطرہ ہے، سرمایہ کاری کرتے وقت احتیاط ضروری ہے۔