اینٹروپک، جو کلود AI ماڈل کے پیچھے ہے، نے 4 جون کو ایک بلاگ پوسٹ جاری کی جس میں ایک ایسا پیش خدمت ہے جو صرف ایک سال پہلے بھی ایک لیڈنگ AI لیب سے غیر ممکن لگتا تھا: پورے صنعت میں فرنٹائر AI ترقی پر ایک منظم، عارضی روک۔
مارینا فاوارو اور جیک کلارک کے ذریعہ تحریر کی گئی اس پیشکش، ایک خاص اور واقعی پریشان کن مسئلے کو ہدف بناتی ہے۔ AI ماڈلز خود کو دوبارہ بہتر بنانے کی صلاحیت کے قریب پہنچ رہے ہیں، جس کا مطلب ہے کہ وہ انسانی مداخلت کے بغیر اپنی صلاحیتیں تبدیل اور بہتر بن سکتے ہیں۔
اینٹھرپک کیا حقیقت میں پیش کر رہا ہے
یہ ہر GPU کو بند کرنے اور گھر جانے کا مطالبہ نہیں ہے۔ اینتھرپک ایک متنسق، بہت پہلوؤں والا فریم ورک کی تجویز کر رہا ہے جہاں بڑے AI لیبارٹریز متفق ہوں کہ وہ اپنی سب سے جدید ترقیاتی کامیابیوں کو عارضی طور پر روک دیں جب تک کہ محفوظ تحقیق اور تصدیقی نظام پکڑ نہ لیں۔
اینٹروپک صرف اس بات پر زور دیتی ہے کہ منفرد اقدامات، جہاں ایک کمپنی یا ایک ملک اکیلے ہی بریک لگا دے، ناکافی ہیں اور ممکنہ طور پر منفی اثرات رکھتے ہیں۔ پیشکش امریکہ، چین اور دیگر ممالک کے اچھی طرح سے سامان والے لیبز کے درمیان تعاون کو تصور کرتی ہے جو سنگین AI پروگرام رکھتے ہیں۔ اینٹروپک تصدیق کے چیلنج کو ایٹمی ہتھیاروں کے کنٹرول سے لی گئی اصطلاحات کے حوالے سے پیش کرتی ہے، جہاں نگران موثق پائے گئے detected مechanisms کے ذریعے مطابقت کی تصدیق کرتے ہیں، صرف اعتماد پر انحصار نہیں کرتے۔
انٹروپک کہتی ہے کہ وہ ان ایسے ڈیٹیکشن اور ویریفکیشن ٹولز کی تعمیر میں اپنی خود کی تحقیق کرے گی، جو AI ہتھیاروں کے چیکرز کے برابر ہوں گے — ایسے نظام جو تصدیق کر سکیں کہ کوئی لیب علیحدگی کے اعلان کے باوجود چھپا کر فرنٹیر ترقی جاری رکھ رہا ہے۔
اس بار 2023 سے کیوں الگ ہو سکتا ہے
2023 میں، GPT-4 کے سطح سے آگے AI تربیت پر چھ ماہ کے لیے روک لگانے کا ایک کھلا خط جس میں تحقیق کاروں اور ٹیک لیڈروں کے ہزاروں دستخط ہوئے، لیکن اس نے تقریباً کچھ بھی حاصل نہیں کیا۔ مقابلہ کی دباؤ نے جمعی خوف سے کہیں زیادہ اثر ڈالا، اور ہر بڑا لیب جاری رہا۔
اینٹروپک کا پیشکش ساخت کے لحاظ سے مختلف ہے۔ اس کے بجائے کہ دستخطوں سے ایک غیر واضح توقف کی درخواست کی جائے، کمپنی ایک قابل تصدیق مطابقت نظام کی پیشکش کر رہی ہے۔ ایٹمی ہتھیاروں کے کنٹرول کا تشبیہ بالکل غلط نہیں ہے: بین الاقوامی ہتھیاروں کے معاہدے کام کرتے ہیں، جب وہ کام کرتے ہیں، تو چیک اپ رجمنٹس اور دھوکہ دہی کے لیے نتائج کی وجہ سے، نہ کہ اس لیے کہ دستخط کرنے والے انگوٹھوں کے ساتھ وعدہ کرتے ہیں۔
2023 میں، ریکرسیو خود بہتری ایک نظریہ کا مسئلہ تھا۔ اب، اینتھرپک کی اپنی داخلی نگاہوں سے پتہ چلتا ہے کہ موجودہ ماڈلز خودکار طور پر کوڈنگ کرنے کے لیے لگاتار زیادہ صلاحیت رکھنے لگے ہیں، اور اس حد تک پہنچ رہے ہیں جہاں ایک AI سسٹم اپنی اگلی نسل میں معنی خیز طور پر حصہ ڈال سکتا ہے۔
اس کا سرمایہ کاروں کے لیے کیا مطلب ہے
جس کے پاس AI سے متعلق اثاثے، جیسے AI فوکسڈ کرپٹو ٹوکن اور مشین لرننگ کا استعمال کرنے والے بلاک چین پروجیکٹس، میں پیسہ ہے، اینتھرپک کی تجویز خطرے کے حساب میں ایک نیا عامل شامل کرتی ہے۔ ایک متناسق توقف فریم ورک، چاہے وہ کبھی مکمل طور پر عمل میں نہ آئے، بات چیت کو "کیا ہم AI کو منظم کریں" سے "ہم سرحدوں کے ذریعے انفرادیت کو کیسے لاگو کریں" کی طرف بدل دیتا ہے۔
ای آئی سے چلنے والے کرپٹو پروجیکٹس، جیسے ڈی سینٹرلائزڈ کمپیوٹ نیٹ ورکس اور ای آئی ایجنٹ ٹوکنز، اپنی قیمت کا ایک حصہ اس فرض پر بناتے ہیں کہ ای آئی کی ترقی بلا روک ٹوک جاری رہے گی۔ ایک قابلِ اعتماد توقف کا فریم ورک، یا اس سمت میں سنجیدہ تنظیمی حرکت، ان قیمتوں میں عدم یقین پیدا کر سکتی ہے۔
ڈیسینٹرلائزڈ تصدیق نظامز اینٹھروپک کی تلاش کے حل کا حصہ بن سکتے ہیں۔ اگر آپ کو دنیا بھر کے لیبز کو ترقی کی حدود کی پابندی کرنے کی تصدیق کرنی ہو، تو ایک شفاف، ٹیمپر-رسسٹنٹ لیجر کام کے لیے بدترین ٹول نہیں ہے۔