آپ نے سب سے مہنگا AI ماڈل خریدا، لیکن بیک اینڈ آپ کو گھٹیا ورژن میں بدل رہا ہے — کون سمجھ سکتا ہے؟ Anthropic نے ایک دلچسپ پروجیکٹ FlashProve کو اوپن سورس کیا ہے، جو AI صنعت کے طویل عرصے سے چلنے والے اعتماد کے مسئلے کو کرپٹوگرافی کے ذریعے حل کرنے کی کوشش کر رہا ہے: کیسے ثابت کیا جائے کہ ایک AI جنریٹ کردہ مواد واقعی اس سروس فراہم کنندہ کے دعوے کے مطابق ماڈل سے آیا ہے؟ ابھی ہم جب بھی AI ماڈل API کو کال کرتے ہیں، تو صرف سروس فراہم کنندہ پر بھروسہ کرتے ہیں۔ تھرڈ پارٹی راؤٹنگ پلیٹ فارم کیا چھپ کر ماڈل تبدیل کر رہے ہیں؟ سیکورٹی ایوانلسسٹس نے جس ماڈل کا ٹیسٹ کیا، وہی کیا عام صارفین استعمال کر رہے ہیں؟ اور جب سرور ہیکر کے ہاتھ لگ جائے، تو کیا کوئی چھپ کر ماڈل کے آؤٹ پٹ میں تبدیلی کر رہا ہے؟ ان معاملات کا پتہ لگانا صرف ماڈل کے جوابات سے مشکل ہے۔ FlashProve نے Web3 دنیا میں بہت مشہور زیرو-کنوز پروف (ZK) — خاص طور پر zkSNARK — کو شامل کیا ہے۔ اس کا اصول بہت آسان ہے: ماڈل فراہم کنندہ پہلے ماڈل وزنز کے لیے ایک کرپٹوگرافک کمٹمنٹ بناتا ہے، جس سے ماڈل کو ایک غیر قابل تبدیل شناخت ملتی ہے۔ اس کے بعد ہر انفرینس پر ایک ثبوت منسلک ہوتا ہے۔ صارفین کو ماڈل پیرامیٹرز کا علم نہیں چاہیے، اور نہ ہی انہیں ماڈل خود چلانا پڑتا ہے — صرف ایک عام CPU سے وہ ثابت کر سکتے ہیں کہ یہ آؤٹ پٹ واقعی پہلے سے منسلک ماڈل سے آیا ہے۔ Anthropic نے 400 بلین پیرامیٹرز والے Llama 4 Maverick پر تجربہ کیا، جس میں ایک H100 GPU فی سیکنڈ تقریباً 110 ٹوکنز کا ثبوت تولید کر سکتا ہے، اور ایک ثبوت کو تصدیق کرنے میں صرف دس سے بارہ سیکنڈ لگتے ہیں۔ لیکن ابھی تک لاگت بہت زیادہ ہے۔ ثبوت تولید کرنے میں GPU کا خرچ عام انفرینس سے 70–95 گنا زیادہ ہے، اور ہر ثبوت تقریباً 19MB حجم کا ہے، اور ابھی تک صرف 1024 ٹوکنز کا حوالہ ممکن ہے اور صرف مخصوص انفرینس طریقے پر عمل کرتا ہے — بڑے پمانے پر تجارتی استعمال تک اب بھي لمبی راہ رہ گئی ہے۔ لیکن مجھے لگتا ہے کہ یہ بات قابل توجہ ہے۔ گزشتہ کچھ سالوں میں، زیرو-کنوز پروفز صرف ا加密 صنعت میں لین دین اور حسابات کو تصدیق کرنے کے لئے استعمال ہوئے۔ اب Anthropic وہی کرپٹوگرافک خفیہ طرائق AI سروسز میں شامل کرنے کी کوشش کر رہا ہے۔ اور زیادہ قابل توجہ بات یہ ہے کہ اس کا AI حکمت عملی میں بالقوه استعمال۔ مستقبل میں، رگولٹرز شاید ماڈلز کو حفاظتی جانچ سے گزرنا ضروری قرار دین، تو سروس فراہم کنندگان کو ثابت کرنا پڑega کہ واقعی عمل میں استعمال ہونے والا ماڈل وہी ہے جس پر جانچ منظور ہوئی۔ مستقل آڈٹرز بھی تصدیق کر سکتے ہیں کہ انھوں نے جس ماڈل کا جانچا، وہ صارفین جو استعمال کر رہے ہیں، وہ واقعی اسی ماڈل سے ملتا جلتا ہے۔ لیکن ضرور سمجھ لینا: کرپٹوگرافس صرف اس بات کو ثابت کرتا ہے کہ حسابات پچھلے وعدوں پر منطبق ہو رہے ہیں — ماڈل کا جواب صحیح تو نہीں، اور نہ ہما ماڈل خود محفوظ۔ میرا خيال رھتا ہے، جب AI Agents زندگی کے زائد تر عملوں پر قابض ہونا شروع جائینگ، تو پورا صنعت اس سوال سے نمٹنا شروع جائega: ہم حقائق ميں واقعياً ان ريموت سرورز ميں چلن والي AI پر كيس طرح بھروسه كرتين؟ FlashProve ابھي تك صرف تحققاتي نمونه (research prototype) ھي، لेकن اس نے ابھي تك اس طرح كي طرف راسته دكھايا هـي جس كي طرف آگي تلاش كري جانى چاهيئي۔