आपने सबसे महंगा बड़ा मॉडल खरीदा, लेकिन बैकएंड आपके लिए चुपचाप सस्ता संस्करण बदल देता है—कौन पहचान पाएगा? Anthropic ने हाल ही में एक दिलचस्प प्रोजेक्ट FlashProve को ओपन सोर्स किया है, जो AI उद्योग की लंबे समय से चल रही विश्वास की समस्या को क्रिप्टोग्राफी के माध्यम से हल करने की कोशिश कर रहा है: कैसे साबित करें कि एक AI द्वारा उत्पन्न सामग्री वास्तव में सेवा प्रदाता के दावे के अनुसार उस मॉडल से आई है? अब हम बड़े मॉडल API को कॉल करते समय, मूलतः सेवा प्रदाता पर भरोसा करते हैं। क्या तीसरे पक्ष के रूटिंग प्लेटफॉर्म चुपचाप मॉडल बदल रहे हैं? सुरक्षा मूल्यांकन संस्थानों द्वारा परीक्षण किया गया मॉडल, सामान्य उपयोगकर्ताओं द्वारा वास्तव में उपयोग किया जा रहा मॉडल ही है? यहां तक कि जब सर्वर हैक हो जाता है, तो क्या कोई चुपचाप मॉडल के आउटपुट को बदल देता है? इन सभी मामलों में, केवल मॉडल के उत्तरों पर भरोसा करके कठिन है कि कुछ पता लगाया जा सके। FlashProve Web3 समुदाय में परिचित ज़ीरो-कnowledge प्रमाण (ZK), विशेष रूप से zkSNARK, को शामिल करता है। इसका सिद्धांत समझने में आसान है: मॉडल प्रदाता पहले मॉडल वजन के सेट के लिए क्रिप्टोग्राफिक कमिटमेंट बनाता है, जो मॉडल के लिए एक अपरिवर्तनीय पहचान की तरह है। इसके बाद प्रत्येक निष्पादन के साथ एक प्रमाण संलग्न होता है। उपयोगकर्ता को मॉडल पैरामीटर की आवश्यकता नहीं होती, और न ही उन्हें मॉडल को स्वयं चलाने की आवश्यकता होती है—बस सामान्य CPU के साथ, वे सत्यापित कर सकते हैं कि क्या यह आउटपुट पहले से कमिट किए गए मॉडल से ही प्राप्त हुआ है। Anthropic ने 4000 अरब पैरामीटर के Llama 4 Maverick पर प्रयोग किया, H100 GPU पर प्रति सेकंड लगभग 110 Token के प्रमाणन की गणना होती है, और प्रत्येक प्रमाण की पुष्टि में केवल कुछ ही सेकंड लगते हैं। हालाँकि, वर्तमान में लागत अभी भी बहुत अधिक है। प्रमाणन प्रक्रिया के GPU परिश्रम का मूल्य सामान्य निष्पादन की 70-95% है, प्रत्येक प्रमाण 19MB के करीब है, और अभी केवल 1024 Token के संदर्भ और विशिष्ट निष्पादन पद्धति का समर्थन है—इसका बड़े पैमाने पर व्यावसायिक प्रयोग करने में अभी बहुत समय है। लेकिन मुझे लगता है कि इस मुद्दे पर ध्यान देने की आवश्यकता है। पिछले कुछ वर्षों में, zero-knowledge proofs (ZK) मुख्यतः加密 industry में transaction aur computation verification ke liye istemal kiye ja rahe the. Ab Anthropic wahi cryptography ke sidhant AI services mein lana chahta hai. और AI governance mein iska kya sambhavna hai, yeh aur bhi jyada dhyan diya jaane layak hai।भविष्य में, regulatory bodies yeh maang sakti hain ki model ko safety evaluation ke baad hi deploy kiya jaye, aur service providers ko yeh siddh karna hoga ki jo model real-time chal raha hai, wahi hai jo approval ke liye submit kiya gaya tha। Independent audit organizations bhi verify kar sakti hain ki unhone jo model test kiya tha, wahi hai jo clients use kar rahe hain। हालाँकि, cryptography sirf yeh siddh kar sakti hai ki computation process pehle se kiyaye gaye commitment ke anusaar hai—yeh garanti nahi karti ki model ka uttar sahi hai, ya phir model khud hi safe hai। मुझे hamesha lagta raha hai ki jab AI Agents apne kaam ko aur zyada sambhalne lageinge, to puri industry ek sawal ka samna karegi: hum asli mein kis bat par vishwas karenge ki remote server mein chal raha AI hamara hai? FlashProve abhi sirf ek research prototype hai, lekin yeh kam se kam ek aisi technical path dikhata hai jo aage explore ki ja sakti hai।