कंपनियाँ अभी भी यह खोज रही हैं कि AI को पायलट प्रोजेक्ट से स्थिर रूप से काम करने वाला व्यावसायिक उपकरण कैसे बनाया जाए, जिसमें विश्वसनीयता की समस्याएँ लागू होने की प्रक्रिया में मुख्य बाधा बन रही हैं। प्रमाना लैब्स ने 2700 डॉलर के बीज फंडिंग राउंड को पूरा करने की घोषणा की है, जिसका उद्देश्य बड़े मॉडल के लिए फॉर्मल वेरिफिकेशन विधियों का उपयोग करके एक जाँचने योग्य निश्चितता प्रणाली जोड़ना है।
इस फंडिंग राउंड की नेतृत्व भूमिका Khosla Ventures ने निभाई, जिसमें Accel, Boldcap, Nexus Venture Partners, Premji Invest और Unbound ने निवेश किया। कंपनी पहले उच्च संवेदनशील क्षेत्रों जैसे कि कर, कानून और दवा अनुसंधान पर ध्यान केंद्रित करेगी, जहाँ गलतियों की कीमत अक्सर बहुत अधिक होती है।
सबसे पहले उच्च जोखिम वाले क्षेत्र में करें
प्रमाणा का मानना है कि ऐसे उद्योग, जिनके नियम जटिल होते हैं, उन्हें कोडित और सत्यापित करने के लिए अधिक उपयुक्त होते हैं। कर के मामले में, संबंधित नियम स्वयं बहुत सारी स्पष्ट धाराओं से बने होते हैं। जब ये नियम एक कार्यान्वयनयोग्य संरचना में व्यवस्थित हो जाते हैं, तो बाद की तर्क प्रक्रिया अधिक निश्चितता की ओर बढ़ती है, और पूरी तरह से मॉडल द्वारा उत्पादित परिणामों पर निर्भर नहीं रहती।
कंपनी के सह-संस्थापक और सीईओ रंजन राजगोपालन के अनुसार, कई उच्च जोखिम वाले उद्योग एआई द्वारा संसाधित नहीं किए जा सकते हैं, बल्कि उनके नियमों को अभी तक औपचारिक रूप नहीं दिया गया है। जब तक महत्वपूर्ण नियमों को सत्यापन योग्य प्रणाली में बदल दिया जाता है, तब तक मॉडल की महत्वपूर्ण कार्यों में पूर्वाग्रह और कल्पना की समस्याओं को कम किया जा सकता है।
बड़े मॉडल पर प्रमाणीकरण परत जोड़ें
Pramaana का समाधान पारंपरिक बड़े मॉडल को छोड़ने के बजाय, इसके नीचे के स्तर पर सामान्य LLM का उपयोग करता है ताकि प्राकृतिक भाषा समझ और जटिल समस्याओं को संभालने की क्षमता बनी रहे; इसके अतिरिक्त, एक निर्धारणात्मक सत्यापन मॉड्यूल को जोड़ा जाता है जो मॉडल के आउटपुट की जांच करता है कि क्या वह पहले से निर्धारित नियमों के अनुसार है।
यह दृष्टिकोण औपचारिक सत्यापन उपकरणों से प्रेरित है। कंपनी ने उल्लेख किया कि इस विधि का संदर्भ ओपन-सोर्स प्रोग्रामिंग भाषा LEAN से लिया गया है। यह उपकरण गणितीय सिद्धांतों के सत्यापन के लिए अक्सर उपयोग किया जाता है। राजगोपालन ने यह भी बताया कि फ्रांस का CATALA प्रोजेक्ट ने कुछ कर और लाभ प्रणालियों को निष्पादनयोग्य कोड में बदल दिया है, जो समान मार्ग के लिए एक वास्तविक उदाहरण प्रदान करता है।
आमंत्रित करें विषय विशेषज्ञों को मॉडलिंग में भाग लेने के लिए
विभिन्न अनुप्रयोग क्षेत्रों के लिए, Pramaana क्रमशः संबंधित औपचारिक सत्यापन प्रणालियाँ स्थापित करेगा और इन्हें उद्योग विशेषज्ञों के समीक्षा में रखेगा। कर दिशा में, कंपनी अमेरिकी आयकर विभाग के पूर्व अध्यक्ष Danny Werfel के साथ सहयोग कर रही है। साइबर सुरक्षा और दवा अनुसंधान के क्षेत्रों में, IIT दिल्ली, IIT मद्रास और कैलिफोर्निया विश्वविद्यालय, बर्कले के प्रोफेसर शामिल हैं।
कंपनी के अनुसार, इस प्रकार के प्रणालियाँ स्वास्थ्य, वित्त और कानूनी परिणामों के लिए भारी कार्यों के लिए उपयुक्त हैं। इसका लक्ष्य मॉडल को अकेले निर्णय लेने के लिए नहीं है, बल्कि मॉडल को एक सत्यापन योग्य नियमों के सेट के भीतर तर्क और उत्तर देने के लिए है, जिससे उद्यमों में स्थापना के समय नियंत्रण बढ़ता है।
- फंडिंग राशि: 2700 डॉलर की बीज फंडिंग राउंड
- लीड इन्वेस्टर: Khosla Ventures
- मुख्य परिदृश्य: कर, कानून, दवा अनुसंधान