Patuloy pa ang mga korporasyon sa paghahanap ng paraan upang isalin ang AI mula sa mga pilot project patungo sa isang mapagkakatiwalaang kasangkapan sa negosyo, at ang mga problema sa reliability ay naging pangunahing hadlang sa pagpapatupad. Ikinahayag ni Pramaana Labs ang pagkumpleto ng isang seed funding na halagang $27 milyon, na plano nilang gamitin ang mga pamamaraan ng formal verification upang magdagdag ng isang mapagkakatiwalaang deterministikong sistema sa mga malalaking modelo.
Ang pagsasagawa ng pondo na ito ay pinangunahan ni Khosla Ventures, kasama ang Accel, Boldcap, Nexus Venture Partners, Premji Invest, at Unbound. Ang kumpanya ay magiging nakatuon muna sa mga mataas na sensitibong industriya tulad ng buwis, batas, at pagpapaunlad ng gamot, kung saan ang gastos ay karaniwang mataas kung may mali.
Magsimula muna sa mga mataas na panganib na industriya
Sa paniniwala ni Pramaana, bagaman ang ganitong uri ng industriya ay may komplikadong mga patakaran, mas angkop ito para sa pag-code at pag-verify. Bilang halimbawa sa buwis, ang mga kaugnay na batas ay binubuo ng maraming malinaw na kautusan. Kapag inayos na ang mga patakaran na ito bilang isang executable na istruktura, ang susunod na proseso ng pag-iisip ay maaaring maging mas tiyak, kaysa mag-asa lamang sa pagbuo ng resulta ng modelo.
Sinabi ni Ranjan Rajagopalan, co-founder at CEO ng kumpanya, na maraming mataas na panganib na industriya ay hindi hindi kayang tratuhin ng AI, kundi hindi pa natatapos ang pagpaporma ng mga patakaran. Habang isasalin ang mga mahahalagang patakaran sa isang verifiable na sistema, mababawasan ang bias at hallucination ng model sa mga mahahalagang gawain.
Magdagdag ng verification layer sa malalaking model
Hindi nagtatanggal ang plano ni Pramaana sa mga tradisyonal na malalaking modelo. Ang ilalim ng sistema ay patuloy na gumagamit ng karaniwang LLM upang panatilihin ang kakayahang unawain ang natural na wika at sagutin ang mga kumplikadong tanong; sa ibabaw nito, idinagdag ang isang module na may deterministikong pag-verify upang i-verify kung ang output ng modelo ay sumusunod sa mga itinakdang patakaran.
Ang pagkilos na ito ay nagmula sa mga tool para sa formal verification. Ang kumpanya ay nagbanggit na ang kanilang paraan ay nakabatay sa bukas na source programming language na LEAN. Ang tool na ito ay karaniwang ginagamit para sa pag-verify ng mga matematikal na patotoo. Sinabi rin ni Rajagopalan na ang CATALA project sa Pransya ay nagsalin na ng ilang bahagi ng sistema ng buwis at benepisyo sa executable code, na nagbibigay ng real-world na halimbawa para sa katulad na landas.
Humingi ng pakikilahok mula sa mga eksperto sa larangan para sa pagbuo ng modelo
Para sa iba’t ibang aplikasyon, gagawa ang Pramaana ng mga sistema ng formang pag-verify na espesipiko, na sinusubaybayan ng mga eksperto sa industriya. Sa aspeto ng buwis, nagtatrabaho ang kumpanya kasama ang dating pangulo ng IRS, Danny Werfel. Sa cybersecurity at pagpapaunlad ng gamot, kasali ang mga propesor mula sa IIT Delhi, IIT Madras, at University of California, Berkeley.
Ayon sa kompanya, ang mga ganitong sistema ay angkop para sa mga gawain na may malalim na epekto sa kalusugan, pananalapi, at batas. Ang layunin ay hindi upang hayaan ang modelo na magdesisyon nang mag-isa, kundi upang hayaan itong mag-isip at magbigay ng sagot sa loob ng isang set ng maaaring patunayan na patakaran, upang mapabuti ang kontrol sa pag-deploy sa negosyo.
- Pondo na pinagkakalooban: $27 milyon sa seed round
- Lead investor: Khosla Ventures
- Mga pangunahing skena: buwis, batas, pagpapaunlad ng gamot