企業仍在探索如何將 AI 從試點項目轉變為穩定運行的業務工具,可靠性問題正成為落地過程中的主要障礙。Pramaana Labs 宣布完成 2700 萬美元種子輪融資,計劃使用形式化驗證方法為大模型增加一層可驗證的確定性系統。
本輪融資由 Khosla Ventures 領投,Accel、Boldcap、Nexus Venture Partners、Premji Invest 和 Unbound 參與投資。公司將首先聚焦稅務、法律和藥物研發等高敏感行業,這些領域一旦出錯,成本往往較高。
先做高風險行業
Pramaana 認為,這類行業雖然規則複雜,但也更適合被編碼和驗證。以稅務為例,相關法規本身由大量明確條文構成。一旦這些規則被整理為可執行結構,後續推理過程就能更接近確定性,而不是完全依賴模型生成結果。
公司聯合創始人兼 CEO Ranjan Rajagopalan 表示,許多高風險行業並非無法被 AI 處理,而是尚未完成規則形式化。只要把關鍵規則轉成可驗證系統,就能減少模型在關鍵任務中的偏差和幻覺問題。
在大模型上新增驗證層
Pramaana 的方案並非放棄傳統大模型。其系統底層仍使用常規 LLM,以保留自然語言理解和複雜問題處理能力;在此基礎上,再疊加一層確定性驗證模塊,用來檢查模型輸出是否符合既定規則。
這種做法借鑒了形式化驗證工具。公司提到,其方法參考了開源程式語言 LEAN,該工具常用於驗證數學證明。Rajagopalan 還提到,法國的 CATALA 項目已將部分稅收和福利制度轉化為可執行代碼,這為類似路徑提供了現實案例。
邀請領域專家參與建模
針對不同應用場景,Pramaana 將分別建立對應的形式化驗證系統,並由行業專家參與監督。在稅務方向上,公司正與美國國稅局前局長 Danny Werfel 合作。在網路安全和藥物研發方向,則有來自 IIT Delhi、IIT Madras 和加州大學柏克萊分校的教授參與。
根據公司設想,此類系統適用於健康、財務和法律後果較為嚴重的任務。其目標並非讓模型單獨作出判斷,而是讓模型在一套可驗證的規則內進行推理與回答,從而提升企業部署時的可控性。
- 融資金額:2700 萬美元種子輪
- 領投機構:Khosla Ventures
- 重點場景:稅務、法律、藥物研發
