企業は、AIをパイロットプロジェクトから安定して運用可能なビジネスツールへと転換する方法をまだ模索しており、信頼性の問題が実装における主要な障壁となっている。Pramaana Labsは、2700万ドルのシードラウンドを完了し、形式的検証手法を用いて大規模モデルに検証可能な確定性システムを追加する計画である。
本ラウンドのリードインベスターはKhosla Venturesであり、Accel、Boldcap、Nexus Venture Partners、Premji Invest、Unboundが参加しています。同社は、ミスが高コストとなる税務、法律、薬物開発などの高感度業界にまず焦点を当てます。
まず高リスク業界に取り組む
Pramaanaは、このような業界は規則が複雑である一方で、コード化して検証しやすいと信じている。税務を例に挙げると、関連法規は多数の明確な条文で構成されている。これらの規則を実行可能な構造に整理すれば、その後の推論プロセスはモデルの生成結果に完全に依存するのではなく、より決定的になる。
会社の共同創設者兼CEOであるランジャン・ラジャゴパランは、多くの高リスク業界がAIで処理できないのではなく、ルールが形式化されていないだけだと述べた。重要なルールを検証可能なシステムに変換すれば、重要なタスクにおけるモデルのバイアスや幻覚の問題を軽減できる。
大規模モデルに検証層を追加
Pramaanaのソリューションは、従来の大規模モデルを放棄するものではありません。システムの基盤には、自然言語理解と複雑な問題処理能力を維持するため、通常のLLMを使用しています。その上に、モデルの出力が定められたルールに従っているかを検証する確定的検証モジュールを追加しています。
このアプローチは形式的検証ツールを参考にしており、同社はその手法がオープンソースのプログラミング言語LEANを参考にしていると述べている。LEANは数学的証明の検証に広く使用されているツールである。Rajagopalanは、フランスのCATALAプロジェクトが一部の税制および福祉制度を実行可能なコードに変換した事例を挙げ、同様の道筋の現実的なモデルを示した。
分野の専門家をモデル構築に招待する
さまざまなアプリケーションシーンに応じて、Pramaanaはそれぞれの形式的検証システムを構築し、業界の専門家が監督に参加します。税務分野では、同社は元アメリカ国税局長のDanny Werfelと協力しています。サイバーセキュリティおよび薬物開発分野では、IITデリー、IITマドラス、カリフォルニア大学バークレー校の教授らが参加しています。
企業の想定では、このようなシステムは健康、財務、法的影響が重大なタスクに適しています。このシステムの目的は、モデルが単独で判断を下すことではなく、検証可能なルールの枠内で推論と回答を行うことで、企業導入時の制御性を高めることです。
- 調達額：2700万ドルのシードラウンド
- リードインベスター：Khosla Ventures
- 主要场景：税務、法律、薬物開発