Les entreprises continuent d'explorer comment transformer l'IA de projets pilotes en outils commerciaux fiables, les problèmes de fiabilité devenant le principal obstacle à son déploiement. Pramaana Labs annonce la clôture d'un tour de financement de 27 millions de dollars en série seed, avec pour projet d'ajouter une couche de système déterministe vérifiable aux grands modèles grâce à la vérification formelle.
Ce tour de financement est mené par Khosla Ventures, avec la participation d'Accel, Boldcap, Nexus Venture Partners, Premji Invest et Unbound. L'entreprise se concentrera d'abord sur des secteurs hautement sensibles tels que la fiscalité, le droit et la recherche pharmaceutique, où les erreurs entraînent souvent des coûts élevés.
Commencez par les secteurs à haut risque
Pramaana estime que ce type d'industrie, bien que régie par des règles complexes, est plus adapté à la codification et à la vérification. Par exemple, en matière fiscale, les réglementations sont elles-mêmes composées de nombreuses dispositions claires. Une fois ces règles structurées en une forme exécutable, le processus d'inférence ultérieur peut devenir plus déterministe, plutôt que de dépendre entièrement des résultats générés par le modèle.
Le cofondateur et PDG Ranjan Rajagopalan a déclaré que de nombreux secteurs à haut risque ne sont pas impossibles à traiter par l'IA, mais que leurs règles n'ont pas encore été formalisées. Dès lors que les règles essentielles sont converties en système vérifiable, il est possible de réduire les biais et les hallucinations des modèles dans les tâches critiques.
Ajouter une couche de vérification aux grands modèles
Le système de Pramaana ne renonce pas aux grands modèles traditionnels. Sa couche fondamentale utilise toujours un LLM classique pour préserver la compréhension du langage naturel et la capacité à traiter des problèmes complexes ; sur cette base, une couche supplémentaire de vérification déterministe est ajoutée pour vérifier si les sorties du modèle respectent les règles établies.
Cette approche s'inspire d'outils de vérification formelle. L'entreprise mentionne que sa méthode s'appuie sur le langage de programmation open source LEAN, souvent utilisé pour vérifier des preuves mathématiques. Rajagopalan a également souligné que le projet français CATALA a déjà converti certaines parties des systèmes fiscaux et de prestations sociales en code exécutable, offrant ainsi un exemple concret de cette voie.
Invitez des experts du domaine à participer à la modélisation
Pour différents scénarios d’application, Pramaana établira des systèmes de vérification formelle dédiés, supervisés par des experts du secteur. Dans le domaine fiscal, l’entreprise collabore avec Danny Werfel, ancien commissaire de l’Internal Revenue Service des États-Unis. Pour la cybersécurité et la recherche pharmaceutique, des professeurs de l’IIT Delhi, de l’IIT Madras et de l’Université de Californie à Berkeley participent au projet.
Selon la vision de l'entreprise, ces systèmes sont adaptés aux tâches ayant des conséquences importantes en matière de santé, de finances et de droit. L'objectif n'est pas de permettre au modèle de prendre des décisions seul, mais de lui permettre d'effectuer un raisonnement et de fournir des réponses dans le cadre d'un ensemble de règles vérifiables, afin d'améliorer la maîtrise lors du déploiement en entreprise.
- Montant du financement : 27 millions de dollars en série seed
- Investisseur principal : Khosla Ventures
- Scènes clés : fiscalité, droit, recherche pharmaceutique