Las empresas aún están explorando cómo transformar la IA de proyectos piloto en herramientas empresariales confiables, y los problemas de confiabilidad se han convertido en el principal obstáculo en su implementación. Pramaana Labs anunció la finalización de una ronda de financiación semilla de 27 millones de dólares, con planes de agregar una capa de sistema determinista verificable a los modelos grandes mediante métodos de verificación formal.
Esta ronda de financiación fue liderada por Khosla Ventures, con la participación de Accel, Boldcap, Nexus Venture Partners, Premji Invest y Unbound. La empresa se centrará inicialmente en industrias de alta sensibilidad, como impuestos, derecho e investigación farmacéutica, donde los errores suelen tener costos elevados.
Primero, el sector de alto riesgo
Pramaana cree que este tipo de industrias, aunque tienen reglas complejas, son más adecuadas para ser codificadas y verificadas. Tomando como ejemplo la tributación, las leyes relacionadas consisten en numerosos artículos claros. Una vez que estas reglas se organizan en una estructura ejecutable, el proceso de razonamiento posterior puede acercarse más a la certeza, en lugar de depender completamente de los resultados generados por el modelo.
El cofundador y CEO de la empresa, Ranjan Rajagopalan, dijo que muchas industrias de alto riesgo no son imposibles de manejar con IA, sino que aún no han formalizado sus reglas. Si se convierten las reglas clave en un sistema verificable, se puede reducir el sesgo y los problemas de alucinaciones del modelo en tareas críticas.
Añadir una capa de validación a los modelos grandes
El enfoque de Pramaana no implica renunciar a los modelos grandes tradicionales. Su sistema sigue utilizando LLM convencionales en su capa inferior para conservar la comprensión del lenguaje natural y la capacidad de manejar preguntas complejas; sobre esta base, se añade una capa adicional de módulo de verificación determinista para comprobar si las salidas del modelo cumplen con las reglas establecidas.
Esta práctica se inspira en herramientas de verificación formal. La empresa mencionó que su método se basa en el lenguaje de programación de código abierto LEAN, una herramienta comúnmente utilizada para verificar pruebas matemáticas. Rajagopalan también señaló que el proyecto francés CATALA ha convertido partes de los sistemas fiscales y de beneficios en código ejecutable, lo que proporciona un caso práctico para una ruta similar.
Invitar a expertos del campo a participar en la modelización
Para diferentes escenarios de aplicación, Pramaana establecerá sistemas de verificación formal correspondientes, con la supervisión de expertos de la industria. En el ámbito fiscal, la empresa colabora con Danny Werfel, excomisionado del Servicio de Impuestos Internos de Estados Unidos. En ciberseguridad e investigación farmacéutica, participan profesores del IIT Delhi, el IIT Madras y la Universidad de California en Berkeley.
Según la visión de la empresa, este tipo de sistemas es adecuado para tareas con consecuencias significativas en salud, finanzas y derecho. Su objetivo no es que el modelo tome decisiones por sí solo, sino que realice razonamientos y respuestas dentro de un conjunto de reglas verificables, aumentando así la controlabilidad en la implementación empresarial.
- Financiamiento: 27 millones de dólares en ronda semilla
- Inversor líder: Khosla Ventures
- Escenarios clave: impuestos, legal, investigación farmacéutica