As empresas ainda estão explorando como transformar a IA de projetos piloto em ferramentas de negócios estáveis e confiáveis, com problemas de confiabilidade se tornando o principal obstáculo na implementação. A Pramaana Labs anunciou a conclusão de um financiamento semente de US$ 27 milhões, planejando adicionar uma camada de sistema determinístico verificável aos grandes modelos por meio de verificação formal.
Este round de financiamento foi liderado pela Khosla Ventures, com participação da Accel, Boldcap, Nexus Venture Partners, Premji Invest e Unbound. A empresa focará inicialmente em setores de alta sensibilidade, como tributação, direito e pesquisa farmacêutica, onde os erros geralmente têm custos elevados.
Comece com setores de alto risco
Pramaana acredita que esse tipo de indústria, embora com regras complexas, é mais adequada para codificação e verificação. Tomando como exemplo a tributação, as regulamentações relevantes são compostas por um grande número de cláusulas claras. Uma vez que essas regras sejam organizadas em uma estrutura executável, o processo de raciocínio subsequente poderá se aproximar mais da determinística, em vez de depender totalmente dos resultados gerados pelo modelo.
O cofundador e CEO da empresa, Ranjan Rajagopalan, afirmou que muitas indústrias de alto risco não são impossíveis de serem processadas por IA, mas ainda não completaram a formalização das regras. Desde que as regras essenciais sejam convertidas em sistemas verificáveis, é possível reduzir o viés e os problemas de alucinação dos modelos em tarefas críticas.
Adicionar camada de validação aos grandes modelos
O sistema da Pramaana não descarta os grandes modelos tradicionais. Sua base ainda utiliza LLMs convencionais, para preservar a compreensão da linguagem natural e a capacidade de lidar com problemas complexos; sobre essa base, é adicionada uma camada adicional de módulo de verificação determinística, destinado a verificar se as saídas do modelo estão em conformidade com as regras estabelecidas.
Essa abordagem se baseia em ferramentas de verificação formal. A empresa mencionou que seu método se inspirou na linguagem de programação de código aberto LEAN, frequentemente utilizada para verificar provas matemáticas. Rajagopalan também destacou que o projeto francês CATALA já converteu partes dos sistemas de impostos e benefícios em código executável, oferecendo um caso prático para caminhos semelhantes.
Convidar especialistas da área para participar da modelagem
Para diferentes cenários de aplicação, a Pramaana desenvolverá sistemas de verificação formal correspondentes, com supervisão de especialistas da indústria. No âmbito tributário, a empresa está colaborando com Danny Werfel, ex-comissário da Receita Federal dos Estados Unidos. Para segurança cibernética e desenvolvimento de medicamentos, professores do IIT Delhi, IIT Madras e da Universidade da Califórnia em Berkeley estão envolvidos.
Segundo a visão da empresa, esse tipo de sistema é adequado para tarefas com implicações significativas em saúde, finanças e direito. Seu objetivo não é permitir que o modelo tome decisões sozinho, mas sim que ele realize raciocínio e respostas dentro de um conjunto de regras verificáveis, aumentando assim a controlabilidade na implementação empresarial.
- Valor do financiamento: US$ 27 milhões na rodada semente
- Investidor líder: Khosla Ventures
- Cenários principais: tributação, legal, desenvolvimento de fármacos