Компании все еще пытаются понять, как превратить ИИ из пилотных проектов в надежные бизнес-инструменты, и проблемы надежности становятся основным препятствием на пути к внедрению. Pramaana Labs объявила о завершении семяного финансирования на сумму 27 миллионов долларов США и планирует добавить к крупным моделям слой проверяемой детерминированной системы с использованием формальной верификации.
Этот раунд финансирования возглавил Khosla Ventures, а также участвовали Accel, Boldcap, Nexus Venture Partners, Premji Invest и Unbound. Компания сначала сосредоточится на высокочувствительных отраслях, таких как налогообложение, право и разработка лекарств, где ошибки часто связаны с высокими затратами.
Сначала займитесь высокорисковыми отраслями
Pramaana считает, что такие отрасли, несмотря на сложность правил, лучше подходят для кодирования и проверки. Например, в области налогообложения соответствующие нормы сами по себе состоят из множества четких положений. Как только эти правила будут структурированы в исполняемую форму, последующие рассуждения станут более определенными, а не полностью зависеть от генерации результатов моделью.
Сооснователь и генеральный директор компании Ранджан Раджагопалан заявил, что многие высокорисковые отрасли не являются неподвластными обработке ИИ, а просто еще не формализовали свои правила. Как только ключевые правила будут преобразованы в проверяемую систему, можно будет снизить предвзятость и иллюзии модели при выполнении критически важных задач.
Добавить слой проверки на крупную модель
Решение Pramaana не предполагает отказа от традиционных крупных моделей. В основе системы по-прежнему используется обычная LLM, чтобы сохранить способности к пониманию естественного языка и обработке сложных задач; поверх этого добавляется дополнительный модуль детерминированной верификации для проверки соответствия выводов модели заданным правилам.
Этот подход заимствован из инструментов формальной верификации. Компания отметила, что её метод опирается на открытый язык программирования LEAN, который часто используется для верификации математических доказательств. Раджагопалан также упомянул, что французский проект CATALA уже преобразовал часть налоговых и социальных систем в исполняемый код, что предоставляет реальный пример подобного подхода.
Пригласите экспертов в области для участия в моделировании
Для различных сценариев применения Pramaana будет создавать соответствующие системы формальной верификации под наблюдением отраслевых экспертов. В области налогообложения компания сотрудничает с бывшим директором Внутреннего доходного агентства США Дэнни Верфелом. В области кибербезопасности и разработки лекарств участвуют профессора из IIT Delhi, IIT Madras и Калифорнийского университета в Беркли.
Согласно замыслу компании, такие системы подходят для задач, имеющих серьезные последствия в области здоровья, финансов и права. Их цель — не позволять модели принимать решения самостоятельно, а обеспечивать ее способность к логическим рассуждениям и ответам в рамках проверяемых правил, что повышает управляемость при внедрении в бизнес-среде.
- Сумма финансирования: 27 миллионов долларов США в серии seed
- Ведущий инвестор: Khosla Ventures
- Ключевые сценарии: налогообложение, юриспруденция, разработка лекарств