Компанії все ще намагаються перетворити AI з пілотних проектів на стабільний бізнес-інструмент, і проблеми з надійністю стають основним бар’єром на шляху до реалізації. Pramaana Labs оголосила про завершення сем’я-фазного фінансування на 27 мільйонів доларів США, плануючи додати до великих моделей шар перевіряємої детермінованої системи за допомогою формальної верифікації.
Цей раунд фінансування очолив Khosla Ventures, участь взяли Accel, Boldcap, Nexus Venture Partners, Premji Invest та Unbound. Компанія спочатку зосередиться на високочутливих галузях, таких як оподаткування, право та розробка ліків, де помилки часто мають високі витрати.
Спочатку високоризикована галузь
Pramaana вважає, що такі галузі, хоча й мають складні правила, краще підходять для кодування та перевірки. Наприклад, податкове законодавство складається з великої кількості чітко визначених положень. Коли ці правила будуть структуровані у виконувану форму, процес міркувань зможе стати більш детермінованим, а не залежати повністю від генерації результатів моделлю.
Засновник і генеральний директор компанії Ранжан Раджагопалан сказав, що багато високоризикованих галузей не є непіддатливими для обробки ШІ, а просто ще не формалізували свої правила. Якщо ключові правила перетворити на перевіряєму систему, можна зменшити упередженість та галюцинації моделей у критичних завданнях.
Додайте шар перевірки до великих моделей
Рішення Pramaana не передбачає відмови від традиційних великих моделей. Його системна основа все ще використовує звичайні LLM, щоб зберегти здатність до розуміння природної мови та обробки складних питань; на цій основі додається додатковий модуль детермінованої перевірки, призначений для перевірки того, чи відповідають вихідні дані моделі встановленим правилам.
Цей підхід запозичений із інструментів формальної верифікації. Компанія зазначила, що її метод посилається на відкритий мову програмування LEAN, який часто використовується для верифікації математичних доведень. Радагопалан також зазначив, що французький проект CATALA перетворив частину податкової та соціальної системи на виконуваний код, що надає реальний приклад для подібного підходу.
Запрошення експертів у галузі для участі у моделюванні
Для різних сценаріїв застосування Pramaana створить відповідні системи формальної верифікації під наглядом експертів галузі. У сфері оподаткування компанія співпрацює з колишнім головою Внутрішнього доходу США Дені Верфелом. У сфері кібербезпеки та розробки ліків участь беруть професори з IIT Делі, IIT Мадрас та Каліфорнійського університету в Берклі.
За задумом компанії, такі системи підходять для завдань із серйозними наслідками в галузі охорони здоров’я, фінансів та права. Їхня мета — не дозволити моделі приймати рішення самостійно, а забезпечити, щоб модель здійснювала міркування та надавала відповіді в межах набору перевірних правил, що підвищує контролюваність при впровадженні в бізнес-середовищі.
- Обсяг фінансування: 27 мільйонів доларів США у серії seed
- Лідируючий інвестор: Khosla Ventures
- Ключові сценарії: податки, право, розробка ліків