Các doanh nghiệp vẫn đang tìm cách chuyển đổi AI từ các dự án thử nghiệm thành công cụ kinh doanh hoạt động ổn định, trong khi các vấn đề về độ tin cậy đang trở thành rào cản chính trong quá trình triển khai. Pramaana Labs công bố hoàn thành vòng gọi vốn hạt giống 27 triệu USD, với kế hoạch sử dụng phương pháp xác minh hình thức để thêm một lớp hệ thống xác định có thể kiểm chứng cho các mô hình lớn.
Đợt huy động vốn này do Khosla Ventures dẫn đầu, với sự tham gia của Accel, Boldcap, Nexus Venture Partners, Premji Invest và Unbound. Công ty sẽ tập trung đầu tiên vào các ngành có tính nhạy cảm cao như thuế, pháp lý và nghiên cứu phát triển thuốc, nơi mà chi phí thường rất cao nếu xảy ra sai sót.
Hãy bắt đầu với các ngành rủi ro cao
Pramaana cho rằng, các ngành công nghiệp này dù có quy tắc phức tạp, nhưng lại phù hợp hơn để được mã hóa và xác minh. Ví dụ về thuế, các quy định liên quan bản thân chúng được cấu thành từ rất nhiều điều khoản rõ ràng. Một khi những quy tắc này được sắp xếp thành cấu trúc có thể thực thi, quá trình suy luận sau đó sẽ trở nên gần với tính xác định hơn, thay vì hoàn toàn phụ thuộc vào kết quả do mô hình tạo ra.
Chủ tịch đồng sáng lập kiêm CEO Ranjan Rajagopalan cho biết, nhiều ngành có rủi ro cao không phải là không thể xử lý bởi AI, mà là chưa hoàn thành việc hình thức hóa các quy tắc. Chỉ cần chuyển các quy tắc then chốt thành hệ thống có thể xác minh, thì có thể giảm thiểu sự thiên lệch và ảo giác của mô hình trong các nhiệm vụ quan trọng.
Thêm lớp xác minh vào mô hình lớn
Giải pháp của Pramaana không phải là từ bỏ các mô hình lớn truyền thống. Hệ thống nền tảng vẫn sử dụng LLM thông thường để duy trì khả năng hiểu ngôn ngữ tự nhiên và xử lý các vấn đề phức tạp; trên cơ sở đó, nó bổ sung thêm một lớp mô-đun xác minh xác định để kiểm tra xem đầu ra của mô hình có tuân thủ các quy tắc đã định sẵn hay không.
Cách tiếp cận này được lấy cảm hứng từ các công cụ xác minh hình thức. Công ty cho biết phương pháp của họ tham khảo ngôn ngữ lập trình mã nguồn mở LEAN, một công cụ thường được sử dụng để xác minh các chứng minh toán học. Rajagopalan cũng nhấn mạnh rằng dự án CATALA của Pháp đã chuyển đổi một phần hệ thống thuế và phúc lợi thành mã có thể thực thi, cung cấp ví dụ thực tế cho con đường tương tự.
Mời chuyên gia lĩnh vực tham gia xây dựng mô hình
Đối với các ứng dụng khác nhau, Pramaana sẽ xây dựng các hệ thống xác minh hình thức tương ứng, với sự giám sát của các chuyên gia ngành. Về lĩnh vực thuế, công ty đang hợp tác với cựu Chủ tịch Cơ quan Thuế Hoa Kỳ Danny Werfel. Trong lĩnh vực an ninh mạng và phát triển thuốc, các giáo sư từ IIT Delhi, IIT Madras và Đại học California, Berkeley tham gia.
Theo kế hoạch của công ty, các hệ thống này phù hợp để sử dụng trong các nhiệm vụ có hậu quả nghiêm trọng về sức khỏe, tài chính và pháp lý. Mục tiêu không phải là để mô hình đưa ra phán quyết một mình, mà là để mô hình thực hiện suy luận và trả lời trong một bộ quy tắc có thể xác minh, từ đó tăng tính kiểm soát khi triển khai doanh nghiệp.
- Số vốn huy động: 27 triệu USD vòng hạt giống
- Tổ chức dẫn đầu: Khosla Ventures
- Các tình huống trọng điểm: thuế, pháp lý, nghiên cứu và phát triển thuốc