Perusahaan masih mencari cara untuk mengubah AI dari proyek uji coba menjadi alat bisnis yang dapat diandalkan, di mana masalah keandalan menjadi hambatan utama dalam proses penerapan. Pramaana Labs mengumumkan penyelesaian pendanaan seri seed senilai $27 juta, dengan rencana menambahkan lapisan sistem deterministik yang dapat diverifikasi menggunakan metode verifikasi formal untuk model besar.
Putaran pendanaan ini dipimpin oleh Khosla Ventures, dengan partisipasi dari Accel, Boldcap, Nexus Venture Partners, Premji Invest, dan Unbound. Perusahaan akan fokus terlebih dahulu pada industri-industri dengan sensitivitas tinggi seperti perpajakan, hukum, dan pengembangan obat, di mana kesalahan sering kali berbiaya tinggi.
Lakukan industri berisiko tinggi terlebih dahulu
Pramaana percaya bahwa industri semacam ini, meskipun aturannya kompleks, lebih cocok untuk dikodekan dan diverifikasi. Sebagai contoh, perpajakan, peraturan terkait sendiri terdiri dari sejumlah besar ketentuan yang jelas. Setelah aturan-aturan ini diatur menjadi struktur yang dapat dieksekusi, proses penalaran selanjutnya dapat menjadi lebih deterministik, daripada sepenuhnya bergantung pada hasil yang dihasilkan oleh model.
Co-founder dan CEO perusahaan, Ranjan Rajagopalan, mengatakan bahwa banyak industri berisiko tinggi bukanlah tidak dapat diproses oleh AI, tetapi belum menyelesaikan formalisasi aturan. Selama aturan kunci diubah menjadi sistem yang dapat diverifikasi, masalah bias dan ilusi model dalam tugas kritis dapat dikurangi.
Tambahkan lapisan verifikasi pada model besar
Solusi Pramaana bukanlah meninggalkan model besar tradisional. Sistem dasarnya masih menggunakan LLM biasa untuk mempertahankan kemampuan pemahaman bahasa alami dan penanganan masalah kompleks; di atasnya, ditambahkan lapisan modul verifikasi deterministik untuk memeriksa apakah output model sesuai dengan aturan yang telah ditetapkan.
Pendekatan ini mengadopsi alat verifikasi formal. Perusahaan menyebutkan bahwa metodenya merujuk pada bahasa pemrograman open-source LEAN, yang sering digunakan untuk memverifikasi bukti matematis. Rajagopalan juga menyebut bahwa proyek CATALA di Prancis telah mengubah sebagian sistem perpajakan dan tunjangan menjadi kode yang dapat dieksekusi, yang memberikan contoh nyata untuk jalur serupa.
Undang pakar bidang untuk berpartisipasi dalam pemodelan
Untuk berbagai aplikasi, Pramaana akan membangun sistem verifikasi formal yang sesuai, dengan pengawasan dari para ahli industri. Di bidang perpajakan, perusahaan bekerja sama dengan mantan Kepala IRS, Danny Werfel. Di bidang keamanan siber dan pengembangan obat, para profesor dari IIT Delhi, IIT Madras, dan Universitas California, Berkeley, ikut berpartisipasi.
Menurut rencana perusahaan, sistem semacam ini cocok digunakan untuk tugas-tugas dengan konsekuensi kesehatan, keuangan, dan hukum yang serius. Tujuannya bukan untuk membiarkan model membuat keputusan secara mandiri, tetapi untuk memungkinkan model melakukan penalaran dan memberikan jawaban dalam kerangka aturan yang dapat diverifikasi, sehingga meningkatkan kendali saat diterapkan di perusahaan.
- Jumlah pendanaan: $27 juta putaran seed
- Institusi pemimpin investasi: Khosla Ventures
- Skenario utama: perpajakan, hukum, pengembangan obat