Syarikat masih berusaha mencari cara untuk mengubah AI daripada projek uji coba menjadi alat perniagaan yang boleh beroperasi secara stabil, di mana isu kebolehpercayaan menjadi halangan utama dalam proses pelaksanaan. Pramaana Labs mengumumkan penutupan pembiayaan benih sebanyak $27 juta, dengan perancangan untuk menambah lapisan sistem kepastian yang boleh disahkan menggunakan kaedah pengesahan formal.
Pembiayaan ini dipimpin oleh Khosla Ventures, dengan penyertaan Accel, Boldcap, Nexus Venture Partners, Premji Invest, dan Unbound. Syarikat akan terlebih dahulu fokus pada industri sensitif tinggi seperti cukai, undang-undang, dan pengembangan ubat, di mana kesilapan sering membawa kos yang tinggi.
Lakukan industri berisiko tinggi terlebih dahulu
Pramaana percaya bahawa industri sebegini, walaupun peraturannya kompleks, lebih sesuai untuk dikodkan dan diverifikasi. Sebagai contoh, cukai, peraturan berkaitan sendiri terdiri daripada banyak ketentuan yang jelas. Sekali peraturan-peraturan ini disusun menjadi struktur yang boleh dilaksanakan, proses penarikan kesimpulan seterusnya boleh menjadi lebih pasti, bukan semata-mata bergantung kepada hasil yang dihasilkan oleh model.
Pendiri bersama dan CEO syarikat, Ranjan Rajagopalan, berkata bahawa banyak industri berisiko tinggi bukanlah tidak boleh diproses oleh AI, tetapi belum menyelesaikan formalisasi peraturan. Selama peraturan penting diubah menjadi sistem yang boleh disahkan, ia dapat mengurangkan bias dan masalah halusinasi model dalam tugas-tugas penting.
Tambahkan lapisan pengesahan ke model besar
Rancangan Pramaana bukanlah meninggalkan model besar tradisional. Sistem asasnya masih menggunakan LLM biasa, untuk mengekalkan keupayaan pemahaman bahasa semula jadi dan penanganan soalan kompleks; di atas asas ini, satu modul pengesahan deterministik ditambahkan untuk memeriksa sama ada output model mematuhi peraturan yang telah ditetapkan.
Pendekatan ini mengambil inspirasi daripada alat pengesahan formal. Syarikat tersebut menyatakan bahawa kaedahnya merujuk kepada bahasa pengaturcaraan sumber terbuka LEAN, yang sering digunakan untuk mengesahkan bukti matematik. Rajagopalan juga menyebut bahawa projek CATALA di Perancis telah menterjemahkan sebahagian sistem cukai dan bantuan menjadi kod yang boleh dijalankan, yang memberikan kes nyata bagi laluan serupa.
Jemput pakar bidang untuk menyertai pemodelan
Untuk aplikasi yang berbeza, Pramaana akan membina sistem pengesahan formal yang sesuai, dengan pengawasan daripada pakar industri. Dalam bidang cukai, syarikat bekerjasama dengan mantan Ketua Lembaga Pendapatan Dalam Negeri Amerika Syarikat, Danny Werfel. Dalam bidang keselamatan siber dan pembangunan ubat, profesor dari IIT Delhi, IIT Madras, dan Universiti California, Berkeley, turut terlibat.
Menurut rekaan syarikat, sistem semacam ini sesuai digunakan untuk tugas-tugas yang mempunyai kesan kesihatan, kewangan, dan undang-undang yang serius. Matlamatnya bukan untuk membiarkan model membuat keputusan secara berasingan, tetapi untuk membolehkan model melakukan penalaran dan menjawab dalam rangka peraturan yang boleh disahkan, dengan tujuan meningkatkan kawalan semasa pelaksanaan perniagaan.
- Jumlah pembiayaan: $27 juta dalam putaran benih
- Pemimpin pelaburan: Khosla Ventures
- Skenario utama: cukai, undang-undang, pembangunan ubat