Şirketler, AI'yi pilot projelerden kararlı bir iş aracı haline getirmeyi hâlâ araştırıyor ve güvenilirlik sorunları, uygulama sürecindeki ana engel haline geliyor. Pramaana Labs, büyük modeller için doğrulanabilir bir belirginlik sistemi eklemek amacıyla 27 milyon dolarlık tohum sermaye turunu tamamladığını duyurdu.
Bu sermaye artırımı, Khosla Ventures tarafından öncülük edildi ve Accel, Boldcap, Nexus Venture Partners, Premji Invest ve Unbound katıldı. Şirket, ilk olarak hataların maliyeti genellikle yüksek olan vergi, hukuk ve ilaç geliştirme gibi yüksek hassasiyetli sektörlerde odaklanacak.
Öncelikle yüksek riskli sektörleri yapın
Pramaana, bu tür endüstrilerin kurallarının karmaşık olmasına rağmen, kodlanmasına ve doğrulanmasına daha uygun olduğunu düşünüyor. Vergilendirme örneğinde, ilgili yasal düzenlemeler kendileri çok sayıda net madde içeriyor. Bu kurallar yürütülebilir bir yapıya dönüştürüldüğünde, sonraki akıl yürütme süreci tamamen model tarafından üretilen sonuçlara değil, daha fazla belirginliğe yaklaşıyor.
Şirketin kurucu ortağı ve CEO'su Ranjan Rajagopalan, birçok yüksek riskli sektörün AI tarafından işlenemeyecek olmadığını, sadece kurallarının henüz formüle edilmemiş olduğunu söyledi. Anahtar kurallar doğrulanabilir bir sisteme dönüştürüldüğünde, modelin kritik görevlerdeki önyargı ve hayal kırıklığı sorunları azalacaktır.
Büyük modellere doğrulama katmanı ekleyin
Pramaana'nın çözümü, geleneksel büyük modelleri bırakmak değildir. Sistemin temel katmanı, doğal dil anlayışını ve karmaşık soruları işleme yeteneğini korumak için standart LLM'yi kullanır; bu temelin üzerine, model çıktılarının önceden belirlenmiş kurallara uyup uymadığını kontrol etmek için belirleyici bir doğrulama modülü eklenir.
Bu yaklaşım, formel doğrulama araçlarından esinlenmiştir. Şirket, yönteminin açık kaynaklı LEAN programlama dilinden esinlendiğini belirtti. Bu araç, matematiksel kanıtları doğrulamak için sıklıkla kullanılır. Rajagopalan, Fransa'daki CATALA projesinin bazı vergi ve sosyal yardım sistemlerini yürütülebilir kodlara dönüştürdüğünü de belirtti; bu, benzer bir yol için gerçekçi bir örnek sunar.
Modellemeye davet edilen alan uzmanları
Pramaana, farklı uygulama senaryolarına göre ilgili formel doğrulama sistemlerini kuracak ve bu süreçte endüstri uzmanları gözetimde yer alacak. Vergilendirme alanında, şirket, ABD Gelir Dairesi eski başkanı Danny Werfel ile iş birliği yapıyor. Siber güvenlik ve ilaç geliştirme alanlarında ise IIT Delhi, IIT Madras ve Kaliforniya Üniversitesi Berkeley kampüsünden profesörler katılmaktadır.
Şirketin tasarımıyla, bu tür sistemler sağlık, finans ve hukuki sonuçları ciddi olan görevler için uygundur. Amac, modelin tek başına karar vermesi değil, modelin doğrulanabilir kurallar çerçevesinde akıl yürütmesini ve cevap vermesini sağlamaktır; bu da kurumsal dağıtım sırasında kontrolü artırır.
- Finansman Miktarı: 27 milyon ABD Doları Tohum Turu
- Öncü Yatırım Kuruluşu: Khosla Ventures
- Ana senaryolar: Vergi, hukuk, ilaç geliştirme