Yapay zeka cevaplarını doğrulayıp hataları azaltan sistemler geliştiren Pramaana Labs, 27 milyon dolar yatırım aldı. Şirketin 27 milyon dolarlık tohum yatırım turuna Khosla Ventures liderlik etti. ABD merkezli Pramaana Labs'in yatırım turunda Accel, BoldCap, Nexus Venture Partners, Premji Invest ve Unbound yer aldı.
Şirket, yatırımı yapay zeka çıktılarının güvenilirliğini artırmak için hukuk, vergi, ilaç keşfi ve siber güvenlik gibi alanlarda LEAN tabanlı formal doğrulama sistemlerini geliştirmek ve ölçeklendirmek için kullanacağını açıkladı.
Pramaana Labs; Ranjan Rajagopalan, Krishnan Raghavan ve Sanjay Ganapathy tarafından kuruldu. Şirket, yapay zeka sistemlerinin özellikle kritik ve hata toleransı çok düşük alanlarda daha güvenilir çalışmasını sağlamak için formal verification yani biçimsel doğrulama teknolojileri geliştiriyor. Pramaana Labs; hukuk, vergi hazırlama, ilaç keşfi ve siber güvenlik gibi yanlış bir cevabın ciddi sonuçlar doğurabileceği sektörlere odaklanıyor.
Şirketin temel yaklaşımı, büyük dil modellerini tamamen değiştirmek değil, onların üstüne matematiksel olarak doğrulanabilir bir kontrol katmanı eklemek. Bu katman, modelin ürettiği cevapların belirli kurallara ve mantıksal sistemlere uygun olup olmadığını denetliyor. Böylece yapay zekanın halüsinasyon üretme riski azaltılmaya çalışılıyor. Bu doğrulama katmanında, matematiksel ispatların doğrulanmasında kullanılan LEAN gibi formal sistemlerden yararlanılıyor.
Yorumlar 0