À medida que as empresas lutam para transformar os programas piloto de IA em partes funcionais dos seus negócios, a fiabilidade assumiu um papel central. Uma nova startup espera resolver esse problema recorrendo às ferramentas da formalização matemática, combinando um dos sistemas mais confiáveis da ciência da computação com um dos mais caóticos.
Na quarta-feira, Pramaana Labs anunciou US$ 27 milhões em financiamento inicial liderado pela Khosla Ventures, com participação de Accel, Boldcap, Nexus Venture Partners, Premji Invest e Unbound.
A Pramaana se concentrará em setores altamente sensíveis, como direito, descoberta de medicamentos e preparação de impostos – onde os erros podem custar caro e a confiabilidade é valiosa. A implantação de IA nesses sistemas exigirá proteções mais fortes contra alucinações e erros do que as que temos atualmente. Mas, na opinião do cofundador e CEO da Pramaana, Ranjan Rajagopalan, eles também são especialmente adequados para a formalização.
“É como matemática, no sentido de que você tem muitas regras que precisa cumprir”, disse Rajagopalan ao TechCrunch, descrevendo as regras do código tributário. “Depois de ter uma versão codificada, o raciocínio por trás dela começa a se tornar determinístico.”
O sistema da Pramaana ainda funciona em um LLM convencional, proporcionando flexibilidade para responder perguntas em linguagem natural e resolver problemas complexos que os computadores convencionais não conseguem resolver. Mas há uma camada determinística em cima desse LLM garantindo que o trabalho do LLM seja verificado.
Esta combinação de um mecanismo LLM com verificação determinística é uma configuração popular; A abordagem única da Pramaana é usar ferramentas de verificação formal – recorrendo à linguagem de programação LEAN de código aberto usada para verificar provas matemáticas. Existem precedentes reais para grande parte deste trabalho; Rajagopalan aponta para Projeto CATALA da Françaque formaliza grande parte do sistema fiscal e de benefícios do país em código executável.
Para cada caso de uso, a Pramaana construirá seu próprio sistema de verificação formal no estilo LEAN, supervisionado por especialistas do domínio. Para a legislação tributária, a empresa está trabalhando com o ex-comissário do IRS Danny Werfel, enquanto professores do IIT Delhi, IIT Madras e UC Berkeley supervisionam o sistema de segurança cibernética e descoberta de medicamentos.
“Os problemas mais difíceis do mundo não são insolúveis, mas não formalizados”, afirma Rajagopalan. “Todos os domínios em que estar errado pode custar a saúde, o dinheiro ou a liberdade de alguém tem regras.”
Agora, essas regras só precisam ser codificadas.
Quando você compra por meio de links em nossos artigos, podemos ganhar uma pequena comissão. Isso não afeta nossa independência editorial.