Mentre le aziende faticano a trasformare i programmi pilota di intelligenza artificiale in parti funzionali della loro attività, l’affidabilità è diventata al centro dell’attenzione. Una nuova startup spera di risolvere questo problema attingendo agli strumenti della formalizzazione matematica, combinando uno dei sistemi più affidabili dell’informatica con uno dei più caotici.
Il mercoledì, Laboratori Pramaana ha annunciato un finanziamento iniziale di 27 milioni di dollari guidato da Khosla Ventures, con la partecipazione di Accel, Boldcap, Nexus Venture Partners, Premji Invest e Unbound.
Pramaana si concentrerà su settori verticali altamente sensibili come il diritto, la scoperta di farmaci e la preparazione fiscale, dove gli errori possono essere costosi e l’affidabilità è un premio. L’implementazione dell’intelligenza artificiale in questi sistemi richiederà protezioni contro allucinazioni ed errori più forti di quelle di cui disponiamo attualmente. Ma come la vede il co-fondatore e CEO di Pramaana Ranjan Rajagopalan, sono anche particolarmente adatti alla formalizzazione.
“È come la matematica, nel senso che ci sono molte regole da rispettare”, ha detto Rajagopalan a TechCrunch, descrivendo le regole del codice fiscale. “Una volta che ne hai una versione codificata, il ragionamento su di essa inizia a diventare deterministico.”
Il sistema di Pramaana funziona ancora su un LLM convenzionale, il che gli conferisce la flessibilità necessaria per rispondere a domande sul linguaggio naturale e affrontare problemi complessi che i computer convenzionali non sono in grado di gestire. Ma c’è uno strato deterministico in cima a quel LLM che garantisce che il lavoro del LLM venga verificato.
Questa combinazione di un motore LLM con verifica deterministica è una configurazione popolare; L’approccio unico di Pramaana consiste nell’utilizzare gli strumenti di verifica formale, attingendo al linguaggio di programmazione LEAN open source utilizzato per verificare le dimostrazioni matematiche. C’è un precedente reale per gran parte di questo lavoro; Rajagopalan sottolinea Il progetto CATALA in Franciache formalizza gran parte del sistema fiscale e previdenziale del paese in codice eseguibile.
Per ciascun caso d’uso, Pramaana costruirà il proprio sistema di verifica formale in stile LEAN, supervisionato da esperti del settore. Per il diritto fiscale, la società sta lavorando con l’ex commissario dell’IRS Danny Werfel, mentre i professori dell’IIT Delhi, dell’IIT Madras e dell’UC Berkeley supervisionano il sistema di sicurezza informatica e di scoperta di farmaci.
“I problemi più difficili del mondo non sono irrisolvibili. Non sono formalizzati”, afferma Rajagopalan. “Ogni ambito in cui sbagliare può costare a qualcuno la salute, il denaro o la libertà ha delle regole.”
Ora, quelle regole devono solo essere codificate.
Quando acquisti tramite i link presenti nei nostri articoli, potremmo guadagnare una piccola commissione. Ciò non pregiudica la nostra indipendenza editoriale.
