Patronus AI raccoglie 50 milioni per creare “mondi digitali” per testare agenti AI.
Pubblicato il da Ignazio Aragona - Tecnologia
L’evoluzione degli agenti di IA
Gli agenti di intelligenza artificiale stanno diventando sempre più sofisticati. Da semplici risponditori di domande, si stanno evolvendo in entità capaci di eseguire autonomamente compiti complessi e articolati.
Prima che questi agenti possano essere considerati affidabili per attività come la prenotazione di viaggi o l’analisi finanziaria, i fornitori di modelli e le start-up che li sviluppano vogliono assicurarsi che gli agenti funzionino in modo affidabile in una vasta gamma di scenari.
L’importanza dei benchmark nell’IA
Molti laboratori di IA utilizzano benchmark per dimostrare le capacità dei loro modelli. Tuttavia, un punteggio elevato, anche su un benchmark specifico per agenti, non dimostra realmente che un’intelligenza artificiale possa eseguire correttamente vari compiti complessi e reali. Questo solleva interrogativi sulla validità delle valutazioni.
Patronus AI, una startup fondata nel 2023 da Anand Kannappan e Rebecca Qian, ex ricercatori di Meta AI, sta aiutando le aziende a ottimizzare i loro modelli. Patronus crea ambienti digitali simulati per valutare le prestazioni degli agenti in situazioni diverse, applicando specifici criteri di valutazione.
La crescita di Patronus
La startup con sede a San Francisco sta affrontando un problema rilevante nel panorama degli agenti di IA. Secondo Glenn Solomon, un direttore di Notable Capital, quasi tutti i laboratori di IA all’avanguardia e molte nuove startup sono clienti di Patronus, evidenziando una domanda quasi insaziabile per i loro ambienti simulati.
Negli ultimi dodici mesi, il fatturato di Patronus è cresciuto di 15 volte, attirando notevole interesse da parte degli investitori. Di recente, la società ha annunciato un finanziamento di 50 milioni di dollari nella cartella Series B, guidato da Greenfield Partners, con la partecipazione di Notable Capital, Lightspeed, Datadog e Samsung. Questo porta il totale dei finanziamenti ricevuti dall’azienda a 70 milioni di dollari.
Patronus utilizza modelli di “mondi digitali” per creare repliche di siti web e sistemi interni. All’interno di questi ambienti, gli agenti vengono messi alla prova dopo la formazione attraverso il reinforcement learning, un metodo che premia iterativamente il completamento dei compiti e penalizza gli errori.
Simulazioni digitali: il futuro degli agenti IA
Molti laboratori di IA riconoscono il grande valore di queste simulazioni digitali. Questi ambienti offrono agli agenti la possibilità di affrontare scenari diversi e talvolta imprevedibili. La società paragona il suo approccio a quello di Waymo, che ha addestrato le auto autonome creando mondi sintetici per testare i veicoli contro situazioni rare, come condizioni meteorologiche avverse o la presenza di bambini che inseguono una palla.
Il punto cruciale con gli agenti di IA è che tendono a prendere scorciatoie, il che può compromettere il corretto completamento del compito assegnato. Solomon sottolinea che “Patronus è davvero bravo a individuare le scorciatoie e garantire che i modelli siano responsabili”.
Attualmente, Patronus offre i propri mondi digitali simulati per ingegneria software e finanza, ma questi rappresentano solo l’inizio, secondo Kannappan.
Lavori verificabili e non verificabili
Kannappan afferma: “Oggi ci concentriamo molto su problemi che sono verificabili, quindi su quelli che puoi controllare e verificare immediatamente, ma ci sono molti altri ambiti che sono molto non verificabili o difficili da verificare”. Questo segna un passo verso una comprensione più profonda delle capacità degli agenti di AI e del loro potenziale impatto.
Anche se questi processi sono verificabili, non significa che siano semplici. “Vogliamo realmente creare un ambiente in cui sia possibile far operare un agente per 10 ore, 10 giorni o 10 settimane”, aggiunge.
Per quanto riguarda i concorrenti, Patronus si considera principalmente in competizione con i team interni dei laboratori di IA già esistenti, che lavorano per valutare il comportamento degli agenti. Mentre aziende come Mercor e Surge assistono i creatori di modelli tramite il reinforcement learning, Patronus adotta un approccio differente, valutando il comportamento degli agenti senza alcun coinvolgimento umano.
Le innovazioni e le iniziative di Patronus AI pongono dunque delle basi solide per il futuro, contribuendo a delineare un panorama sempre più promettente per gli agenti di intelligenza artificiale. Per ulteriori informazioni, è possibile consultare fonti ufficiali come TechCrunch e Forbes.
Non perderti tutte le notizie di tecnologia su Blog.it