Patronus AI raccoglie 50 milioni per creare “mondi digitali” per testare agenti AI.
Simulazioni digitali: il futuro degli agenti IA
Molti laboratori di IA riconoscono il grande valore di queste simulazioni digitali. Questi ambienti offrono agli agenti la possibilità di affrontare scenari diversi e talvolta imprevedibili. La società paragona il suo approccio a quello di Waymo, che ha addestrato le auto autonome creando mondi sintetici per testare i veicoli contro situazioni rare, come condizioni meteorologiche avverse o la presenza di bambini che inseguono una palla.
Il punto cruciale con gli agenti di IA è che tendono a prendere scorciatoie, il che può compromettere il corretto completamento del compito assegnato. Solomon sottolinea che “Patronus è davvero bravo a individuare le scorciatoie e garantire che i modelli siano responsabili”.
Attualmente, Patronus offre i propri mondi digitali simulati per ingegneria software e finanza, ma questi rappresentano solo l’inizio, secondo Kannappan.
Lavori verificabili e non verificabili
Kannappan afferma: “Oggi ci concentriamo molto su problemi che sono verificabili, quindi su quelli che puoi controllare e verificare immediatamente, ma ci sono molti altri ambiti che sono molto non verificabili o difficili da verificare”. Questo segna un passo verso una comprensione più profonda delle capacità degli agenti di AI e del loro potenziale impatto.
Anche se questi processi sono verificabili, non significa che siano semplici. “Vogliamo realmente creare un ambiente in cui sia possibile far operare un agente per 10 ore, 10 giorni o 10 settimane”, aggiunge.
Per quanto riguarda i concorrenti, Patronus si considera principalmente in competizione con i team interni dei laboratori di IA già esistenti, che lavorano per valutare il comportamento degli agenti. Mentre aziende come Mercor e Surge assistono i creatori di modelli tramite il reinforcement learning, Patronus adotta un approccio differente, valutando il comportamento degli agenti senza alcun coinvolgimento umano.
Le innovazioni e le iniziative di Patronus AI pongono dunque delle basi solide per il futuro, contribuendo a delineare un panorama sempre più promettente per gli agenti di intelligenza artificiale. Per ulteriori informazioni, è possibile consultare fonti ufficiali come TechCrunch e Forbes.
Non perderti tutte le notizie di tecnologia su Blog.it
