Guillermo Rauch di Vercel sulla battaglia per separare modelli e agenti nel tech.

La lezione più grande per me è stata riguardo ai due casi d’uso vincenti degli agenti. Il primo è l’agente di codifica, che naturalmente guida gran parte dell’utilizzo dei token nel mondo. Quando si produce molto software, è necessario avere un posto dove collocarlo. Il secondo caso d’uso decisivo è l’agente interno che aiuta a gestire l’azienda. La sfida qui è come accedere ai dati in modo sicuro, come fare un audit delle azioni dell’agente, e come avere un tracciamento di tutte le chiamate agli strumenti e dei controlli di accesso che l’agente deve rispettare per portare a termine il lavoro.

Per risolvere questo problema, abbiamo sviluppato un framework chiamato Eve, dove è possibile delineare le istruzioni e le capacità degli agenti in linguaggio naturale. Un altro strumento è Vercel Sandbox, dove si inserisce l’agente in una sorta di gabbia. Questo consente all’agente di esprimere la propria intelligenza, pur applicando politiche su quali dati può accedere e quali possono lasciare la sandbox.

Vantaggi della sandbox per la gestione dei dati

Per quanto riguarda la sandbox, il vantaggio principale è il controllo sui dati. Un rischio reale dell’IA è, ad esempio, quando si utilizza un IDE di codifica come Devin o Cursor; se ci si trova nella configurazione sbagliata, potrebbero allenarsi sull’intero codice sorgente. Ricordo di aver parlato con il presidente di Airbus riguardo a questo. Hanno decenni di un patrimonio di codice C++ molto specifico per l’ingegneria aerospaziale; se qualcuno installa lo strumento sbagliato, tutto il codice può finire nel cloud per l’allenamento.

Nella pratica, come si presenta un agente interno in un’azienda? C’è una rappresentante di vendita nel nostro ufficio di Vercel che si occupa del portafoglio clienti. La sua missione è far crescere i conti esistenti. Il collo di bottiglia per persone come lei non è mai stata la creatività o la capacità di costruire relazioni, ma i dati. Prima doveva aspettare la conclusione di un progetto di dashboard di vendita per avere risposte alle sue domande.