Agenti sleali e AI ombra: l’interesse dei VC nella sicurezza dell’intelligenza artificiale.
La Sfida della Sicurezza nell’Intelligenza Artificiale
Gli agenti poco allineati sono solo uno degli aspetti della sfida della sicurezza nell’IA che Witness AI, un’azienda del portafoglio di Ballistic, sta cercando di affrontare. Witness AI sostiene di monitorare l’uso dell’IA nelle imprese e di poter rilevare quando i dipendenti utilizzano strumenti non approvati, bloccando potenziali attacchi e garantendo la conformità alle normative.
Recentemente, Witness AI ha raccolto 58 milioni di dollari, sostenuta da una crescita di oltre il 500% nel fatturato annuo ricorrente (ARR) e ha quintuplicato il numero di dipendenti nell’ultimo anno, mentre le aziende cercano di comprendere l’uso dell’IA “ombra” e di scalare l’IA in modo sicuro. Durante il round di finanziamento, l’azienda ha annunciato nuove protezioni di sicurezza nei confronti degli agenti IA.
“Le persone stanno costruendo questi agenti IA che assumono le autorizzazioni e le capacità delle persone che li gestiscono, e vogliamo assicurarci che questi agenti non vadano fuori controllo, non cancellino file, non facciano qualcosa di sbagliato,” ha detto Rick Caccia, co-fondatore e CEO di Witness AI, in un’intervista a TechCrunch durante Equity.
About The Author
