OpenAI avverte: i browser AI potrebbero rimanere sempre vulnerabili ad attacchi di injection.
In una demo, OpenAI ha mostrato come il suo attaccante automatizzato abbia infiltrato un’email malevola nella casella di posta di un utente. Quando l’agente AI ha successivamente esaminato la casella di posta, ha seguito le istruzioni nascoste nell’email, inviando un messaggio di dimissioni invece di redigere una risposta automatica. Tuttavia, dopo l’aggiornamento di sicurezza, la modalità agent è stata in grado di rilevare con successo il tentativo di iniezione di prompt e segnalarlo all’utente.
L’azienda afferma che, sebbene la protezione degli utenti di Atlas contro le iniezioni di prompt sia una priorità assoluta, il portavoce di OpenAI ha rifiutato di rivelare se l’aggiornamento alla sicurezza di Atlas abbia portato a una riduzione misurabile delle iniezioni riuscite. Tuttavia, ha dichiarato che l’azienda ha collaborato con terze parti per rendere Atlas sicuro contro le iniezioni di prompt fin dalla sua introduzione.
Rami McCarthy, ricercatore principale di sicurezza presso la società di cybersecurity Wiz, ha affermato che il rafforzamento dell’apprendimento è un modo per adattarsi continuamente al comportamento degli attaccanti, ma è solo parte del quadro. “Un modo utile per ragionare sul rischio nei sistemi AI è l’autonomia moltiplicata per l’accesso,” ha detto McCarthy a TechCrunch.
About The Author
