OpenAI avverte: i browser AI potrebbero rimanere sempre vulnerabili ad attacchi di injection.
Cyberattacchi e l’Intelligenza Artificiale di OpenAI
OpenAI sta attivamente lavorando per rinforzare il proprio browser Atlas AI contro i cyberattacchi. Tuttavia, la compagnia ammette che il rischio di attacchi di “prompt injection” — un metodo che manipola gli agenti AI per seguire istruzioni malevoli nascoste in pagine web o email — rimane una minaccia persistente. Questo solleva interrogativi su quanto sia sicuro operare con agenti AI nel web aperto.
In un post sul blog pubblicato lunedì, OpenAI ha affermato: “La prompt injection, simile a truffe e ingegneria sociale sul web, difficilmente sarà mai completamente ‘risolta’.” La società ha riconosciuto che la modalità “agent mode” in ChatGPT Atlas “espande la superficie di rischio della sicurezza.”
OpenAI ha introdotto il browser ChatGPT Atlas nell’ottobre scorso. I ricercatori di sicurezza si sono affrettati a pubblicare demo che mostrano come sia possibile scrivere poche parole in Google Docs in grado di alterare il comportamento sottostante del browser. Lo stesso giorno, Brave ha pubblicato un post spiegando che la prompt injection indiretta rappresenta una sfida sistematica per i browser potenziati dall’AI, inclusa Comet di Perplexity.
About The Author
