OpenAI avverte: i browser AI potrebbero rimanere sempre vulnerabili ad attacchi di injection.
Minacce Persistenti e Risposte Strategiche
OpenAI non è l’unica a riconoscere che gli attacchi basati su iniezioni di prompt non scompariranno. Questo mese, il National Cyber Security Centre del Regno Unito ha avvertito che gli attacchi di iniezione di prompt contro applicazioni di intelligenza artificiale generativa “potrebbero non essere mai completamente mitigati”, mettendo a rischio i siti web di poter subire brecce di dati. L’agenzia governativa britannica ha consigliato ai professionisti della sicurezza informatica di ridurre il rischio e l’impatto delle iniezioni di prompt piuttosto che pensare che gli attacchi possano essere “fermati.”
OpenAI, da parte sua, ha dichiarato: “Consideriamo la prompt injection come una sfida di sicurezza AI a lungo termine e sarà necessario rafforzare continuamente le nostre difese contro di essa.” Qual è la risposta dell’azienda a questa sfida quasi senza fine? Un ciclo di risposta rapida e proattivo che, secondo la società, sta mostrando risultati promettenti nell’aiutare a scoprire nuove strategie di attacco internamente prima che vengano sfruttate “nel mondo reale.”
Questo approccio non è del tutto diverso da quanto affermano concorrenti come Anthropic e Google: per combattere il rischio persistente di attacchi basati su prompt, è necessario implementare difese stratificate e testarle continuamente. Ad esempio, il recente lavoro di Google si concentra su controlli architettonici e a livello di policy per i sistemi agentici.
About The Author
