AI: la sicurezza è una sfida in tempo reale, anche per Google.

Pubblicato il 25 Maggio 2026 da Ignazio Aragona - Tecnologia

Recentemente ho avuto l’opportunità di parlare con Francis de Souza, COO di Google Cloud, dietro le quinte di un evento a Los Angeles. In mezzo al trambusto, de Souza ha offerto utili consigli per le aziende che navigano nel complesso mondo della sicurezza AI, sottolineando che “ci sarà un periodo di transizione, e poi penso che arriveremo a un luogo migliore”.

Anche se non si riferiva specificamente a Google, è chiaro che anche l’azienda sta ancora cercando di affinare le sue strategie.

Il messaggio fondamentale sulla sicurezza

Il messaggio centrale di de Souza è che la sicurezza non può essere un pensiero secondario. “Quando le aziende iniziano questo viaggio nell’AI, devono adottare un approccio strutturato,” ha affermato. “La sicurezza non è qualcosa che può essere aggiunto in un secondo momento, né può essere delegata totalmente ai dipendenti.” Ha messo in guardia in particolare sul fenomeno del “shadow AI”, dove i dipendenti utilizzano strumenti consumer senza un’adeguata supervisione organizzativa, e ha sostenuto che le aziende devono esigere fin dall’inizio sicurezza, governance e auditabilità dalle loro piattaforme. “Non esiste strategia AI senza una strategia di dati e una strategia di sicurezza. Devono andare di pari passo.”

Vale la pena notare che de Souza non stava facendo un semplice spot per Google Cloud. Quando ho osservato che i suoi consigli sembravano pubblicità per Google, ha chiarito che l’azienda è impegnata in un approccio multicloud. Ha spiegato che le aziende che pensano di operare su un singolo cloud quasi certamente non lo fanno. “Anche se scelgono un unico cloud, si affidano a applicazioni SaaS e partner commerciali che potrebbero utilizzare cloud diversi,” ha detto. “È importante che le aziende abbiano una postura di sicurezza coerente tra diversi cloud e modelli.”

Cambiamenti nel panorama delle minacce

De Souza ha anche sottolineato come il panorama delle minacce sia cambiato drasticamente, rendendo obsoleti i vecchi modelli difensivi. Ha rivelato che il tempo medio che intercorre tra una violazione iniziale e il passaggio alla fase successiva di un attacco è sceso da otto ore a soli 22 secondi, mentre la superficie di attacco si è ampliata oltre il classico perimetro di rete. “Oltre al tuo normale ambiente, ora ci sono modelli, pipeline di dati utilizzate per addestrare i modelli, agenti e prompt. Tutto questo deve essere protetto.”

Una minaccia che de Souza ha evidenziato e che spesso viene trascurata sono gli agenti che si muovono attraverso i sistemi interni dell’azienda, in grado di scoprire repository di dati dimenticati. “Molte organizzazioni hanno server SharePoint obsoleti e controlli di accesso che non sono stati aggiornati, ma non importava perché nessuno sapeva dove si trovassero. Ma gli agenti che vagano per l’azienda troveranno quegli asset di dati e li esporranno.”

Secondo de Souza, il modo migliore per affrontare questa situazione è adottare un approccio di difesa automatica. “Stiamo assistendo all’emergere di una difesa completamente agentica nativa all’AI, dove le organizzazioni possono utilizzare agenti per gestire la propria difesa,” ha dichiarato. “Invece di avere una difesa guidata da esseri umani, ora possiamo avere persone che sovrintendono una difesa completamente agentica.” Ha aggiunto che ciò è diventato una questione di leadership, non solo di tecnologia. “Questo è un problema a livello di consiglio e di team dirigenziale. Non è solo un problema del team di sicurezza.”

Anche se l’AI assume sempre più carico difensivo, le persone qualificate per supervisionarla sono scarse e le vulnerabilità introdotte dall’AI stanno aumentando più velocemente di quanto i team di sicurezza possano affrontarle. “Avremo bisogno di persone per gestire il bug-pocalypse,” ha affermato Lea Kissner, Chief Information Security Officer di LinkedIn, in un’intervista al New York Times, aggiungendo che non si aspetta che l’industria comprenda la sicurezza dell’AI in modo sostenibile per molti anni.

Recenti rapporti di The Register hanno documentato una serie di sviluppatori di Google Cloud che hanno ricevuto fatture salate a seguito di chiamate API non autorizzate a modelli Gemini, servizi che molti di loro non avevano mai utilizzato intenzionalmente. I casi seguivano uno schema familiare: chiavi API originariamente destinate a Google Maps, rese pubbliche secondo le istruzioni di Google, erano diventate in grado di accedere a Gemini dopo un’espansione del loro ambito non chiaramente comunicata.

Rod Danan, CEO della piattaforma di preparazione ai colloqui Prentus, ha dichiarato di aver ricevuto una fattura di $10,138 in circa 30 minuti dopo che i suoi attaccanti hanno sfruttato la sua chiave API compromessa. Isuru Fonseka, uno sviluppatore di Sydney, ha visto addebiti di circa AUD $17,000 nonostante credesse di avere un limite di spesa di $250. Entrambi non sapevano che i sistemi automatici di Google avevano aggiornato i loro livelli di fatturazione sulla base della cronologia dell’account, portando i loro limiti effettivi fino a $100,000 senza consenso esplicito.

Google ha rimborsato entrambi dopo che The Register ha pubblicato il suo rapporto iniziale, ma ha dichiarato di non avere intenzione di cambiare la sua politica di aggiornamento automatico dei livelli, sostenendo che la priorità è prevenire interruzioni del servizio piuttosto che rispettare le preferenze di budget degli utenti.

Un’ulteriore preoccupazione riguarda cosa accade quando uno sviluppatore tenta di disattivare tutto. Secondo uno studio della società di sicurezza Aikido, anche gli sviluppatori che rilevano una chiave compromessa e la eliminano immediatamente potrebbero non essere al sicuro. Aikido ha rivelato che gli attaccanti possono continuare a utilizzare quella chiave fino a 23 minuti, poiché la revoca di Google si propaga gradualmente attraverso la sua infrastruttura.

Joseph Leon, ricercatore di Aikido, ha dichiarato che durante tale finestra, i tassi di successo delle richieste rimangono imprevedibili – in alcuni minuti oltre il 90% delle richieste risulta ancora autenticato. Ciò consente agli attaccanti di esfiltrare file e dati di conversazione memorizzati da Gemini.

Leon ha inoltre osservato che i nuovi formati di credenziali di Google non presentano lo stesso problema: le credenziali delle API degli account di servizio si revocano in circa cinque secondi, e il nuovo formato di chiavi AQ di Gemini impiega circa un minuto. “Entrambi operano su scala Google,” ha scritto. “Entrambi suggeriscono che questo problema è tecnicamente risolvibile anche per le chiavi API di Google.” In breve, secondo Leon, la finestra di 23 minuti non è una questione di vincoli ingegneristici, ma di priorità per l’azienda.

Questo è un aspetto importante da considerare quando si esaminano i consigli di de Souza, che sono validi e meritano di essere presi sul serio. La sua visione è corretta, ma esiste attualmente un divario tra le piattaforme e la rapidità con cui si adattano. È bene tenere presente anche questo.

Acquistando tramite i link nei nostri articoli, potremmo guadagnare una piccola commissione, ma ciò non influisce sulla nostra indipendenza editoriale.

Non perderti tutte le notizie di tecnologia su Blog.it