Il tool AI deepfake di Google Earth è stato ritirato dopo un solo giorno.
Google Ritira la Funzione di Editing di Google Earth
Google ha deciso di interrompere la funzione di Google Earth lanciata giovedì, che permetteva agli utenti di modificare immagini satellitari tramite comandi testuali utilizzando l’intelligenza artificiale. Questo strumento consentiva di creare “deepfake” della realtà, semplicemente richiedendo all’AI di generare contenuti visivi. Un esempio emblematico è stato fornito da Henk van Ess, un esperto di Digital Digging, che ha deliberate generato immagini rappresentanti rifugiati vicino al confine messicano e un cratere di bomba nei pressi di un ospedale a Gaza.
Sabato, Google ha risposto inizialmente a van Ess sottolineando che le immagini generate con “Nano Banana 2” in Google Earth includevano un watermark digitale e che l’azienda aveva messo in atto misure per prevenire “la creazione di immagini su argomenti nocivi”.
La Risposta di Google: Un Impegno alla Sicurezza
Un giorno dopo, Google ha rilasciato una dichiarazione che chiarisce ulteriormente la situazione. “Sappiamo che le persone si fidano di Google Earth per avere una visione affidabile del mondo. Abbiamo osservato professionisti geospaziali utilizzare questa funzione per una varietà di scopi utili, ma abbiamo anche visto condivisioni di screenshot di immagini generate che sembrano violare le nostre politiche”, hanno dichiarato i rappresentanti dell’azienda. Di conseguenza, si è deciso di ritirare la funzione di generazione di immagini in Google Earth mentre si lavorerà per implementare misure di sicurezza più robuste. È importante evidenziare che le immagini generate non apparivano nell’esperienza principale di Google Earth per chiunque altro e che erano contrassegnate come generate da AI.
Van Ess ha dimostrato come fosse possibile ingannare lo strumento di rilevamento dell’AI di Hive, utilizzando un video generato in Google Earth. Ha evidenziato che, nonostante i watermark, il materiale creato potesse facilmente propagarsi. “Niente è stato rifiutato, niente è stato attenuato e nulla mi ha suggerito di provare un’altra richiesta”, ha commentato.
