Sistema di watermarking di Google AI: è stato ingegnerizzato a ritroso?
Pubblicato il da Ignazio Aragona - Tecnologia
Un Sviluppatore Rivela il Funzionamento del Sistema SynthID di Google
Un sviluppatore di software afferma di aver decifrato il sistema SynthID di Google DeepMind, dimostrando che le filigrane generate dall’IA possono essere rimosse dalle immagini o inserite manualmente in altri lavori. Google ha smentito queste affermazioni, dichiarando che non corrispondono al vero.
L’autore del progetto, noto come Aloshdenny, ha condiviso il suo lavoro su GitHub, documentando il suo processo. Aloshdenny sostiene che gli sono bastati 200 immagini generate da Gemini, alcune tecniche di elaborazione del segnale e “un po’ troppo tempo libero” per giungere ai suoi risultati. Ha anche insinuato che un po’ di cannabis abbia contribuito al suo successo.
Il Processo di Decodifica e le Sfide Incontrate
“Non sono state utilizzate reti neurali. Nessun accesso proprietario,” ha dichiarato Aloshdenny su Medium. “Si scopre che se sei disoccupato e hai immagini generate dall’IA di ‘nero puro’, ogni pixel diverso da zero è letteralmente la filigrana che ti fissa.” SynthID è un sistema di filigrana quasi invisibile che contrassegna i contenuti generati dagli strumenti AI di Google, integrandosi nei pixel delle immagini al momento della creazione. Il design di questo sistema lo rende difficile da rimuovere senza compromettere la qualità dell’immagine, ed è ampiamente utilizzato nei prodotti AI di Google, come i modelli Nano Banana e Veo 3, oltre a essere applicato ai cloni creatori di YouTube generati dall’IA.
Aloshdenny ritiene che il sistema sia “veramente ben progettato”, ma ammette di non essere riuscito a rimuovere completamente la filigrana SynthID nei suoi esperimenti, utilizzando piuttosto decodificatori SynthID confusi che tentano di leggere le immagini marchiate.
Il processo per decifrare i meccanismi sottostanti alla filigrana di Google è complesso per chi non è sviluppatore. Se sei curioso, puoi leggere la spiegazione completa sulla pagina Medium di Aloshdenny (scritta apparentemente mentre era “sotto l’effetto” della cannabis), ma ecco un riepilogo semplificato: “Il fatto che sia riuscito solo a confondere il decodificatore a tal punto da farlo rinunciare — senza cancellare effettivamente la filigrana — dice molto sulla qualità del design,” ha affermato Aloshdenny. “Non è perfetto. Ma non si propone di essere inespugnabile. Si tratta piuttosto di alzare il costo di abuso abbastanza da scoraggiare la maggior parte delle persone.”
Non ho provato il progetto di Aloshdenny che tenta di decifrare il sistema di filigrana SynthID di Google, quindi non posso garantire quanto sia davvero efficace. In ogni caso, al momento attuale non sembra che SynthID sia stato decifrato fino al punto che chiunque possa scaricare uno strumento e rimuovere (o aggiungere) la filigrana di Google per ingannare i sistemi di rilevamento dell’IA. Google non crede nemmeno che le affermazioni di Aloshdenny siano valide.
“È errato affermare che questo strumento possa rimuovere sistematicamente le filigrane SynthID,” ha dichiarato Myriam Khan, portavoce di Google, al Verge. “SynthID è uno strumento di filigrana robusto ed efficace per i contenuti generati dall’IA.”
L’argomento suscita interesse ed è stato oggetto di discussione tra esperti e appassionati di tecnologia, evidenziando la complessità e le sfide legate alla sicurezza delle filigrane nei contenuti digitali. Le filigrane come SynthID hanno un ruolo cruciale nel proteggere la proprietà intellettuale nell’era dell’IA, dove l’originalità può rapidamente sfumare.
Da un lato, ci sono sviluppatori come Aloshdenny che cercano di sfidare questi sistemi, rivelando vulnerabilità e suggerendo modi di interazione che potrebbero non essere state previste dai creatori. Dall’altro, ci sono aziende come Google che investono ingenti risorse per rendere i loro strumenti sempre più resistenti alle manomissioni.
In conclusione, la questione della protezione dei contenuti generati dall’IA rimane un tema spinoso e di grande attualità nel panorama tecnologico contemporaneo. Con la crescente diffusione dell’IA, è fondamentale trovare un equilibrio tra innovazione e protezione della proprietà intellettuale.
Fonti ufficiali:
Non perderti tutte le notizie di tecnologia su Blog.it