Sistema di watermarking di Google AI: è stato ingegnerizzato a ritroso?
Un Sviluppatore Rivela il Funzionamento del Sistema SynthID di Google
Un sviluppatore di software afferma di aver decifrato il sistema SynthID di Google DeepMind, dimostrando che le filigrane generate dall’IA possono essere rimosse dalle immagini o inserite manualmente in altri lavori. Google ha smentito queste affermazioni, dichiarando che non corrispondono al vero.
L’autore del progetto, noto come Aloshdenny, ha condiviso il suo lavoro su GitHub, documentando il suo processo. Aloshdenny sostiene che gli sono bastati 200 immagini generate da Gemini, alcune tecniche di elaborazione del segnale e “un po’ troppo tempo libero” per giungere ai suoi risultati. Ha anche insinuato che un po’ di cannabis abbia contribuito al suo successo.
Il Processo di Decodifica e le Sfide Incontrate
“Non sono state utilizzate reti neurali. Nessun accesso proprietario,” ha dichiarato Aloshdenny su Medium. “Si scopre che se sei disoccupato e hai immagini generate dall’IA di ‘nero puro’, ogni pixel diverso da zero è letteralmente la filigrana che ti fissa.” SynthID è un sistema di filigrana quasi invisibile che contrassegna i contenuti generati dagli strumenti AI di Google, integrandosi nei pixel delle immagini al momento della creazione. Il design di questo sistema lo rende difficile da rimuovere senza compromettere la qualità dell’immagine, ed è ampiamente utilizzato nei prodotti AI di Google, come i modelli Nano Banana e Veo 3, oltre a essere applicato ai cloni creatori di YouTube generati dall’IA.
Aloshdenny ritiene che il sistema sia “veramente ben progettato”, ma ammette di non essere riuscito a rimuovere completamente la filigrana SynthID nei suoi esperimenti, utilizzando piuttosto decodificatori SynthID confusi che tentano di leggere le immagini marchiate.
About The Author
