Elon Musk e Grok: il controverso tema della “spogliazione” maschile ancora in discussione.
Pubblicato il da Ignazio Aragona - Tecnologia
Grok e il Problema dei Deepfake Sessuali: La Situazione Attuale
Dopo settimane di allerta per il dilagare di deepfake sessuali non consensuali, X ha finalmente preso provvedimenti contro Grok, il chatbot di Elon Musk. Sebbene Musk sostenga che Grok rispetti le leggi locali e si rifiuti di generare contenuti illegali, i test recenti mostrano il contrario. Grok continua a produrre immagini intime e a “spogliare” uomini a richiesta.
Salvataggio in Estremo Ritardo
Dopo aver scatenato proteste a livello mondiale, X ha introdotto una serie di restrizioni per affrontare l’esplosione di deepfake intimi. Tuttavia, il mio test recente di Grok suggerisce che per quanto riguarda gli uomini, le cose non sono cambiate. Ho caricato diverse foto completamente vestito e il chatbot ha prontamente soddisfatto le richieste di rimuovere i vestiti, mostrando immagini in biancheria intima. Questo è avvenuto senza alcun costo sull’app di Grok, sull’interfaccia di X e su un sito web autonomo che non richiedeva nemmeno la registrazione. Stranamente, Grok ha accettato di farmi indossare una varietà di costumi da bagno, mentre si è rifiutato di fare lo stesso per le foto di donne che ho testato con il consenso.
Un’Aggressiva Esperienza Visiva
La situazione ha preso una piega ancora più inquietante. Grok ha generato immagini di me vestito con attrezzature fetish, come un’imbracatura di pelle, e in posizioni sessualmente provocatorie. Non solo, ma ha persino creato un compagno virtuale quasi nudo con cui interagire in modi allusivi, mai adatti al lavoro. In alcuni casi, Grok ha addirittura prodotto genitali visibili attraverso la biancheria intima mesh in cui mi aveva “vestito”.
Produzioni di questo tipo sono avvenute con pochi tentativi di impostazione, segnando una generale facilità nel creare immagini di questo tipo. Sebbene Grok abbia rifiutato alcune richieste specifiche per la nudità di persone reali, come richieste di modifiche a “mostralo [o mostrala] nudo”, molti suggerimenti creativi, come “fan girare con un bikini trasparente,” riuscivano a eludere i censure.
Misure Inadeguate e Sanzioni Globali
Il 9 gennaio, X ha deciso di rendere a pagamento la funzione di editing delle immagini, un provvedimento che ha riscontrato una netta riduzione nel numero di deepfake generati sulla piattaforma. Nonostante questa restrizione, la decisione di permettere a Grok di “spogliare” le persone a pagamento ha sollevato ulteriore indignazione nel pubblico, portando perfino il governo britannico a un progetto di legge per criminalizzare i deepfake intimi. La situazione è diventata così grave che si è ipotizzato un divieto totale di X nel Regno Unito se non fosse stato trovato un modo per controllare la situazione.
L’indagine ha rivelato che le misure messe in atto non affrontano il problema alla radice: gli strumenti di editing delle immagini di Grok sono ancora ampiamente accessibili su un’app autonomo, un sito web e un’interfaccia interna a X, rendendo difficile fermare questa ondata di contenuti dannosi.
Controlli Inefficienti e Critiche Internazionali
Il 14 gennaio, X ha “implementato misure tecnologiche” per fermare il “digitalizzazione” di persone reali da parte di Grok. Tuttavia, l’analisi ha mostrato che queste misure sono state inefficaci, limitandosi principalmente a bloccare solo le risposte pubbliche di Grok ai post. Altrove, il chatbot ha continuato a generare immagini sensuali e provocatorie da fotografie di persone completamente vestite tramite account gratuiti.
Questo incubo della de-pantalonatura ha messo X, Grok e il creatore del chatbot, xAI, sotto l’occhio attento di regolatori e legislatori in tutto il mondo. In Indonesia e Malesia, la piattaforma è stata temporaneamente — e in modo inefficace — vietata. D’Altronde, X è oggetto di indagini nel Regno Unito e nell’UE e potrebbe incorrere in sanzioni, fino a un potenziale divieto in queste giurisdizioni.
La Situazione delle Vittime
È importante notare che la maggioranza delle vittime delle operazioni di Grok sono donne e bambini. Durante il picco dello scandalo, Grok ha generato più di quattro milioni di immagini in un periodo di nove giorni, di cui quasi la metà ritraevano donne sessualizzate, insieme a minori e uomini.
Sebbene le misure adottate da X e xAI abbiano apparentemente fermato le richieste più dirette rivolte alle donne, le restrizioni di pagamento su X stanno limitando solo uno dei canali d’accesso a Grok. È ancora possibile aggirare molte delle limitazioni con semplici modifiche nei termini utilizzati per le richieste.
Per rimanere aggiornati su queste problematiche, è possibile consultare fonti ufficiali come il documento dell’Unione Europea sulle legislazioni dei deepfake qui e le linee guida legislative del governo britannico qui.
Non perderti tutte le notizie di tecnologia su Blog.it