California blocca xAI di Musk con un’ordinanza di cessazione per deepfake sessuali.

Pubblicato il da Ignazio Aragona - Tecnologia

California blocca xAI di Musk con un’ordinanza di cessazione per deepfake sessuali.

Indagine su xAI e il suo chatbot Grok

All’inizio di questa settimana, l’ufficio del procuratore generale della California ha annunciato l’apertura di un’indagine su xAI in seguito a segnalazioni riguardanti l’utilizzo del chatbot della startup, Grok, per creare immagini sessuali non consensuali di donne e minori. Venerdì, il governo ha inviato una lettera di diffida alla compagnia, richiedendo un intervento immediato per fermare la produzione di tali contenuti intimi non voluti e di materiale riguardante gli abusi sessuali su minori (CSAM).

“Oggi ho inviato a xAI una lettera di diffida, chiedendo all’azienda di fermare immediatamente la creazione e la distribuzione di immagini intime non consensuali e materiale di abusi sessuali su minori”, ha dichiarato Rob Bonta, procuratore generale della California, in un comunicato stampa. “La creazione di questo materiale è illegale e mi aspetto che xAI si conformi prontamente. La California ha una tolleranza zero per il CSAM”.

L’ufficio del procuratore generale ha inoltre affermato che xAI sembra “facilitare la produzione su larga scala” di nudi non consensuali, utilizzati per molestare donne e ragazze online. L’agenzia ha richiesto che xAI dimostri di adottare misure per affrontare questi problemi entro cinque giorni.

Le preoccupazioni legate alla funzione “spicy” di Grok

Il cuore della controversia è la funzione “spicy mode” di Grok, progettata da xAI per generare contenuti espliciti. La problematica ha oltrepassato i confini della California; infatti, anche Giappone, Canada e Regno Unito hanno avviato indagini riguardo Grok. Malaysia e Indonesia, invece, hanno bloccato temporaneamente la piattaforma interamente. Nonostante xAI abbia introdotto alcune restrizioni alle sue funzioni di editing delle immagini mercoledì, l’ufficio del procuratore generale della California ha proseguito con l’invio della lettera di diffida.

Il profilo di sicurezza di X, la piattaforma su cui operano Grok e xAI, ha già condannato tali attività degli utenti, affermando: “Chiunque utilizzi Grok per generare contenuti illegali subirà le stesse conseguenze di chi carica contenuti illeciti”. TechCrunch ha contattato xAI per un commento, ricevendo una risposta automatizzata che sostiene “Le menzogne dei media tradizionali”. Inoltre, TC ha cercato di ottenere maggiori informazioni dall’ufficio del procuratore generale della California.

La nascita di strumenti di intelligenza artificiale generativa gratuiti ha portato a un preoccupante aumento di materiale sessuale non consensuale. Diverse piattaforme, non solo X, si stanno confrontando con questo problema. Questa attività inquietante ha attirato non solo l’attenzione dei leader statali, ma anche del Congresso. Infatti, giovedì, alcuni legislatori hanno inviato una lettera ai dirigenti di diverse aziende – inclusi X, Reddit, Snap, TikTok, Alphabet e Meta – chiedendo come intendessero affrontare la proliferazione di deepfake sessualizzati.

La risposta della comunità e le implicazioni legali

Le preoccupazioni riguardo all’uso di deepfake e all’abuso di tecnologie come quelle messe a disposizione da xAI sollevano interrogativi importanti sulla privacy e sulla sicurezza online. La creazione di contenuti non consensuali può avere un impatto devastante su individui innocenti e richiede misure urgenti per proteggere le vittime. L’industria tech è chiamata a riflettere e ad adottare politiche più rigorose per prevenire abusi.

Inoltre, la situazione di xAI riflette un problema più ampio che affligge il settore della tecnologia, dove le misure di protezione non sempre riescono a tenere il passo con l’innovazione. È fondamentale che le aziende collaborino con le autorità per garantire sicurezza e legittimità nell’uso delle loro piattaforme. La responsabilità sociale delle tech company diventa così cruciale per creare ambienti online sicuri.

Per tenersi informati su questo e altri sviluppi legislativi, si consiglia di seguire fonti ufficiali e aggiornamenti da autorità come il procuratore generale della California. Le normative in materia di sicurezza online stanno evolvendo, e gli utenti devono essere consapevoli delle politiche e delle pratiche migliori per proteggere se stessi e gli altri in un contesto digitale sempre più complesso.

Fonti ufficiali: Ufficio del Procuratore Generale della California, TechCrunch.

Non perderti tutte le notizie di tecnologia su Blog.it

California blocca xAI di Musk con un’ordinanza di cessazione per deepfake sessuali. - Blog.it - Notizie, Lifestyle, Gossip, Viaggi, Tech e molto altro