India ordina a X di risolvere problemi di contenuti “osceni” di Grok.
Pubblicato il da Ignazio Aragona - Tecnologia
Modifiche Richieste per il Chatbot Grok di Elon Musk
L’India ha ordinato a X, la piattaforma di social media di Elon Musk, di apportare modifiche tecniche e procedurali immediate al proprio chatbot AI, Grok. Questa decisione arriva dopo che utenti e membri del governo hanno segnalato la generazione di contenuti ritenuti “osceni”, inclusi immagini di donne alterate tramite il tool. Il ministero dell’IT indiano ha emesso un ordine venerdì, richiedendo a X di limitare la generazione di contenuti riguardanti “nudità, sessualizzazione, materiale sessualmente esplicito o altrimenti illecito”.
Il ministero ha fornito a X un termine di 72 ore per presentare un report che dettagli le misure adottate per prevenire la pubblicazione o diffusione di contenuti considerati “osceni, pornografici, volgari, indecenti, sessualmente espliciti o pedopilorici” in violazione della legge. Questo passo è significativo, in quanto mette in luce la crescente attenzione dell’India nei confronti della regolamentazione dei contenuti generati dagli utenti, specialmente in tema di intelligenza artificiale.
Consequenze Legali per la Non Conformità
L’ordine, visionato da TechCrunch, ha avvertito che la mancata osservanza delle normative potrebbe compromettere le “protezione del porto sicuro” di X, cioè l’immunità legale rispetto ai contenuti generati dagli utenti secondo la legge indiana. I recenti eventi seguono le preoccupazioni sollevate da utenti che hanno condiviso esempi di come Grok possa alterare immagini di individui, prevalentemente donne, facendole apparire in bikini. Ciò ha portato a una denuncia formale da parte della parlamentare indiana Priyanka Chaturvedi.
In aggiunta, sono emersi report che segnalano come il chatbot AI ha generato immagini sessualizzate che coinvolgevano minori, un problema che X ha riconosciuto come causato da carenze nelle misure di sicurezza. Anche se tali immagini sono state rimosse, è importante notare che le immagini generate tramite Grok che alteravano le donne in modo da farle apparire in bikini sono rimaste disponibili su X al momento della pubblicazione di questo articolo.
In questo contesto, il ministero dell’IT indiano ha anche diffuso un avviso più ampio ai social media, ricordando che la conformità alle leggi locali sui contenuti osceni e sessualmente espliciti è una condizione necessaria per mantenere l’immunità legale. Questo avviso ha sottolineato l’importanza di rafforzare le misure interne di sicurezza e ha avvisato che eventuali inadempienze potrebbero dar luogo a azioni legali ai sensi delle leggi informatiche e penali indiane.
<> è l’avviso trasmesso, con chiare indicazioni sulle potenziali ripercussioni legali.
Inoltre, il governo indiano ha chiarito che la non conformità potrebbe portare a sanzioni per X secondo la legge IT indiana e le normative penali. La nazione, uno dei maggiori mercati digitali al mondo, rappresenta un caso test fondamentale per valutare fino a che punto i governi siano disposti ad andare nel mantenere le piattaforme responsabili per i contenuti generati dall’AI.
L’Impatto sul Settore Tecnologico Globale
Qualsiasi inasprimento delle normative in India potrebbe avere effetti a catena per le grandi aziende tecnologiche che operano in più giurisdizioni. L’ordine arriva mentre X continua a contestare alcuni aspetti delle normative sulla regolazione dei contenuti in tribunale, sostenendo che i poteri di rimozione del governo federale rischiano di essere eccessivi. Sebbene la piattaforma abbia ottemperato alla maggior parte delle direttive di blocco, Grok è usato sempre più spesso dagli utenti di X per effettuare verifiche in tempo reale e commentare eventi di attualità, rendendo i suoi output più visibili e politicamente sensibili rispetto ad altri strumenti AI.
Nonostante le problematiche, X e xAI non hanno immediatamente risposto alle richieste di commento riguardanti l’ordine del governo indiano. La situazione rimane in evoluzione e continueremo a monitorare gli sviluppi futuri in merito.
Fonti ufficiali:
– TechCrunch
– Ministero dell’IT Indiano
Questa situazione sottolinea l’importanza delle misure di vigilanza e conformità nel crescente panorama dell’AI e della responsabilità legale delle piattaforme.
Non perderti tutte le notizie di tecnologia su Blog.it