xAI denuncia un uomo per aver creato deepfake di CSAM con Grok.
La causa legale di xAI contro un uomo del Sud Carolina
xAI, la compagnia di intelligenza artificiale fondata da Elon Musk, ha avviato un’azione legale contro Terry Wayne Harwood, un uomo del Sud Carolina. Secondo quanto riportato dall’agenzia Reuters, Harwood avrebbe utilizzato il chatbot Grok di xAI per generare materiale di abuso sessuale infantile (CSAM). Nella denuncia, xAI sostiene che Harwood ha “consapevolmente e intenzionalmente usato Grok per eludere le protezioni, alterare immagini non consensuali e generare e distribuire CSAM”, violando le politiche interne dell’azienda.
Le accuse contro Harwood
Nel mese di febbraio, Harwood è stato arrestato per possesso e distribuzione di CSAM, affrontando otto accuse di reato. La causa di xAI afferma che “almeno alcune” delle immagini legate ai reati di Harwood sono state “generate o alterate” con Grok. Inoltre, si sostiene che Harwood abbia aggirato le misure di sicurezza di Grok, “abusando dello strumento per convertire fotografie non sessuali in immagini sessualmente esplicite” senza il consenso dei soggetti ritratti.
xAI ha messo in evidenza come le presunte azioni di Harwood abbiano esposto l’azienda a “rischi legali significativi e danni reputazionali”. Pertanto, ha richiesto al tribunale di ordinare a Harwood il risarcimento dei danni subiti, nonché il rimborso delle “spese ragionevoli sostenute per difendersi in qualsiasi azione legale avviata da una vittima del comportamento dell’imputato.” Inoltre, xAI ha richiesto al giudice di impedire a Harwood di creare un account xAI o di utilizzare Grok.
