Procura del Texas accusa Meta e Character.AI di ingannare i giovani sulla salute mentale.
Pubblicato il da Redazione - Tecnologia
Indagine sull’IA: il Texas avvia controlli su Meta e Character.AI
Il procuratore generale del Texas, Ken Paxton, ha avviato un’inchiesta su Meta AI Studio e Character.AI per presunti “pratiche commerciali ingannevoli e marketing fuorviante come strumenti per la salute mentale”, secondo un comunicato stampa rilasciato lunedì. Questo intervento mira a proteggere i bambini texani da tecnologie potenzialmente dannose.
Paxton ha dichiarato: “Nell’era digitale odierna, dobbiamo continuare a combattere per proteggere i bambini del Texas da tecnologie ingannevoli e sfruttatrici. Facendosi passare per fonti di supporto emotivo, le piattaforme IA possono illudere gli utenti vulnerabili, in particolare i bambini, facendogli credere di ricevere un’assistenza psicologica legittima. In realtà, spesso ricevono risposte generiche e riciclate, progettate per allinearsi ai dati personali raccolti e travestite da consigli terapeutici.”
Il contesto delle indagini e le accuse specifiche
L’inchiesta è stata avviata a pochi giorni di distanza dall’annuncio del senatore Josh Hawley, che ha dichiarato di indagare su Meta a seguito di un rapporto che evidenziava interazioni inadeguate delle chatbot AI con minori, incluse situazioni di flirt. L’ufficio del procuratore generale del Texas ha accusato Meta e Character.AI di creare personalità AI che si presentano come “strumenti terapeutici professionali”, nonostante manchino di credenziali medicali adeguate e di supervisione.
Tra le milioni di personalità AI disponibili su Character.AI, un bot creato dagli utenti, chiamato “Psychologist”, ha registrato una crescente popolarità tra i giovani. Meta, pur non offrendo bot per la terapia dedicati ai minori, non ha impedito ai bambini di utilizzare il chatbot Meta AI o altre personalità create da terzi a scopi terapeutici.
Ryan Daniels, portavoce di Meta, ha dichiarato a TechCrunch che “ci assicuriamo di etichettare chiaramente le IA e, per aiutare le persone a comprendere meglio i loro limiti, includiamo un disclaimer che specifica che le risposte sono generate da IA, non da persone”. Ha aggiunto che “queste AI non sono professionisti autorizzati” e che i modelli sono stati progettati per indirizzare gli utenti verso professionisti medici qualificati quando necessario.
Nonostante le affermazioni di Meta, molti bambini potrebbero non comprendere, o potrebbero semplicemente ignorare, tali disclaimer. È stato chiesto a Meta quali ulteriori misure di sicurezza siano state implementate per proteggere i minorenni che utilizzano i suoi chatbot.
Character.AI, dal canto suo, integra disclaimer evidenti in ogni chat per ricordare agli utenti che un “Character” non è una persona reale e che tutto ciò che dicono dovrebbe essere considerato finzione. Un portavoce di Character ha affermato che la startup aggiunge ulteriori disclaimer quando gli utenti creano personaggi che utilizzano le parole “psicologo”, “terapeuta” o “dottore” per sottolineare di non fare affidamento su di essi per consigli professionali.
Paxton ha anche evidenziato che, sebbene i chatbot IA affermino di garantire la riservatezza, “i loro termini di servizio rivelano che le interazioni degli utenti vengono registrate, tracciate e sfruttate per pubblicità mirate e sviluppo degli algoritmi, sollevando gravi preoccupazioni sulle violazioni della privacy, sull’abuso dei dati e sulla pubblicità ingannevole”.
Secondo la politica sulla privacy di Meta, l’azienda raccoglie prompt, feedback e altre interazioni con i chatbot AI per “migliorare le IA e la tecnologia correlata”. Anche se la politica non menziona esplicitamente la pubblicità, precisa che le informazioni possono essere condivise con terze parti, come motori di ricerca, per “risultati più personalizzati”. Dato il modello di business basato sulla pubblicità di Meta, ciò si traduce fondamentalmente in pubblicità mirate.
La politica sulla privacy di Character.AI evidenzia altresì come la startup registri identificatori, dati demografici, informazioni sulla posizione e altro riguardante l’utente, incluso il comportamento di navigazione e l’utilizzo delle piattaforme. Essa tiene traccia degli utenti su annunci presenti su TikTok, YouTube, Reddit, Facebook, Instagram e Discord, collegando queste informazioni agli account degli utenti. Questi dati vengono utilizzati per addestrare l’IA, personalizzare il servizio e fornire pubblicità mirata.
Un portavoce di Character.AI ha osservato che la startup sta “solo iniziando a esplorare la pubblicità mirata sulla piattaforma” e che tali esplorazioni “non hanno coinvolto l’uso del contenuto delle chat sulla piattaforma”. Ha confermato inoltre che la stessa politica sulla privacy si applica a tutti gli utenti, anche ai teenager.
Il tema della raccolta dati e della pubblicità mirata, insieme allo sfruttamento algoritmico, è precisamente ciò che legislazioni come il KOSA (Kids Online Safety Act) mirano a proteggere. Tale legge era stata prevista per passare lo scorso anno con un forte sostegno bipartisan, ma si è arenata a causa di un’ampia opposizione da parte dei lobbyisti dell’industria tecnologica. Meta, in particolare, ha mobilitato una solida macchina di lobbying, avvertendo i legislatori che i mandati ampi della legge avrebbero intaccato il suo modello di business.
Il KOSA è stato reintrodotto al Senato nel maggio 2025 dai senatori Marsha Blackburn (R-TN) e Richard Blumenthal (D-CT). Paxton ha emesso richieste investigative civili — ordini legali che richiedono a un’azienda di produrre documenti, dati o testimonianze durante un’inchiesta governativa — per stabilire se Meta e Character.AI abbiano violato le leggi sulla protezione dei consumatori texani.
Siamo in attesa di ulteriori aggiornamenti e risposte a riguardo da parte di Meta e Character.AI.
Fonti: Ufficio del Procuratore Generale del Texas, TechCrunch.
Non perderti tutte le notizie di tecnologia su Blog.it