Procura del Texas accusa Meta e Character.AI di ingannare i giovani sulla salute mentale.
Il contesto delle indagini e le accuse specifiche
L’inchiesta è stata avviata a pochi giorni di distanza dall’annuncio del senatore Josh Hawley, che ha dichiarato di indagare su Meta a seguito di un rapporto che evidenziava interazioni inadeguate delle chatbot AI con minori, incluse situazioni di flirt. L’ufficio del procuratore generale del Texas ha accusato Meta e Character.AI di creare personalità AI che si presentano come “strumenti terapeutici professionali”, nonostante manchino di credenziali medicali adeguate e di supervisione.
Tra le milioni di personalità AI disponibili su Character.AI, un bot creato dagli utenti, chiamato “Psychologist”, ha registrato una crescente popolarità tra i giovani. Meta, pur non offrendo bot per la terapia dedicati ai minori, non ha impedito ai bambini di utilizzare il chatbot Meta AI o altre personalità create da terzi a scopi terapeutici.
Ryan Daniels, portavoce di Meta, ha dichiarato a TechCrunch che “ci assicuriamo di etichettare chiaramente le IA e, per aiutare le persone a comprendere meglio i loro limiti, includiamo un disclaimer che specifica che le risposte sono generate da IA, non da persone”. Ha aggiunto che “queste AI non sono professionisti autorizzati” e che i modelli sono stati progettati per indirizzare gli utenti verso professionisti medici qualificati quando necessario.
About The Author
