California: in arrivo legge per regolare i chatbot di compagnia basati su intelligenza artificiale.
Obiettivi e Misure di Sicurezza della Legge
Il disegno di legge si propone di prevenire che i chatbot companion, definiti come sistemi AI che offrono risposte adattive e simili a quelle umane, interagiscano in conversazioni legate all’ideazione suicidaria, all’autolesionismo o a contenuti sessualmente espliciti. La legge richiede che le piattaforme inviano avvisi ricorrenti agli utenti, ogni tre ore per i minorenni, per ricordare loro che stanno parlando con un chatbot e non con una persona reale, incoraggiandoli a prendere una pausa. Inoltre, stabilisce requisiti di reporting annuale e trasparenza per le aziende di AI che offrono chatbot companion, incluse le principali come OpenAI, Character.AI e Replika.
Il disegno di legge consentirebbe anche a chi ritiene di aver subito danni a causa di violazioni di intentare causa contro le aziende di AI, chiedendo rimedi, danni (fino a $1,000 per violazione) e spese legali.
About The Author
