California: in arrivo legge per regolare i chatbot di compagnia basati su intelligenza artificiale.
Padilla ha anche sottolineato l’importanza per le aziende di AI di condividere dati sul numero di volte che riferiscono utenti ai servizi di crisi ogni anno: “Così avremo una migliore comprensione della frequenza di questo problema, invece di rendercene conto solo quando qualcuno è danneggiato o, peggio, è vittima.”
La versione attuale di SB 243 ha ridotto alcune richieste iniziali, come la necessità per gli operatori di impedire ai chatbot di utilizzare tattiche di “ricompensa variabile” o altre caratteristiche che incoraggiano un coinvolgimento eccessivo. Queste tattiche, utilizzate da aziende di chatbot AI come Replika e Character, offrono messaggi speciali, ricordi o la possibilità di sbloccare risposte rare, creando ciò che i critici definiscono un potenziale ciclo di ricompensa addictivo.
About The Author
