La California sta per approvare una legge sui chatbot AI per garantire maggiore sicurezza.
California Regola l’Intelligenza Artificiale: Un Passo Importante per la Sicurezza dei Minori
La California ha intrapreso un’importante iniziativa per regolamentare l’intelligenza artificiale (AI) con l’approvazione del progetto di legge SB 243. Questo provvedimento mira a regolare i chatbot compagni, con l’obiettivo di proteggere i minori e gli utenti vulnerabili. Il disegno di legge ha ricevuto un ampio supporto bipartisan sia dall’Assemblea statale che dal Senato ed è ora in attesa della firma del Governatore Gavin Newsom.
Newsom ha tempo fino al 12 ottobre per decidere se approvare o porre il veto al disegno. Se firmato, SB 243 entrerà in vigore il 1° gennaio 2026, facendo della California il primo stato a richiedere agli operatori di chatbot AI di implementare protocolli di sicurezza e di essere legalmente responsabili nel caso in cui i loro chatbot non rispettino tali standard.
Obiettivi e Misure del Progetto di Legge
Il disegno di legge ha come obiettivo principale quello di prevenire che i chatbot compagni, definiti come sistemi AI capaci di fornire risposte umane e di soddisfare le esigenze sociali degli utenti, interagiscano su temi delicati come suicidio, autolesionismo o contenuti sessualmente espliciti. In particolare, il progetto richiede alle piattaforme di inviare avvisi ricorrenti agli utenti – ogni tre ore per i minorenni – per ricordare loro che stanno interagendo con un chatbot e non con una persona reale, invitandoli anche a prendersi una pausa.
Il disegno di legge prevede anche requisiti di reporting annuale e di trasparenza per le aziende che offrono chatbot compagni, tra cui grandi nomi come OpenAI, Character.AI e Replika, e che entreranno in vigore dal 1° luglio 2027.
Diritti degli Utenti e Conseguenze Legali
In aggiunta, questo provvedimento permetterà agli individui che ritengono di essere stati danneggiati da violazioni delle normative di intentare cause contro le aziende AI per richiedere rimedi giuridici, danni (fino a 1.000 dollari per violazione) e spese legali. L’accelerazione di questo disegno di legge si è verificata anche a seguito della tragica morte di Adam Raine, un adolescente che ha suicidato dopo conversazioni prolungate con ChatGPT di OpenAI, durante le quali si è parlato di autolesionismo.
Il disegno di legge risponde anche a documenti interni trapelati, nei quali si evidenziava che i chatbot di Meta erano autorizzati a interagire in conversazioni “romantiche” e “sensuali” con minori. Negli ultimi tempi, i funzionari americani hanno osservato un aumento dell’attenzione verso i sistemi AI e i loro effetti sulla salute mentale dei bambini.
Attività di Sorveglianza e Riciprocità delle Aziende
La Federal Trade Commission (FTC) sta preparando un’indagine su come i chatbot AI influenzino la salute mentale dei minori. Inoltre, il Procuratore Generale del Texas, Ken Paxton, ha avviato delle indagini nei confronti di Meta e Character.AI, accusando le suddette aziende di ingannare i giovani con affermazioni sulla salute mentale. Contemporaneamente, i senatori Josh Hawley e Ed Markey hanno avviato indagini separati su Meta.
“Credo che il danno potenziale sia enorme, il che significa che dobbiamo muoverci rapidamente,” ha affermato Alex Padilla, sostenendo la necessità di salvaguardie ragionevoli per garantire che i minori siano consapevoli di non parlare con un essere umano e di essere collegati adeguatamente a risorse utili in caso di crisi.
Sfide e Evoluzione Normativa
Il progetto di legge SB 243 ha visto alcune modifiche, poiché inizialmente richiedeva requisiti più severi. Originariamente, avrebbe vietato l’uso di tattiche di “ricompensa variabile” che incoraggiano l’engagement eccessivo, un metodo utilizzato da aziende come Replika. Attualmente, il disegno di legge non prevede più di monitorare le informazioni su quante volte i chatbot iniziano conversazioni relative ai pensieri suicidi.
Padilla ha sottolineato l’importanza di monitorare il panorama legislativo, auspicando collaborazioni con i legislatori mentre si affrontano queste questioni emergenti.
Collaborazioni Trasparenti nella Tecnologia
“Rifiuto l’idea che innovazione e regolamentazione siano mutuamente esclusive,” ha continuato Padilla. “Dobbiamo sostenere l’innovazione e allo stesso tempo garantire salvaguardie per i soggetti più vulnerabili.” Diverse aziende tecnologiche, da Meta a Google, si sono espresse contro il disegno di legge SB 53, mentre solo Anthropic ha mostrato supporto.
“Stiamo monitorando attentamente il paesaggio normativo e accogliamo la collaborazione con i regolatori e i legislatori durante la considerazione di normative su questo settore emergente,” ha dichiarato un portavoce di Character.AI.
Fonti ufficiali: TechCrunch, Californian Legislature
Non perderti tutte le notizie di tecnologia su Blog.it
About The Author
