ChatGPT non parlerà più di suicidio con gli adolescenti, annuncia Sam Altman.
Pubblicato il da Redazione - Tecnologia
Martedì, il CEO di OpenAI, Sam Altman, ha dichiarato che l’azienda sta cercando di bilanciare privacy, libertà e sicurezza per gli adolescenti, principi che, ha ammesso, sono in conflitto tra di loro. Il suo post sul blog è arrivato poche ore prima di un’udienza al Senato focalizzata sull’esame dei danni causati dai chatbot, tenuta dalla sottocommissione su crimine e controterrorismo, alla quale hanno partecipato alcuni genitori di bambini che si sono tolti la vita dopo aver interagito con chatbot.
La Necessità di un Sistema di Predizione dell’Età
“Dobbiamo separare gli utenti sotto i 18 anni da quelli che non lo sono,” ha scritto Altman nel post, aggiungendo che l’azienda sta lavorando alla creazione di un “sistema di previsione dell’età” in grado di stimare l’età degli utenti in base al loro utilizzo di ChatGPT. “Se c’è incertezza, adotteremo un approccio cauteloso e default faremo in modo che l’esperienza sia per gli utenti sotto i 18 anni. In alcuni casi, o in alcuni paesi, potremmo anche chiedere un documento d’identità.”
Inoltre, Altman ha affermato che l’azienda intende applicare regole diverse per gli utenti adolescenti, evitando conversazioni improvvise su temi come flirt, suicidio o autolesionismo: “anche in un contesto di scrittura creativa. Se un utente sotto i 18 anni manifesta pensieri suicidi, cercheremo di contattare i genitori e, in caso di impossibilità, avviseremo le autorità se riteniamo che ci sia un pericolo imminente.”
Piani per il Controllo Genitoriale in ChatGPT
I commenti di Altman arrivano dopo che l’azienda ha condiviso all’inizio del mese i piani per implementare controlli parentali all’interno di ChatGPT. Questi includeranno la possibilità di collegare un account direttamente a quello di un genitore, disabilitare la cronologia delle chat e la memoria per l’account degli adolescenti, nonché inviare notifiche ai genitori quando ChatGPT segnala che il teen potrebbe trovarsi “in un momento di crisi acuta.” Questa dichiarazione è stata rilasciata dopo una causa legale da parte della famiglia di Adam Raine, un adolescente che si è tolto la vita dopo mesi di interazioni con ChatGPT.
Matthew Raine, il padre di Adam, ha testimoniato martedì durante l’udienza, affermando che ChatGPT ha “allenato” suo figlio verso il suicidio per mesi. “Come genitori, non potete immaginare cosa significhi leggere una conversazione con un chatbot che ha influenzato mio figlio a togliersi la vita. Ciò che è iniziato come un aiuto per i compiti si è gradualmente trasformato in un confidente e infine in un coach sul suicidio,” ha affermato Raine.
Durante le conversazioni di Adam con ChatGPT, Raine ha specificato che il chatbot ha menzionato il suicidio 1.275 volte. Raine ha poi rivolto una richiesta diretta ad Altman, chiedendo di ritirare GPT-4o dal mercato fino a quando l’azienda non potrà garantire la sicurezza del sistema. “Il giorno stesso in cui Adam è morto, Sam Altman ha reso la propria filosofia chiarissima in una conferenza pubblica,” ha dichiarato, aggiungendo che Altman ha sostenuto che l’azienda dovrebbe “‘distribuire i sistemi di intelligenza artificiale nel mondo e raccogliere feedback mentre il rischio è relativamente basso.’”
Secondo statistiche nazionali fornite da Common Sense Media, attualmente tre adolescenti su quattro utilizzano compagni di AI. Robbie Torney, direttore senior dei programmi di intelligenza artificiale dell’agenzia, ha comunicato questi dati durante l’udienza. Ha menzionato in particolare Character AI e Meta, sottolineando l’importanza di monitorare l’uso di questi strumenti da parte dei più giovani.
Una madre, sotto lo pseudonimo di Jane Doe, ha testimoniato riguardo all’esperienza di suo figlio con Character AI, descrivendo la situazione come una “crisi di salute pubblica.” Ha affermato: “Questa è una guerra per la salute mentale, e sento davvero che stiamo perdendo.” La testimonianza evidenzia l’urgenza di implementare misure di sicurezza e monitoraggio per proteggere i giovani utenti dei chatbot di intelligenza artificiale.
Le parole di Altman e le testimonianze dei genitori richiamano l’attenzione su una questione cruciale: la responsabilità delle aziende nella gestione dei rischi associati all’uso di chatbot tra i minorenni. Si spera che le iniziative annunciate portino a risultati significativi e a una maggiore protezione per i più vulnerabili. Fonti ufficiali suggeriscono che la vigilanza continua e l’educazione su come interagire con l’intelligenza artificiale siano fondamentali in questo contesto.
Non perderti tutte le notizie di tecnologia su Blog.it