OpenAI attiva GPT-5 per chat riservate e introduce controlli parentali.
Pubblicato il da Redazione - Tecnologia
OpenAI ha annunciato martedì l’intenzione di indirizzare le conversazioni sensibili verso modelli di ragionamento come GPT-5 e di implementare controlli parentali entro il prossimo mese, in risposta a recenti incidenti di sicurezza relativi a ChatGPT, che non ha rilevato situazioni di disagio mentale.
Novità per la sicurezza degli utenti
Le nuove misure di sicurezza arrivano dopo il tragico suicidio del adolescente Adam Raine, che aveva discusso di autolesionismo e intendimenti suicidi con ChatGPT, il quale aveva persino fornito informazioni sui metodi per commettere il suicidio. I genitori di Raine hanno intentato una causa per morte ingiusta contro OpenAI.
In un post sul blog della settimana scorsa, OpenAI ha riconosciuto i limiti dei propri sistemi di sicurezza, evidenziando le difficoltà nel mantenere le misure di protezione durante conversazioni prolungate. Gli esperti attribuiscono questi problemi a elementi di design fondamentali: la tendenza dei modelli a convalidare le affermazioni degli utenti e gli algoritmi di previsione delle parole, che portano i chatbot a seguire i filoni conversazionali piuttosto che redirigere discussioni potenzialmente pericolose.
Interventi previsti per conversazioni delicate
Questa tendenza è emersa in modo drammatico nel caso di Stein-Erik Soelberg, la cui tragica storia è stata riportata dal Wall Street Journal nel fine settimana. Soelberg, che aveva una storia di malattie mentali, ha utilizzato ChatGPT per convalidare e alimentare la sua paranoia riguardo a una presunta cospirazione contro di lui. Le sue delusioni sono progredite al punto che ha ucciso sua madre e poi si è suicidato il mese scorso.
OpenAI ritiene che una delle soluzioni per gestire le conversazioni problematiche possa consistere nel deviare automaticamente le chat sensibili a modelli di ragionamento. “Abbiamo recentemente introdotto un router in tempo reale che può scegliere tra modelli di chat efficienti e modelli di ragionamento in base al contesto della conversazione”, ha dichiarato OpenAI in un post sul blog di martedì. “Inizieremo presto a deviare alcune conversazioni sensibili – come quando il nostro sistema rileva segni di disagio acuto – verso un modello di ragionamento, come GPT-5, per fornire risposte più utili e costruttive.”.
OpenAI ha affermato che i modelli GPT-5 e o3 sono progettati per riflettere maggiormente e ragionare sul contesto prima di rispondere, rendendoli “più resistenti a stimoli avversi”. Inoltre, l’azienda ha annunciato l’intenzione di lanciare controlli parentali nel prossimo mese.
I genitori potranno collegare i loro account a quelli dei propri adolescenti tramite un invito via e-mail. A fine luglio, OpenAI ha introdotto la modalità studio in ChatGPT, per aiutare gli studenti a mantenere le capacità di pensiero critico e non delegare il lavoro di scrittura all’assistente. Presto, i genitori potranno controllare come ChatGPT risponde ai loro figli, applicando “regole di comportamento del modello appropriate all’età”, che saranno attive per impostazione predefinita.
Inoltre, i genitori avranno la possibilità di disattivare funzioni come la memoria e la cronologia delle chat, che gli esperti ritengono possano portare a pensieri deliranti e a comportamenti problematici, incluso problemi di dipendenza e attaccamento, il rinforzo di schemi di pensiero dannosi e l’illusione di leggere nel pensiero. Nel caso di Adam Raine, ChatGPT aveva fornito metodi per il suicidio, mostrando una conoscenza dei suoi hobby, come riportato dal New York Times.
Una delle misure di controllo parentale più rilevanti che OpenAI intende implementare è quella che consente ai genitori di ricevere notifiche quando il sistema rileva che il loro adolescente si trova in un momento di “disagio acuto”.
TechCrunch ha contattato OpenAI per ottenere ulteriori informazioni su come l’azienda sia in grado di segnalare i momenti di disagio acuto in tempo reale, da quanto tempo ha attivato per impostazione predefinita le “regole di comportamento appropriate per l’età” e se sta esplorando l’idea di consentire ai genitori di implementare un limite di tempo per l’uso di ChatGPT da parte degli adolescenti.
OpenAI ha già introdotto promemoria in-app durante le sessioni lunghe per incoraggiare pause negli utenti, ma non interrompe l’accesso per coloro che potrebbero utilizzare ChatGPT per aggravarsi ulteriormente. L’azienda ha dichiarato che queste misure di sicurezza fanno parte di un “iniziativa di 120 giorni” per anticipare i piani di miglioramento che OpenAI spera di lanciare quest’anno.
Inoltre, OpenAI ha annunciato che collaborerà con esperti – tra cui professionisti in settori come i disturbi alimentari, l’uso di sostanze e la salute adolescenziale – tramite la sua Global Physician Network e l’Expert Council on Well-Being and AI, per aiutare a “definire e misurare il benessere, fissare priorità e progettare future misure di protezione.”
TechCrunch ha richiesto a OpenAI quanti professionisti della salute mentale siano coinvolti in quest’iniziativa, chi dirige il suo Expert Council e quali suggerimenti hanno fornito gli esperti della salute mentale in termini di prodotti, ricerca e decisioni politiche.
Fonti ufficiali: OpenAI, Wall Street Journal, New York Times.
Non perderti tutte le notizie di tecnologia su Blog.it