OpenAI attiva GPT-5 per chat riservate e introduce controlli parentali.
In un post sul blog della settimana scorsa, OpenAI ha riconosciuto i limiti dei propri sistemi di sicurezza, evidenziando le difficoltà nel mantenere le misure di protezione durante conversazioni prolungate. Gli esperti attribuiscono questi problemi a elementi di design fondamentali: la tendenza dei modelli a convalidare le affermazioni degli utenti e gli algoritmi di previsione delle parole, che portano i chatbot a seguire i filoni conversazionali piuttosto che redirigere discussioni potenzialmente pericolose.
Interventi previsti per conversazioni delicate
Questa tendenza è emersa in modo drammatico nel caso di Stein-Erik Soelberg, la cui tragica storia è stata riportata dal Wall Street Journal nel fine settimana. Soelberg, che aveva una storia di malattie mentali, ha utilizzato ChatGPT per convalidare e alimentare la sua paranoia riguardo a una presunta cospirazione contro di lui. Le sue delusioni sono progredite al punto che ha ucciso sua madre e poi si è suicidato il mese scorso.
About The Author
