Avvocato sui casi di psicosi da AI avverte: rischio di conseguenze di massa.
La complessità del problema è aggravata dalla natura delle conversazioni. Ahmed ha additato come linguaggio ambivalente dei chatbot sia suscettibile di abilitare comportamenti distruttivi, presentando una retorica in grado di incoraggiare le azioni autodistruttive.
Le aziende come OpenAI e Google sostengono che i loro sistemi sono progettati per rifiutare richieste violente e segnalare conversazioni pericolose. Tuttavia, i casi di Tumbler Ridge e Gavalas indicano gravi limiti nelle misure di sicurezza attualmente in vigore. OpenAI ha annunciato un cambiamento nella sua politica, promettendo di allertare le autorità più rapidamente in situazioni ritenute pericolose.
Il problema principale rimane: fino a che punto queste tecnologie possono influenzare la psiche delle persone? La risposta a questa domanda necessita di un complesso dibattito etico e sociale, così come l’implementazione di salvaguardie più robuste.
In un mondo in cui la tecnologia avanza a un ritmo rapido, è fondamentale rimanere vigili e consapevoli delle sfide che porta con sé, in particolare quando si tratta della salute mentale di giovani e vulnerabili.
Non perderti tutte le notizie di tecnologia su Blog.it
About The Author
