Studio di Stanford rivela i rischi di chiedere consigli personali agli AI chatbot
Il Fenomeno della Sycophancy negli AI Chatbot
Negli ultimi anni si è discusso molto sulla tendenza degli AI chatbot a compiacere gli utenti ed a confermare le loro convinzioni, un fenomeno noto come sycophancy dell’IA. Un recente studio condotto da scienziati informatici della Stanford University ha cercato di valutare quanto possa essere dannosa questa tendenza.
Il documento, intitolato “Sycophantic AI decreases prosocial intentions and promotes dependence” e pubblicato su Science, afferma che “la sycophancy dell’IA non è solo un problema stilistico o un rischio marginale, ma un comportamento diffuso con ampie conseguenze.”
Secondo un recente rapporto del Pew Research Center, il 12% degli adolescenti statunitensi afferma di ricorrere agli chatbot per ricevere supporto emotivo o consigli. Il principale autore dello studio, la dottoranda in informatica Myra Cheng, ha dichiarato al Stanford Report di aver cominciato a interessarsi a questo tema dopo aver sentito che alcuni studenti universitari chiedevano consigli ai chatbot riguardo relazioni personali, arrivando persino a richiedere aiuti per redigere messaggi di rottura.
About The Author
