Incentivi errati causano le illusioni dell’IA? Scopri come e perché accade.
La proposta, quindi, assomiglia a test simili al SAT che prevedono “punizioni per risposte sbagliate o crediti parziali per domande lasciate in bianco, al fine di scoraggiare gli indovinatori.” OpenAI suggerisce che le valutazioni dei modelli devono “penalizzare gli errori sicuri più della penalizzazione dell’incertezza e dare credito parziale per le espressioni appropriate d’incertezza.”
Inoltre, i ricercatori sostengono che non basta introdurre “alcuni nuovi test a consapevolezza dell’incertezza.” Piuttosto, “le valutazioni basate sull’accuratezza ampiamente utilizzate devono essere aggiornate affinché la loro valutazione scoraggi l’indovinare.”
About The Author
