L’IA non ammette sessismo, ma potrebbe comportarsi in modo discriminatorio.
Riflessioni sul Bias e sull’IA
Molti ricercatori di IA non sono rimasti sorpresi dalla conversazione. Hanno avvertito che due fenomeni erano in atto. Primo, il modello di base, addestrato per essere socialmente gradito, rispondeva semplicemente al suo input dicendole ciò che pensava volesse sentire.
“Non impariamo nulla di significativo sul modello chiedendoglielo,” ha affermato Annie Brown, ricercatrice di IA e fondatrice di Reliabl, un’azienda di infrastruttura per l’IA.
Il secondo problema riguarda il possibile bias del modello. Studi dopo studi hanno esaminato i processi di addestramento dei modelli, notando che la maggior parte dei modelli di linguaggio di grandi dimensioni (LLM) viene alimentata con un mix di “dati di addestramento biasati, pratiche di annotazione biasate e un design tassonomico difettoso,” ha continuato Brown. Potrebbero esserci anche influenze commerciali e politiche.
About The Author
