Termini AI essenziali: ricorrenza opaca e altri concetti importanti per comprendere l’intelligenza artificiale.
L’allucinazione è il termine preferito dall’industria dell’IA per descrivere i modelli di IA che inventano informazioni – letteralmente generando informazioni sbagliate. Ovviamente, è un grosso problema per la qualità dell’IA.
Le allucinazioni producono output GenAI che possono essere fuorvianti e potrebbero addirittura portare a rischi reali – con conseguenze potenzialmente pericolose (pensa a una query sulla salute che restituisce consigli medici dannosi). Si ritiene che il problema delle allucinazioni derivi da lacune nei dati di addestramento. Le allucinazioni contribuiscono a spingere verso modelli di IA sempre più specializzati e/o verticali – cioè IA specifiche per un determinato campo che richiedono competenze più concentrate – come modo per ridurre la probabilità di lacune di conoscenza e ridurre i rischi di disinformazione.
L’inferenza è il processo di esecuzione di un modello di IA. Implica il rilasciare un modello per fare previsioni o trarre conclusioni da dati precedentemente osservati. Per essere chiari, l’inferenza non può avvenire senza l’addestramento; un modello deve imparare i pattern in un insieme di dati prima che possa estrapolare efficacemente da questi dati di addestramento.
