Termini AI essenziali: ricorrenza opaca e altri concetti importanti per comprendere l’intelligenza artificiale.
I “token” sono i piccoli frammenti di testo – spesso parti di parole piuttosto che intere – in cui i modelli di linguaggio basati su IA suddividono il linguaggio prima di elaborarlo; sono approssimativamente analoghi a “parole” al fine di comprendere i carichi di lavoro dell’IA. Il “throughput” si riferisce a quanto può essere elaborato in un determinato periodo di tempo, quindi il “token throughput” è essenzialmente una misura di quanto lavoro di IA un sistema può gestire contemporaneamente. Un “token throughput” elevato è un obiettivo chiave per i team di infrastruttura di IA, poiché determina quanti utenti un modello può servire contemporaneamente e la velocità con cui ciascuno di essi riceve una risposta.
Sviluppare IA di apprendimento automatico comporta un processo noto come addestramento. In termini semplici, questo si riferisce all’apporto di dati affinché il modello possa imparare da modelli e generare output utili. Fondamentalmente, è il processo in cui il sistema risponde alle caratteristiche dei dati che gli consentono di adattare gli output verso un obiettivo cercato – che sia identificare immagini di gatti o produrre un haiku su richiesta.
L’addestramento può essere costoso perché richiede molti input, e i volumi richiesti sono in aumento – motivo per cui approcci ibridi, come il raffinamento di un modello basato su regole con dati mirati, possono aiutare a gestire i costi senza partire completamente da zero.
[See: Inferenza]
Una tecnica in cui un modello di IA precedentemente addestrato viene utilizzato come punto di partenza per lo sviluppo di un nuovo modello per un compito diverso ma tipicamente correlato – permettendo di riapplicare conoscenze acquisite in cicli di addestramento precedenti.
