Satya Nadella avverte le aziende: attenzione ai rischi nascosti dell’uso dell’IA.

La controversia sulla distillazione dei modelli

Nadella insiste sul fatto che se le aziende di intelligenza artificiale possono raccogliere liberamente dati da Internet per addestrare i loro modelli, allora è giusto che le imprese possano a loro volta “distillare” le informazioni dai modelli in uso. La “distillazione” riguarda l’utilizzo degli output di un modello per capire come funziona e per formare un nuovo modello, spesso più economico.

Recentemente, Anthropic ha denunciato modelli open source cinesi per aver inviato milioni di input a Claude, al fine di migliorare le loro prestazioni, e ha chiesto al governo degli Stati Uniti di imporre controlli sulle esportazioni. Secondo Nadella, le aziende produttrici di modelli non possono continuare a sfruttare i dati pubblici mentre impediscono agli altri di fare lo stesso con i loro modelli.

“Se è necessario un giusto utilizzo dei dati pubblici, è ironico che ci siano restrizioni sulle condizioni di distillazione”, ha detto.

La proprietà dei dati: un punto cruciale

Nadella manifesta una particolare preoccupazione quando i produttori di modelli si riservano il diritto di apprendere dai dati di utilizzo e interazione dei clienti. Secondo lui, le aziende dovrebbero mantenere la proprietà dei loro dati, inclusi input e feedback.

Alla luce di ciò, il CEO di Microsoft esorta le imprese a costruire i propri “ambienti di apprendimento proprietari” nel cloud, dove i loro dati sono già conservati e, opportunamente, queste strutture potrebbero essere integrate con Azure, la piattaforma cloud di Microsoft. Nadella consiglia anche di introdurre “layer di orchestrazione” che permettano di passare facilmente tra diversi modelli AI, evitando di essere vincolati a un solo fornitore.

Sebbene Nadella non utilizzi esplicitamente il termine “open source”, il suo discorso suggerisce chiaramente questa direzione. Molte aziende, che stanno già migrando verso modelli open source da installare localmente, stanno effettuando questa transizione secondo Idit Levine, fondatrice e CEO di Solo.io, che fornisce software per la gestione dei sistemi AI.