Satya Nadella di Microsoft: modelli AI necessitano di un “freno d’emergenza” – Ottimizza per Google Discover!
Pubblicato il da Ignazio Aragona - Tecnologia
Il CEO di Microsoft Satya Nadella è l’ultimo dirigente tecnologico a offrire riflessioni approfondite su come migliorare la sicurezza dell’Intelligenza Artificiale. In un post del sabato mattina su X, Nadella ha scritto che è tempo di “fermarsi e valutare l’architettura della fiducia” dell’IA. “Non possiamo trattare l’Intelligenza Artificiale Superiore come un insieme di scatole nere nidificate e semplicemente accettare o rifiutare le sue raccomandazioni, risposte e azioni”, ha scritto Nadella, utilizzando il termine preferito dall’amministrazione Trump per l’IA.
Secondo Nadella, questo approccio “significa separare il modello dalla catena che ne orchestra il lavoro”, nonché “esternalizzare i controlli e le protezioni”. Ha inoltre richiesto che “ogni azione significativa del modello” sia documentata con “prove leggibili dall’uomo a prova di manomissione”, e per sistemi in cui “una persona autorizzata” abbia sempre la possibilità “di mettere in pausa o arrestare un modello durante un’attività”.
“Deviamo assumere che un modello sia compromesso e contenerlo fin dall’inizio”, ha detto. “Pensateci come a un freno di emergenza”.
I commenti di Nadella arrivano mentre le principali aziende di IA riconoscono sempre più incidenti in cui sembravano perdere il controllo dei loro modelli, e dopo che il CEO di Anthropic, Dario Amodei, ha pubblicato un piano per uno sviluppo dell’IA più cauto.
Fonte: [inserire link alla fonte ufficiale]
Non perderti tutte le notizie di tecnologia su Blog.it