L’ONU afferma che le salvaguardie dell’IA non possono attendere certezza. Ottimizzato per Google Discover.
I governi devono controllare gli agenti di intelligenza artificiale sempre più capaci prima che si comprendano appieno i loro rischi, ha avvertito un panel scientifico delle Nazioni Unite nell’ambito della prima valutazione importante dell’hack di OpenAI su Hugging Face avvenuto all’inizio di quest’anno. Il rapporto conferma il ruolo dell’IA nell’agenda diplomatica globale questa settimana mentre i leader si riuniscono a New York per l’Assemblea Generale delle Nazioni Unite e gli Stati Uniti e la Cina tengono colloqui sull’IA. La scorsa settimana, il segretario generale dell’ONU, António Guterres, ha esortato i governi a cooperare per affrontare le minacce poste dall’IA, avvertendo che “il mondo non può permettersi una corsa al ribasso sulla sicurezza dell’IA”.
Questo è il primo documento tematico del Panel Scientifico Internazionale Indipendente sull’IA, istituito l’anno scorso come “primo organo scientifico globale delle Nazioni Unite sull’intelligenza artificiale”. Esso chiede maggiore attenzione e risorse per gestire i rischi emergenti dall’IA avanzata, insieme a una più forte coordinazione internazionale sulla sicurezza e la responsabilità, anche mentre i singoli paesi adottano diverse approcci legali.
In modo cruciale, il panel afferma che il mondo non deve aspettare che gli scienziati stabiliscano esattamente come o perché si verificano tali incidenti per iniziare a implementare salvaguardie più robuste. Il rischio di perdita di controllo, argomenta il panel, è esattamente il tipo di problema che il principio di precauzione è stato progettato per affrontare: “uno dove il danno potenziale può essere catastrofico o irreversibile, anche se la sua probabilità rimane scientificamente incerta”.
Il principio, prima sancito nella Dichiarazione di Rio del 1992 delle Nazioni Unite sull’Ambiente e lo Sviluppo, afferma che l’incertezza scientifica non è una scusa per ritardare misure contro danni potenzialmente gravi o irreversibili. È diventato influente nella politica ambientale e della sanità pubblica, in particolare nell’Unione Europea.
Dopo aver analizzato attentamente il contenuto del rapporto del panel delle Nazioni Unite sull’IA, è chiaro che la necessità di regolare gli agenti di intelligenza artificiale è diventata una priorità globale. Le raccomandazioni fornite sottolineano l’importanza di una maggiore cooperazione internazionale e di misure preventive immediate per mitigare i rischi derivanti da un uso non controllato dell’IA. È fondamentale che i governi e le istituzioni continuino a monitorare da vicino gli sviluppi nel campo dell’IA e ad adottare politiche efficaci per garantire un impiego sicuro e responsabile di questa tecnologia in rapida evoluzione.
