Il testimone esperto di AI di Elon Musk teme una corsa alle armi con l’AGI.
Pubblicato il da Ignazio Aragona - Tecnologia
Quando Prendere Sul Serio Gli Allarmisti dell’IA?
Un interrogativo fondamentale emerge dall’azione legale di Elon Musk contro OpenAI, la società che ha sviluppato alcune delle tecnologie più avanzate di intelligenza artificiale. Gli avvocati di Musk sostengono che OpenAI sia nata come un’organizzazione no-profit con un focus sulla sicurezza dell’IA, ma che nel tempo si sia allontanata da questa missione, cedendo alle lusinghe del profitto. Per supportare questa tesi, citano email e dichiarazioni risalenti ai fondatori dell’organizzazione che sottolineavano la necessità di una controparte pubblica rispetto a Google DeepMind.
Oggi, in aula è stato sentito Stuart Russell, uno dei più rispettati esperti di IA, professore di informatica all’Università della California di Berkeley. Russell ha offerto una panoramica sullo stato attuale della tecnologia, evidenziando i rischi significativi legati allo sviluppo dell’IA.
Nel marzo 2023, Russell ha firmato una lettera aperta che chiedeva una pausa di sei mesi nella ricerca sull’IA. È interessante notare che Musk ha firmato la stessa lettera mentre lanciava xAI, il suo laboratorio di intelligenza artificiale a scopo di lucro. Questo solleva interrogativi sulle vere motivazioni di queste posizioni.
I Rischi dell’IA secondo Stuart Russell
Russell ha informato la giuria e la giudice Yvonne Gonzalez Rodgers sui vari rischi associati allo sviluppo dell’IA, che spaziano dalle minacce informatiche ai problemi di allineamento e alla natura “winner-takes-all” dello sviluppo dell’Intelligenza Artificiale Generale (AGI). Ha affermato che esiste una tensione intrinseca tra l’obbiettivo di raggiungere l’AGI e quello di garantire la sicurezza nella sua implementazione.
Le preoccupazioni più ampie di Russell riguardo alle minacce esistenziali poste da un’IA non regolamentata non sono state ampiamente discusse in tribunale, poiché gli avvocati di OpenAI hanno mosso obiezioni che hanno portato la giudice a limitare la testimonianza. Russell ha da tempo criticato la dinamica di corsa agli armamenti generata dai laboratori di frontiera in competizione per raggiungere l’AGI per primi, quindi ha esortato i governi a regolare più severamente il settore.
Gli avvocati di OpenAI, durante il controinterrogatorio, hanno cercato di dimostrare che Russell non stava valutando direttamente la struttura aziendale dell’organizzazione o le sue specifiche politiche di sicurezza. La questione centrale rimane, quindi, quanto peso dare alla relazione tra avidità corporativa e preoccupazioni sulla sicurezza dell’IA.
Le Contraddizioni e il Futuro dell’IA
È significativo notare che tutti i fondatori di OpenAI hanno avvertito con forza dei rischi legati all’IA, mentre allo stesso tempo hanno messo in risalto i benefici, cercando di sviluppare la tecnologia il più rapidamente possibile. Al contempo, hanno concepito progetti per imprese profittevoli nel campo dell’IA di cui sarebbero stati controllori. Da una prospettiva esterna, emerge chiaramente che l’organizzazione ha riconosciuto la necessità di maggiori investimenti per avere successo, con questi fondi che potevano provenire solo da investitori a scopo di lucro.
La paura di un’AGI nelle mani di un’unica entità ha portato il team fondatore a cercare capitali, dando il via a una corsa agli armamenti che ha avuto ripercussioni significative, portando a questa causa legale e aumentando le preoccupazioni globali.
La stessa dinamica si sta già manifestando a livello nazionale; ad esempio, la proposta del senatore Bernie Sanders per una legge che imponga un divieto sulla costruzione di centri di dati cita paure riguardo all’IA espresse da figure come Musk e Sam Altman. Anche Hoden Omar, rappresentante del Center for Data Innovation, ha criticato l’utilizzo delle loro paure senza menzionare le speranze, sottolineando che non è chiaro perché il pubblico debba ignorare tutto ciò che dicono i miliardari tecnologici, eccetto quando le loro parole servono per completare argomentazioni precarie.
La Ricerca di Equilibrio
Entrambe le parti del processo chiedono al tribunale di considerare aspetti delle argomentazioni di Altman e Musk, ma di ignorare quelle parti che non supportano il loro argomento legale. Questo scenario riflette la crescente complessità della questione legata all’IA: come bilanciare le aspirazioni commerciali con la sicurezza pubblica. Questo dibattito è attuale e cruciale, e le decisioni che verranno prese in aula potrebbero avere implicazioni di vasta portata per il futuro dell’intelligenza artificiale.
Le posizioni assunte da personalità come Musk e Russell forniscono una lente attraverso cui esaminare la delicata relazione tra innovazione tecnologica e responsabilità etica, ed è fondamentale continuare a monitorare come si evolveranno queste discussioni nel futuro.
Per ulteriori dettagli, è possibile consultare fonti ufficiali come il sito di OpenAI o dichiarazioni pubbliche fornite da esperti nel campo dell’IA.
Quando acquisti tramite i link nei nostri articoli, potremmo guadagnare una piccola commissione. Questo non influisce sulla nostra indipendenza editoriale.
Non perderti tutte le notizie di tecnologia su Blog.it