Il testimone esperto di AI di Elon Musk teme una corsa alle armi con l’AGI.
I Rischi dell’IA secondo Stuart Russell
Russell ha informato la giuria e la giudice Yvonne Gonzalez Rodgers sui vari rischi associati allo sviluppo dell’IA, che spaziano dalle minacce informatiche ai problemi di allineamento e alla natura “winner-takes-all” dello sviluppo dell’Intelligenza Artificiale Generale (AGI). Ha affermato che esiste una tensione intrinseca tra l’obbiettivo di raggiungere l’AGI e quello di garantire la sicurezza nella sua implementazione.
Le preoccupazioni più ampie di Russell riguardo alle minacce esistenziali poste da un’IA non regolamentata non sono state ampiamente discusse in tribunale, poiché gli avvocati di OpenAI hanno mosso obiezioni che hanno portato la giudice a limitare la testimonianza. Russell ha da tempo criticato la dinamica di corsa agli armamenti generata dai laboratori di frontiera in competizione per raggiungere l’AGI per primi, quindi ha esortato i governi a regolare più severamente il settore.
Gli avvocati di OpenAI, durante il controinterrogatorio, hanno cercato di dimostrare che Russell non stava valutando direttamente la struttura aziendale dell’organizzazione o le sue specifiche politiche di sicurezza. La questione centrale rimane, quindi, quanto peso dare alla relazione tra avidità corporativa e preoccupazioni sulla sicurezza dell’IA.
About The Author
