Lanciato istituto da Google DeepMind per ampliare il dibattito sull’AGI: ecco il nuovo think tank!
Google e i ricercatori di Google DeepMind hanno lanciato l’Istituto DeepMind mercoledì per promuovere la discussione sull’intelligenza artificiale generale. L’istituto elenca il co-fondatore di DeepMind Shane Legg, l’esecutivo di Google James Manyika e il presidente di Google DeepMind Demis Hassabis come direttori, con Legg in qualità di direttore editoriale.
Il nuovo istituto mira a portare alla luce diverse opinioni tra Google, Google DeepMind e la più ampia comunità globale di ricerca sull’AGI. “Non saranno sempre d’accordo e probabilmente cambieranno idea, man mano che più dati e informazioni verranno alla luce sulla frontiera in rapido movimento”, si legge nell’annuncio.
La collezione inaugurale di quattro saggi copre una serie di argomenti: politiche economiche per gestire la potenziale interruzione dell’AGI, il mantenimento del ragionamento del modello leggibile dall’uomo, principi per il prosperare umano e un quadro per valutare i modelli AI di frontiera.
In un saggio, i ricercatori sulla sicurezza di DeepMind Rohin Shah e Anca Dragan sostengono che la finestra di trasparenza dell’AI, cioè la capacità di vedere e controllare il ragionamento passo dopo passo di un modello, non è inevitabile. Con le nuove architetture che rendono i modelli più potenti più difficili da monitorare, gli autori affermano che gli sviluppatori e i regolatori dovrebbero affrontare direttamente i compromessi sulla sicurezza. Ciò potrebbe significare limitare la “profondità seriale opaca” – la quantità di calcolo sequenziale che un modello può eseguire senza produrre una traccia di ragionamento leggibile – o richiedere agli sviluppatori di dimostrare che i sistemi meno trasparenti rimangono altrettanto monitorabili.
In un altro saggio, Hassabis propone un organismo normativo statunitense per valutare i modelli di AI più avanzati. Secondo il suo quadro, gli sviluppatori dovrebbero inizialmente sottoporre volontariamente i modelli a revisione fino a 30 giorni prima del rilascio. Una volta che il sistema di valutazione si è dimostrato efficace, superare i suoi test potrebbe diventare un requisito per il dispiegamento di modelli di frontiera negli Stati Uniti.
Il corpo di valutazione all’inizio progetterebbe valutazioni in consultazione con le aziende di AI, ma alla fine svilupperebbe valutazioni indipendenti non divulgate – ciò che il saggio chiama test “ad occhi chiusi” – per evitare che i laboratori adattino i loro modelli alle valutazioni conosciute. Hassabis ha affermato che il quadro potrebbe essere “intensificato se la gravità della situazione lo richiedesse”, potenzialmente includendo un rallentamento coordinato tra gli sviluppatori di AI di frontiera.
I saggi arrivano mentre il dibattito sulla sicurezza del settore si sposta da dichiarazioni ampie di preoccupazione a proposte concrete per la divulgazione, alla verifica esterna e, se le garanzie dovessero essere superate, ai rallentamenti coordinati. Questa svolta si è accelerata questa settimana quando i leader del settore hanno avallato elementi dell’appello del CEO di Anthropic Dario Amodei per “gestire” lo sviluppo dell’AI di frontiera.
Quando acquisti tramite i link nei nostri articoli, possiamo guadagnare una piccola commissione. Questo non influisce sulla nostra indipendenza editoriale.
