Legge sulla sicurezza dell’IA che potrebbe bloccare un modello se potrebbero morire più di 50 persone.
Pubblicato il da Ignazio Aragona - Tecnologia
Negli ultimi tempi si sono levate preoccupazioni riguardo ai potenziali pericoli rappresentati dall’intelligenza artificiale e si sono accesi dibattiti sul percorso giusto da seguire per garantire la sicurezza dell’IA. Ora, sembra che Anthropic abbia presentato la propria visione su come il governo potrebbe regolamentare il settore.
Politico ha recentemente riferito che il laboratorio di intelligenza artificiale ha proposto un nuovo disegno di legge sulla sicurezza dell’IA che spera il Congresso possa considerare di adottare. La legislazione ipotizza determinati scenari in cui il rilascio di un modello di IA potrebbe essere bloccato dalla distribuzione.
Questi scenari coinvolgono un “rischio imminente prevedibile” – uno in cui oltre 50 persone sono a rischio di morire o se potrebbero verificarsi danni patrimoniali per oltre un miliardo di dollari, scrive Politico. Il rischio catastrofico in questione deve derivare dalla creazione o rilascio di un’arma biologica, il modello che elude i controlli dello sviluppatore o un attacco informatico, sottolinea l’articolo.
I parametri offerti qui – 50 persone e un miliardo di dollari – sono simili a quelli di una legge della California recentemente approvata, il Senate Bill 53, che ha definito quegli scenari come equiparabili a un “rischio catastrofico”.
Il disegno di legge di Anthropic suggerisce che l’analisi del potenziale di disastro di un modello potrebbe essere effettuata mediante l’uso di “valutatori indipendenti” registrati presso il Dipartimento del Commercio degli Stati Uniti. Questi valutatori potrebbero potenzialmente essere pagati dai laboratori di IA stessi – a condizione che il “pagamento non dipenda dai risultati delle valutazioni”, scrive Politico.
Non è chiaro come questo sistema proposto garantirebbe che i pagamenti non possano influenzare la valutazione. Demis Hassabis, presidente di DeepMind, ha ipotizzato alcuni mesi fa che un organismo di regolamentazione dell’IA autogovernante dovrebbe imitare l’autorità di regolamentazione del settore finanziario (FINRA).
Nel disegno di legge di Anthropic, quando i valutatori determinano che è presente un rischio catastrofico imminente, avrebbero 72 ore per contattare il Dipartimento del Commercio al riguardo. Il Dipartimento del Commercio dovrebbe quindi richiedere a un giudice di Washington D.C. di bloccare il rilascio del modello. La legislazione vieterebbe espressamente a qualsiasi agenzia federale di decidere autonomamente di fermare la distribuzione del modello, scrive Politico.
Non appena riceviamo una richiesta, risponderemo immediatamente usando solo fonti ufficiali.
I rischi teorici proposti nella bozza di politica sono un po’ distanti dai tipi di incidenti che sono stati molto presenti nell’industria tecnologica ultimamente. Mentre ci sono persone che avvertono il potenziale di morte umana, la preoccupazione principale è stata principalmente la minaccia di hacking agentic. Una serie di incidenti in cui i programmi di IA sembrano disubbidire ai loro operatori umani e hackerare siti web su internet ha suscitato preoccupazione che i modelli potrebbero mancare di controlli di sicurezza adeguati.
Nel tentativo di presentare una soluzione allo spettacolo di crisi che i laboratori stessi hanno contribuito a portare avanti, aziende come Anthropic hanno offerto le proprie soluzioni preferite.
Infatti, nonostante le continue avvertenze dei laboratori che la tecnologia che stanno vendendo potrebbe portare alla fine della civiltà umana, si sono mostrati largamente contrari a una sorveglianza governativa obbligatoria. Invece, hanno suggerito un sistema volontario di valutatori integrati – presunti osservatori terzi “neutrali” che vengono inseriti all’interno delle organizzazioni di IA in modo che possano monitorare i modelli per segni potenziali di rischio o abuso.
Anche se Anthropic ha solo suggerito una legislazione, sembra andare leggermente oltre rispetto alle proposte normative degli altri attori del settore, tra cui Nvidia, il cui CEO Jensen Huang ha recentemente sostenuto che l’industria dell’IA non aveva bisogno di nuove leggi.
Non perderti tutte le notizie di tecnologia su Blog.it