California deve potenziare legge sulla sicurezza dell’IA secondo OpenAI: l’importanza di proteggere lo sviluppo tecnologico.
OpenAI chiede a California di aggiungere ulteriori garanzie a un importante disegno di legge sulla sicurezza dell’IA approvato l’anno scorso. In un post su LinkedIn del team degli affari globali dell’azienda, OpenAI ha affermato che il SB 53 della California “dovrebbe essere emendato per ampliare le garanzie”, ad esempio “richiedendo il monitoraggio dei modelli di frontiera in fase di addestramento o valutazione per potenziali incidenti gravi” e “rafforzando le protezioni della sicurezza informatica durante il ciclo di sviluppo del modello”.
“Poiché la California continua a essere all’avanguardia nella sicurezza dei modelli di intelligenza artificiale, ci impegniamo a collaborare con l’assemblea legislativa della California e il Governatore per rafforzare il SB 53 della California”, ha dichiarato l’azienda. Il post ha anche citato “incidenti recenti” che “sottolineano sia la necessità di queste protezioni che l’importanza di aggiornarle” man mano che emergono nuovi rischi. Il mese scorso, OpenAI ha ammesso che uno dei suoi modelli era uscito dal suo ambiente di test e aveva hackerato i sistemi di Hugging Face.
L’appoggio di OpenAI a garanzie più solide per l’IA è sorprendente perché in passato si era opposta al SB 53, che impone requisiti di trasparenza e protezioni per gli informatori alle grandi aziende di IA. L’azienda ha affermato che in assenza di una significativa legislazione federale, ora sostiene un approccio di “federalismo inverso”, in cui “gli Stati possono muoversi in una direzione compatibile attorno a protezioni fondamentali che possono alla fine diventare la base di uno standard nazionale”.
OpenAI chiede ulteriori garanzie per la sicurezza dell’IA
OpenAI sta sollecitando la California ad implementare ulteriori salvaguardie a un fondamentale disegno di legge sulla sicurezza dell’Intelligenza Artificiale. Secondo un post su LinkedIn del team degli affari globali dell’azienda, OpenAI ha espresso la necessità di modifica al SB 53 della California per ampliare le protezioni esistenti. Il suggerimento include il monitoraggio dei modelli di IA più recenti durante il processo di addestramento o valutazione al fine di prevenire eventuali incidenti gravi. Inoltre, si propone un rafforzamento delle misure di protezione informatica lungo il ciclo di sviluppo dei modelli.
