Legge sulla sicurezza dell’IA che potrebbe bloccare un modello se potrebbero morire più di 50 persone. (pagina 2)

Pubblicato il 21 Ottobre 2026 da Ignazio Aragona - Tecnologia

I rischi teorici proposti nella bozza di politica sono un po’ distanti dai tipi di incidenti che sono stati molto presenti nell’industria tecnologica ultimamente. Mentre ci sono persone che avvertono il potenziale di morte umana, la preoccupazione principale è stata principalmente la minaccia di hacking agentic. Una serie di incidenti in cui i programmi di IA sembrano disubbidire ai loro operatori umani e hackerare siti web su internet ha suscitato preoccupazione che i modelli potrebbero mancare di controlli di sicurezza adeguati.

Nel tentativo di presentare una soluzione allo spettacolo di crisi che i laboratori stessi hanno contribuito a portare avanti, aziende come Anthropic hanno offerto le proprie soluzioni preferite.

Infatti, nonostante le continue avvertenze dei laboratori che la tecnologia che stanno vendendo potrebbe portare alla fine della civiltà umana, si sono mostrati largamente contrari a una sorveglianza governativa obbligatoria. Invece, hanno suggerito un sistema volontario di valutatori integrati – presunti osservatori terzi “neutrali” che vengono inseriti all’interno delle organizzazioni di IA in modo che possano monitorare i modelli per segni potenziali di rischio o abuso.

Anche se Anthropic ha solo suggerito una legislazione, sembra andare leggermente oltre rispetto alle proposte normative degli altri attori del settore, tra cui Nvidia, il cui CEO Jensen Huang ha recentemente sostenuto che l’industria dell’IA non aveva bisogno di nuove leggi.

Non perderti tutte le notizie di tecnologia su Blog.it