Dario Amodei di Anthropic: favorevoli ai modelli open-weight, preoccupati per l’AI cinese.

Timori di Amodei riguardo agli sviluppi dell’AI

Riportando le sue preoccupazioni, Amodei ha spiegato di avere timori di lunga data riguardo all’AI, ma le imprese che utilizzano modelli open-weight, anche quelli cinesi, non fanno parte di tali paure. La sua vera preoccupazione riguarda i “governi autoritari” che potrebbero sviluppare modelli più potenti di quelli statunitensi per raggiungere una “superiorità militare permanente” o per reprimere i propri cittadini. Ha avvertito che il Partito Comunista Cinese (PCC) non è l’unico governo autoritario che lo preoccupa, ma è di certo il “più capace”.

Amodei ha anche avanzato l’idea che l’AI potrebbe facilitare “attacchi biologici” e non solo attacchi informatici. Secondo il suo punto di vista, i modelli open-weight sono più pericolosi in questi scenari perché è difficile applicare misure di sicurezza o monitorare il loro utilizzo. Ha citato un rapporto dell’AI Security Institute del Regno Unito, secondo cui una volta rilasciati, i modelli open-weight non possono essere rimossi dal mercato.