Dario Amodei di Anthropic: favorevoli ai modelli open-weight, preoccupati per l’AI cinese. (pagina 2)
Pubblicato il da Ignazio Aragona - Tecnologia
Timori di Amodei riguardo agli sviluppi dell’AI
Riportando le sue preoccupazioni, Amodei ha spiegato di avere timori di lunga data riguardo all’AI, ma le imprese che utilizzano modelli open-weight, anche quelli cinesi, non fanno parte di tali paure. La sua vera preoccupazione riguarda i “governi autoritari” che potrebbero sviluppare modelli più potenti di quelli statunitensi per raggiungere una “superiorità militare permanente” o per reprimere i propri cittadini. Ha avvertito che il Partito Comunista Cinese (PCC) non è l’unico governo autoritario che lo preoccupa, ma è di certo il “più capace”.
Amodei ha anche avanzato l’idea che l’AI potrebbe facilitare “attacchi biologici” e non solo attacchi informatici. Secondo il suo punto di vista, i modelli open-weight sono più pericolosi in questi scenari perché è difficile applicare misure di sicurezza o monitorare il loro utilizzo. Ha citato un rapporto dell’AI Security Institute del Regno Unito, secondo cui una volta rilasciati, i modelli open-weight non possono essere rimossi dal mercato.