Dario Amodei di Anthropic: favorevoli ai modelli open-weight, preoccupati per l’AI cinese.

Pubblicato il da Ignazio Aragona - Tecnologia

Dario Amodei di Anthropic: favorevoli ai modelli open-weight, preoccupati per l’AI cinese.

Risposta di Dario Amodei sulle polemiche sui modelli AI open-weight

Il fondatore e CEO di Anthropic, Dario Amodei, ha risposto lunedì alle voci circolanti nel settore riguardo al presunto supporto della sua azienda a iniziative da parte del governo statunitense per vietare i modelli open-weight cinesi, o, più in generale, i modelli open-weight. Amodei ha chiarito: “Chiunque abbia letto i miei scritti precedenti dovrebbe sapere che non considero tali divieti misure utili. Dico questo in modo chiaro per evitare ogni dubbio: Anthropic non ha mai sostenuto un divieto sui modelli open-weight.”

La sua risposta è arrivata dopo che il CEO di Nvidia, Jensen Huang, ha condiviso su X (il suo primo post sulla piattaforma) una lettera aperta in cui Nvidia e una lunga lista di altre aziende AI, tra cui Hugging Face, Meta, Microsoft e Mistral, hanno esortato i politici a non imporre “restrizioni premature” sui modelli open-weight. Anche se la lettera non menzionava specificamente la Cina, il dibattito nella comunità tecnologica riguardava le accuse secondo cui i laboratori di intelligenza artificiale cinesi stanno crescendo in capacità spesso rubando proprietà intellettuale dai loro omologhi americani.

Uno dei metodi utilizzati sarebbe la distillazione, attraverso la quale un AI “bombarda” un altro modello con richieste per apprendere come funziona. Amodei ha specificato nel suo post che i modelli open-weight non pericolosi non rientrano nella minaccia che la Cina rappresenta. Ha affermato: “I modelli open-weight che non hanno capacità pericolose sono un bene comune: non costano nulla oltre alla potenza di calcolo necessaria per eseguirli, e forniscono valore a imprese, sviluppatori e ricercatori.”

Timori di Amodei riguardo agli sviluppi dell’AI

Riportando le sue preoccupazioni, Amodei ha spiegato di avere timori di lunga data riguardo all’AI, ma le imprese che utilizzano modelli open-weight, anche quelli cinesi, non fanno parte di tali paure. La sua vera preoccupazione riguarda i “governi autoritari” che potrebbero sviluppare modelli più potenti di quelli statunitensi per raggiungere una “superiorità militare permanente” o per reprimere i propri cittadini. Ha avvertito che il Partito Comunista Cinese (PCC) non è l’unico governo autoritario che lo preoccupa, ma è di certo il “più capace”.

Amodei ha anche avanzato l’idea che l’AI potrebbe facilitare “attacchi biologici” e non solo attacchi informatici. Secondo il suo punto di vista, i modelli open-weight sono più pericolosi in questi scenari perché è difficile applicare misure di sicurezza o monitorare il loro utilizzo. Ha citato un rapporto dell’AI Security Institute del Regno Unito, secondo cui una volta rilasciati, i modelli open-weight non possono essere rimossi dal mercato.

Questa posizione è in antitesi a quanto sostenuto dagli attivisti per il software open source, che affermano che l’accesso a modelli potenti non controllati da un’unica entità aiuti i difensori a proteggersi. Amodei ha elencato diverse azioni che crede possano fermare la Cina, tra cui limitare l’accesso a chip potenti (una politica statunitense di lungo corso) e chiedere una repressione formale della distillazione. Gli Stati Uniti hanno minacciato sanzioni contro la Cina se venisse accertato un furto di proprietà intellettuale riguardante modelli americani.

È interessante notare che Amodei ha anche dichiarato di sostenere gli sforzi per creare un’organizzazione per il test della sicurezza dei modelli, specie se il mondo intero, Cina compresa, accettasse di parteciparvi. “Credo che questa idea sia vicina a un consenso: sono incoraggiato dal fatto che l’amministrazione Trump si sia mossa in questa direzione negli ultimi mesi e dalle recenti proposte dell’industria che applicheranno tali test ai modelli più capaci, indipendentemente dal loro paese di origine o se siano open o closed (eccettuando i modelli meno capaci, come quelli di start-up e accademia, del tutto),” ha scritto.

“Da notare che, per essere efficaci,” ha aggiunto, “i test dovrebbero essere globali, il che significa che anche il PCC dovrebbe essere coinvolto. Credo che ciò possa essere possibile… una cooperazione limitata per prevenire armi biologiche AI potrebbe rivelarsi nell’interesse della Cina.”

Fonti ufficiali: Forbes, BBC News, The Verge.

Non perderti tutte le notizie di tecnologia su Blog.it

Dario Amodei di Anthropic: favorevoli ai modelli open-weight, preoccupati per l’AI cinese. - Blog.it - Notizie, Lifestyle, Gossip, Viaggi, Tech e molto altro