Ceo di Anthropic: il backlash dell’IA è essenzialmente una crisi di fiducia.
Pubblicato il da Ignazio Aragona - Tecnologia
Il CEO di Anthropic, Dario Amodei, ha recentemente risposto alle critiche riguardo alla sua visione dell’intelligenza artificiale, sottolineando che non sta facendo previsioni eccessivamente pessimistiche.
Risposte alle Critiche su AI
Le osservazioni di Amodei sono arrivate in risposta all’investitore Gavin Baker, il quale ha sostenuto, sia nel podcast All-In che su X, che gli avvertimenti di Amodei sui pericoli dell’AI hanno alimentato una reazione negativa negli Stati Uniti, specialmente contro i data center. Baker ha affermato che Amodei ha “perso l’argomento” in merito alla regolamentazione dell’AI, citando la richiesta di alcune norme da parte di Anthropic, incluso un progetto di legge in California che impone requisiti di trasparenza per le grandi aziende di AI.
Baker ha anche espresso preoccupazione sul fatto che, dato il suo imminente ruolo di CEO di una delle aziende più importanti al mondo, Amodei dovrebbe promuovere un messaggio più positivo riguardo la sua industria. Nella sua analisi, Baker non è l’unico a suggerire che il cinismo nei confronti dell’AI e le eventuali reazioni governative siano risposte naturali alle preoccupazioni espresse da alcuni leader del settore.
In risposta, Amodei ha contestato l’idea che la sua comunicazione sia stata sproporzionatamente negativa. Ha sostenuto che i suoi scritti trattano i rischi e i vantaggi dell’AI in modo equilibrato. Ha anche menzionato il suo saggio “Machines of Loving Grace”, dichiarando che è stato scritto perché non sentiva che l’industria dell’AI stesse presentando una visione ispiratrice di come questa tecnologia potesse trasformare il mondo in meglio.
Le Preoccupazioni del Pubblico
Amodei ha riconosciuto che “il pubblico ha una visione negativa dell’AI” e ha concordato sul fatto che “questo è un grande problema”. Ciò che ha contestato è l’idea che questa negatività sia “principalmente causata” dalle sue preoccupazioni o da quelle di altri leader nel campo dell’AI. Egli ha spiegato: “Penso che sia fondamentalmente una crisi di fiducia. La gente comune non si fida delle aziende, dei governi o dell’industria tecnologica e sospetta sempre che stiamo cercando di ingannarla.”
La questione della “fiducia” è un tema ricorrente anche nelle dichiarazioni del CEO di OpenAI, Sam Altman, e sembra essere un problema condiviso tra i leader dell’industria dell’AI, compreso Amodei. Quella che Amodei considera una crisi strutturale si è sviluppata nel corso di decenni, e la reazione contro l’AI rappresenta l’ultima manifestazione di questa problematica.
Secondo Amodei, la critica principale che ricevono le aziende di AI, incluso Anthropic, è che non hanno ancora mantenuto le loro promesse di apportare benefici reali al mondo. “Questa è completamente nostra responsabilità e penso che sia la critica che dovrebbe essere sollevata, piuttosto che quelle sulle nostre comunicazioni e marketing”, ha affermato.
Regolamentazione e Potere Aziendale
Per quanto riguarda la regolamentazione, Amodei ha argomentato che Baker stia proponendo una “falsa scelta” tra una diffusione dell’AI senza regolamentazione e la concentrazione della tecnologia nelle mani di poche aziende attraverso normative. “So che c’è un linguaggio tipico della Silicon Valley dove regolamentazione = cattura normativa = concentrazione di potere, ma ho sempre trovato questa visione eccessivamente semplificata”, ha affermato.
Amodei ha aggiunto di non essere schierato in modo assoluto neppure con questa visione, ma ha evidenziato che per questo motivo Anthropic ha sempre formulato le proprie proposte politiche con grande attenzione. “Cerchiamo di fare proposte che svantaggino le aziende di AI all’avanguardia, mentre avvantaggiamo i concorrenti più piccoli”, ha spiegato.
Perché fare tali proposte? Amodei ha chiarito che, a suo avviso, “l’AI tende strutturalmente a concentrare il potere” e che anche le aperture verso modelli a pesi aperti aiutano, ma non rappresentano una soluzione sufficiente poiché spostano essenzialmente la concentrazione verso chi dispone delle maggiori risorse computazionali e hardware.
“Credo che le giuste ‘regole del gioco’ possano simultaneamente (a) affrontare i rischi cibernetici/bio/di allineamento dell’AI, (b) limitare istituzionalmente il potere delle aziende di AI all’avanguardia, e (c) lasciare spazio per i modelli a pesi aperti affrontando anche i rischi specifici che essi comportano”.
Questo post è stato aggiornato per includere ulteriori citazioni dai messaggi di Amodei, compresi quelli relativi ai pesi aperti.
Per approfondimenti, puoi consultare le fonti ufficiali di Anthropic e dei resoconti di Gavin Baker attraverso i loro canali ufficiali.
Non perderti tutte le notizie di tecnologia su Blog.it