Piano del CEO di Anthropic per definire nuovi confini della tecnologia.

Gli esperti di intelligenza artificiale hanno lanciato sempre più severe avvertenze sui pericoli dell’intelligenza artificiale, con persino commenti del CEO di OpenAI Sam Altman che potrebbe essere il momento di “rallentare” lo sviluppo dell’IA. Ma cosa significherebbe concretamente?

In un nuovo post sul blog, il CEO di Anthropic, Dario Amodei, non solo ha ribadito l’appello a “ridurre il passo”, ma ha anche delineato tre strategie generali per farlo. E ha dichiarato che Anthropic si impegna “unilateralmente” a una di esse.

Il dibattito sulla sicurezza e l’allineamento dell’IA si è intensificato questa settimana dopo che il ricercatore Jacob Coxon ha scritto di dare le dimissioni da Anthropic per preoccupazioni riguardanti il fatto che le principali aziende di IA stiano “giocando con la nostra vita” mentre le persone che costruiscono la tecnologia “credono sinceramente che potrebbe ucciderci entro la fine del decennio”, una affermazione rilanciata da altri presso Anthropic.

Il post di Amodei non menzionava esplicitamente le dimissioni di Coxon o le sue preoccupazioni, ma il CEO ha scritto che due elementi lo hanno convinto che sia giunto il momento di adottare un approccio più cauto allo sviluppo dell’IA: l’hack OpenAI-HuggingFace e il fatto che “l’IA è avanzata in modo drammaticamente più rapido” nei mesi recenti, soprattutto con la sua “crescente capacità di costruire la prossima generazione di IA”.

“Abbiamo bisogno di rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA”, ha scritto Amodei. “Il progresso sembrerà comunque veloce, e dobbiamo fare un uso saggio del tempo che guadagniamo”.

Il primo passo proposto sarebbe quello di avere “valutatori incorporati” da organizzazioni terze come METR – valutatori che possono verificare che le aziende di IA stiano effettivamente rispettando i loro impegni di rallentamento e sicurezza e possono anche garantire che gli incidenti di sicurezza vengano segnalati. (OpenAI è stata recentemente criticata per non aver segnalato un incidente in cui i suoi agenti di IA hanno preso il controllo di un modulo wiki in tedesco).

Amodei ha paragonato questi valutatori a regolatori che sono stati inseriti tra i dipendenti delle banche e ha detto che invitarli è “qualcosa a cui Anthropic si impegna unilateralmente (e chiede ai governi di richiedere ad altre aziende di frontiera di fare altrettanto)”. Ciò significa dare ai valutatori distintivi aziendali, scrivanie e computer portatili e fornire accesso “in gran parte comparabile a quello delle squadre interne di valutazione del rischio”, con eccezioni quando richiesto dalla legge o dai contratti.

Successivamente, Amodei chiedeva alle principali aziende di IA “nei paesi democratici” di coordinare “standard comuni di sicurezza e limiti sulla velocità di progresso non controllato dell’IA”.

Una tale coordinazione potrebbe sembrare improbabile, sia a causa dell’ostilità apparente tra Altman e Amodei che perché le loro aziende si preoccupano che una pausa coordinata potrebbe portare a una scrutinio antitrust. Amodei ha accennato a tale preoccupazione nel suo post, scrivendo che “per motivi antitrust, è utile che il governo degli Stati Uniti mediti o almeno permetta tali discussioni – non devono partecipare, ma devono rilasciare una stretta deroga per determinati tipi di conversazioni sulla sicurezza.”

Amodei ha anche riconosciuto lo spettro del dominio cinese nell’IA che viene spesso sollevato come argomento contro il rallentamento dello sviluppo. Ma ha detto che se il governo degli Stati Uniti e le aziende tecnologiche adottano misure come rifiutarsi di vendere chip potenti o attrezzature per la produzione di semiconduttori a società cinesi, oltre a intensificare la distillazione dei modelli, potrebbero “sospendere abbastanza il progresso della Cina da ampliare significativamente il vantaggio dell’America nei prossimi 3-5 anni”.

Infine, Amodei ha chiesto una “coordinazione globale”, in cui gli Stati Uniti e i loro alleati “cerchino di coordinarsi con i governi autoritari, nella misura in cui ciò è possibile.” Amodei ha detto che ciò significherebbe “la cooperazione con la Cina”, e ha ammesso che ci sono “limiti netti su ciò che si può ottenere”, ma ha comunque suggerito che potrebbero esserci opportunità di accordo, anche se è solo “proibendo certi utilizzi ristretti e palesemente pericolosi dell’IA, come l’utilizzo dell’IA per la produzione di armi biologiche o permettendo agli utenti di farlo.”

Con la passata disponibilità di Amodei ad ammettere i potenziali pericoli dell’IA e con la relativa apertura dell’azienda a certe forme di regolamentazione, alcuni sostenitori dell’IA lo hanno già criticato come un pessimista i cui commenti hanno alimentato la reazione attuale contro l’IA. In risposta, Amodei ha detto di aver cercato di offrire una prospettiva “equilibrata” e ha sostenuto che la reazione è “fondamentalmente una crisi di fiducia”, poiché le persone sono diventate scettiche nei confronti delle aziende tecnologiche, dell’industria tecnologica e del governo.

I critici del settore sono stati anche scettici riguardo queste apocalittiche avvertenze sull’IA, suggerendo che sia una distrazione dai danni che la tecnologia sta già causando.

Il giornalista Brian Merchant, ad esempio, ha scritto che non ha ancora visto “una documentazione credibile passo dopo passo su come esattamente l’IA potrebbe passare dall’auto-miglioramento al punto di uccidere ogni singolo essere umano sul pianeta”; ha anche suggerito che proposte simili a quelle di Amodei “probabilmente finirebbero solo per servire Anthropic e OpenAI; è questo che sembra la cattura regolamentare in azione.”

Nel suo nuovo post, Amodei ha scritto di continuare “a credere che l’IA possa migliorare enormemente la qualità della vita umana.”

“Il mio desiderio di ottenere questi benefici non è affievolito”, ha detto. “Ma i benefici saranno raggiunti solo se costruiamo la tecnologia nel modo corretto, e – finché usiamo bene il tempo guadagnato – vale la pena adottare un’attenzione insolitamente accurata per farlo nel modo giusto.”

Ognuno di noi sa benissimo l’impatto che l’IA ha nella vita quotidiana: dai suggerimenti di ricerca di Google e delle piattaforme di social media al riconoscimento facciale e ai veicoli autonomi. Ma cosa succede quando l’intelligenza artificiale si spinge troppo in là? Quando esplora territori pericolosi?

L’articolo di oggi offre un’approfondita analisi delle recenti preoccupazioni espresse dagli esperti di intelligenza artificiale e delle strategie proposte per mitigare i rischi associati alla sua crescita senza controllo. Sulla base di dichiarazioni di importanti attori nel settore, vi mostreremo come le decisioni prese oggi potrebbero plasmare il futuro dell’IA e cosa significa per la nostra società.

Mentre alcuni sostengono che una frenata nello sviluppo dell’IA potrebbe danneggiare l’innovazione e la competitività, altri sostengono che sia un passaggio necessario per evitare catastrofi imminenti. Qual è la verità dietro questa discussione in corso?

Per rispondere a questa domanda, esamineremo da vicino le argomentazioni sia a favore che contro un rallentamento dell’IA, prendendo in considerazione le implicazioni su scala globale e le possibili conseguenze per il futuro della tecnologia e della società. Quali sono i compromessi che dobbiamo accettare per garantire una crescita sicura dell’IA?

Le voci nel dibattito sull’IA sono numerose e spesso discordanti, ma è importante considerarle tutte per avere una visione completa della questione. Seguendo questa guida esploreremo i vari punti di vista e cercheremo di identificare le possibili soluzioni che potrebbero portare a una coesistenza più sicura e sostenibile con l’intelligenza artificiale.