Il costo della fede nell’AI: il pensiero di Karen Hao sull’era dell’AGI.
“Questi sono i sistemi di IA di cui abbiamo bisogno”, ha sottolineato Hao. “AlphaFold non crea crisi di salute mentale, né porta a danni ambientali colossali, perché è addestrato su infrastrutture significativamente meno esigenti.”
In parallelo a questo impegno quasi religioso verso l’AGI, è emersa anche una narrazione sull’importanza di vincere la corsa all’IA contro la Cina, che dovrebbe produrre effetti liberatori nel mondo. “È accaduto esattamente il contrario”, ha affermato Hao. “Il divario tra Stati Uniti e Cina continua a ridursi e la Silicon Valley ha avuto un effetto illiberale sul mondo.”
Molti sosterranno che OpenAI e altre aziende di IA abbiano effettivamente beneficiato l’umanità attraverso il rilascio di ChatGPT e di altri modelli di linguaggio, promettendo ingenti guadagni in produttività automatizzando compiti quali programmazione, scrittura, ricerca e assistenza clienti. Tuttavia, la struttura ibrida di OpenAI, che è sia no-profit che a scopo di lucro, rende complicata la definizione e la misurazione del suo impatto sull’umanità. Questa ambiguità si accentua ulteriormente nel momento in cui OpenAI ha stretto un accordo con Microsoft che la avvicina a un eventuale debutto pubblico.
Di fronte a questa situazione, ex ricercatori della sicurezza di OpenAI hanno manifestato preoccupazioni sull’inevitabile confusione tra le sue missioni no-profit e a scopo di lucro, sollevando interrogativi sui veri benefici per l’umanità.
“Anche quando le evidenze si accumulano, dimostrando che ciò che stanno costruendo sta danneggiando significative quantità di persone, la missione continua a mascherare tutto ciò”, ha concluso Hao, richiamando l’attenzione sui pericoli di una missione così coinvolgente da perdere il contatto con la realtà.
Fonti ufficiali:
Non perderti tutte le notizie di tecnologia su Blog.it
About The Author
