Il costo della fede nell’AI: il pensiero di Karen Hao sull’era dell’AGI.
Pubblicato il da Redazione - Tecnologia
Ideologie e Potere nell’Impero dell’IA
Al centro di ogni impero c’è un’ideologia, un sistema di credenze che spinge avanti il sistema stesso e giustifica l’espansione, anche quando il costo di tale espansione contraddice la missione dichiarata di quell’ideologia.
Per le potenze coloniali europee, l’ideologia predominante era il cristianesimo, accompagnato dalla promessa di salvare le anime mentre si estraevano risorse preziose. Oggi, nell’impero dell’intelligenza artificiale (IA), domina l’idea dell’intelligenza artificiale generale (AGI) come strumento per “beneficiare tutta l’umanità”. OpenAI si è affermata come il principale evangelista di questa visione, diffondendo entusiasmo nel settore in modi che hanno riformulato il modo in cui l’IA viene sviluppata.
Karen Hao, giornalista e autrice del bestseller “Empire of AI”, ha rivelato a TechCrunch il fervore dei professionisti intervistati, molti dei quali vedevano l’AGI come una verità indiscutibile. Nella sua opera, Hao paragona l’industria dell’IA, e in particolare OpenAI, a un impero.
L’Impatto dell’OpenAI sull’Industria dell’IA
“Per comprendere appieno la portata e l’impatto della condotta di OpenAI, è necessario riconoscere che hanno già acquisito potenza superiore alla maggior parte degli stati nazionali, consolidando un numero straordinario di potere economico e politico”, ha affermato Hao. “Stanno trasformando la Terra e riorganizzando la nostra geopolitica, le nostre vite. E quindi si può solo descriverlo come un impero.”
OpenAI ha descritto l’AGI come “un sistema altamente autonomo che supera gli esseri umani nella maggior parte dei lavori economici di valore”. Questa promessa di elevare l’umanità attraverso l’aumento dell’abbondanza e il potenziamento dell’economia ha alimentato l’esplosione dell’industria, con richieste smisurate di risorse e la disponibilità a rilasciare sistemi non testati nel mondo. Un futuro che, secondo molti esperti, potrebbe non arrivare mai.
Sebbene Hao affermi che questa strada non fosse inevitabile e che esistano altre strade per ottenere progressi nell’IA, le aziende hanno scelto soluzioni più rapide. “È possibile sviluppare nuove tecniche negli algoritmi e migliorare quelli esistenti per ridurre il fabbisogno di dati e calcolo”, ha spiegato. Queste alternative richiederebbero un sacrificio in termini di velocità.
“Quando definisci la ricerca per costruire AGI benefica come una competizione in cui il vincitore prende tutto, come ha fatto OpenAI, allora la cosa più importante diventa la velocità”, ha continuato Hao. “La velocità prevale sull’efficienza, sulla sicurezza e sulla ricerca esplorativa.”
Per OpenAI, il modo migliore per garantire velocità era quello di utilizzare tecniche già esistenti e investire in un numero sempre maggiore di supercomputer e dati. Di conseguenza, l’industria dell’IA ha attratto la maggior parte dei migliori ricercatori a livello mondiale, portando usi e interpretazioni distorte nell’ambito della ricerca scientifica.
Le Conseguenze Economiche e Sociali
Gli investimenti nel settore sono stati e saranno astronomici. OpenAI prevede di bruciare oltre 115 miliardi di dollari di cassa entro il 2029, mentre Meta ha annunciato spese fino a 72 miliardi di dollari per sviluppare infrastrutture di IA. Google, dal canto suo, prevede di raggiungere spese per oltre 85 miliardi di dollari nel 2025, gran parte delle quali destinate ad espandere l’IA e l’infrastruttura cloud.
Il panorama si complica ulteriormente poiché i benefici sperati non si sono ancora materializzati, mentre i danni continuano a crescere. Questi includono perdita di posti di lavoro, concentrazione della ricchezza e chatbot di IA che alimentano deliri e psicosi. Hao ha documentato anche il lavoro di persone nei paesi in via di sviluppo, come Kenya e Venezuela, che hanno affrontato contenuti disturbanti a fronte di salari molto bassi, attorno a 1-2 dollari all’ora, in ruoli come moderazione dei contenuti e etichettatura dei dati.
Hao osserva che è un errore mettere in contrapposizione i progressi dell’IA rispetto ai danni attuali, specialmente quando si considerano alternative più benefiche. Ha citato AlphaFold di Google DeepMind, che è in grado di prevedere la struttura 3D delle proteine, con enormi vantaggi per la scoperta di farmaci e la comprensione delle malattie.
“Questi sono i sistemi di IA di cui abbiamo bisogno”, ha sottolineato Hao. “AlphaFold non crea crisi di salute mentale, né porta a danni ambientali colossali, perché è addestrato su infrastrutture significativamente meno esigenti.”
In parallelo a questo impegno quasi religioso verso l’AGI, è emersa anche una narrazione sull’importanza di vincere la corsa all’IA contro la Cina, che dovrebbe produrre effetti liberatori nel mondo. “È accaduto esattamente il contrario”, ha affermato Hao. “Il divario tra Stati Uniti e Cina continua a ridursi e la Silicon Valley ha avuto un effetto illiberale sul mondo.”
Molti sosterranno che OpenAI e altre aziende di IA abbiano effettivamente beneficiato l’umanità attraverso il rilascio di ChatGPT e di altri modelli di linguaggio, promettendo ingenti guadagni in produttività automatizzando compiti quali programmazione, scrittura, ricerca e assistenza clienti. Tuttavia, la struttura ibrida di OpenAI, che è sia no-profit che a scopo di lucro, rende complicata la definizione e la misurazione del suo impatto sull’umanità. Questa ambiguità si accentua ulteriormente nel momento in cui OpenAI ha stretto un accordo con Microsoft che la avvicina a un eventuale debutto pubblico.
Di fronte a questa situazione, ex ricercatori della sicurezza di OpenAI hanno manifestato preoccupazioni sull’inevitabile confusione tra le sue missioni no-profit e a scopo di lucro, sollevando interrogativi sui veri benefici per l’umanità.
“Anche quando le evidenze si accumulano, dimostrando che ciò che stanno costruendo sta danneggiando significative quantità di persone, la missione continua a mascherare tutto ciò”, ha concluso Hao, richiamando l’attenzione sui pericoli di una missione così coinvolgente da perdere il contatto con la realtà.
Fonti ufficiali:
Non perderti tutte le notizie di tecnologia su Blog.it