Chi decide cosa comunica l’IA? Le riflessioni di Campbell Brown di Meta.
Pubblicato il da Ignazio Aragona - Tecnologia
Campbell Brown ha dedicato la sua carriera alla ricerca di informazioni accurate, prima come rinomata giornalista televisiva e poi come primo e unico responsabile delle notizie di Facebook. Oggi, osservando come l’intelligenza artificiale stia cambiando il modo in cui le persone consumano informazioni, teme che la storia possa ripetersi. Questa volta, però, non intende aspettare che qualcun altro intervenga.
Forum AI: La Visione di Campbell Brown
La sua azienda, Forum AI, è stata discussa di recente con Tim Fernholz di TechCrunch durante un evento StrictlyVC a San Francisco. Forum AI valuta le prestazioni dei modelli di fondazione su quello che Brown definisce “argomenti ad alto rischio” — geopolitica, salute mentale, finanza, assunzioni — temi per i quali non esistono risposte semplici e dirette, ma aree complesse e sfumate.
L’idea è di individuare i massimi esperti mondiali, farli progettare delle metriche di riferimento e addestrare giudici AI per valutare i modelli su vasta scala. Per il lavoro di Forum AI sulla geopolitica, Brown ha reclutato esperti come Niall Ferguson, Fareed Zakaria, l’ex Segretario di Stato Tony Blinken, l’ex Presidente della Camera Kevin McCarthy e Anne Neuberger, che ha guidato la cybersicurezza nell’amministrazione Obama. L’obiettivo è che i giudici AI raggiungano circa il 90% di consenso con questi esperti umani, una soglia che Brown afferma sia stata già raggiunta da Forum AI.
Un Futuro da Ridefinire
Brown riporta l’origine di Forum AI, fondata 17 mesi fa a New York, a un momento specifico. “Ero a Meta quando ChatGPT è stato rilasciato pubblicamente,” ha ricordato, “e mi sono resa conto quasi subito che questo sarebbe stato il canale attraverso cui tutte le informazioni sarebbero passate. E non sono affatto buone.” Le implicazioni per i suoi figli hanno reso quel momento quasi esistenziale. “I miei figli diventeranno molto ignoranti se non troviamo un modo per risolvere questo problema,” ha pensato.
Quello che la frustrava di più era che l’accuratezza non sembrava essere una priorità per nessuno. Le aziende che sviluppano modelli di fondazione, ha spiegato, sono “estremamente focalizzate su codifica e matematica,” mentre notizie e informazioni sono più complesse. Ma questa complessità, sostiene, non significa che possa essere trascurata.
Infatti, quando Forum AI ha iniziato a valutare i modelli più rinomati, i risultati non erano affatto incoraggianti. Ha citato Gemini, che traeva informazioni da siti web del Partito Comunista Cinese “per storie non correlate alla Cina,” e ha notato un bias politico di sinistra presente in quasi tutti i modelli. Ci sono anche fallimenti più sottili, come la mancanza di contesto, di prospettive e l’uso di argomenti frivoli senza riconoscimento. “C’è molta strada da fare,” ha dichiarato. “Ma penso anche che ci siano alcune soluzioni molto semplici che migliorerebbero enormemente i risultati.”
Brown ha trascorso anni a Facebook osservando cosa succede quando una piattaforma ottimizza per il fattore sbagliato. “Abbiamo fallito in molte delle cose che abbiamo provato,” ha detto a Fernholz. Il programma di verifica dei fatti che ha costruito non esiste più. La lezione, anche se i social media hanno ignorato questo aspetto, è che ottimizzare per l’engagement ha avuto effetti negativi sulla società, lasciando molte persone meno informate.
La sua speranza è che l’IA possa interrompere questo ciclo. “In questo momento potrebbe andare in entrambi i modi,” ha affermato; le aziende potrebbero dare agli utenti ciò che vogliono, oppure “fornire ciò che è reale, onesto e veritiero.” Ha riconosciuto che la versione idealistica di questa affermazione — un’IA che ottimizza per la verità — potrebbe apparire ingenua. Ma crede che le aziende possano essere l’alleato inaspettato in questo contesto. Le aziende che utilizzano l’IA per decisioni di credito, prestiti, assicurazioni e assunzioni sono preoccupate per la responsabilità e “vorranno ottimizzare per il risultato corretto.”
Questa domanda del settore è anche su cui Forum AI sta scommettendo, sebbene trasformare l’interesse per la conformità in entrate costanti resti una sfida, specialmente considerando che gran parte del mercato attuale è ancora soddisfatta di audit superficiali e metriche standardizzate che Brown considera inadeguate.
Brown — il cui servizio ha raccolto lo scorso autunno 3 milioni di dollari guidati da Lerer Hippeau — è in una posizione unica per descrivere il divario tra l’immagine che l’industria dell’IA ha di sé e la realtà per la maggior parte degli utenti. “Sentiamo dai leader delle grandi aziende tecnologiche che ‘questa tecnologia cambierà il mondo,’ ‘ti farà perdere il lavoro,’ ‘curerà il cancro,’” ha affermato. “Ma per una persona normale che sta solo usando un chatbot per porre domande di base, continua a ricevere molte informazioni imprecise.”
La fiducia nell’IA è estremamente bassa, e Brown ritiene che tale scetticismo sia, in molti casi, giustificato. “La conversazione sta avvenendo nella Silicon Valley attorno a un argomento, mentre un’altra conversazione del tutto differente sta avvenendo tra i consumatori.”
Per ulteriori approfondimenti, consulta le fonti ufficiali su TechCrunch e Forum AI.
Non perderti tutte le notizie di tecnologia su Blog.it