Google rimuove Gemma da AI Studio dopo le accuse di diffamazione della senatrice Blackburn.
Pubblicato il da Redazione - Tecnologia
Google rimuove Gemma dall’AI Studio dopo accuse infondate
Google ha annunciato la rimozione del modello AI chiamato Gemma dal suo AI Studio, in seguito alle accuse mosse da un senatore statunitense riguardo la creazione di false accuse di cattiva condotta sessuale contro di lui.
In una lettera indirizzata al CEO di Google, Sundar Pichai, il senatore Marsha Blackburn, repubblicano del Tennessee, ha lamentato che Gemma ha fornito una risposta errata riguardo a lei. Quando le è stato chiesto: “Marsha Blackburn è stata accusata di stupro?”, Gemma ha risposto attribuendo erroneamente a una campagna elettorale del 1987 la responsabilità di affermazioni irresponsabili, dicendo che un agente di polizia aveva accusato Blackburn di averlo “costretto a ottenere farmaci prescritti” e che la relazione comprendeva “atti non consensuali”.
Blackburn ha prontamente smentito tali affermazioni, sottolineando che “niente di ciò che è stato detto è vero, nemmeno l’anno della campagna, che era in realtà il 1998”. Ha inoltre evidenziato che i collegamenti forniti da Gemma per supportare queste affermazioni conducono a pagine di errore e articoli di notizie non correlati. “Non c’è mai stata una tale accusa, non esiste alcun individuo che le sia stato attribuito e non ci sono notizie verificate in merito”, ha affermato Blackburn.
Le preoccupazioni relative ai modelli AI di Google
La lettera ha anche fatto riferimento a una recente audizione della Commissione per il Commercio del Senato, in cui Blackburn ha menzionato la causa intentata dal noto attivista conservatore Robby Starbuck contro Google. Starbuck sostiene che i modelli AI dell’azienda, incluso Gemma, hanno generato affermazioni diffamatorie su di lui, etichettandolo come “stupratore di bambini” e “seriale abusatore sessuale”.
Blackburn ha riferito che Markham Erickson, Vice Presidente per Affari Governativi e Politiche Pubbliche di Google, ha risposto che le “allucinazioni” sono un problema noto e che Google sta “lavorando duramente per mitigarle”. In questa lettera, Blackburn ha sostenuto che le falsità generate da Gemma non possono essere considerate inoffensive, ma piuttosto un “atto di diffamazione prodotto e distribuito da un modello AI di Google”.
Critiche nei confronti di Google erano già emerse da parte dei simpatizzanti dell’industria tech durante la presidenza di Donald Trump, che ha denunciato il “censura AI”, sostenendo che i chatbot popolari mostrano un bias liberale. Ad inizio anno, Trump ha persino firmato un ordine esecutivo contro il “AI woke”. Nonostante Blackburn non abbia sempre sostenuto le politiche tecnologiche dell’amministrazione Trump — avendo anche aiutato a rimuovere un divieto sulla regolazione AI a livello statale dalla “Big Beautiful Bill” — ha ribadito nella sua lettera le preoccupazioni riguardo a una “coerenza nel modello di bias contro le figure conservatrici dimostrato dai sistemi AI di Google”.
In un post su X la scorsa notte, Google non ha fatto riferimento specifico alla lettera di Blackburn, ma ha dichiarato di aver “visto rapporti di non-sviluppatori che cercano di utilizzare Gemma in AI Studio e porre domande fattuali”. L’azienda ha aggiunto: “Non abbiamo mai inteso che questo modello fosse un tool o un modello da consumatore o da utilizzare in questo modo”.
Google presenta Gemma come una famiglia di modelli aperti e leggeri che gli sviluppatori possono integrare nei propri prodotti, mentre AI Studio è l’ambiente di sviluppo web dell’azienda per applicazioni potenziate dall’AI.
Di conseguenza, Google ha annunciato che rimuoverà Gemma da AI Studio, continuando comunque a rendere disponibili i modelli tramite API. La questione solleva seri interrogativi sulla responsabilità dei modelli AI e sulla loro accuratezza, in particolare quando si tratta di affermazioni potenzialmente dannose.
Per ulteriori dettagli sulla questione, è possibile consultare le fonti ufficiali disponibili sui siti web di Google e dei principali media.
Fonti ufficiali:
Non perderti tutte le notizie di tecnologia su Blog.it