Google elimina le panoramiche AI per specifiche ricerche mediche, cambiando l’approccio informativo.
Pubblicato il da Ignazio Aragona - Tecnologia
Google rimuove le AI Overviews per domande sulla salute
Dopo un’inchiesta del Guardian che ha evidenziato come le panoramiche fornite dall’AI di Google offrissero informazioni fuorvianti in risposta a determinate domande legate alla salute, l’azienda sembra aver rimosso queste panoramiche per alcune di queste query.
Ad esempio, il Guardian ha inizialmente riportato che quando gli utenti chiedevano “qual è il valore normale per i test del fegato”, venivano presentati numeri che non consideravano fattori come nazionalità, sesso, etnia o età. Questo poteva indurre gli utenti a credere che i loro risultati fossero sani, anche quando non era così.
Recentemente, il Guardian ha evidenziato che le panoramiche AI sono state rimosse dai risultati per domande come “qual è il valore normale per i test del fegato” e “qual è il valore normale per i test della funzionalità epatica”. Tuttavia, la testata ha trovato che varianti di queste query, come “valore di riferimento LFT” o “riferimento del test LFT”, potrebbero ancora generare riassunti basati sull’AI.
Impatti sulla ricerca e risposte dell’azienda
Questa mattina, ho provato a lanciare quelle query — diverse ore dopo la pubblicazione dell’articolo del Guardian — e nessuna di esse ha restiuito le panoramiche AI. Google ha comunque offerto l’opzione di chiedere la stessa query in modalità AI. In alcuni casi, il risultato principale era proprio l’articolo del Guardian riguardo alla rimozione delle panoramiche AI.
Un portavoce di Google ha dichiarato al Guardian che l’azienda non “commenta sulle rimozioni individuali all’interno di Search”, ma continua a lavorare per “effettuare miglioramenti ampi”. Il portavoce ha anche evidenziato come un team interno di clinici abbia revisionato le query messe in evidenza dal Guardian, riscontrando che “in molte occasioni, le informazioni non erano inaccurate e erano supportate da siti web di alta qualità”.
TechCrunch ha contattato Google per ulteriori commenti su questa situazione. Nell’anno passato, l’azienda ha annunciato nuove funzionalità volte a migliorare Google Search per casi d’uso legati alla salute, comprese panoramiche migliorate e modelli AI focalizzati sulla salute.
Reazioni e osservazioni sulla situazione
Vanessa Hebditch, direttrice delle comunicazioni e delle politiche presso il British Liver Trust, ha affermato al Guardian che la rimozione delle panoramiche AI è “un’ottima notizia”, ma ha aggiunto: “La nostra preoccupazione in merito è che stiamo esaminando un singolo risultato di ricerca e Google può semplicemente disattivare le panoramiche AI per questo, ma non affronta il problema più grande delle panoramiche AI per la salute”.
È chiaro che le preoccupazioni sulle informazioni sanitarie fornite dalle AI non si limitano a pochi risultati errati. I dati sulla salute possono influenzare le decisioni individuali e collettive, da comportamenti di prevenzione a scelte terapeutiche. Pertanto, è fondamentale che le piattaforme tecnologiche, come Google, garantiscano che le informazioni fornite siano accurate e contestualizzate.
Il dibattito su come le AI possono essere utilizzate in modo responsabile nel campo della salute è solo all’inizio. Le informazioni sbagliate possono facilmente portare a conseguenze serie e, per questo motivo, è cruciale che ci sia una vigilanza continua e sforzi attivi per migliorare l’accuratezza delle risposte fornite da questi strumenti.
Riferimenti ufficiali sull’argomento possono essere consultati direttamente presso il sito del [Guardian](https://www.theguardian.com) e su [TechCrunch](https://www.techcrunch.com) per ulteriori aggiornamenti riguardo alle nuove funzionalità di Google e ai cambiamenti nelle politiche relative all’AI applicata alla salute.
Non perderti tutte le notizie di tecnologia su Blog.it