Google consulta AI per fornire panoramiche su alcune ricerche mediche.

Pubblicato il da Ignazio Aragona - Tecnologia

Google consulta AI per fornire panoramiche su alcune ricerche mediche.

Ad inizio mese, il giornale britannico The Guardian ha pubblicato un’indagine che ha rivelato come Google stesse fornendo informazioni fuorvianti e completamente errate tramite le sue sintesi AI in risposta a specifiche domande mediche. A seguito di queste rivelazioni, sembra che tali risultati siano stati rimossi.

Informazioni Errate su Malattie Gravi

In un caso descritto dagli esperti come “veramente pericoloso”, Google avrebbe consigliato ai pazienti affetti da cancro al pancreas di evitare cibi ad alto contenuto di grassi. Gli esperti hanno affermato che questo consiglio era esattamente l’opposto di quello che si dovrebbe raccomandare, e che tale informazione potrebbe aumentare il rischio di mortalità dei pazienti affetti da questa malattia.

In un altro esempio “allarmante”, l’azienda ha fornito informazioni false su test fondamentali per la funzionalità epatica, il che potrebbe portare le persone con gravi malattie epatiche a credere erroneamente di essere in buona salute. Questi errori possono avere conseguenze devastanti per la vita dei pazienti coinvolti.

Fermi Recenti dell’Assistente Virtuale

A partire da questa mattina, le sintesi AI per domande come “qual è il range normale per i test del sangue epatici?” sono state disabilitate completamente. Google ha scelto di non commentare specificamente sulla rimozione delle informazioni errate, come riportato da The Guardian.

Il portavoce di Google, Davis Thompson, ha dichiarato a The Verge: “Investiamo significativamente nella qualità delle sintesi AI, in particolare per argomenti come la salute, e la stragrande maggioranza fornisce informazioni accurate. Il nostro team interno di clinici ha valutato quanto è stato condiviso con noi, scoprendo che, in molti casi, le informazioni non risultavano inesatte e erano supportate anche da siti web di alta qualità.”

Thompson ha aggiunto che “in casi dove le sintesi AI mancano di contesto, lavoriamo per apportare miglioramenti ampi e prendiamo anche provvedimenti secondo le nostre politiche quando appropriato”. È evidente che Google è consapevole dell’importanza di fornire informazioni affidabili, specialmente su temi delicati come la salute.

Questo episodio pone un interrogativo sulle responsabilità delle tecnologie che utilizzano intelligenza artificiale, specialmente quando si tratta di informazioni che possono impattare direttamente sulla vita delle persone. La cura nella revisione delle fonti e la verifica delle informazioni sono aspetti cruciali per garantire che gli utenti ricevano notizie accurate, soprattutto in settori sensibili come la salute.

Le conseguenze di tali errate informazioni possono essere fatali. È fondamentale quindi, per gli utenti, cercare sempre informazioni da fonti verificate. Fonti come il Ministero della Salute o l’Organizzazione Mondiale della Sanità possono fornire dati e raccomandazioni basate su evidenze scientifiche.

Non perderti tutte le notizie di tecnologia su Blog.it

Google consulta AI per fornire panoramiche su alcune ricerche mediche. - Blog.it - Notizie, Lifestyle, Gossip, Viaggi, Tech e molto altro