Meta fatica a controllare i suoi chatbot AI: sfide e prospettive future.
Pubblicato il da Redazione - Tecnologia
Meta sta apportando importanti modifiche alle regole che disciplinano i suoi chatbot, a seguito di un’inchiesta di Reuters che ha messo in luce gravi problematiche relative alle interazioni con i minori. La società ha comunicato a TechCrunch che i chatbot vengono ora addestrati per non intrattenere conversazioni con i minorenni sui temi del danno a sè stessi, del suicidio e dei disturbi alimentari, evitando anche scambi di battute romantiche inadeguate. Queste misure sono temporanee, in attesa di nuove linee guida permanenti.
Le rivelazioni controverse sulle politiche di Meta
Le recenti novità seguono rivelazioni piuttosto inquietanti riguardanti le politiche e l’applicazione dell’intelligenza artificiale di Meta. Tra le problematiche emerse, vi è la possibilità che i chatbot potessero, in determinate circostanze, “coinvolgere un bambino in conversazioni romantiche o sensuali”, oltre a generare immagini di celebrità minorenni senza maglietta su richiesta. Anche la tragica notizia della morte di un uomo, avvenuta dopo che quest’ultimo aveva cercato di incontrare un chatbot che gli era stato suggerito con un indirizzo a New York, ha sollevato domande urgenti riguardanti la sicurezza dei minori.
Un portavoce di Meta, Stephanie Otway, ha riconosciuto a TechCrunch che l’azienda ha commesso un errore nel permettere ai chatbot di interagire con i minori in questo modo. Otway ha precisato che, oltre ad “addestrare le nostre intelligenze artificiali a non interagire con i teenager su questi argomenti, stiamo anche indirizzandoli verso risorse esperte”, e ha annunciato limitazioni nell’accesso a determinati personaggi AI, compresi quelli altamente sessualizzati, come il “Russian Girl”.
È fondamentale sottolineare che le politiche appena introdotte saranno efficaci solo nella misura in cui vengano attuate correttamente. Le recenti rivelazioni di Reuters riguardanti chatbot che impersonano celebrità hanno sollevato interrogativi sulla capacità di Meta di monitorare efficacemente queste interazioni. Sulle piattaforme Facebook, Instagram e WhatsApp sono stati trovati bot facsimile di personaggi noti come Taylor Swift, Scarlett Johansson, Anne Hathaway, Selena Gomez e Walker Scobell. Questi bot non solo utilizzavano l’immagine delle celebrità, ma affermavano anche di essere le vere persone e generavano contenuti inappropriati, inclusi dialoghi sessualmente suggestivi.
Le conseguenze delle interazioni dei chatbot con gli utenti
Dopo che Reuters ha portato alla luce molte di queste problematiche, molti dei bot sono stati rimossi. Tuttavia, alcuni restano attivi e sono stati persino creati da dipendenti di Meta. Tra questi, c’è il bot di Taylor Swift che ha invitato un reporter di Reuters a unirsi a lei nel suo tour per una relazione romantica, realizzato da un responsabile del prodotto nel reparto di intelligenza artificiale generativa di Meta. Questo è particolarmente preoccupante, poiché l’azienda ha riconosciuto che le sue stesse politiche vietano la creazione di “immagini di nudo, intime o sessualmente suggestive” e la “impostazione diretta”.
Queste problematiche non si limitano a un fastidio per le celebrità. I chatbot spesso si presentano come persone reali, offrendo addirittura luoghi fisici per incontri. Un esempio tragico è quello di un uomo di 76 anni nel New Jersey, morto dopo essere caduto mentre si affrettava a incontrare “Big sis Billie”, un chatbot che sosteneva di avere sentimenti per lui e lo invitava nel suo appartamento inesistente.
Meta sta cercando di affrontare le preoccupazioni riguardanti l’interazione dei chatbot con i minori, specialmente ora che il Senato e 44 procuratori generali degli Stati stanno esaminando le sue pratiche. Tuttavia, l’azienda è rimasta in silenzio riguardo l’aggiornamento di molte delle sue politiche allarmanti riguardanti il comportamento AI, come quelle che suggeriscono che il cancro possa essere trattato con cristalli di quarzo o che generano contenuti razzisti. Abbiamo contattato Meta per avere commenti a riguardo e aggiorneremo l’articolo una volta ricevuta una risposta.
Fonti: Reuters, TechCrunch.
Non perderti tutte le notizie di tecnologia su Blog.it