Il dilemma dell’identità dietro i poco allettanti menu generati dall’IA. Ottimizzato per Google Discover.
Pubblicato il da Ignazio Aragona - Tecnologia
Quando ti succede per la prima volta, pensi di essere pazzo. Sbuchi in un caffè e guardi un menu con una varietà di panini con bagel, ma ogni illustrazione sembra perfettamente simmetrica e sorprendentemente liscia, suscitando una sensazione viscerale che qualcosa non va. Potresti pensare di essere paranoico, ma non stai perdendo la testa. I menu generati dall’intelligenza artificiale hanno invaso il settore della ristorazione grazie a modelli addestrati su un’estetica stretta e “piacevole” che sembra sbagliata anche quando non riesci ad esprimere il motivo.
A volte, queste illustrazioni sono eccessivamente finte, come un burrito con formaggio così bollosamente fuso che sembra più un’opera d’arte avanguardista che un pranzo. Più spesso, sembrano così ordinari che ti accorgi che c’è qualcosa di sbagliato solo quando guardi più da vicino.
“È quasi come se un alieno cercasse di fare una pizza senza capire i suoi principi fondamentali”, ha detto Alex Lisle, CTO di Reality Defender, a TechCrunch. (Reality Defender fa parte di una crescente categoria di start-up che vendono strumenti di rilevamento e verifica del contenuto basati sull’IA, un’attività che esiste in parte a causa di problemi come questo.)
Lisle afferma che il modo in cui sono costruiti questi modelli può spiegare perché le illustrazioni sembrano abbracciare un’estetica così specifica, in cui ogni pallina di gelato è perfettamente rotonda e dove i gamberi sembrano essere stati geneticamente modificati per mangiare le proprie code, creando nuovi “orrori alimentari lovecraftiani”.
I modelli di linguaggio su larga scala (LLMs) e i modelli di diffusione, i tipi di modelli di intelligenza artificiale che rendono possibili i chatbot apparentemente onniscienti e generatori di immagini come ChatGPT e Midjourney, vengono addestrati su vaste quantità di dati. I modelli identificano poi i pattern nei dataset per prevedere cosa sta cercando un utente quando chiede qualcosa del genere: “Fammi un menu per un ristorante di hamburger”.
“Molte di queste cose sembrano un menu di Chili’s del 2015, e c’è una ragione per questo”, ha detto Lisle. “Quel era il corpus di lavoro da cui [i modelli] attingevano.”
I nuovi dati di addestramento sono preziosi per le aziende che costruiscono modelli di intelligenza artificiale: Amazon è stata addirittura trovata a cercare libri rari da scansionare e aggiungere ai suoi dati di addestramento, solo per distruggere quei libri una volta che sono stati caricati. È inevitabile che una certa quantità di contenuto generato dall’IA si insinui in questi dataset incomprese…
—
dibilmente grandi. Ma quando i modelli di intelligenza artificiale si addestrano su troppo del proprio contenuto generato dall’IA, corrono il rischio di crollare.
“Un crollo del modello è quasi come una malattia della mucca pazza… quando si nutrono gli output di un modello direttamente in esso stesso, alla fine l’inbreeding diventa troppo e l’intero meccanismo collassa”, ha spiegato Lisle. “Quello che vediamo qui è convenienza, che non è necessariamente un crollo del modello.”
La convergenza è un po’ meno estrema, degradando la qualità degli output di un’intelligenza artificiale senza renderla del tutto inutile.
Se qualcuno chiede a un modello di intelligenza artificiale di generare un menu per un ristorante fast food, il modello probabilmente farà riferimento ai menu di Wendy’s, Burger King, McDonald’s o un’altra catena popolare. Questi menu condividono già uno stile simile, il che significa che gli output generati dall’IA imiteranno lo stesso stile, solo per rafforzarlo ulteriormente se il menu generato dall’AI finisce di nuovo nei dati di addestramento.
Ma i menu e le pubblicità per il cibo sembreranno sempre migliori rispetto alla realtà, come un Big Mac in un…
—
annuncio di McDonald’s in cui ogni strato del panino è disposto da un designer di scenografie per apparire massimamente appetitoso. Questo effetto può diventare ancora più evidente negli output dell’IA.
“L’ottimizzazione dei set di dati è per piacevolezza, o per evitare di essere offensivi, e così si trasforma in omologazione,” ha detto Lee Rainie, Direttore dell’Imagining the Digital Future Center presso l’Università di Elon, a TechCrunch. “Quello che l’IA è nota per fare sia nelle immagini che nel linguaggio è tagliare i margini.”
Su una scala più localizzata, questa liscia delle immagini sembra avvenire quando si utilizza un generatore di immagini basato sull’IA per creare un menu e apportarvi modifiche. Su X, un utente di nome Labtec ha mostrato cosa succede quando si crea un menu in ChatGPT, quindi lo si modifica 100 volte per vedere come il cibo continui a sembrare sempre meno come dovrebbe. (Abbiamo replicato l’esperimento e trovato risultati simili.)
“Il risultato finale mi mette a disagio”, ha scritto Labtec.
I ristoranti —
probabilmente stanno cadendo vittima di questo problema, rivedendo i loro menu generati dall’IA per modificare piccoli dettagli una e un’altra volta, come i prezzi o i nomi degli elementi. Sembra che con ogni modifica, le immagini del cibo diventino un po’ più rotonde e lisce.
“Le persone hanno quasi una sensazione inspiegabile quando si trovano di fronte a qualcosa di generato dall’IA, rispetto a qualcosa che era reale in origine,” ha detto Rainie. “C’è semplicemente una sensibilità che le persone trovano a volte difficile da esprimere, ma la riconoscono quando la vedono e credo che questo sia uno dei motivi per cui alcune delle prime storie sulla reazione (nei confronti dei ristoranti che utilizzano menu generati dall’IA) sono così evidenti”.
C’è una spiegazione scientifica dietro la nostra avversione a questi menu generati dall’IA. I ricercatori dell’Università di Duisburg-Essen, in Germania, hanno scoperto che le immagini di cibo generate dall’IA mostrano un effetto “vallata inquietante”, in cui le immagini di cibo che sembravano quasi reali suscitavano più disgusto e inquietudine rispetto a immagini ovviamente finte. Questo senso di disagio si intensifica alla luce del contesto culturale intorno all’IA.
Se le persone reagiscono così negativamente a queste immagini, questo è probabilmente motivo sufficiente per i ristoranti di smettere di cercare di far funzionare i menu generati dall’IA. Ma i problemi che ci portano a hamburger con panini perfettamente dorati si estendono oltre la tavola.
“Vedere e sentire è sempre stato un modo per credere, al punto che persino il nostro sistema giudiziario è interamente orientato all’idea che lo standard d’oro delle prove siano le confessioni registrate e le prove video,” ha detto Lisle. “Questo non è più il caso. Il mondo è fondamentalmente cambiato, per il bene o per il male.”
Quando acquisti tramite i link nei nostri articoli, possiamo guadagnare una piccola commissione. Questo non influisce sulla nostra indipendenza editoriale.
Non perderti tutte le notizie di tecnologia su Blog.it