Il dilemma dell’identità dietro i poco allettanti menu generati dall’IA. Ottimizzato per Google Discover.

Quando ti succede per la prima volta, pensi di essere pazzo. Sbuchi in un caffè e guardi un menu con una varietà di panini con bagel, ma ogni illustrazione sembra perfettamente simmetrica e sorprendentemente liscia, suscitando una sensazione viscerale che qualcosa non va. Potresti pensare di essere paranoico, ma non stai perdendo la testa. I menu generati dall’intelligenza artificiale hanno invaso il settore della ristorazione grazie a modelli addestrati su un’estetica stretta e “piacevole” che sembra sbagliata anche quando non riesci ad esprimere il motivo.

A volte, queste illustrazioni sono eccessivamente finte, come un burrito con formaggio così bollosamente fuso che sembra più un’opera d’arte avanguardista che un pranzo. Più spesso, sembrano così ordinari che ti accorgi che c’è qualcosa di sbagliato solo quando guardi più da vicino.

“È quasi come se un alieno cercasse di fare una pizza senza capire i suoi principi fondamentali”, ha detto Alex Lisle, CTO di Reality Defender, a TechCrunch. (Reality Defender fa parte di una crescente categoria di start-up che vendono strumenti di rilevamento e verifica del contenuto basati sull’IA, un’attività che esiste in parte a causa di problemi come questo.)

Lisle afferma che il modo in cui sono costruiti questi modelli può spiegare perché le illustrazioni sembrano abbracciare un’estetica così specifica, in cui ogni pallina di gelato è perfettamente rotonda e dove i gamberi sembrano essere stati geneticamente modificati per mangiare le proprie code, creando nuovi “orrori alimentari lovecraftiani”.

I modelli di linguaggio su larga scala (LLMs) e i modelli di diffusione, i tipi di modelli di intelligenza artificiale che rendono possibili i chatbot apparentemente onniscienti e generatori di immagini come ChatGPT e Midjourney, vengono addestrati su vaste quantità di dati. I modelli identificano poi i pattern nei dataset per prevedere cosa sta cercando un utente quando chiede qualcosa del genere: “Fammi un menu per un ristorante di hamburger”.

“Molte di queste cose sembrano un menu di Chili’s del 2015, e c’è una ragione per questo”, ha detto Lisle. “Quel era il corpus di lavoro da cui [i modelli] attingevano.”

I nuovi dati di addestramento sono preziosi per le aziende che costruiscono modelli di intelligenza artificiale: Amazon è stata addirittura trovata a cercare libri rari da scansionare e aggiungere ai suoi dati di addestramento, solo per distruggere quei libri una volta che sono stati caricati. È inevitabile che una certa quantità di contenuto generato dall’IA si insinui in questi dataset incomprese…
—