OpenAI e Microsoft sapevano di avviare un “cerchio vizioso” per il web: titolo trovato!

Documenti giudiziari resi pubblici di recente nel caso del New York Times contro OpenAI e Microsoft sono decisamente compromettenti. La documentazione stessa delle aziende avvertiva che si stava iniziando un “anello del destino” che avrebbe danneggiato il web, caratterizzava lo scraping dei dati per addestrare i modelli come il “più grande furto di lavoro nella storia dell’umanità” e che faceva una “completa presa in giro dell’idea di uso lecito”.

Molte delle citazioni più sorprendenti provengono dal Direttore della Scienza Applicata di Microsoft, Brent Hecht. Tuttavia, l’azienda ha cercato di dissociarsi dalle affermazioni di Hecht. Il portavoce di Microsoft Alex Haurek ha detto a The Verge che “Questi commenti riflettono il punto di vista individuale di un dipendente, non sono un’analisi legale e non rappresentano le opinioni dell’azienda”.

In una registrazione separata, Jordan Usdan, GM per la Strategia dei Dati e Operazioni presso Microsoft AI, ha caratterizzato il ruolo di Hecht come avversario. Ha dichiarato che Hecht “ha opinioni divergenti, accademiche e orientate al futuro su come dovrebbero funzionare gli ecosistemi di dati per l’IA ed è impiegato in Microsoft per portare punti di vista asimmetrici, futuristici e accademici… né è qualcuno che parla specificamente per Microsoft riguardo alle sue opinioni teoriche sull’effetto potenziale dell’IA sui creatori di contenuti”.

Ma che Microsoft voglia o meno essere associata a questi commenti, è chiaro che questo si è avverato. Google Zero è reale! L’IA sta divorando il web!

Ci sono molte altre affermazioni stravaganti nel documento del NYT da parte di vari personaggi, tra cui Satya Nadella, Sam Altman e altri dipendenti di OpenAI. Ecco alcuni degli highlights delle 92 pagine del documento.

“Un furto sorprendente”

L’introduzione cita Hecht e il responsabile di ChatGPT di OpenAI (presumibilmente Nick Turley) in un modo che sembra mostrare che le aziende sapevano di rappresentare una “minaccia esistenziale” per editori come il New York Times. Hecht definisce il raccoglimento dei dati da ChatGPT e Copilot come il “più grande furto di lavoro nella storia dell’umanità” e afferma che la difesa di Microsoft fa una “completa presa in giro dell’idea di ‘uso lecito'”.

Satya Nadella ammette che i chatbot hanno sostanzialmente sostituito la ricerca e rimosso la necessità di andare direttamente alla fonte per informazioni. Ma forse ancora più compromettente è un documento interno di Microsoft che afferma: “La nostra strategia di contenuto per l’IA ha avviato un ‘anello del destino’ che danneggerà le prestazioni dei nostri modelli e l’intero web contemporaneamente: è altamente insolito che un prodotto finale minacci le fondamenta economiche dei propri fornitori essenziali, ma è la situazione che abbiamo creato per il nostro business LLM con il suo ‘catena di approvvigionamento di contenuti'”.

Questo non è nemmeno un dato reale

Non lasciarti ingannare dalle affermazioni di OpenAI o Microsoft sull’intento altruistico. Il cofondatore di OpenAI Greg Brockman è più interessato ai “gazillions” di dollari che potrebbe potenzialmente guadagnare attraverso l’IA commerciale.

Nonostante Nadella sia successivamente citato dicendo che “qualsiasi cosa sia a pagamento dovrebbe essere concessa in licenza”, un rappresentante di OpenAI ha ammesso di essere “ignaro” di qualunque sforzo per individuare o rimuovere contenuti a pagamento dai dati di addestramento.

“Incredibilmente bravo a rigurgitare”

Internamente, sembra che OpenAI fosse ben consapevole dell’inclinazione di ChatGPT a semplicemente riprodurre materiale protetto da copyright “verbatim”. Anche se riconosceva che la “prevenzione della memorizzazione” era importante per “ridurre al minimo le violazioni del copyright”, i dipendenti hanno ammesso che il GPT-4 “ha memorizzato un sacco di dati e quindi sarà incredibilmente bravo a rigurgitare”.

La denuncia prosegue citando diversi esempi di ChatGPT che produce lunghe stringhe di copia direttamente da articoli del Times, Mercury News, The Denver Post, LifeHacker e Eurogamer in risposta a domande.

“Assorbendo tutto il loro lavoro”

Microsoft sapeva come il suo raccogliere di massa di dati dal web sarebbe stato percepito e ha ammesso che “quasi nessuno aveva intenzione che il contenuto che avevano creato fosse utilizzato in questo modo, né venivano compensati per il suo utilizzo”.

“Un sostituto per il lavoro delle persone”

Il Direttore della Politica di OpenAI Jack Clark aveva visto il futuro, affermando che si stavano “creando sistemi che sostituiscono il lavoro delle persone che definiscono la ‘cultura’ della società”. Documenti interni descrivevano ChatGPT come “il moderno chiosco delle notizie”. Nick Turley di OpenAI ha successivamente dichiarato che una volta ottenuta una risposta dal suo chatbot, non c’è “nessuna buona ragione per cliccare” su un link per la fonte.

Distruggendo la propria catena di approvvigionamento

Microsoft ammetteva che “i LLM sono un prodotto che distrugge la propria catena di approvvigionamento” perché è un surrogato dei propri dati di addestramento in molti casi.

OpenAI sa di essere alla base della riduzione del traffico di referral

Gli esperti interni di media ed economia di OpenAI attribuivano la diminuzione del traffico di referral per siti come il Times direttamente agli riassunti AI come quelli di Google. Hanno speculato che i referral di ricerca possano essere diminuiti fino al 60 percento.

Il portavoce di Microsoft, Haurek, ha avvertito che “la testimonianza di Satya e la posizione di Microsoft in questo caso sono perfettamente coerenti. Ha parlato di principi ampi e dei cambiamenti in corso su come le persone trovano e consumano informazioni. Queste osservazioni non dovrebbero essere confuse con conclusioni su questioni di copyright davanti al Tribunale, che Microsoft affronta nei suoi documenti”.

Ma sembra piuttosto evidente, basandosi su questo documento appena reso pubblico, che sia Microsoft che OpenAI sapevano che avrebbero irrimediabilmente danneggiato l’industria dell’editoria, i “milioni di persone” che impiega e, di conseguenza, danneggiato il proprio prodotto, ma hanno proceduto comunque alla ricerca di “gazillions” di dollari – dunque che la sconfitta del “doppio anello del destino” era inevitabile.