La comunità di fanfiction si scontra con l’IA e con le proprie divisioni interne.
Pubblicato il da Ignazio Aragona - Tecnologia
Nasce un Movimento contro l’uso di AI nella Fanfiction
Negli ultimi giorni, un nuovo movimento di fan è emerso per contrastare l’uso di intelligenza artificiale (AI) nella scrittura di fanfiction. Questo nuovo approccio mira a identificare gli autori che utilizzano AI generativa, ma le modalità di rilevamento sollevano molteplici interrogativi. Scrittori di fanfiction si trovano a rischio di venire coinvolti in una vera e propria caccia alle streghe, in una comunità che sta discutendo animatamente dell’argomento.
Metodi di Rilevamento e le Loro Limitazioni
La crescente avversione nei confronti di strumenti come Claude e ChatGPT è ormai evidente nelle comunità creative, inclusa quella della fanfiction. Autori e lettori si sono scambiati suggerimenti per identificare opere presuntivamente generate da AI, facendo riferimento a dettagli stilistici come l’uso di trattini em o il concetto di “purple prose”. Il 29 giugno, un account anonimo su X, chiamato @heatedrivalryai, ha presentato una soluzione apparente. Si tratta di una skin per il popolare archivio di fanfiction, Archive of Our Own (AO3), che promette di identificare i segni lasciati dall’AI di Claude.
Quando un testo generato da Claude viene incollato direttamente in AO3, spiega l’account, il testo si presenta con un codice specifico. Questo codice fa sì che lo sfondo del documento diventi rosso, indicandone chiaramente l’origine. Nei test effettuati con questa skin, il mio schermo è diventato rosso quando ho utilizzato un racconto generato da Claude, confermando l’efficacia del sistema.
Molti utenti hanno pubblicato post sulla piattaforma AO3 per verificare la validità del sistema. Tuttavia, ci sono delle limitazioni. La skin rileva solo il codice se il testo è coperto direttamente da Claude, e quindi potrebbe non intercettare opere che sono state modificate in Google Docs o Microsoft Word. Alcuni autori hanno già aggiornato le loro opere per rimuovere gli elementi di AI, rendendo difficile il rilevamento per future opere.
D’altra parte, il sistema non indica quanto intensamente sia stata utilizzata l’AI in un’opera specifica. La schermata rossa potrebbe segnalare un testo completamente generato da AI oppure un semplice passaggio di frasi scritte a mano, usate solo per correzioni o traduzioni.
Impatto sulla Comunità di Fanfiction
Alcuni membri della comunità si sono scagliati contro gli autori che utilizzano intelligenza artificiale, considerandolo un tradimento nei confronti della creatività collettiva. Le preoccupazioni riguardano anche l’impatto ambientale di queste tecnologie, che si nutrono di contenuti prelevati da fonti aperte, incluse le fanfiction stesse. Nonostante l’attuale strumento di rilevamento abbia delle limitazioni, non è l’unico disponibile. Esistono altre piattaforme di pubblicazione e numerosi modelli di AI sul mercato.
Alcuni sviluppatori affermano di aver creato un codice che può rilevare l’uso di Claude, Deepseek e persino di ChatGPT, ma non ne hanno ancora rilasciato i dettagli al pubblico. Ho contattato Google e OpenAI per chiedere se i loro modelli lasciano tracce nel testo generato, ma non ho ricevuto risposta.
Un aspetto cruciale da considerare è che al momento non esiste un sistema di rilevamento universalmente affidabile. Ho osservato le problematiche del rilevamento dell’AI per qualche anno e non sembra esserci una soluzione tecnologica definitiva per differenziare i testi generati da AI da quelli scritti da mani umane. Tecnologie come C2PA Content Credentials e Google’s SynthID stanno facendo progressi nel rilevamento dell’AI in immagini e video, ma questi metodi non possono applicarsi al testo copiato e incollato.
Le aziende di AI hanno un forte incentivo a perseguire soluzioni interne per migliorare il rilevamento. Gli algoritmi iniziali sono stati formati su testi estratti indiscriminatamente da internet e un’incursione delle opere scritte dagli esseri umani potrebbe provocare un “collasso del modello”, compromettendo l’accuratezza dei risultati.
Attualmente, le comunità di fanfiction si affidano a intuizioni e segni di identificazione non ufficiali. Le opere non vengono spesso giudicate attraverso strumenti, ma piuttosto attraverso dettagli stilistici, come frasi tipiche che inducono a pensare a un uso eccessivo di metafore o strutture ripetitive. È importante ricordare che anche i testi generati da AI riflettono lo stile di scrittura umana su cui sono stati addestrati.
Il miglior strumento a disposizione per distinguere le opere generate da AI su AO3 è già presente: il sistema di tagging del sito. Esiste un tag “Creato utilizzando AI Generativa”, e molti autori lo usano per indicare l’uso di strumenti come Claude. Questa trasparenza è fondamentale, ma è minacciata dalla paura delle ripercussioni negative all’interno della comunità.
Questa situazione ha portato alcuni scrittori innocenti a essere vittime della caccia alle streghe, soprattutto quando il loro materiale è stato modificato usando AI da parte di editor fidati. Se il prossimo racconto che leggerete vi sembra un po’ meccanico, tenete a mente che potrebbe non essere frutto dell’intelligenza artificiale, ma di un processo di scrittura umano influenzato da risorse digitali.
Fonti ufficiali:
Non perderti tutte le notizie di tecnologia su Blog.it