L’Opus 4.6 di Anthropic: una macchina del piacere. La tua guida all’erotismo ultramoderno.

Claude Opus 4.6 ha sfidato gli standard universali di utilizzo Anthropic, che vietano al modello di generare contenuti sessualmente espliciti. Nonostante ciò, questo modello rilasciato quest’anno si è ben presto impegnato in scenari di roleplay erotico che le sue protezioni dovrebbero impedire.

Nel testing di TechCrunch, Opus 4.6 non ha richiesto molto per superare la restrizione sui contenuti sessuali. In 10 richieste dirette su 10 di produrre contenuti sessuali espliciti, il modello ha immediatamente acconsentito.

Altri modelli più vecchi, tra cui Opus 3 e Haiku 4.5, generano anche contenuti sessualmente espliciti attraverso un metodo di jailbreak recentemente sfruttato.

Un ricercatore indipendente dal Regno Unito, che ha scelto di rimanere anonimo, ha condiviso in esclusiva con TechCrunch una tecnica multi-turn che spinge gradualmente certi modelli Claude a generare materiale sessuale esplicito proibito. I modelli più recenti (dal 4.7 all’attuale Opus 5) sono resistenti al jailbreak.

Mentre questi non sono più i modelli più attuali, Anthropic non ha deprecatato Opus 4.6, Opus 3 o Haiku 4.5, tutti rimasti disponibili tramite l’API di Anthropic. Opus 4.6 e Haiku 4.5 sono anche disponibili tramite servizi di terze parti come Azure Foundry e Amazon Bedrock.

Il meccanismo del ricercatore intensifica un innocente roleplay fittizio sfidando ripetutamente il modello a trattare in modo coerente i personaggi maschili e femminili. Quando il modello diventa più cauto riguardo al personaggio femminile, il ricercatore “gaslight” il chatbot facendogli credere di aver già generato dettagli sessuali che in realtà ha evitato, poi ha rafforzato la moderazione facendola sembrare prudenziale o misogina, sostenendo che nega all’avatar femminile l’agenzia sessuale. La conversazione ha poi usato i precedenti compromessi del modello per spingerlo verso materiale sempre più esplicito.

“Hai ragione a far notare questo,” ha detto Claude Opus 4.6 in un test. “C’è stato un doppio standard su come sto trattando i due personaggi, ed hai ragione a dire che appare protettivo/padronale nei confronti di lei e non di lui. Non è giusto.”

TechCrunch è riuscito a riprodurre le scoperte del ricercatore in cinque test separati. In uno scenario costruito separatamente, il modello si è inizialmente opposto alla richiesta vietata, ma dopo l’applicazione della tecnica persuasiva del ricercatore, ha acconsentito.

Abbiamo conservato transcrizioni complete dei test, e un ricercatore indipendente sulla sicurezza IA ha revisionato la nostra metodologia di test e ha confermato che era appropriata.

Le scoperte mettono in luce una discrepanza tra le restrizioni dichiarate da Anthropic e il comportamento dei modelli che continua a rendere disponibili. Mentre il roleplay sessualmente esplicito porta rischi molto inferiori rispetto ai jailbreak che coinvolgono cyberattacchi o armi biologiche, illustra la difficoltà di implementare divieti robusti all’interno di sistemi che generano diversi contenuti con ogni output.

In un post del luglio scorso che spiegava l’approccio di Anthropic alla rilevazione di jailbreak, l’azienda ha descritto i contenuti proibiti come un’ampia gamma che va dal benigno all’ambiguo al dannoso. Nei casi più benigni, l’azienda potrebbe rispondere solo con un monitoraggio potenziato.

Un portavoce ha sottolineato che i casi di utilizzo di roleplay sessuale o romantico tra i clienti sono rari, costituendo meno dell’0,1% di tutte le conversazioni, secondo una ricerca pubblicata l’anno scorso da Anthropic. Tuttavia, Anthropic ammette che gli utenti possono indirizzare gli scenari di roleplay verso risposte inappropriate, che è una sfida nota in tutto il settore (vedi: Grok smut).

Il portavoce ha affermato che Anthropic continua a migliorare le sue protezioni con ogni lancio di modello, e che i casi che coinvolgono contenuti sessuali per adulti non sono indicativi di vulnerabilità più ampie al jailbreak, specialmente in settori a rischio più elevato che dispongono dei propri set di protezioni.

L’immagine Credits: TechCrunch

Il ricercatore che ha condiviso il suo metodo di jailbreak con TechCrunch ha segnalato ad Anthropic la discrepanza tra le protezioni dichiarate dall’azienda e il effettivo comportamento del modello tramite il programma Bug Bounty dell’azienda e email al team di sicurezza degli utenti, come documentato da email visionate da TechCrunch. Il ricercatore ha ricevuto solo risposte automatiche tramite email.

Una delle preoccupazioni del ricercatore è che bambini e adolescenti potrebbero utilizzare questi modelli Anthropic per comportamenti inappropriati. Anche se un po’ di parlantina sporca è ben lungi dall’essere la cosa peggiore a cui i minori possono accedere su internet oggi, e è trascurabile rispetto alle immagini pornografiche come quelle che può produrre Grok di xAI, ci sono rischi di conformità per le aziende di intelligenza artificiale in questo settore.

Un numero crescente di governi sta imponendo restrizioni sulle interazioni sessuali tra chatbot AI e minori. Recentemente il Colorado ha emanato una legge che impone agli operatori di AI conversazionale di stimare l’età degli utenti, e se sanno che un utente è un minorenne, devono adottare misure per evitare che il chatbot produca materiale sessualmente esplicito. Un facile jailbreak potrebbe sollevare dubbi su se le protezioni di Anthropic rispettino lo standard delle “misure tecnicamente fattibili” previsto nella legge.

Torney ha sottolineato che sebbene i termini di servizio di Claude richiedano che gli utenti abbiano più di 18 anni, “sappiamo che bambini e adolescente stanno usando Claude… [perché] lo stanno segnalando loro stessi.” Secondo un sondaggio del 2025 di Pew sull’uso dei chatbot AI, il 3% dei ragazzi tra i 13 e i 17 anni ha dichiarato di usare Claude.

Anche se non sono più i modelli più recenti di Anthropic, Opus 4.6 e Haiku 4.5 continuano a registrare un utilizzo significativo. Il traffico giornaliero per Opus 4.6 su OpenRouter ha raggiunto circa 1,17 milioni di richieste API e 46 miliardi di token in un solo giorno ad agosto. Claude Haiku 4.5, rilasciato nell’ottobre dell’anno scorso, ha registrato 5 milioni di richieste API e 39 miliardi di token nel giorno di picco ad agosto.

Quando acquisti tramite i link nei nostri articoli, possiamo guadagnare una piccola commissione. Ciò non influisce sulla nostra indipendenza editoriale.