Il governo ha fermato l’IA più potente di Anthropic dopo avvisi di sicurezza.
Il Governo degli Stati Uniti Interrompe l’Accesso ai Modelli AI di Anthropic
Il governo degli Stati Uniti ha emesso un’ordinanza venerdì, costringendo Anthropic a disabilitare immediatamente l’accesso ai suoi due modelli di intelligenza artificiale più avanzati, Claude Fable 5 e Claude Mythos 5, per motivi di sicurezza nazionale. Anthropic ha comunicato su X di aver rispettato la richiesta, ma ha anche espresso la sua convinzione che l’autorità governativa abbia preso una decisione errata.
L’ordinanza, ricevuta da Anthropic venerdì alle 17:21 ET, obbliga l’azienda a disattivare entrambi i modelli per tutti gli utenti in tutto il mondo, non solo per i cittadini stranieri a cui era nominalmente rivolta l’ordinanza di controllo delle esportazioni. Tuttavia, l’accesso agli altri modelli di Anthropic non è stato compromesso.
L’Importanza di Mythos e Fable 5
La questione è di grande rilevanza poiché Mythos rappresenta il modello di AI più potente di Anthropic. Anticipato all’inizio di aprile, Mythos è rimasto fortemente riservato a causa delle sue eccezionali capacità di identificare vulnerabilità di sicurezza nel software. Secondo Anthropic, Mythos ha rilevato difetti in ogni sistema operativo e browser web testato. Invece di rilasciarlo pubblicamente, l’azienda ha avviato un programma controllato chiamato Project Glasswing, condividendolo con circa 50 organizzazioni selezionate, tra cui Amazon, Apple, Google, Microsoft e CrowdStrike, per lavorare sulla cybersecurity difensiva.
Fable 5, reso disponibile solo tre giorni fa, era la risposta di Anthropic alla crescente pressione commerciale. Si trattava di una versione di Mythos dotata di guardrail che impedivano risposte in aree ad alto rischio come la cybersecurity e la biologia, rendendolo sicuro per un rilascio pubblico. Secondo i test di benchmark di Vals AI, Fable 5 è diventato immediatamente il modello AI più capace a disposizione del pubblico.
L’ordinanza del governo è stata formalmente inquadrata come una misura di controllo delle esportazioni, limitando l’accesso ai modelli da parte di cittadini stranieri. Tuttavia, in un lungo post sul blog, Anthropic ha spiegato di ritenere che la preoccupazione principale risieda in una presunta “jailbreak” di Fable 5. Fino ad ora, sostiene l’azienda, il governo ha fornito solo prove verbali di una “potenziale jailbreak limitata e non universale”, che, come la descrive Anthropic, comporta indurre il modello a esaminare un codice specifico identificando difetti software. Inoltre, l’azienda sottolinea che tali capacità sono già ampiamente disponibili in altri modelli pubblicamente accessibili, come il GPT-5.5 di OpenAI, e vengono utilizzate regolarmente da professionisti della cybersecurity per scopi difensivi.
Anthropic sottolinea che i suoi sistemi di protezione più robusti operano attraverso sistemi di classificazione indipendenti, che funzionano separatamente dal modello stesso. Questo significa che, anche se qualcuno riesce a indurre Fable a continuare a rispondere oltre un rifiuto, le protezioni sottostanti contro gli output più pericolosi rimangono attive.
Chiaramente, nessuna di queste giustificazioni è stata sufficiente per fermare l’azione governativa, e Anthropic non ha nascosto la sua frustrazione. “Non siamo d’accordo sul fatto che la scoperta di una potenziale jailbreak limitata debba giustificare il richiamo di un modello commerciale distribuito a centinaia di milioni di persone”, ha dichiarato l’azienda. “Se questo standard venisse applicato a tutto il settore, crediamo che porterebbe a un arresto sostanziale di tutte le nuove distribuzioni di modelli da parte di tutti i fornitori di modelli innovativi.”
Metro in modo più ampio, Anthropic è attesa a perseguire un’IPO quest’anno e ha basato gran parte della sua identità pubblica sulla sua immagine di alternativa sicura rispetto ai concorrenti. È ironico che la stessa cautela mostrata da Anthropic nel limitare Mythos — pubblicizzato come un modello così pericoloso da non poter essere rilasciato pubblicamente — abbia ora attirato l’attenzione governativa che potrebbe minacciare il suo business.
Il fondatore di OpenAI, Sam Altman, potrebbe trarre piacere da questa situazione. Ad aprile, ha dichiarato al podcaster Ashlee Vance che la gestione di Mythos da parte di Anthropic equivaleva a “marketing basato sulla paura”. “È chiaramente un marketing incredibile dire: ‘Abbiamo costruito una bomba. Stiamo per lanciarla sulla vostra testa. Vi venderemo un rifugio antiaereo per 100 milioni di dollari'”, ha affermato Altman.
Per ulteriori informazioni ufficiali, visitare i siti web di Anthropic e OpenAI.
Non perderti tutte le notizie di tecnologia su Blog.it
About The Author
