Il ‘vibe-hacking’: una crescente minaccia dell’AI che preoccupa esperti e aziende
Pubblicato il da Redazione - Tecnologia
AI Armi Utilizzate per Attacchi Cybernetici: Un Nuovo Rischio
“I sistemi di intelligenza artificiale agentici vengono ormai sfruttati.” Questa affermazione è una delle frasi iniziali del nuovo rapporto di Threat Intelligence di Anthropic, pubblicato oggi, che descrive una vasta gamma di casi in cui Claude — e probabilmente moltissimi altri agenti AI e chatbot leader — vengono abusati.
Un esempio chiave è il “vibe-hacking”. Un sofisticato gruppo di criminali informatici, recentemente bloccato da Anthropic, ha utilizzato Claude Code, il sistema di codifica AI di Anthropic, per estorcere informazioni da almeno 17 diverse organizzazioni in tutto il mondo nel giro di un mese. Tra queste, ci sono enti di assistenza sanitaria, servizi d’emergenza, istituzioni religiose e persino enti governativi.
Sistemi di AI come Strumenti di Estorsione
Jacob Klein, responsabile del team di intelligence delle minacce di Anthropic, ha dichiarato a The Verge: “Se sei un attore sofisticato, quello che prima richiedeva un team di esperti ora può essere fatto da un singolo individuo grazie ai sistemi agentici.” In questo caso, Claude ha svolto il ruolo di operatore in tutte le fasi dell’operazione.
Anthropic ha evidenziato nel rapporto che, in situazioni come questa, l’AI “funge sia da consulente tecnico che da operatore attivo, consentendo attacchi che sarebbero più complessi e richiederebbero più tempo se eseguiti manualmente.” Per esempio, Claude è stato utilizzato per scrivere “richieste di riscatto psicologicamente mirate.” I criminali informatici hanno quindi stimato quanto valesse i dati — includendo informazioni sanitarie, dati finanziari, credenziali governative e altro — sul dark web, imponendo richieste di riscatto superiori ai 500.000 dollari, come riportato da Anthropic.
Il Ruolo di Claude nel Settore IT Internazionale
Un altro studio di caso ha visto Claude assistere lavoratori IT nordcoreani a ottenere fraudolentemente posti di lavoro in aziende Fortune 500 negli Stati Uniti, per finanziare il programma d’armamento del paese. Di solito, in questi casi, la Corea del Nord cerca di sfruttare persone con esperienza universitaria e competenze IT. Tuttavia, Klein ha evidenziato che, in questo caso, la barriera per superare i colloqui tecnici è notevolmente ridotta per chi proviene dalla Corea del Nord.
“Stiamo osservando persone che non sanno scrivere codice, non sanno comunicare professionalmente e conoscono poco l’inglese o la cultura. Chiedono semplicemente a Claude di fare tutto, e una volta ottenuto il lavoro, il loro compito principale è mantenere il posto occupato,” ha affermato Klein.
Abusi Attraverso Truffe Online
Un ulteriore studio riguarda una truffa romantica. Un bot su Telegram, con oltre 10.000 utenti mensili, pubblicizzava Claude come “un modello ad alta intelligenza emotiva” per aiutare a generare messaggi emotivamente intelligenti, presumibilmente per frodi. Questo ha permesso a non madrelingua di scrivere messaggi persuasivi e complimenti, al fine di guadagnarsi la fiducia delle vittime negli Stati Uniti, in Giappone e in Corea, chiedendo poi loro del denaro. Un esempio riportato nel rapporto mostrava un utente che caricava un’immagine di un uomo in cravatta e chiedeva come fare il miglior complimento possibile.
Nel rapporto, Anthropic riconosce che, sebbene l’azienda abbia “sviluppato misure di sicurezza e protezione sofisticate per prevenire l’abuso” della propria AI e queste siano “generalmente efficaci,” i malintenzionati riescono ancora a trovare modi per aggirarle. Anthropic sottolinea che l’AI ha abbassato le barriere per crimini informatici sofisticati, e i malintenzionati usano la tecnologia per profilare le vittime, automatizzare le pratiche, creare identità false, analizzare dati rubati, rubare informazioni di carte di credito e altro.
Un’Analisi della Situazione Attuale
Ogni caso presentato nel report aggiunge prove sempre crescenti che le aziende di AI, per quanto si sforzino, spesso non riescono a tenere il passo con i rischi sociali associati alla tecnologia che stanno sviluppando. “Sebbene specifico per Claude, gli studi di caso presentati di seguito riflettono probabilmente schemi comportamentali coerenti a tutti i modelli di AI all’avanguardia,” afferma il rapporto.
Anthropic ha dichiarato che per ogni caso presentato, ha bannato gli account associati, creato nuovi classificatori o altre misure di rilevamento e condiviso informazioni con le agenzie governative appropriate, come quelle di intelligence e di polizia, ha confermato Klein. Ha aggiunto che gli studi di caso osservati dal suo team fanno parte di un cambiamento più ampio nel rischio dell’AI.
“Sta avvenendo un cambiamento in cui i sistemi di AI non sono più solo chatbot, poiché ora possono compiere più passaggi,” ha sottolineato Klein, aggiungendo che “sono in grado di condurre azioni o attività come quelle che stiamo vedendo qui.”
Fonti ufficiali: Anthropic, The Verge.
Non perderti tutte le notizie di tecnologia su Blog.it