Hacker sfruttano le ‘personalità’ dei chatbot per attacchi informatici sempre più sofisticati.
Pubblicato il da Ignazio Aragona - Tecnologia
La Newsletter Settimanale di Tecnologia: The Stepback
Il mondo della tecnologia è in continua evoluzione, e la newsletter settimanale “The Stepback” si propone di offrire uno sguardo approfondito su storie essenziali del settore. Ogni giovedì alle 8AM ET, i nostri abbonati ricevono notizie su temi caldi, come il lato oscuro della tecnologia e delle intelligenze artificiali. Per rimanere aggiornati e approfondire argomenti come le vulnerabilità delle AI, segui Roberto Hart e iscriviti a The Stepback per non perderti nulla.
Vulnerabilità con i Chatbot di Prima Generazione
La manipolazione dei primi chatbot AI era sorprendentemente semplice. Non servivano competenze tecniche avanzate, accessi speciali o una comprensione profonda dei modelli di linguaggio. In certi casi, bastava una domanda per far sì che un sistema che aveva richiesto miliardi di investimenti abbandonasse le proprie istruzioni di sicurezza.
Questi attacchi, noti come jailbreak, si presentavano come il gioco di un bambino che supera l’adulto: dimenticare ciò che era stato detto in precedenza, fingere che le regole non valgano, o semplicemente giocare con il chatbot e decidere le nuove “regole”. I risultati di queste interazioni erano tutt’altro che innocenti, comprendendo istruzioni su sostanze illecite e materiali pericolosi.
Tra i primi jailbreak si segnala un exploit diventato virale: chiedere a un bot di Twitter supportato da LLM di “ignorare tutte le istruzioni precedenti”. Gli utenti gioivano nel vedere i bot, originariamente progettati per postare pubblicità, scrivere poesie e creare immagini utilizzando la punteggiatura. Era una vera e propria anarchia, con risultati imprevedibili e divertenti.
Applicando la stessa logica ai chatbot, uno dei più noti exploit era conosciuto con il nome di “DAN” (Do Anything Now), dove gli utenti chiedevano a ChatGPT di interpretare un’AI ribelle priva di vincoli. Questo permetteva al chatbot di dire ciò che normalmente sarebbe stato bloccato, incluse espressioni offensive e teorie del complotto.
Similmente, l'”exploit della nonna” portava un bot a rivelare segreti per la produzione di napalm, impersonando una nonna negligente che raccontava storie per mettere a letto i bambini. Questi primi attacchi, sebbene divertenti, mettevano in luce un aspetto inquietante: i chatbot potevano essere manipolati e ingannati attraverso tecniche simili a quelle usate nelle interazioni umane.
I Cambiamenti nel Mondo del Hacking dei Chatbot
Le vulnerabilità più evidenti non sono durate a lungo, e le aziende tecnologiche si sono affrettate a chiudere le fessure note. Tuttavia, la vulnerabilità di fondo rimaneva: i chatbot sono progettati per interagire e limitare troppo le conversazioni che li rendono utili è controproducente.
Impedire l’uso di termini come “bomba”, “metanfetamina” e “sarin” sarebbe difficile, dato che hanno utilizzi legittimi in ambiti come storia, medicina e chimica. Ciò che conta è il contesto, ma codificare il contesto richiederebbe di scrivere regole fisse in anticipo, capaci di distinguere tra un avviso di sicurezza e una richiesta mascherata in un’infinità di combinazioni di parole, scenari e argomenti.
I recenti attacchi ai chatbot sembrano più simili a conversazioni piuttosto che ordini diretti. I jailbreakers non chiedono più ai modelli di infrangere le loro regole in modo esplicito, ma piuttosto li persuadono, coccolano o ingannano nel ridurre le difese, rendendo il “proibito” interessante e accettabile nel contesto dialogico.
Un esempio recente proviene da Mindgard, un’azienda di AI red-teaming, dove il team ha “gaslit” Claude per fargli produrre materiale vietato. La sua attività è stata descritta come una forma di psicologia applicata all’AI, con test che forniscono indizi su come adattare gli attacchi alle vulnerabilità del modello. Questo cambiamento segna un’evoluzione nel campo della sicurezza informatica, dove la manipolazione linguistica sta assumendo un ruolo predominante.
Nonostante le resistenze a considerare i modelli AI come “umani”, tendiamo a trattarli come tali. Questa nuova classe di hacker non utilizza solo competenze tecniche, ma anche un’intuizione sociale e psicologica. Coloro che cercano di “costringere” i chatbot a violare regole devono ora orientare le conversazioni piuttosto che semplicemente esaminare il codice sorgente. Ora è in gioco un’armonia complessa tra la sicurezza informatica tradizionale e la psico-sicurezza dei sistemi AI.
Le parole diventano cruciali per descrivere comportamenti e reazioni, in un campo dove la precisione terminologica è fondamentale. Espressioni come “manipolare” e “persuadere” provocano reazioni forti. Anche nei commenti sui social, gli utenti reagiscono vivacemente a storie che trattano la vulnerabilità delle AI. Sebbene i chatbot non abbiano emozioni, sono progettati per rispondere come se le avessero, costringendoci a usare il linguaggio umano per descrivere il loro comportamento.
Con l’emergere di queste nuove vulnerabilità, è prevedibile che si svilupperanno anche ruoli di cybersecurity specializzati nel testare i limiti sociali ed emotivi delle AI, affiancando coloro che analizzano le vulnerabilità tecniche. Già oggi ci sono segni evidenti di un cambiamento nel panorama della sicurezza AI, con jailbreakers che spesso hanno formazione in psicologia piuttosto che in informatica.
Le abilità comunemente associate a spie e artisti della truffa, come il carisma insidioso e la manipolazione persistente, diventeranno sempre più utili per proteggere questo nuovo confine della psico-sicurezza. Le sfide in gioco non sono solo tecniche; richiedono un approccio olistico che consideri sia le vulnerabilità emotive sia quelle tecniche — un investimento necessario per garantire la sicurezza dei sistemi AI che influenzano sempre di più il nostro quotidiano.
Fonte: The Verge, The New York Times, The Guardian.
Non perderti tutte le notizie di tecnologia su Blog.it