Il ‘vibe-hacking’: una crescente minaccia dell’AI che preoccupa esperti e aziende
Abusi Attraverso Truffe Online
Un ulteriore studio riguarda una truffa romantica. Un bot su Telegram, con oltre 10.000 utenti mensili, pubblicizzava Claude come “un modello ad alta intelligenza emotiva” per aiutare a generare messaggi emotivamente intelligenti, presumibilmente per frodi. Questo ha permesso a non madrelingua di scrivere messaggi persuasivi e complimenti, al fine di guadagnarsi la fiducia delle vittime negli Stati Uniti, in Giappone e in Corea, chiedendo poi loro del denaro. Un esempio riportato nel rapporto mostrava un utente che caricava un’immagine di un uomo in cravatta e chiedeva come fare il miglior complimento possibile.
Nel rapporto, Anthropic riconosce che, sebbene l’azienda abbia “sviluppato misure di sicurezza e protezione sofisticate per prevenire l’abuso” della propria AI e queste siano “generalmente efficaci,” i malintenzionati riescono ancora a trovare modi per aggirarle. Anthropic sottolinea che l’AI ha abbassato le barriere per crimini informatici sofisticati, e i malintenzionati usano la tecnologia per profilare le vittime, automatizzare le pratiche, creare identità false, analizzare dati rubati, rubare informazioni di carte di credito e altro.
About The Author
