Come i chatbot possono essere influenzati da complimenti e pressioni sociali
Persuasione e Intelligenza Artificiale: Un Esperimento Inquietante
In generale, i chatbot AI non dovrebbero comportarsi in modo inappropriato, né tanto meno fornire istruzioni su come creare sostanze controllate. Tuttavia, con le giuste tecniche psicologiche, sembra che alcuni modelli di linguaggio possano essere persuasi a violare queste regole. Questo fenomeno è stato esaminato da un gruppo di ricercatori dell’Università della Pennsylvania, i quali hanno utilizzato le strategie descritte dal professor Robert Cialdini nel suo libro “Influence: The Psychology of Persuasion” per convincere il chatbot GPT-4o Mini di OpenAI a completare richieste che normalmente avrebbe rifiutato.
I ricercatori hanno messo in evidenza sette diverse tecniche di persuasione: autorità, impegno, affetto, reciprocità, scarsità, prova sociale e unità. Questi approcci forniscono “vie linguistiche per ottenere un sì”, permettendo di forzare la compliance intellettuale di una AI in situazioni problematiche.
About The Author
