Avvocato multato $5.000 per testimonianze falsificate da intelligenza artificiale in un caso di omicidio.
Pubblicato il da Ignazio Aragona - Tecnologia
Il caso riguardante l’avvocato Stephen Aarons, sanzionato dalla Corte Suprema del New Mexico per aver incluso testimoni falsificati dall’intelligenza artificiale e testimonianze di polizia fittizie in un appello per la condanna per omicidio del suo cliente, è stato oggetto di un importante articolo di Reuters. Nella denuncia presentata mercoledì, la corte ha multato Aarons di $5.000 e l’ha ritenuto in contumacia per non aver “verificato le affermazioni fattuali e l’autorità legale nel suo memoriale generato dall’IA.”
Le testimonianze e le critiche della Corte
Secondo la denuncia, il memoriale “conteneva testimonianze false da testimoni completamente inventati,” insieme a “false testimonianze” sull’abbigliamento e sull’aspetto dello sparatore. La giudice C. Shannon Bacon ha interrogato come Aarons non fosse a conoscenza dei rischi posti dall’IA durante un’udienza ad agosto, dove ha ammesso di aver utilizzato ChatGPT e di pensare che avrebbe generato un “riassunto inattaccabile” del processo. “Consulenza, seguite le notizie? Ascoltate la radio? Leggete qualcosa su cosa sta succedendo nel mondo?” ha detto la giudice Bacon, secondo Reuters. “Perché il problema con gli avvocati che si affidano alle allucinazioni dell’IA è una notizia di primo piano ogni singolo giorno.”
La dichiarazione di Aarons
“Nel comunicato rilasciato a Reuters, Aarons dichiara: “Sono pentito ma spero che il consiglio disciplinare tenga conto del fatto che è stato un errore onesto.” L’episodio solleva importanti questioni sull’uso dell’IA nel sistema legale e sull’importanza della verifica delle fonti e dell’accuratezza delle informazioni presentate in tribunale. Fonte: Reuters.
L’incidente sottolinea la necessità per gli avvocati e i professionisti legali di essere consapevoli dei rischi e delle potenziali conseguenze derivanti dall’utilizzo dell’intelligenza artificiale nei casi giudiziari. La fiducia nella tecnologia non dovrebbe sostituire le competenze umane e l’accuratezza della ricerca legale. In un sistema giudiziario che si basa sulla giustizia e sull’equità, è fondamentale garantire che le prove presentate siano veritiere e affidabili. Citazione: Reuters.
L’episodio ha portato a una seria riflessione sulle implicazioni dell’IA nel campo legale e sulla necessità di regolamenti e linee guida chiare per garantire un uso responsabile e etico di questa tecnologia in ambito legale. Le sfide poste dall’IA richiedono una costante vigilanza e un’attenta valutazione delle implicazioni sia positive che negative che possono derivare dall’utilizzo di algoritmi e sistemi automatizzati nel processo decisionale legale. Fonte: Reuters.
Non perderti tutte le notizie di tecnologia su Blog.it