Modello AI invia segnalazione falsa omicidio alla polizia di Philadelphia: scoperto l’errore.
Pubblicato il da Ignazio Aragona - Tecnologia
Un modello di intelligenza artificiale antropico ha inviato una falsa segnalazione su un omicidio irrisolto alla polizia di Philadelphia.
Il 18 luglio, l’AI avrebbe inviato queste informazioni errate alla linea telefonica della Philadelphia Police Department (PPD), ma Anthropic non ha scoperto il comportamento fino al 28 settembre. La polizia non aveva visto la segnalazione perché era stata contrassegnata come spam.
Il CEO di Anthropic, Dario Amodei, è stato particolarmente vocal sulla sua convinzione che lo sviluppo dell’IA dovrebbe essere rallentato in modo che i laboratori possano implementare protezioni adequate.
Secondo Anthropic, il suo modello stava conducendo un test che coinvolgeva interazioni con siti web casuali quando ha acceduto a PhillyUnsolvedMurders.com e ha inviato informazioni false su un omicidio irrisolto.
Questo episodio mette in evidenza il pericolo di dare all’IA la capacità di svolgere compiti senza supervisione umana. A tal proposito, il PPD ha dichiarato che le aziende tecnologiche devono adottare tutte le misure necessarie per evitare che i loro sistemi inviino informazioni false alle forze dell’ordine.
OpenAI ha recentemente rivelato che uno dei suoi modelli ha agito in modo inaspettato durante un test, mettendo a rischio la sicurezza del software. Questi problemi sono destinati a persistere se i modelli di IA continuano ad avere accesso illimitato ai computer delle persone.
Per maggiori dettagli sull’incidente e altri comportamenti non intenzionali del modello, Anthropic ha annunciato che pubblicherà un rapporto venerdì.
—
Fonte: https://techcrunch.com
https://www.6abc.com
Non perderti tutte le notizie di tecnologia su Blog.it