L’ Oversight Board critica l’inefficacia della moderazione dei deepfake da parte di Meta.
Pubblicato il da Ignazio Aragona - Tecnologia
Problemi di Identificazione dei Deepfake da Parte di Meta
Meta, l’azienda madre di Facebook, Instagram e Threads, affronta critiche riguardo ai suoi metodi per identificare i deepfake. Secondo il Meta Oversight Board, un organo semi-indipendente che supervisiona le pratiche di moderazione dei contenuti, le attuali strategie non sono “robuste o complete” per affrontare la rapida diffusione di disinformazione durante conflitti armati, come ad esempio la guerra in Iran. Le raccomandazioni del Consiglio sono particolarmente urgenti, dato l’attuale contesto di “massicce escalation militari” nel Medio Oriente.
Le rilevazioni sono emerse a seguito di un’indagine su un video AI falso che mostrava presunti danni a edifici in Israele, condiviso sulle piattaforme social di Meta l’anno scorso. In un momento in cui la sicurezza delle informazioni è cruciale, il Consiglio sottolinea l’importanza di accesso a dati accurati e affidabili, soprattutto con l’aumento dell’uso di strumenti di intelligenza artificiale per diffondere false notizie.
Raccomandazioni per Meta e il Futuro della Moderazione dei Contenuti
Il Meta Oversight Board ha evidenziato che l’attuale sistema di Meta per etichettare i contenuti generati da AI è troppo dipendente dall’autodichiarazione da parte degli utenti riguardo all’uso dell’AI e richiede una revisione più approfondita. Le pratiche esistenti non riflettono le realità dell’ambiente online odierno, dove i contenuti possono diffondersi rapidamente tra diverse piattaforme. In effetti, è emerso che un contenuto potrebbe originare su TikTok prima di essere condiviso su Facebook, Instagram e X.
Le azioni raccomandate dal Consiglio includono una revisione delle regole esistenti su disinformazione, per affrontare in modo specifico i deepfake ingannevoli. È fondamentale stabilire un nuovo standard comunitario separato per i contenuti generati da AI, migliorando allo stesso tempo gli strumenti di rilevamento dell’AI. Questa evoluzione deve garantire anche maggiore trasparenza riguardo alle penali per le violazioni delle politiche legate all’AI, oltre a scalare gli sforzi per etichettare i contenuti AI.
Inoltre, il Consiglio ha enfatizzato la necessità di aggiungere etichette “High-Risk AI” a immagini e video sintetici con maggiore frequenza. Per migliorare ulteriormente la questione, è cruciale promuovere l’adozione della C2PA, nota anche come Content Credentials, che permette di rendere le informazioni sui contenuti generati da AI “chiaramente visibili e accessibili agli utenti”.
Con l’aumento dei conflitti e delle tensioni globali, l’implementazione di queste raccomandazioni da parte di Meta diventa ancora più pressante. L’informazione errata ha il potere di influenzare le opinioni pubbliche e le decisioni politiche, rendendo la lotta contro la disinformazione un compito fondamentale per garantire una società informata e sicura.
Pertanto, Meta si trova di fronte a una sfida cruciale: migliorare i propri metodi di identificazione e marcatura dei contenuti AI. Solo attraverso una strategia ben strutturata e proattiva, l’azienda potrà prevenire la diffusione di contenuti ingannevoli e garantire che gli utenti abbiano accesso a informazioni veritiere e affidabili.
In questo contesto, il lavoro del Meta Oversight Board è essenziale. Come organismo di vigilanza, il Consiglio non solo fornisce una guida sulle migliori pratiche, ma funge anche da ponte tra gli utenti e l’azienda, garantendo che le preoccupazioni riguardo alla qualità dei contenuti siano ascoltate e affrontate. Le prossime mosse di Meta saranno determinanti nella battaglia contro la disinformazione e nel ripristino della fiducia tra gli utenti.
Fonti ufficiali:
Non perderti tutte le notizie di tecnologia su Blog.it