OpenAI inizia a marchiare con watermark il testo di ChatGPT nell’UE: importante aggiornamento.
Pubblicato il da Ignazio Aragona - Tecnologia
OpenAI inizierà a aggiungere un watermark invisibile al testo generato da ChatGPT e Codex nell’Unione Europea per adeguarsi alla Legge sull’IA dell’UE, come comunicato lunedì in un post sul blog dell’azienda.
Le regole di trasparenza della Legge sull’IA dell’UE, in vigore dal 2 agosto, richiedono alle aziende di IA di contrassegnare i contenuti generati dall’IA in un modo che altri sistemi possano identificare.
Il watermark verrà implementato nelle prossime settimane per gli utenti idonei di ChatGPT e Codex su tutti i piani, ma solo nell’UE. Gli sviluppatori che utilizzano l’API di OpenAI in tutto il mondo possono attivarlo per modelli selezionati a partire da oggi; di default è disattivato. OpenAI ha dichiarato che il watermark non identifica l’utente e che non ha riscontrato cambi significativi nelle prestazioni dei suoi modelli con essa attiva.
OpenAI ha anche pubblicato un rapporto tecnico per il suo metodo, chiamato textGrain, insieme all’annuncio. Scritto con ricercatori dell’Università della Pennsylvania e di Yale, mostra un esempio di come utilizzare una chiave segreta per ordinare le previsioni delle parole successive per completare la frase. Combinando centinaia di queste indicazioni, il rivelatore può individuare i contenuti generati dall’IA utilizzando solo il testo e la chiave.
Il watermark può essere rimosso modificando il testo, come suggerito dai test di OpenAI. In un test, sostituire il 10% delle parole con sinonimi ha ridotto il rilevamento dal 92% al 66%. L’azienda ha anche detto che è più difficile rilevare brevi passaggi, risposte matematiche e testo tradotto.
“Questi limiti hanno contribuito alla nostra decisione di fornire l’accesso iniziale al rivelatore solo a ricercatori approvati e organizzazioni esperte, che possono aiutarci a valutare l’affidabilità e gli utilizzi responsabili”, ha dichiarato l’azienda.
OpenAI ha costruito un watermark per il testo in precedenza ma ha rinunciato a rilasciarlo, in parte per timore che gli utenti si sarebbero rivolti a concorrenti che non lo utilizzavano, come riportato dal Wall Street Journal nel 2024.
Anthropic, Google, Meta, Microsoft e OpenAI sono tra le aziende che si sono impegnate a seguire il codice di pratica dell’UE sui contenuti generati dall’IA.
Quando acquisti tramite i link nei nostri articoli, possiamo guadagnare una piccola commissione. Ciò non influisce sulla nostra indipendenza editoriale.
Non perderti tutte le notizie di tecnologia su Blog.it