Sora offre agli utenti il controllo sull’uso del proprio doppio virtuale
Pubblicato il da Redazione - Tecnologia
Controllo sulle Versioni AI in Sora
Sora offre ora ai suoi utenti la possibilità di gestire in modo più rigoroso le proprie versioni AI, permettendo di decidere come e dove apparire nei video dell’app. Questo aggiornamento arriva in un momento in cui OpenAI si sforza di dimostrare la sua attenzione alle preoccupazioni degli utenti, mentre un’invasione di contenuti generati dall’intelligenza artificiale minaccia il panorama digitale.
I nuovi controlli fanno parte di un pacchetto di aggiornamenti rilasciati nel weekend, concepiti per stabilizzare Sora e gestire il caos presente nel suo feed. Sora è essenzialmente “un TikTok per i deepfake”, dove gli utenti possono creare video di 10 secondi relativi a qualsiasi cosa, comprese le versioni generate dall’intelligenza artificiale di se stessi o di altri, con include la voce. OpenAI definisce queste apparizioni virtuali come “camei”, mentre i critici le vedono come una potenziale catastrofe per la disinformazione.
Bill Peebles, responsabile del team Sora di OpenAI, ha annunciato che gli utenti possono ora limitare l’uso delle proprie versioni AI all’interno dell’app. Ad esempio, puoi vietare alla tua versione AI di apparire in video politici, impedirle di pronunciare determinate parole o, se detesti la senape, escluderla da ogni contenuto in cui potrebbe apparire accanto a quel condimento indesiderato.
Personalizzazione dei Doppioni Virtuali
Thomas Dimson, membro del team di OpenAI, ha sottolineato che gli utenti possono anche aggiungere preferenze specifiche per le loro versioni virtuali, come ad esempio far indossare un cappellino con la scritta “#1 Fan del Ketchup” in ogni video. Questo livello di personalizzazione offre agli utenti un maggiore controllo sulla loro immagine digitale, rendendo l’app più interessante e, potenzialmente, più sicura.
Sebbene queste misure di sicurezza siano ben accolte, la storia degli assistenti virtuali dotati di intelligenza artificiale, come ChatGPT e Claude, ci ricorda che è probabile che qualcuno trovi un modo per aggirare tali limitazioni. Gli utenti hanno già superato una delle altre funzionalità di sicurezza di Sora, un watermark che si è rivelato inefficace. Peebles ha confermato che l’azienda sta lavorando per migliorare anche questo aspetto.
Peebles ha affermato che Sora continuerà a potenziare le restrizioni e ad aggiungere nuovi metodi per consentire agli utenti di rimanere in controllo delle loro apparizioni virtuali in futuro. Questa iniziativa potrebbe rivelarsi cruciale, soprattutto considerando la potenza della tecnologia AI e la facilità con cui si possono generare contenuti ingannevoli.
Impatto e Critiche di Sora
Dall’avvio dell’app, Sora ha contribuito ad alimentare il web con contenuti generati dall’intelligenza artificiale. I controlli per i cameo erano inizialmente poco restrittivi, consentendo agli utenti di far apparire le proprie versioni AI in video che non avevano approvato. La vulnerabilità di questo sistema è stata esemplificata dall’apparizione del CEO di OpenAI, Sam Altman, in una serie di video satirici che lo ritraevano mentre rubava, rappava o persino grigliava un Pikachu morto. Questa situazione ha sottolineato il rischio associato alla facilità con cui si possono creare deepfake e contenuti fuorvianti.
In sintesi, Sora sta cercando di affrontare le sfide legate ai contenuti generati dall’AI, fornendo agli utenti strumenti per gestire le proprie rappresentazioni digitali. Le nuove funzionalità, insieme alla costante attenzione alle preoccupazioni della comunità, potrebbero aiutare Sora ad affermarsi come un’app sicura ed interessante nel panorama dei social media. Mentre la tecnologia continua a evolversi, rimane importante monitorare come le piattaforme come Sora bilanciano l’innovazione con la responsabilità.
Per ulteriori informazioni, puoi visitare il sito ufficiale di OpenAI.
Non perderti tutte le notizie di tecnologia su Blog.it