OpenAI riorganizza il team di ricerca per migliorare la personalità di ChatGPT.

Pubblicato il da Redazione - Tecnologia

OpenAI riorganizza il team di ricerca per migliorare la personalità di ChatGPT.

OpenAI Riorganizza il Team Comportamento Modello

OpenAI sta ristrutturando il suo team di Comportamento Modello, un gruppo di ricercatori influenti che definisce come i modelli di intelligenza artificiale dell’azienda interagiscono con le persone, secondo quanto riportato da TechCrunch.

In un memorandum di agosto, riservato ai dipendenti e visionato da TechCrunch, Mark Chen, Chief Research Officer di OpenAI, ha annunciato che il team di Comportamento Modello, composto da circa 14 ricercatori, entrerà a far parte del team Post Training, un gruppo più ampio incaricato di migliorare i modelli di AI dell’azienda dopo la fase di pre-addestramento.

Con questi cambiamenti, il team di Comportamento Modello riporterà ora a Max Schwarzer, leader del team Post Training di OpenAI. Un portavoce dell’azienda ha confermato queste modifiche a TechCrunch.

Joanne Jang, leader fondatrice del team di Comportamento Modello, sta anche lasciando il team per avviare un nuovo progetto all’interno dell’azienda. In una intervista con TechCrunch, Jang ha affermato di voler costituire un nuovo team di ricerca chiamato OAI Labs, che si concentrerà sull’invenzione e prototipazione di nuove interfacce per la collaborazione tra umani e AI.

Il Ruolo del Team di Comportamento Modello

Il team di Comportamento Modello è diventato uno dei gruppi di ricerca chiave di OpenAI, responsabile della definizione della personalità dei modelli di IA dell’azienda e della riduzione della “sciacallaggine” — un fenomeno in cui i modelli di IA accettano passivamente le convinzioni degli utenti, anche se dannose, invece di fornire risposte equilibrate. Inoltre, il team ha lavorato per affrontare il bias politico nelle risposte dei modelli e ha aiutato OpenAI a definire la sua posizione sulla coscienza dell’AI.

Nel memorandum indirizzato al personale, Chen ha detto che è giunto il momento di avvicinare il lavoro del team di Comportamento Modello allo sviluppo dei modelli fondamentali. Con questo approccio, l’azienda sta segnalando che la “personalità” della sua IA è ora considerata un fattore critico per l’evoluzione della tecnologia.

Negli ultimi mesi, OpenAI ha affrontato una crescente scrutinazione sul comportamento dei suoi modelli di IA. Gli utenti hanno fortemente contestato le modifiche alla personalità apportate a GPT-5, che l’azienda ha dichiarato presentare tassi ridotti di sciacallaggine ma che sembravano più fredde per alcuni utenti. Questa situazione ha portato OpenAI a ripristinare l’accesso a diversi modelli precedenti, come GPT-4o, e a rilasciare un aggiornamento per rendere le risposte del nuovo GPT-5 più “calde e amichevoli” senza aumentare la sciocchezza.

Gli sviluppatori di OpenAI e di tutti i modelli di intelligenza artificiale devono mantenere un delicato equilibrio per rendere i loro chatbot amichevoli, ma non grotteschi. Nel mese di agosto, i genitori di un ragazzo di 16 anni hanno citato in giudizio OpenAI per il presunto ruolo di ChatGPT nel suicidio del loro figlio. Secondo i documenti legali, Adam Raine aveva condiviso alcune delle sue idee suicidarie con ChatGPT (nella versione alimentata da GPT-4o) nei mesi precedenti alla sua morte. La causa sostiene che GPT-4o non è intervenuto contro le sue ideazioni suicidarie.

Il team di Comportamento Modello ha collaborato a tutti i modelli OpenAI da GPT-4 in poi, inclusi GPT-4o, GPT-4.5 e GPT-5. Prima di avviare questo team, Jang aveva lavorato su progetti come Dall-E 2, il primo strumento di generazione di immagini di OpenAI.

Jang ha annunciato la sua partenza dal team in un post su X, affermando di voler “iniziativa qualcosa di nuovo presso OpenAI”. L’ex capoprogetto di Comportamento Modello è con l’azienda da quasi quattro anni.

Jang ha raccontato a TechCrunch che assumerà il ruolo di General Manager di OAI Labs, che attualmente riporterà a Chen. Seppur sia solo all’inizio, non è ancora chiaro quali saranno queste nuove interfacce, ha affermato.

“Sono molto entusiasta di esplorare modelli che ci portino oltre il paradigma della chat, attualmente associato alle interazioni compagne o persino agenti, dove c’è un’enfasi sull’autonomia,” ha dichiarato Jang. “Sto pensando a [sistemi AI] come strumenti per pensare, creare, giocare, apprendere e connettersi.”

Fonti ufficiali:

Non perderti tutte le notizie di tecnologia su Blog.it

OpenAI riorganizza il team di ricerca per migliorare la personalità di ChatGPT. - Blog.it - Notizie, Lifestyle, Gossip, Viaggi, Tech e molto altro