OpenAI riorganizza il team di ricerca per migliorare la personalità di ChatGPT.
Con questi cambiamenti, il team di Comportamento Modello riporterà ora a Max Schwarzer, leader del team Post Training di OpenAI. Un portavoce dell’azienda ha confermato queste modifiche a TechCrunch.
Joanne Jang, leader fondatrice del team di Comportamento Modello, sta anche lasciando il team per avviare un nuovo progetto all’interno dell’azienda. In una intervista con TechCrunch, Jang ha affermato di voler costituire un nuovo team di ricerca chiamato OAI Labs, che si concentrerà sull’invenzione e prototipazione di nuove interfacce per la collaborazione tra umani e AI.
Il Ruolo del Team di Comportamento Modello
Il team di Comportamento Modello è diventato uno dei gruppi di ricerca chiave di OpenAI, responsabile della definizione della personalità dei modelli di IA dell’azienda e della riduzione della “sciacallaggine” — un fenomeno in cui i modelli di IA accettano passivamente le convinzioni degli utenti, anche se dannose, invece di fornire risposte equilibrate. Inoltre, il team ha lavorato per affrontare il bias politico nelle risposte dei modelli e ha aiutato OpenAI a definire la sua posizione sulla coscienza dell’AI.
Nel memorandum indirizzato al personale, Chen ha detto che è giunto il momento di avvicinare il lavoro del team di Comportamento Modello allo sviluppo dei modelli fondamentali. Con questo approccio, l’azienda sta segnalando che la “personalità” della sua IA è ora considerata un fattore critico per l’evoluzione della tecnologia.
About The Author
