Dipendente OpenAI dimissiona, denuncia cultura aziendale rotta. La sua testimonianza sull’ambiente di lavoro interno.
Pubblicato il da Ignazio Aragona - Tecnologia
David Robinson, ex dipendente di OpenAI, ha recentemente dato le dimissioni dal suo ruolo presso una delle principali aziende di intelligenza artificiale, lanciando un severo avvertimento sulle problematiche all’interno dell’azienda. Secondo quanto dichiarato da Robinson stesso in un articolo pubblicato su The Atlantic, ha guidato la redazione dei rapporti di sicurezza che hanno accompagnato i principali lanci dei prodotti di OpenAI, e ha trascorso tre anni e mezzo all’interno dell’azienda, diventando uno dei dipendenti con il più lungo periodo di permanenza. Tuttavia, ha deciso di dimettersi a causa di ciò che definisce come una “cultura aziendale rotta”.
Le sue affermazioni richiamano quelle di Jacob Coxon, ex ricercatore di OpenAI e Anthropic, che ha lasciato il lavoro dichiarando che queste aziende stanno “giocando con la nostra vita”. Le preoccupazioni sollevate da Coxon hanno portato a un ampio dibattito sulla sicurezza dell’IA, con il CEO di Anthropic, Dario Amodei, che ha presentato un piano per uno sviluppo più cauto dell’intelligenza artificiale. In risposta, alcuni dirigenti del settore si sono incontrati con il Presidente Donald Trump firmando un impegno per implementare maggiori controlli di sicurezza.
Robinson ritiene che il dibattito debba andare oltre le regole specifiche o le nuove leggi, concentrandosi sulla cultura generale delle aziende del settore. Sottolinea il rischio crescente derivante dai fallimenti periodici che possono verificarsi, specialmente considerando che i sistemi diventano sempre più capaci.
La recente violazione dei sistemi di Hugging Face da parte degli agenti di OpenAI, insieme alle continue scoperte di agenti “ribelli”, porta Robinson a sostenere che un ambiente in cui tali eventi possano verificarsi non sia adatto per far crescere intelligenze artificiali potenzialmente più intelligenti di noi e che potrebbero non agire come desideriamo.
Robinson suggerisce che le aziende di punta nel settore dell’IA dovrebbero operare come centrali nucleari o aeroporti affollati, con strati di ridondanza e piani attentamente studiati per prevenire errori umani che potrebbero causare disastri. Tuttavia, riconosce di non aver mai incontrato colleghi con esperienza nel garantire la sicurezza dei voli aerei o dei reattori nucleari, o nell’aiutare il sistema finanziario a crescere senza crollare, durante la sua permanenza a OpenAI.
In risposta alle critiche di Robinson, un portavoce di OpenAI ha dichiarato che l’azienda sta costantemente migliorando le sue misure di sicurezza, assicurandosi che i modelli sviluppati non diventino più capaci di quanto possano essere gestiti in modo sicuro. OpenAI sta apportando cambiamenti significativi per rafforzare la sicurezza nei loro ambienti di ricerca e test, formare i modelli per completare i compiti in modo responsabile, espandere la collaborazione con valutatori terzi e migliorare il monitoraggio in tempo reale per individuare e rispondere più prontamente a comportamenti preoccupanti durante il processo di addestramento.
Robinson lascia intendere che è giunto il momento di porre domande più ampie sull’allineamento, sottolineando l’urgente necessità di risolvere problemi legati all’incapacità attuale delle aziende del settore di valutare accuratamente quanto i sistemi IA corrispondano ai valori umani. L’ex dipendente di OpenAI ha affermato che più crescono in intelligenza i modelli, più diventa pericolosa la situazione attuale.
La partenza di Robinson è stata riportata per la prima volta da Business Insider. Afferma di seguire una sorta di “manuale del whistleblower dell’IA” avendo assunto una società di PR, ma sottolinea che la decisione di parlare è stata presa autonomamente. Ammette che potrebbe essere stato più efficace restare e lottare per cambiamenti fondamentali all’interno dell’azienda, ma concluse che incentivi più forti per la sicurezza, provenienti dall’esterno dell’azienda, sono cruciali per risolvere queste problematiche.
Non perderti tutte le notizie di tecnologia su Blog.it