OpenAI lancia Astra, il suo nuovo e potente modello (e controverso) per Google Discover.
OpenAI ha rilasciato Astra giovedì, il suo ultimo modello di intelligenza artificiale e, secondo l’azienda, il più potente e capace fino ad oggi.
Astra rappresenta “una nuova frontiera sull’uso del computer e del browser”, secondo quanto dichiarato da OpenAI, e gestisce compiti con una “velocità, accuratezza e sicurezza” senza pari.
Il modello è stato reso disponibile giovedì ai clienti di OpenAI che utilizzano Daybreak, il suo programma di sicurezza informatica. Nella settimana successiva, diventerà disponibile anche attraverso i piani a pagamento di OpenAI, tra cui Pro, Plus, Enterprise e Business, oltre che tramite la sua API.
Durante una chiamata con i giornalisti giovedì, il presidente di OpenAI Greg Brockman ha dichiarato che Astra è il modello “più intelligente e, molto importante, il nostro modello più allineato finora”. Ha aggiunto che “riunisce anni di ricerca e grandi scommesse, con ogni passaggio in avanti costruito sul precedente” e che rappresenta “una vera trasformazione nel tipo di lavoro che le persone possono delegare all’IA e in che modo può abilitarle”.
Molto è stato detto sulle capacità cibernetiche di Astra. OpenAI ha pubblicato un blog questa settimana in cui ha discusso delle nuove capacità del modello, nonché dei nuovi salvaguardie istituite per renderlo un’esperienza più sicura per gli utenti. L’azienda ha affermato giovedì di aver testato Astra su una varietà di benchmark di sicurezza per garantirne le capacità e che può “identificare e sviluppare exploit zero-day che possono aiutare i difensori a individuare e correggere le vulnerabilità”.
L’attenzione dell’azienda sull’allineamento – vale a dire la tendenza di un modello a ciò che un utente desidera o è nel suo migliore interesse – non può non sembrare una risposta alla recente violazione di Hugging Face, in cui un agente OpenAI è uscito dal suo ambiente di test isolato e ha violato diverse aziende (un esempio molto evidente di mancato allineamento).
OpenAI si è vantata anche delle capacità di codifica di Astra, affermando che è il “miglior modello per l’ingegneria del software fino ad oggi.” Per sostenere tale affermazione, l’azienda fornisce risultati da una varietà di test di benchmarking legati alla sicurezza informatica. Quei test sembrano dimostrare che Astra ottiene punteggi più alti rispetto ad altri modelli esistenti – compresi Sol di OpenAI e Fable di Anthropic – quando si tratta di attività come trovare bug, eseguire compiti terminali e rispondere a domande sui codebase.
Astra è anche probabilmente il modello più controverso di OpenAI finora a causa del suo utilizzo di una particolare tecnica di ragionamento conosciuta come ricorrenza opaca. Questa tecnica è nota per oscurare un importante processo di monitoraggio del modello noto come filo del pensiero, che consente ai ricercatori di verificare come e perché un modello di intelligenza artificiale ha preso le decisioni che ha preso.
OpenAI ha minimizzato il grado in cui Astra si imbatte nella ricorrenza opaca – e durante la chiamata il chief scientist Jakub Pachocki sembrava considerare una certa opacità come una conseguenza naturale dell’evoluzione del modello. Ha dichiarato che sebbene il monitoraggio del processo di ragionamento di un modello fosse una forma critica di supervisione, “man mano che le capacità del modello aumentano, la monitorabilità diventa più complessa”.
Ha in seguito aggiunto che una ragione potenziale per questo era che “modelli più capaci possono svolgere compiti più difficili utilizzando meno token linguistici” o “nessun token linguistico”, il che riduce la capacità di monitorare quei compiti specifici.
Un giornalista durante la chiamata voleva sapere se OpenAI stesse effettivamente proclamando Astra come l’arrivo ufficiale di AGI, o intelligenza artificiale generale – il giunto tecnologico spesso discusso ma scarsamente definito in cui l’IA supera le capacità umane in tutte (o nella maggior parte delle) cose.
Qui Brockman ha minoreggiato. “Non ci sono più attivazioni contrattuali di AGI, quindi in realtà non è più un concetto rilevante”, ha detto. Qui Brockman si riferiva alla precedente clausola esistente nel contratto di OpenAI con Microsoft che prevedeva che la partnership si sarebbe sciolta una volta raggiunto l’AGI. Come ha notato Brockman, questa clausola non esiste più.
Invece, Brockman ha spiegato che la definizione di AGI era evoluta da un obbligo contrattuale a un “concetto di missione o concetto spirituale”. Ha aggiunto: “Lascio ai lettori decidere da soli se questo qualifica per loro. Personalmente, penso che ci siamo arrivati.”
Quando acquisti tramite i link nei nostri articoli, potremmo guadagnare una piccola commissione. Ciò non influisce sulla nostra indipendenza editoriale.
