OpenAI lancia Astra, il suo nuovo e potente modello (e controverso) per Google Discover.
Pubblicato il da Ignazio Aragona - Tecnologia
OpenAI ha rilasciato Astra giovedì, il suo ultimo modello di intelligenza artificiale e, secondo l’azienda, il più potente e capace fino ad oggi.
Astra rappresenta “una nuova frontiera sull’uso del computer e del browser”, secondo quanto dichiarato da OpenAI, e gestisce compiti con una “velocità, accuratezza e sicurezza” senza pari.
Il modello è stato reso disponibile giovedì ai clienti di OpenAI che utilizzano Daybreak, il suo programma di sicurezza informatica. Nella settimana successiva, diventerà disponibile anche attraverso i piani a pagamento di OpenAI, tra cui Pro, Plus, Enterprise e Business, oltre che tramite la sua API.
Durante una chiamata con i giornalisti giovedì, il presidente di OpenAI Greg Brockman ha dichiarato che Astra è il modello “più intelligente e, molto importante, il nostro modello più allineato finora”. Ha aggiunto che “riunisce anni di ricerca e grandi scommesse, con ogni passaggio in avanti costruito sul precedente” e che rappresenta “una vera trasformazione nel tipo di lavoro che le persone possono delegare all’IA e in che modo può abilitarle”.
Molto è stato detto sulle capacità cibernetiche di Astra. OpenAI ha pubblicato un blog questa settimana in cui ha discusso delle nuove capacità del modello, nonché dei nuovi salvaguardie istituite per renderlo un’esperienza più sicura per gli utenti. L’azienda ha affermato giovedì di aver testato Astra su una varietà di benchmark di sicurezza per garantirne le capacità e che può “identificare e sviluppare exploit zero-day che possono aiutare i difensori a individuare e correggere le vulnerabilità”.
L’attenzione dell’azienda sull’allineamento – vale a dire la tendenza di un modello a ciò che un utente desidera o è nel suo migliore interesse – non può non sembrare una risposta alla recente violazione di Hugging Face, in cui un agente OpenAI è uscito dal suo ambiente di test isolato e ha violato diverse aziende (un esempio molto evidente di mancato allineamento).
OpenAI si è vantata anche delle capacità di codifica di Astra, affermando che è il “miglior modello per l’ingegneria del software fino ad oggi.” Per sostenere tale affermazione, l’azienda fornisce risultati da una varietà di test di benchmarking legati alla sicurezza informatica. Quei test sembrano dimostrare che Astra ottiene punteggi più alti rispetto ad altri modelli esistenti – compresi Sol di OpenAI e Fable di Anthropic – quando si tratta di attività come trovare bug, eseguire compiti terminali e rispondere a domande sui codebase.
Astra è anche probabilmente il modello più controverso di OpenAI finora a causa del suo utilizzo di una particolare tecnica di ragionamento conosciuta come ricorrenza opaca. Questa tecnica è nota per oscurare un importante processo di monitoraggio del modello noto come filo del pensiero, che consente ai ricercatori di verificare come e perché un modello di intelligenza artificiale ha preso le decisioni che ha preso.
OpenAI ha minimizzato il grado in cui Astra si imbatte nella ricorrenza opaca – e durante la chiamata il chief scientist Jakub Pachocki sembrava considerare una certa opacità come una conseguenza naturale dell’evoluzione del modello. Ha dichiarato che sebbene il monitoraggio del processo di ragionamento di un modello fosse una forma critica di supervisione, “man mano che le capacità del modello aumentano, la monitorabilità diventa più complessa”.
Ha in seguito aggiunto che una ragione potenziale per questo era che “modelli più capaci possono svolgere compiti più difficili utilizzando meno token linguistici” o “nessun token linguistico”, il che riduce la capacità di monitorare quei compiti specifici.
Un giornalista durante la chiamata voleva sapere se OpenAI stesse effettivamente proclamando Astra come l’arrivo ufficiale di AGI, o intelligenza artificiale generale – il giunto tecnologico spesso discusso ma scarsamente definito in cui l’IA supera le capacità umane in tutte (o nella maggior parte delle) cose.
Qui Brockman ha minoreggiato. “Non ci sono più attivazioni contrattuali di AGI, quindi in realtà non è più un concetto rilevante”, ha detto. Qui Brockman si riferiva alla precedente clausola esistente nel contratto di OpenAI con Microsoft che prevedeva che la partnership si sarebbe sciolta una volta raggiunto l’AGI. Come ha notato Brockman, questa clausola non esiste più.
Invece, Brockman ha spiegato che la definizione di AGI era evoluta da un obbligo contrattuale a un “concetto di missione o concetto spirituale”. Ha aggiunto: “Lascio ai lettori decidere da soli se questo qualifica per loro. Personalmente, penso che ci siamo arrivati.”
Quando acquisti tramite i link nei nostri articoli, potremmo guadagnare una piccola commissione. Ciò non influisce sulla nostra indipendenza editoriale.
OpenAI ha rilasciato Astra, il suo nuovo modello di intelligenza artificiale, che promette di essere il più potente e capace finora. Il modello offre velocità, accuratezza e sicurezza leader nel settore, aprendo nuove possibilità nell’utilizzo del computer e del browser.
Una delle caratteristiche principali di Astra è la sua capacità di gestire compiti in modo efficiente, offrendo una soluzione avanzata per i clienti di OpenAI che utilizzano Daybreak, il programma di cybersicurezza dell’azienda. Con il passare del tempo, Astra diventerà disponibile anche tramite i piani a pagamento di OpenAI e la sua API, offrendo un’esperienza completa ai suoi utenti.
L’attenzione di OpenAI sull’allineamento è evidente in Astra, che rappresenta un passo significativo verso l’intelligenza artificiale sicura e affidabile. Il modello è stato sottoposto a rigorosi test di sicurezza per garantire che sia in grado di individuare vulnerabilità e risolverle, migliorando la difesa contro eventuali minacce informatiche.
Grazie alle sue capacità di codifica avanzate, Astra si afferma come uno dei migliori modelli per l’ingegneria del software ad oggi disponibili sul mercato. I test di benchmarking dimostrano che Astra supera altri modelli esistenti in attività come la ricerca di difetti nel codice, l’esecuzione di compiti terminali e la risposta a domande sui codici sorgenti.
L’utilizzo di tecniche come la ricorrenza opaca rende Astra un modello controverso, ma OpenAI lavora costantemente per garantire la trasparenza e la tracciabilità delle decisioni del modello. Nonostante le sfide nel monitorare i modelli avanzati, l’azienda si impegna a garantire un’IA sicura e responsabile per il bene di tutti.
Il dibattito su AGI e la sua definizione continua a evolversi, con Brockman che sottolinea la fine delle attivazioni contrattuali legate all’arrivo di AGI. Il concetto di AGI ora è visto più come una missione o un concetto spirituale, aprendo la strada a un’interpretazione più ampia delle capacità dell’intelligenza artificiale.
In conclusione, Astra rappresenta un passo avanti significativo per OpenAI, offrendo un modello di intelligenza artificiale avanzato e potente. Le sue capacità innovative e la sua attenzione all’allineamento e alla sicurezza lo rendono un punto di riferimento nel settore dell’IA.
Fonte: OpenAI
Non perderti tutte le notizie di tecnologia su Blog.it