OpenAI rallenta lo sviluppo del modello Astra per preoccupazioni legate alla sicurezza.

OpenAI sospende lo sviluppo del modello Astra per preoccupazioni sulla sicurezza

OpenAI ha annunciato venerdì di aver interrotto alcuni aspetti dello sviluppo del suo nuovo modello chiamato Astra. Questa decisione è stata presa in seguito a una revisione interna che ha evidenziato progressi significativi nel coding agentico e nella sicurezza informatica, sollevando preoccupazioni riguardo alle sue capacità.

I rischi associati al modello Astra

Secondo un post del blog di OpenAI, il modello Astra, ancora in fase di sviluppo, ha raggiunto quella che è stata definita una “soglia critica di cybersecurity”. Questo implica che il modello potrebbe identificare e realizzare cyber attacchi in modo autonomo contro sistemi real-world tradizionalmente ben protetti. Questo sviluppo ha attivato ulteriori misure di sicurezza nell’ambito del “Preparedness Framework”, un piano che OpenAI ha istituito nel 2023 per promuovere la sicurezza e la preparazione nel settore dell’intelligenza artificiale.

La valutazione delle capacità di Astra

In base alle valutazioni preliminari, OpenAI ha sottolineato in un comunicato che le performance del modello Astra sono così elevate che non si può escludere un livello di capacità critico in questo momento. È importante notare che Astra è un modello in fase di sviluppo e non ha avuto alcun coinvolgimento nell’exploit dei sistemi di Hugging Face.