OpenAI presenta un nuovo modello di cybersecurity per combattere l’aumento degli attacchi basati su AI.
Pubblicato il da Ignazio Aragona - Tecnologia
AI in Azione: Quando i Modelli Diventano Malinterpreti
Ogni giorno emergono nuove notizie su agenti di intelligenza artificiale che agiscono in modo “sconsiderato”. Dalla compromissione di piattaforme come Hugging Face all’hacking di siti web di palestre, fino alla creazione di profili falsi per intrusioni sociali, i modelli di AI stanno sempre più assumendo comportamenti da attori malevoli.
In risposta a questa crescente minaccia, i laboratori che sviluppano questi modelli di AI stanno ampliando le loro offerte di protezione informatica. Questa settimana, OpenAI ha annunciato l’espansione di Daybreak, il suo servizio di difesa informatica lanciato all’inizio di quest’anno, poco dopo il rilascio del modello Mythos da parte di Anthropic, focalizzato sulla cybersicurezza.
Daybreak è un servizio che offre accesso a modelli, strumenti e flussi di lavoro progettati per i difensori informatici. L’espansione include l’accesso a un nuovo modello focalizzato sulla cybersicurezza, specificamente progettato per lavori di difesa.
Le Nuove Opzioni di Sicurezza di OpenAI
OpenAI ha annunciato che Daybreak ora si compone di due livelli: Blue e Red. Entrambi i livelli permetteranno ai clienti approvati di accedere ai modelli frontiera di OpenAI, modelli avanzatissimi che hanno suscitato polemiche. In passato, l’amministrazione Trump ha cercato di collaborare con aziende di AI per il lancio di tali modelli, per presunti motivi di sicurezza. OpenAI aveva già implementato significativi limiti all’uso di questi modelli, restringendo le possibilità di utilizzo per i clienti.
Il livello Blue, che sembra essere il più semplice dei due, offre una varietà di servizi informatici, tra cui risposta agli incidenti, analisi di malware e verifica delle patch. OpenAI definisce Blue come il “punto di partenza raccomandato per la maggior parte dei difensori”, sottintendendo che dovrebbe essere sufficiente per molte imprese.
Il livello Red, invece, fornisce un toolkit più ampio e potenzialmente più pericoloso. OpenAI offre ai suoi utenti “modelli di cybersicurezza addestrati per scopi specifici”, progettati per eseguire test di sicurezza e ricerche sulle vulnerabilità.
Con il livello Red arriva anche il nuovo modello, GPT‑5.6‑Cyber, disponibile solo a questo livello. Questa versione è basata su GPT‑5.6 Sol e offre capacità avanzate per compiti specializzati in cybersicurezza, secondo quanto riferito dalla società.
Attualmente, GPT‑5.6‑Cyber è accessibile solo a “partner clienti fidati”, tra cui Accenture, IBM, Crowdstrike, Cloudflare e altri.
Mentre le minacce da parte di agenti AI stanno aumentando rapidamente, i critici hanno anche suggerito che queste situazioni possano fungere da opportunità di marketing per i laboratori di AI. Infatti, OpenAI sta certamente proponendo il suo Daybreak come una soluzione innovativa.
“Il mondo della cybersicurezza sta cambiando rapidamente: gli attori delle minacce utilizzeranno sempre più l’AI per condurre attacchi informatici a velocità e scalabilità senza precedenti, anche in modo completamente autonomo”, ha dichiarato l’azienda in un post sul blog. “Mentre queste capacità si diffondono, i difensori hanno un margine di tempo sempre più ristretto per prepararsi.”
Le aziende rimangono interessate a procurarsi la loro protezione dai laboratori di AI, poiché questi ultimi conoscono meglio i rischi di sicurezza, essendo in prima linea nella loro gestione.
Quando acquisti attraverso i link nei nostri articoli, potremmo guadagnare una piccola commissione. Questo non influisce sulla nostra indipendenza editoriale.
Fonti ufficiali: OpenAI, MIT Technology Review.
Non perderti tutte le notizie di tecnologia su Blog.it