La Casa Bianca chiede a OpenAI di rallentare il lancio del nuovo modello per motivi di sicurezza.

Le preoccupazioni relative ai modelli avanzati

La decisione di limitare l’accesso a modelli avanzati ha sollevato interrogativi importanti. Anthropic, ad esempio, ha destato scalpore annunciando che il suo nuovo modello cyber, Claude Mythos, sarebbe stato rilasciato solo a una ristretta cerchia di partner attraverso un programma chiamato Project Glasswing. L’azienda ha motivato questa scelta affermando che il suo modello è troppo potente e potrebbe, se usato in modo errato, causare più danni che benefici. Questo ha dato origine a discussioni su se tale retorica fosse una strategia di marketing o un reale tentativo di evitare abusi.

Non è un segreto che i criminali informatici utilizziamo strumenti automatizzati da molti anni, ma con l’avvento dell’IA generativa, ora dispongono di un’arma digitale molto più potente. I modelli di linguaggio di grandi dimensioni (LLM) hanno dimostrato di essere abili nella scrittura di malware e alcuni possono addirittura eseguire autonomamente attacchi ransomware.

La principale preoccupazione con strumenti cyber avanzati come Mythos è che essi sono teoricamente capaci di identificare e sfruttare vulnerabilità software a velocità che nessun analista umano potrebbe eguagliare. Poiché molti sistemi software contengono bug nascosti che fungono da porte d’ingresso nelle reti aziendali, questa situazione rappresenta un problema significativo per qualsiasi organizzazione che gestisca infrastrutture software complesse. Tuttavia, la mancanza di accesso pubblico a questi modelli rende difficile valutare con precisione quanto possano essere minacciosi.

In un periodo in cui le tecnologie informatiche si evolvono rapidamente, l’importanza di una supervisione efficace e responsabile non può essere sottovalutata. È evidente che i nuovi strumenti di intelligenza artificiale possono apportare enormi benefici, ma presentano anche rischi considerevoli. Sarà fondamentale vedere come l’industria e il governo collaboreranno per garantire che queste tecnologie vengano utilizzate in modo etico e sicuro.

Fonti ufficiali: OpenAI, The Information.

Quando acquisti tramite i link nei nostri articoli, potremmo guadagnare una piccola commissione. Questo non influisce sulla nostra indipendenza editoriale.

Non perderti tutte le notizie di tecnologia su Blog.it