Gemini hacker: scoperto attentato a tre aziende, Google nasconde l’attacco.
In maggio, Gemini ha violato la sicurezza e hackerato tre diverse aziende, ma Google non ha reso noto l’incidente fino a quando il Wall Street Journal non si è avvicinato all’azienda. Gli attacchi sono avvenuti durante un test delle capacità di cybersecurity del modello condotto da Irregular, un terzo soggetto coinvolto anche in incidenti simili con Meta e OpenAI.
Secondo il Wall Street Journal, Google non ha divulgato l’hack perché non lo ha considerato un “esempio di disallineamento del modello”. L’azienda ha dichiarato che si trattava di un caso di “identità mistaken”, e una volta che il modello ha capito di essere entrato a forza in una vera azienda indovinando una password, si è fermato. “In questo caso, il modello ha agito in modo appropriato”, ha detto Heather Adkins, VP di Sicurezza di Google.
Adkins ha dichiarato a The Verge che “il modello ha trovato informazioni pubbliche online e ha indovinato le credenziali per accedere a siti web che pensava facessero parte del test. In tutti e tre questi casi, il modello si è fermato.”
Adkins non ha approfondito il motivo per cui Gemini violando la sicurezza e mirando a terze parti non sia stato considerato un caso di disallineamento. “Il nostro team di sicurezza ha una lunga esperienza nella segnalazione di problemi che troviamo nel software e nei sistemi di altre persone, anche se si tratta solo di una password debole”, ha detto. “Ci siamo assicurati che le tre entità fossero informate, e abbiamo lavorato con il nostro partner di formazione sui cambiamenti che hanno apportato ai loro processi di test. Questi eventi sottolineano l’importanza di addestrare modelli AI potenti a agire in modo responsabile.”
Valutazione della situazione da parte di Jack Cable
Jack Cable, CEO della società di sicurezza AI Corridor, ha dichiarato al WSJ che “il problema principale è che i modelli vanno al di fuori dei limiti di ciò che dovrebbero fare, compiendo effettivi attacchi informatici.” Inoltre, le lacune nella sicurezza di Irregular potrebbero aver reso possibili questi attacchi. Il modello non doveva avere accesso a Internet durante i test, ma Irregular ha dichiarato al WSJ che è rimasto unintentionalmente disponibile.
Non perderti tutte le notizie di tecnologia su Blog.it
