Come le restrizioni dell’IA ostacolano il lavoro dei ricercatori di cybersecurity offensiva.

Chris Thompson, CEO dell’azienda di cybersecurity RemoteThreat e fondatore dell’Offensive AI Con, ha condiviso che in base alla sua esperienza nell’uso dei modelli AI d’avanguardia, le restrizioni possono essere incoerenti e variare ogni giorno. Questo è vero anche all’interno dei programmi più flessibili di Anthropic e OpenAI. “L’impatto pratico è che si trascorre molto tempo a negoziare con il modello anziché lavorare sul programma di sicurezza principale,” ha detto Thompson.

A causa di queste limitazioni, molti ricercatori si trovano a dover ricorrere a modelli open-source cinesi come GLM — modelli scaricabili liberamente e che possono essere eseguiti localmente senza restrizioni di utilizzo. “Questi ricercatori responsabili vengono spinti lontano dai sistemi regolati dagli Stati Uniti verso sistemi di proprietà estera,” ha affermato Thompson. “Credo che queste limitazioni siano più dannose che utili.”

Invece di inasprire ulteriormente le restrizioni, Thompson ha invitato i laboratori di AI a rendere accessibili i loro programmi, garantire accesso responsabile e punire coloro che abusano dei loro strumenti. Altrimenti, sostiene, i difensori rischiano di perdere la corsa all’IA.

“Sta per arrivare una grande tempesta. Ci sarà un’ondata di attacchi che avverranno a una velocità e a una scala mai viste prima,” ha dichiarato Thompson. “Ma le stesse aziende di consulenza sulla sicurezza e i ricercatori legittimi che cercano di fare la differenza sono attualmente soffocati.”

Le fonti di questo articolo includono rapporti ufficiali di TechCrunch e dichiarazioni pubbliche da esperti del settore.

Non perderti tutte le notizie di tecnologia su Blog.it