Come le restrizioni dell’IA ostacolano il lavoro dei ricercatori di cybersecurity offensiva.

Sebbene Dowd ammetta che il suo lavoro possa influenzare il suo giudizio, non è l’unico a pensarla così. Altri professionisti nel campo della cybersecurity offensiva hanno condiviso con TechCrunch come utilizzano strumenti di intelligenza artificiale e come interagiscono con le loro limitazioni. Chris Anley, scienziato capo di NCC Group, ha affermato che chiedere a un modello di IA di tentare di sfruttare un bug è un passo cruciale per confermare se si tratti di una vulnerabilità reale da risolvere. Se il modello rifiuta di rispondere a causa di una limitazione, ciò ostacola i difensori.

“Qui è dove entra in gioco il conflitto tra offensive e defensive e le guardrails, perché ‘aggiusta questo codice’ è sia un meccanismo essenziale per la difesa che un percorso per trovare vulnerabilità critiche nel codice,” ha detto Anley. “Lo stesso strumento è sia offensivo che difensivo, e le due funzioni non possono essere separate.”

Secondo Anley, “è come un martello; non puoi costruire una casa senza un martello. È sicuramente uno strumento, ma è anche inesorabilmente un’arma.” Quando incontra tali ostacoli, Anley e i suoi colleghi a volte ricorrono a modelli di AI open-source che non presentano alcuna limitazione.