Come le restrizioni dell’IA ostacolano il lavoro dei ricercatori di cybersecurity offensiva.
Paolo Stagno, CTO di CrowdFense, ha concordato con Dowd, affermando che le aziende di AI “in sostanza trattano i clienti come bambini che necessitano di supervisione” con i loro programmi di verifica. Stagno e i suoi colleghi utilizzano modelli d’avanguardia solo per l’ingegneria inversa, evitando di usare l’IA per scoprire vulnerabilità, poiché alimentare quel lavoro in un modello basato su cloud rischia di rivelare dati sensibili. Per questo lavoro, usano modelli open-source eseguiti localmente, evitando la condivisione di dati al di fuori del modello.
Giuseppe Cali, un ricercatore di sicurezza che scopre zero-days e sviluppa exploit, ha dichiarato che le limitazioni non ostacolano il suo lavoro, poiché non usa l’IA per scopi offensivi, ma per l’ingegneria inversa iniziale e per costruire strumenti di supporto. Per quel compito, sostiene che le tecnologie di IA possono accelerare il processo e permettergli di concentrarsi sulla scoperta delle vulnerabilità.
Un ricercatore di un produttore di componenti per smartphone, che ha parlato a condizione di anonimato, ha affermato che la sua azienda non è parte del programma CVP di Anthropic; di conseguenza, i loro strumenti risultano poco utili per trovare vulnerabilità a causa delle limitazioni troppo rigide.
