Come le restrizioni dell’IA ostacolano il lavoro dei ricercatori di cybersecurity offensiva.
Critiche alle Regole e L’importanza della Ricerca sulla Sicurezza
La problematica della gestione e controllo sui modelli non è esclusiva di Mythos. Sia Anthropic che OpenAI offrono ai ricercatori di cybersecurity programmi per richiedere l’accesso ai modelli con meno restrizioni. OpenAI, ad esempio, ha sviluppato il programma “Trusted Access for Cyber”, mentre Anthropic ha il “Cyber Verification Program”.
Queste restrizioni hanno ricevuto ampie critiche, specialmente da quei ricercatori il cui compito è quello di scoprire vulnerabilità sconosciute nei sistemi e ideare modi per sfruttarle prima che i criminali facciano lo stesso. Mark Dowd, un noto ricercatore di sicurezza, ha recentemente dichiarato in un podcast di cybersecurity: “non mi piace affatto che queste grandi aziende facciano decisioni arbitrarie su cosa sia sicuro e cosa non lo sia.”
Dowd ha trascorso decenni a scoprire e vendere “zero days” — vulnerabilità software precedentemente sconosciute — a governi occidentali, piuttosto che segnalarle ai produttori di software affinché venissero corrette. I governi pagano di più per le vulnerabilità proprio perché rimangono aperte, utili per operazioni di intelligence.
