La Silicon Valley inquieta gli esperti di sicurezza nell’intelligenza artificiale.
Pubblicato il da Redazione - Tecnologia
I leader della Silicon Valley in prima pagina per il dibattito sulla sicurezza dell’IA
Questa settimana, alcuni leader della Silicon Valley, tra cui David Sacks, Czar dell’IA e delle criptovalute alla Casa Bianca, e Jason Kwon, Chief Strategy Officer di OpenAI, hanno suscitato scalpore online con le loro osservazioni sui gruppi che promuovono la sicurezza dell’intelligenza artificiale (IA). In diverse occasioni, hanno sostenuto che alcuni sostenitori della sicurezza dell’IA non siano tanto virtuosi quanto vogliono apparire, ma piuttosto agiscano per interessi personali o per quelli di potenti finanziatori che operano nell’ombra.
I gruppi di sicurezza IA contattati da TechCrunch affermano che le accuse di Sacks e OpenAI rappresentano un nuovo tentativo della Silicon Valley di intimidire i critici, sebbene non sia il primo. Nel 2024, alcune aziende di venture capital diffusero voci secondo cui una legge sulla sicurezza IA in California, il SB 1047, avrebbe messo in carcere i fondatori delle startup. Il Brookings Institution definì questa voce come una delle molte “deformazioni” della legge, che, alla fine, fu comunque bocciata dal Governatore Gavin Newsom.
I leader delle organizzazioni non profit che si occupano di sicurezza IA, interpellati da TechCrunch, hanno chiesto di rimanere anonimi per evitare possibili ritorsioni. Le affermazioni di Sacks e OpenAI hanno indubbiamente spaventato diversi sostenitori della sicurezza dell’IA, accentuando le tensioni tra la costruzione di tecnologie IA responsabili e la loro trasformazione in enormi prodotti destinati ai consumatori.
La reazione alle accuse di paura e intimidazione
Il dibattito si è intensificato anche in seguito a un post di Sacks su X, dove accusa Anthropic, un’organizzazione che ha espresso preoccupazioni riguardo all’impatto dell’IA su disoccupazione, attacchi informatici e danni catastrofici alla società, di fare mera disinformazione per ottenere leggi a proprio favore e opprimere le startup più piccole. Anthropic è stata l’unica grande azienda IA a sostenere il California Senate Bill 53 (SB 53), che stabilisce requisiti di segnalazione sulla sicurezza per le grandi aziende IA, recentemente approvato.
Il post di Sacks è stato una reazione a un saggio virale presentato dal co-fondatore di Anthropic, Jack Clark, sulle sue preoccupazioni riguardo all’IA, pronunciato durante la conferenza sulla sicurezza IA a Berkeley. Nonostante il tono genuino delle sue parole, Sacks ha interpretato il discorso come un tentativo di manipolazione da parte di Clark, accusando Anthropic di attuare una “strategia sofisticata di cattura normativa” basata sulla paura.
In un secondo post, Sacks ha evidenziato che Anthropic si è sempre posizionata come oppositrice dell’amministrazione Trump, segnando ulteriormente il suo antagonismo nei confronti delle autorità federali.
Le intimidazioni legali di OpenAI
In un altro sviluppo significativo, Jason Kwon di OpenAI ha scritto un post su X per spiegare perché l’azienda ha emesso citazioni a carico di organizzazioni non profit sulla sicurezza dell’IA, come Encode. Kwon ha dichiarato che, dopo la causa intentata da Elon Musk contro OpenAI — preoccupato che l’azienda si sia allontanata dalla sua missione non profit — l’azienda ha trovato sospetto il fatto che diverse organizzazioni si siano opposte alla sua ristrutturazione. Encode ha presentato un breve amicus a sostegno della causa di Musk, mentre altri enti hanno criticato pubblicamente OpenAI.
Le larghe citazioni emesse da OpenAI hanno sollevato interrogativi sulla trasparenza, in particolare riguardo al finanziamento delle organizzazioni coinvolte e a possibili coordinamenti. Tra le altre, OpenAI ha richiesto a Encode di fornire comunicazioni riguardanti i suoi principali oppositori, Musk e Mark Zuckerberg.
Brendan Steinhauser, CEO della non profit Alliance for Secure AI, ha affermato che OpenAI sembra convinta che i suoi critici facciano parte di una cospirazione guidata da Musk. Tuttavia, lui stesso sostiene che gran parte della comunità di sicurezza IA critica le pratiche di sicurezza di OpenAI.
Steinhauser ha affermato che le azioni di OpenAI mirano a silenziare i critici, intimidire altri non profit, e dissuaderli dall’insorgere. “Sacks è preoccupato che il movimento per la sicurezza dell’IA stia crescendo e che la gente voglia rendere conto a queste aziende”, ha affermato.
Allo stesso modo, Sriram Krishnan, consigliere senior per l’IA alla Casa Bianca e ex partner di a16z, è intervenuto nella discussione, dichiarando che gli attivisti per la sicurezza dell’IA sembrano scollegati dalla realtà. Ha esortato queste organizzazioni a dialogare con chi utilizza l’IA quotidianamente.
Un recente studio del Pew ha rivelato che circa metà degli americani è più preoccupata che entusiasta riguardo all’IA. Tuttavia, non è chiaro quali siano esattamente le loro preoccupazioni. Un altro studio ha indicato che gli elettori americani si preoccupano maggiormente per la perdita di posti di lavoro e i deepfake, piuttosto che dei rischi catastrofici legati all’IA, su cui si concentra maggiormente il movimento per la sicurezza dell’IA.
Il confronto tra le preoccupazioni per la sicurezza e la crescita rapida dell’industria IA potrebbe influenzare l’andamento futuro del settore. Con gli investimenti in IA che sostengono una buona parte dell’economia americana, la paura di un’eccessiva regolamentazione sembra comprensibile.
Dopo anni di progresso normativo in ambito IA, il movimento per la sicurezza sembra guadagnare slancio verso il 2026. I tentativi della Silicon Valley di opporsi a gruppi focalizzati sulla sicurezza potrebbero essere un segno del successo delle loro iniziative.
Fonti:
1. TechCrunch
2. The Brookings Institution
3. Pew Research Center
Non perderti tutte le notizie di tecnologia su Blog.it