L’insidia che Anthropic ha creato per se stessa: opportunità e rischi nel futuro dell’IA.
Pubblicato il da Ignazio Aragona - Tecnologia
Il Caso Anthropic e le Conseguenze sulla Sicurezza Nazionale
Venerdì pomeriggio, durante un’intervista, una notizia ha catturato la mia attenzione: l’amministrazione Trump ha interrotto i rapporti con Anthropic, un’azienda di intelligenza artificiale di San Francisco fondata nel 2021 da Dario Amodei e altri ex ricercatori di OpenAI, che avevano lasciato l’azienda a causa di preoccupazioni sulla sicurezza. Il Segretario alla Difesa Pete Hegseth ha fatto riferimento a una legge sulla sicurezza nazionale, mirata a contrastare le minacce alle forniture straniere, per escludere l’azienda da contratti con il Pentagono. Questo provvedimento è stato preso dopo che Amodei ha rifiutato di consentire l’uso della tecnologia di Anthropic per la sorveglianza di massa dei cittadini statunitensi o per droni autonomi armati capaci di selezionare e uccidere obiettivi senza input umano.
Anthropic si trova ora a perdere un contratto del valore di 200 milioni di dollari, oltre a essere escluso da collaborazioni con altri appaltatori della difesa. Dopo un post di Trump su Truth Social, in cui chiedeva a tutte le agenzie federali di interrompere immediatamente l’uso della tecnologia di Anthropic, l’azienda ha annunciato l’intenzione di fare causa al Pentagono, definendo la designazione di rischio per la catena di approvvigionamento “legalmente infondata” e “mai applicata pubblicamente a un’azienda americana”.
Massima Sicurezza o Marketing? La Doppia Faccia di Anthropic
Max Tegmark, fisico svedese-americano e professore al MIT, ha messo in guardia per anni riguardo alla corsa per costruire sistemi di AI sempre più potenti, avvertendo che il mondo non riesce a governarli adeguatamente. Nel 2014 ha fondato il Future of Life Institute e, nel 2023, ha organizzato una lettera aperta firmata da oltre 33.000 persone, tra cui Elon Musk, chiedendo una pausa nello sviluppo di AI avanzata.
Per Tegmark, la crisi di Anthropic è il risultato delle stesse scelte compiute dall’azienda. L’industria ha scelto di opporsi a regole vincolanti, promettendo di autogovernarsi in modo responsabile. Questo approccio ha portato a una situazione in cui i leader del settore — compresi Anthropic, OpenAI e Google DeepMind — hanno infranto i loro stessi impegni. Questa settimana, Anthropic ha addirittura abbandonato il principio chiave della propria promessa di sicurezza, dichiarando di non rilasciare sistemi AI sempre più potenti finché non fossero certi che non avrebbero causato danni.
Nel contesto attuale, Tegmark sottolinea l’assenza di regole, dichiarando che non c’è molto a proteggere queste aziende. Di seguito sono riportate alcune delle sue considerazioni, estratte e riordinate per chiarezza.
Quando hai visto la notizia su Anthropic, quale è stata la tua prima reazione?
La strada per l’inferno è lastricata di buone intenzioni. È interessante tornare indietro di un decennio e ricordare l’entusiasmo per il potenziale dell’AI nel curare il cancro e rafforzare l’America. Oggi ci troviamo in una situazione in cui il governo degli Stati Uniti è arrabbiato con un’azienda per non voler utilizzare l’AI nella sorveglianza domestica o per creare robot killer autonomi.
Anthropic ha basato la propria identità sul concetto di sicurezza, ma allo stesso tempo ha collaborato con agenzie di difesa e intelligence. Questa contraddizione è evidente. Sebbene l’azienda si presenti come un paladino della sicurezza, è chiaro che non ha appoggiato regolamenti vincolanti, al contrario di quanto accade in altri settori. Tutte queste aziende hanno smesso di mantenere le loro promesse di sicurezza.
Come hanno fatto aziende con così forti impegni di sicurezza a trovarsi in questa posizione?
Queste aziende hanno fatto pressioni contro la regolamentazione dell’AI, promettendo di autogovernarsi. Attualmente, negli Stati Uniti ci sono meno regole sull’AI che sui panini. Se un ispettore sanitario trova ratti in una cucina, non permetterà di vendere panini fino a quando non saranno stati risolti i problemi. Eppure, le aziende che sviluppano AI per scopi potenzialmente pericolosi possono continuare senza restrizioni.
Se queste aziende avessero unito le loro forze per chiedere leggi vincolanti, avremmo una situazione diversa. In assenza di regolamentazioni, il rischio di conseguenze negative aumenta. Senza norme chiare, l’industria corre il rischio di ripetere errori già visti in passato.
Non esiste attualmente una legge che vieti di costruire AI in grado di nuocere agli americani, il che rende la situazione preoccupante. Le stesse aziende hanno contribuito a creare un vuoto normativo. Questo è un chiaro fallimento che potrebbe avere ripercussioni serie.
Per maggiori dettagli, puoi consultare le dichiarazioni ufficiali rilasciate da Dario Amodei e Max Tegmark. Per ulteriori approfondimenti sull’argomento, visita i siti di MIT Technology Review e Scientific American.
Non perderti tutte le notizie di tecnologia su Blog.it