Sam Altman di OpenAI annuncia accordo col Pentagono con misure tecniche di protezione.
Pubblicato il da Ignazio Aragona - Tecnologia
Accordo tra OpenAI e il Dipartimento della Difesa degli Stati Uniti
Alla fine di venerdì, il CEO di OpenAI, Sam Altman, ha annunciato che la sua azienda ha raggiunto un accordo che permette al Dipartimento della Difesa (DoD) degli Stati Uniti di utilizzare i suoi modelli di intelligenza artificiale all’interno della rete classificata del dipartimento. Questo sviluppo è avvenuto dopo una controversia di alto profilo fra il DoD e Anthropic, un concorrente di OpenAI.
Contesto e Contrasti con Anthropic
Durante l’amministrazione Trump, il DoD, noto anche come Dipartimento della Guerra, ha esercitato pressioni sulle aziende di intelligenza artificiale, inclusa Anthropic, affinché i loro modelli potessero essere utilizzati per “tutti gli scopi legali”. Anthropic, tuttavia, ha cercato di tracciare una linea rossa riguardo alla sorveglianza di massa domestica e all’uso di armi completamente autonome.
In una dichiarazione dettagliata rilasciata giovedì, il CEO di Anthropic, Dario Amodei, ha affermato che l’azienda “non ha mai sollevato obiezioni contro operazioni militari specifiche né ha tentato di limitare l’uso della propria tecnologia in modo indiscriminato”. Tuttavia, Amodei ha sostenuto che “in un insieme ristretto di casi, riteniamo che l’IA possa minare, piuttosto che difendere, i valori democratici”.
Più di 60 dipendenti di OpenAI e 300 dipendenti di Google hanno firmato una lettera aperta questa settimana chiedendo ai loro datori di lavoro di sostenere la posizione di Anthropic.
Dopo che le trattative tra Anthropic e il Pentagono non hanno portato a un accordo, l’ex presidente Donald Trump ha criticato i “fanatici di sinistra di Anthropic” in un post sui social media, ordinando anche alle agenzie federali di interrompere l’uso dei prodotti dell’azienda dopo un periodo di sei mesi di transizione.
In un post a parte, il Segretario alla Difesa, Pete Hegseth, ha accusato Anthropic di cercare di “prendere il potere di veto sulle decisioni operative dell’esercito degli Stati Uniti”. Hegseth ha anche dichiarato di aver designato Anthropic come un rischio per la catena di approvvigionamento: “Con effetto immediato, nessun appaltatore, fornitore o partner che lavora con l’esercito degli Stati Uniti può condurre attività commerciali con Anthropic”.
L’azienda ha risposto affermando di non aver ancora ricevuto comunicazioni dirette dal Dipartimento della Guerra o dalla Casa Bianca riguardo allo stato delle negoziazioni, affermando che intende contestare legalmente qualsiasi designazione di rischio per la catena di approvvigionamento.
L’Accordo di OpenAI: Approccio alla Sicurezza
In un messaggio sorprendente su X, Altman ha affermato che il nuovo contratto di difesa di OpenAI include garanzie che affrontano le stesse questioni che erano state motivo di conflitto con Anthropic. “Due dei nostri principi di sicurezza più importanti sono i divieti sulla sorveglianza di massa domestica e la responsabilità umana per l’uso della forza, inclusi i sistemi d’arma autonomi”, ha affermato Altman. “Il Dipartimento della Guerra condivide questi principi, li riflette nella legge e nella politica, e li abbiamo inseriti nel nostro accordo”.
Altman ha inoltre dichiarato che OpenAI “costruirà salvaguardie tecniche per garantire che i nostri modelli si comportino come dovrebbero, cosa che il DoD desiderava”. L’azienda prevede anche di inviare ingegneri al Pentagono per assistere nella gestione dei modelli e garantire la loro sicurezza.
OpenAI ha chiesto al Dipartimento della Guerra di offrire gli stessi termini a tutte le aziende di intelligenza artificiale, affermando che “crediamo che tutti dovrebbero essere disposti ad accettarli”. Altman ha espresso il desiderio di vedere un allentamento delle tensioni, auspicando un passaggio da azioni legali e governative a accordi ragionevoli.
Fonti riportano che Altman ha detto ai dipendenti di OpenAI, in un incontro generale, che il governo permetterà all’azienda di costruire il proprio “sistema di sicurezza” per prevenire usi impropri. Ha anche affermato che “se il modello rifiuta di eseguire un compito, il governo non costringerà OpenAI a farlo”.
Questo messaggio è giunto in un momento critico, contemporaneamente alla notizia che i governi degli Stati Uniti e di Israele hanno iniziato a bombardare l’Iran, e Trump ha chiesto la destituzione del governo iraniano.
Questa situazione mette in evidenza le tensioni esistenti tra innovazione tecnologica e responsabilità etica nel campo della difesa e dell’intelligenza artificiale.
Fonti ufficiali:
Non perderti tutte le notizie di tecnologia su Blog.it