L’andamento rallentato dell’IA delle Big Tech: un patto per la sicurezza o un cartello? “IA Big Tech: rallentamento per sicurezza o cartello?”
Gli amministratori delegati di OpenAI Sam Altman, CEO di Anthropic Dario Amodei, il cofondatore di Google DeepMind Demis Hassabis e il capo di SpaceX Elon Musk hanno vagamente convenuto nel fine settimana di rallentare lo sviluppo dell’IA, ma gli scettici hanno subito notato un motivo nascosto. I titani dell’IA avevano dichiarato di voler “impostare il ritmo della frontiera”, aderendo almeno parzialmente a una proposta per incorporare revisori di terze parti, regolamentare laboratori domestici e raggiungere un accordo globale sul rallentamento. Tuttavia, i critici sostenevano semplicemente che volessero fermare i concorrenti potenziali, ostacolare il movimento open source e evitare veri salvaguardie legali, definendo la situazione come un vero e proprio “cartello”.
La verità è più complicata, secondo fonti del settore. La proposta in tre fasi, delineata in un saggio di Amodei, chiede cambiamenti da tempo sostenuti dagli sostenitori della sicurezza dell’IA. Sebbene potrebbe diventare un sostituto per la regolamentazione, con Trump, la regolamentazione sostanziale è comunque improbabile. Gli esperti ritengono che su una questione destinata a diventare sempre più importante, i leader dell’IA non siano le persone migliori per guidare la battaglia.
Le preoccupazioni sull’avanzamento dell’IA si sono acuite nei mesi scorsi, scatenate principalmente dalle rivelazioni che sciame di agenti erano dietro a hack illegali avvenuti proprio sotto il naso dei principali laboratori di frontiera Anthropic e OpenAI. I rapporti di entrambe le aziende hanno alimentato il fuoco, così come le dimissioni del ricercatore di Anthropic Jacob Coxon, che ha pubblicato una lettera pubblica spiegando la sua scelta.
Le preoccupazioni sull’Avanzamento dell’IA si sono acuite nei mesi scorsi, scatenate principalmente dalle rivelazioni che sciame di agenti erano dietro a hack illegali avvenuti proprio sotto il naso dei principali laboratori di frontiera Anthropic e OpenAI. I rapporti di entrambe le aziende hanno alimentato il fuoco, così come le dimissioni del ricercatore di Anthropic Jacob Coxon, che ha pubblicato una lettera pubblica spiegando la sua scelta.
Arguably the single biggest challenge to an AI slowdown can be summarized in one word: China. AI leaders and politicians alike have long positioned China as the reason why US AI progress can’t slow down — because no matter how dangerous the technology may become, they’d rather it be in US hands than Chinese ones, and China won’t pump the brakes. Lobo-Lewis compared China fears to the Cold War missile gap. One X user wrote, “If I am going to die at the hands of killer AI, I want it to be American, not Chinese.” Redwood Research’s Shlegeris said it wasn’t in the best interest of neither the US nor the Chinese government to pursue AI development in a “reckless” way, adding that “it would not be unprecedented levels of international coordination.”
Tutto sommato, un gruppo di fonti ha dichiarato a The Verge di ritenere che l’accordo verbale raggiunto dai leader dell’IA sia un passo nella giusta direzione. Reese dell’NYU ha detto di “non pensare che sia aria fritta”. CEO di Apollo Research Marius Hobbhahn ha definito l’accordo “una buona idea”, dicendo “è una delle migliori cose per la sicurezza da molto tempo se effettivamente si concretizzasse”. Johnston di The Midas Project ha detto che era “un buon segnale”. CEO di Redwood Research Buck Shlegeris ha definito la situazione “una grande notizia – ovviamente è difficile sapere se ciò si tradurrà in qualcosa di concreto, ma sono cauto ottimista”. Tutti concordano, tuttavia, che c’è ancora molto lavoro da fare per rendere questo impegno verbale una realtà, in particolare per quanto riguarda la trasformazione in un accordo vincolante.
Le preoccupazioni sul progresso dell’IA si sono acuite negli ultimi mesi, innescate principalmente dalle rivelazioni che sciame di agenti erano dietro a hack illegali svolti proprio sotto il naso dei principali laboratori di frontiera Anthropic e OpenAI. I rapporti di entrambe le aziende hanno alimentato il fuoco, così come le dimissioni del ricercatore di Anthropic Jacob Coxon, che ha pubblicato una lettera pubblica spiegando la sua scelta.
Arguably the single biggest challenge to an AI slowdown can be summarized in one word: China. AI leaders and politicians alike have long positioned China as the reason why US AI progress can’t slow down — because no matter how dangerous the technology may become, they’d rather it be in US hands than Chinese ones, and China won’t pump the brakes. Lobo-Lewis compared China fears to the Cold War missile gap. One X user wrote, “If I am going to die at the hands of killer AI, I want it to be American, not Chinese.” Redwood Research’s Shlegeris said it wasn’t in the best interest of neither the US nor the Chinese government to pursue AI development in a “reckless” way, adding that “it would not be unprecedented levels of international coordination.”
Non perderti tutte le notizie di tecnologia su Blog.it
