Amazon sfida Nvidia con nuova TorchNeuron tool per sviluppatori: confronto di potenza e innovazione.
Pubblicato il da Ignazio Aragona - Tecnologia
Amazon Web Services ha lanciato TorchNeuron, uno strumento che consente alle startup di intelligenza artificiale di spostare facilmente le loro app su Trainium, il chip di intelligenza artificiale di Amazon. Questa mossa diretta prende di mira il vantaggio software che ha consentito a Nvidia di diventare la scelta hardware predefinita per le app di intelligenza artificiale e ha portato alla sua crescita come principale fornitore di hardware per l’intelligenza artificiale.
TorchNeuron è progettato per lavorare con PyTorch, un toolkit gratuito e open-source utilizzato dai developer per costruire, addestrare ed eseguire modelli di intelligenza artificiale. Secondo Amazon, consente alle app di intelligenza artificiale create con PyTorch di funzionare su Trainium con una semplice modificato di configurazione, senza necessità di riscrivere il codice.
Amazon afferma che circa l’85% delle app di intelligenza artificiale sono scritte con PyTorch. Originariamente sviluppato da Facebook, PyTorch è diventato parte della Linux Foundation nel 2022. Nvidia ha dedicato anni a garantire che il suo software CUDA — l’infrastruttura software che consente alle app di eseguire su GPU Nvidia e altri hardware — supporti in modo trasparente le app di intelligenza artificiale scritte con PyTorch. Di conseguenza, l’hardware di Nvidia è ora profondamente integrato nel toolkit, praticamente per impostazione predefinita.
TorchNeuron è derivato da PyTorch, quindi i developer che conoscono PyTorch sanno già come utilizzarlo. Amazon non è la prima azienda a cercare di portare facilmente i propri chip sulla piattaforma. Gli utenti di PyTorch possono anche trasferire le proprie app su GPU AMD o persino chip Apple con una semplice modifica di configurazione.
Tuttavia, Amazon sostiene che il passaggio a Trainium non è solo semplice, ma offre anche alle startup di intelligenza artificiale l’accesso all’intero cloud di Amazon. AWS sostiene che sia una scelta migliore per le startup rispetto all’utilizzo di nuvole meno note, molte delle quali sono legate a Nvidia e al suo hardware, come Coreweave, Nebius e Firmus.
Colin Brace, VP di Technology Software presso AWS Annapurna Labs (l’unità che produce i custom chip di Amazon), ha dichiarato a TechCrunch via email: “Stai costruendo su AWS. Non stai scommettendo su un provider di calcolo a scopo singolo e cercando di costruire tutto attorno ad esso. Su AWS, l’infrastruttura per passare dal prototipo alla produzione è già presente, consentendo a un fondatore di muoversi rapidamente e scalare quando necessario.”
AWS afferma che lo stesso chip gestisce sia l’addestramento (insegnando al modello di intelligenza artificiale) che l’inferenza (mettendo in pratica il modello finito, ad esempio quando risponde alla domanda di un utente), ed è strettamente integrato con l’infrastruttura cloud necessaria per le startup, risparmiando loro denaro anche se AWS non offre il prezzo per-token più economico.
“Trainium offre un rapporto prezzo-prestazioni, oltre al fatto che è una piattaforma per entrambi l’addestramento e l’inferenza, migliorando l’economia su un carico di lavoro completo,” ha detto Brace. “Guarda Deepgram — si sono spostati su Trainium utilizzando PyTorch nativo, supporto, e stanno elaborando il 70% in più di audio per dollaro con precisione a livello di produzione.” Deepgram è un fornitore di app di voce di intelligenza artificiale, un concorrente di ElevenLabs.
Ma Amazon non si accontenta di offrire agli sviluppatori di app PyTorch un’opzione semplice per passare al suo cloud.
Amazon afferma anche di voler spingere PyTorch a essere meno focalizzato automaticamente su Nvidia e contribuirà al codice per farlo al progetto principale di PyTorch. Nell’articolo del blog che annuncia il nuovo strumento, l’azienda ha scritto:
“L’approccio di Amazon va oltre l’hardware proprio. L’azienda sta contribuendo a modifiche verso l’alto a PyTorch stesso, lavorando con la community di PyTorch per eliminare il codice che lega il framework a chip specifici. L’obiettivo è rendere PyTorch più agnostico all’hardware per l’intera community di sviluppatori, non solo per gli utenti Trainium.”
Sebbene una tale tattica sia indubbiamente positiva per coloro che vendono hardware e servizi cloud concorrenti con Nvidia, uno dei punti di forza di PyTorch è nascondere tutte le difficoltà nel far funzionare il codice di intelligenza artificiale su hardware. È necessario aspettare e vedere se allontanare Nvidia in questo modo darà agli sviluppatori più scelta e opzioni più convenienti, come promette Amazon, o semplicemente più problemi di configurazione.
In entrambi i casi, se Amazon riesce a separare profondamente PyTorch da Nvidia, ciò potrebbe avere conseguenze molto più significative per il gigante delle GPU rispetto a doversi confrontare con i concorrenti dei chip. Come ha detto Brace: “La vera storia è rimuovere l’ingiunzione che ha impedito ai developer di avere una vera scelta.”
Non perderti tutte le notizie di tecnologia su Blog.it