OpenAI presenta il suo primo chip personalizzato realizzato da Broadcom.
Collaborazione strategica
La partnership con Broadcom è stata annunciata ufficialmente lo scorso ottobre, ma i piani di OpenAI per lo sviluppo di chip personalizzati erano già stati oggetto di speculazioni. L’obiettivo è ridurre la dipendenza dalle GPU di Nvidia, una mossa che ha visto anche Google e Amazon intraprendere strade simili, sviluppando chip appositamente progettati per velocizzare i carichi di lavoro di machine learning.
Greg Brockman, presidente di OpenAI, ha discusso dell’approccio dell’azienda allo sviluppo dei chip nel podcast interno, subito dopo la comunicazione della collaborazione con Broadcom. “Abbiamo una profonda comprensione del carico di lavoro,” ha dichiarato. “Stiamo cercando specifiche applicazioni che non sono adeguatamente soddisfatte, per capire come possiamo costruire qualcosa che possa accelerare le possibilità.”
Progettazione mirata per l’inferenza
Il Jalapeño è progettato specificamente per l’inferenza, il processo di esecuzione di modelli di intelligenza artificiale pre-costruiti in risposta ai comandi degli utenti. OpenAI ha sottolineato nel suo annuncio i costi operativi contenuti quando si gestiscono modelli di codifica in tempo reale. È probabile che per compiti più intensivi in termini di risorse, come il pre-training, si continui a fare affidamento sull’hardware di Nvidia. Tuttavia, anche piccole riduzioni nei costi di inferenza possono avere un impatto significativo sui profitti dell’azienda.
