RadixArk emerge con valutazione di 400 milioni grazie all’esplosione del mercato dell’inferenza.
Pubblicato il da Ignazio Aragona - Tecnologia
RadixArk: la nuova stella dell’AI open source
Sta emergendo un nuovo trend nel mondo dell’infrastruttura AI: strumenti open source diventano startup sostenute da investitori e valutate milioni di dollari. Un esempio lampante è RadixArk, la compagnia commerciale dietro a SGLang, un tool sempre più popolare che rende più rapidi ed economici i modelli AI.
Recentemente, RadixArk è stata valutata circa 400 milioni di dollari in un round di finanziamenti guidato da Accel, secondo alcune fonti vicine alla questione. Questo importo è significativamente alto per una startup che è stata annunciata solo lo scorso agosto. TechCrunch non ha potuto confermare l’entità del finanziamento.
La notizia arriva mentre alcuni membri del team che si occupa della manutenzione di SGLang, utilizzato da aziende come xAI e Cursor per accelerare il training dei modelli AI, sono passati alla nuova startup commerciale. RadixArk è nata nel 2023 come SGLang all’interno del laboratorio di UC Berkeley gestito da Ion Stoica, co-fondatore di Databricks.
Un team d’eccellenza e l’evoluzione del progetto
La startup ha già raccolto capitale angelico, con investitori come il CEO di Intel, Lip-Bu Tan, tra i finanziatori, secondo quanto riportato. Ying Sheng, un contributor chiave di SGLang e ex ingegnere di xAI, ha lasciato la startup di Elon Musk per diventare co-fondatrice e CEO di RadixArk, come annunciato su LinkedIn il mese scorso. Prima di questo, Sheng era un ricercatore presso Databricks.
Né RadixArk, né Ying Sheng, né Accel o Lip-Bu Tan hanno fornito commenti a riguardo. Sia SGLang che RadixArk si concentrano sull’ottimizzazione del processo di inferenza, che consente ai modelli di funzionare in modo più veloce ed efficiente sullo stesso hardware. Insieme al training dei modelli, l’inferenza rappresenta una parte significativa dei costi di server associati ai servizi IA. Di conseguenza, gli strumenti che ottimizzano questo processo possono rapidamente generare enormi risparmi.
RadixArk non è l’unica startup a realizzare questa transizione da progetto open source a startup ben finanziata. Il progetto più maturo vLLM ha compiuto un passo simile, avendo avviato discussioni per raccogliere oltre 160 milioni di dollari, con una valutazione stimata a circa 1 miliardo di dollari, come riportato da Forbes il mese scorso. Fonti vicine al deal hanno comunicato a TechCrunch che Andreessen Horowitz sta guidando l’investimento su vLLM, anche se i dettagli finali dell’investimento rimangono incerti. Il co-fondatore di vLLM, Simon Mo, ha descritto le informazioni su questo round come “inaccurate” in una dichiarazione a TechCrunch, omettendo però di specificare quali dettagli fossero errati.
Proprio come SGLang, vLLM è stato incubato nel laboratorio di Ion Stoica presso UC Berkeley. Il professor Stoica è famoso per essere co-fondatore di Databricks e di altre numerose startup.Già molte grandi aziende tecnologiche utilizzano vLLM per le loro carichi di lavoro di inferenza, mentre SGLang ha guadagnato popolarità considerevole negli ultimi sei mesi, come dichiarato da Brittany Walker, partner generale di CRV.
Innovazione continua e nuovi progetti
RadixArk continua a sviluppare SGLang come motore di modelli AI open source. La startup è anche al lavoro su Miles, un framework specializzato progettato per l’apprendimento per rinforzo, che consente alle aziende di addestrare modelli AI per diventare sempre più intelligenti nel tempo. Anche se la maggior parte dei suoi strumenti rimane gratuita, RadixArk ha iniziato a addebitare costi per i servizi di hosting, secondo quanto riportato da una fonte vicina all’azienda.
Negli ultimi mesi, le startup che offrono infrastruttura per l’inferenza ai programmatori hanno visto un’impennata nei finanziamenti, a testimonianza dell’importanza continua del layer di inferenza per l’IA. Baseten ha recentemente ottenuto 300 milioni di dollari a una valutazione di 5 miliardi, come riportato dal Wall Street Journal martedì scorso, seguendo un’azione simile dell’azienda rivale Fireworks AI, che ha raccolto 250 milioni a una valutazione di 4 miliardi lo scorso ottobre.
Fonti ufficiali: TechCrunch, Forbes, Wall Street Journal.
Non perderti tutte le notizie di tecnologia su Blog.it