ZML, startup francese, lancia prodotto gratuito per accelerare l’inferenza su molti chip AI.
Nonostante ciò, Morin non è scettico riguardo a Nvidia, anzi, avendo una buona relazione con il colosso dei chip AI, riconosce il suo ruolo importante nel prepararsi per la crescita della domanda di inferenza. L’area dell’inferenza ha attratto così tanto investimento che è stata soprannominata “la corsa all’oro dell’inferenza”. ZML affronta quindi una concorrenza significativa da aziende come Baseten, recentemente valutata 13 miliardi di dollari, Inferact, creatori del progetto open-source vLLM, e RadixArk, società commerciale dietro SGLang.
Entrambi i progetti, vLLM e SGLang, competono parzialmente con LLMD, ma l’ambizione di Morin va oltre. “Siamo arrivati al punto in cui co-progettiamo il silicio”, ha detto. Ha anche attribuito il rapido sviluppo di ZML alla sua squadra snella di 20 persone, con ulteriori rilasci già in cantiere.
È un vantaggio che questa piccola squadra sia ben finanziata per la sua grandezza. Grazie alla sua esperienza come VP ingegneria di Zenly, venduta a Snapchat per cifre importanti nel 2017, Morin è riuscito a raccogliere 20 milioni di dollari da investitori come Harry Stebbings di 20VC, >commit, AALVC, Drysdale Ventures, Kima Ventures di Xavier Niel, Kindred Capital, LocalGlobe e Puzzle Ventures.
