ZML, startup francese, lancia prodotto gratuito per accelerare l’inferenza su molti chip AI.
Ottimizzazione dell’Inferenza e Nuove Opportunità
Con l’integrazione dell’AI nelle nostre vite quotidiane e nel lavoro, l’ottimizzazione dell’inferenza — ovvero il processo di elaborazione delle richieste — sta diventando sempre più rilevante rispetto alla formazione dei modelli. Morin ha sottolineato che spesso questo processo avviene in modo frammentario, a causa di barriera software e architetturale che portano a una dipendenza da fornitori specifici.
La promessa di eccellenza prestazionale su una varietà di chip rappresenta un traguardo tecnologico, ma ha anche il potenziale di disturbare il mercato, soprattutto in un contesto in cui le preoccupazioni sui costi legati all’AI stanno crescendo. ZML spera di offrire alle aziende e ai cloud la possibilità di utilizzare un mix di chip, alcuni dei quali potrebbero risultare meno costosi o avere un minore consumo energetico. “L’obiettivo è restituire alle persone il potere di creare il proprio sistema e ottenere veri guadagni in efficienza che permettano di diffondere l’AI,” afferma Morin.
Questa assistenza software potrebbe avvantaggiare i nuovi produttori di chip AI, molti dei quali provengono dall’Europa. Morin ha citato nomi come Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud e VSORA come esempi. Tuttavia, ciò che conta di più è che ZML possa collaborare con loro su progetti innovativi, affermando che si tratta di “cose che non sono state mai realizzate prima in nessuna parte del mondo.”
