Nuovo modello AI e imbracatura migliorata per ridurre i costi dei token.
Pubblicato il da Ignazio Aragona - Tecnologia
La Crescente Urgenza di Ridurre i Costi nell’Industria AI
Nel settore dell’Intelligenza Artificiale, sta emergendo una crescente consapevolezza riguardo ai costi elevati delle implementazioni. Gli utenti si trovano di fronte a una nuova urgenza di ridurre le spese. Sebbene i modelli open-source offrano costi per token significativamente più bassi, individuare il modello giusto per compiti specifici può risultare una sfida.
Per affrontare questo problema, Writer, un’azienda che fornisce strumenti e agenti AI per il marketing, ha lanciato giovedì il suo nuovo modello di punta, Palmyra X6. Questo modello è stato sviluppato come una variazione post-training sul modello open-source GLM-5.2 di Z.ai. Secondo Writer, il nuovo sistema dovrebbe offrire funzionalità pronte per l’implementazione a un prezzo molto inferiore. Le stime indicano che l’introduzione di questo modello, insieme ai cambiamenti nell’infrastruttura aziendale, consentirà di ridurre i costi dei clienti fino al 50% per compiti di base.
Oltre al nuovo modello, l’azienda ha introdotto anche importanti aggiornamenti al suo standard agentic harness. Queste novità saranno disponibili per i clienti di Writer a partire da giovedì. L’AD May Habib ha espresso chiaramente la situazione: “Le aziende sono assolutamente stanche di inseguire il prossimo benchmark. Desiderano stabilizzare i costi, ma sembra che nessuno riesca a soddisfare questa esigenza”.
Le Novità delle Funzionalità di Writer
Il nuovo approccio adottato da Writer si concentra in particolare sulle attività complesse e multi-step, eseguite più velocemente e utilizzando meno token. L’ottimizzazione dell’harness viene vista come una leva cruciale per raggiungere questo obiettivo. Recenti ricerche condotte dal team di Writer confermano questa strategia, mostrando che piccoli cambiamenti nell’efficienza dell’harness possono avere un impatto notevole sui costi operativi.
Lo studio ha rivelato che, in molti casi, le modifiche all’harness risultavano essere un modo più affidabile per ridurre i costi rispetto alla scelta del modello. Attraverso test su diversi modelli, è emerso che i costi sono diminuiti in media del 40%. Come scritto dai ricercatori, “l’harness è l’unico componente la cui efficienza si moltiplica per ogni modello che un’organizzazione utilizza, presente e futuro”.
Per i clienti di Writer, l’esperienza rimane agnostica rispetto ai modelli: Palmyra X6 sarà affiancato ad altri modelli di Writer o a modelli esterni importati tramite servizi come Azure o Amazon Bedrock. Tuttavia, Habib ha notato una crescente sfiducia verso i principali laboratori di AI, che potrebbero avere incentivi finanziari a incrementare l’uso dei token.
La Reazione delle Aziende ai Costi in Aumento
“L’esplosione dei costi è senza precedenti per i clienti, e lo stesso vale per il grado in cui i CIO stanno rinunciando ai laboratori”, ha dichiarato Habib, aggiungendo che “i laboratori di AI non comprendono profondamente come aiutare un’impresa a trarre vantaggio dall’AI”. Questa affermazione mette in luce il crescente contrasto tra le esigenze delle aziende e le soluzioni fornite dai laboratori di Intelligenza Artificiale.
Le aziende stanno cercando modi per ottimizzare le loro operazioni e ottenere un valore reale dall’AI. Come evidenziato dai recenti sviluppo di Writer, l’ottimizzazione dei costi sta diventando un tema centrale. Le imprese sembrano desiderose di adottare soluzioni che garantiscano efficienza e risparmio economico all’interno di un panorama tecnologico in continua evoluzione.
Writer, in questo contesto, sta cercando non solo di affrontare i problemi economici, ma anche di fornire modelli che rispondano a requisiti specifici, senza compromettere la qualità delle prestazioni. L’innovazione nel campo dell’harness ottimizzato è vista come una strada importante per raggiungere questi obiettivi.
Conclusione sui Modelli di AI e Sostenibilità Economica
Mentre l’industria dell’AI continua a evolversi, la sfida di trovare modelli accessibili e sotto controllo diventa sempre più cruciale. È evidente che Writer e altre aziende stanno cercando di rispondere a queste esigenze attraverso nuove tecnologie e approcci. L’efficienza e la capacità di ottimizzare i costi saranno i principali fattori che determineranno il successo delle implementazioni future nel campo dell’Intelligenza Artificiale.
Fonti ufficiali: TechCrunch, Writer.com.
Non perderti tutte le notizie di tecnologia su Blog.it