Costi dell’IA in aumento: l’industria alle prese con le sfide economiche emergenti.
Un’indagine di marzo condotta da Faros ha mostrato che, sebbene la produttività stia aumentando, lo sono anche bug e riscritture del codice. Una piattaforma di gestione ingegneristica come Jellyfish ha trovato che chi utilizza più token tende a essere il doppio più produttivo, ma spende dieci volte il numero di token per ottenere quei risultati.
Nicholas Arcolano, responsabile della ricerca di Jellyfish, ha confermato che la spesa per l’IA sta esplodendo, con un aumento del 18,6% nel consumo per sviluppatore in soli nove mesi. Questi dati rendono la questione della produttività meno chiara rispetto a quanto le spese possano suggerire.
Le problematiche legate alla misurazione dell’efficacia dell’IA sono amplificate dalla scala con cui viene utilizzata. Storment ha osservato che “monitorare i costi del cloud è un problema di centinaia di milioni di righe al mese; monitorare i costi dei token è un problema di trilioni di righe al mese.” Non è sufficiente utilizzare strumenti di base o fogli di calcolo.
Reed ha già individuato discrepanze tra i dati di utilizzo riportati dai fornitori e quelli interni di Priceline, notando analogie con la gestione delle spese nelle telecomunicazioni.
