Analisi dei costi in tempo reale con grafici di serie temporali, ripartizioni per modello, metriche delle prestazioni e intervalli di date preimpostati configurabili.
Panoramica
La dashboard dei costi offre piena visibilità sulla spesa e sulle prestazioni dell'LLM. Aggrega i dati di tutti i record di arricchimento della propria organizzazione e li presenta tramite grafici interattivi e schede riepilogative. Consente di individuare le tendenze dei costi, confrontare l'efficienza dei modelli e ottimizzare la pipeline di arricchimento.
Schede
2
Preimpostazioni di data
4
Tipi di grafico
5
Multi-organizzazione
Amministrazione
Preimpostazioni di data
Seleziona un intervallo di tempo dalla barra laterale. L'URL si aggiorna per riflettere il preset selezionato (ad es. /costs/30d), consentendo viste aggiungibili ai preferiti:
Preimpostazione
Intervallo di tempo
Raggruppamento del grafico
7d
Ultimi 7 giorni
Giornaliero
30d
Ultimi 30 giorni
Giornaliero
90d
Ultimi 90 giorni
Settimanale
all
Tutto il periodo
Mensile
Gli amministratori di sistema dispongono nella barra laterale di un selettore di organizzazione con tre impostazioni: la propria organizzazione, tutte le organizzazioni in forma aggregata oppure una singola organizzazione. Tutti gli altri — proprietari compresi — vedono sempre i costi della propria organizzazione; l'ambito viene risolto dal backend, quindi il filtro non è aggirabile dal client. La scelta viene conservata per ogni utente nel local storage.
Scheda Panoramica dei costi
La scheda predefinita fornisce una ripartizione completa della spesa:
Schede di riepilogo
1Totale speso nel periodo
2Costo medio di una chiamata
3Costo medio di una proprietà compilata
Le due medie sono ciò che rende confrontabili le esecuzioni: il costo per richiesta risponde a “quanto costa un arricchimento”, il costo per proprietà risponde a “quanto costa un campo compilato” — il numero che cambia quando uno schema cresce.
Grafici e tabelle
Costi nel tempo— Grafico a linee che mostra le tendenze di spesa nel periodo selezionato, raggruppate per giorno/settimana/mese.
Costo per modello— Grafico a barre orizzontali dei 10 modelli principali per costo totale. Identifica rapidamente i modelli più costosi.
Utilizzo dei token— Ripartizione dei token di input, token di output e token totali consumati.
Approfondimenti sul modello— Schede che evidenziano il modello più utilizzato e il modello più costoso.
Ripartizione giornaliera— Tabella con data, numero di richieste, costo totale, costo medio per richiesta e totali dei token.
Un periodo, quattro letture della stessa spesa: il totale, il suo andamento nel tempo, quale modello la determina e il dettaglio giorno per giorno.
Scheda Analisi delle prestazioni
Passa alla scheda Prestazioni per analizzare l'efficienza dei model e individuare i compromessi tra costo e prestazioni:
Schede di riepilogo
Record totali
156
Record di arricchimento nel periodo
Modelli utilizzati
8
Modelli distinti che hanno prodotto risultati
Varianti linguistiche
3
Lingue utilizzate nell'enrichment multilingue
Intervalli di token
4
Bucket distinti di dimensione dei token di input
Grafici e tabelle
Costo vs durata— Grafico a dispersione con dimensioni delle bolle proporzionali al numero di richieste. Ogni bolla è un modello: trova il miglior equilibrio tra velocità e costo.
Prestazioni per modello— Tabella che confronta il numero di richieste, il costo medio, la durata media e le statistiche dei token per ciascun model.
Costo per numero di lingue— Grafico a barre che mostra come il costo aumenta al crescere del numero di lingue selezionate per l'arricchimento multilingue.
Costo per intervallo di token di input— Grafico a barre che suddivide i costi per fasce di dimensione del prompt di input (ad es. 0–1K, 1K–5K, 5K–10K token).
Prestazioni per numero di proprietà dello schema— Tabella che mostra come il costo e la durata dell'enrichment si correlano alla complessità dello schema (solo record di enrichment).
Il grafico è una scelta, non un resoconto: il modello giusto è di solito quello più vicino all'angolo in basso a sinistra che soddisfa comunque i propri standard di qualità.
Suggerimenti di ottimizzazione
Confronta i modelli
Utilizzate il grafico a dispersione Costo vs Durata per individuare i modelli che offrono buona qualità a costi inferiori. Modelli più piccoli e veloci sono spesso sufficienti per schema semplici.
Monitora le tendenze
Controlla ogni settimana il grafico Costo nel tempo. Picchi improvvisi possono indicare lavori batch configurati in modo errato o cicli di ripetizione imprevisti.
Dimensiona correttamente gli schemi
La tabella Prestazioni per numero di proprietà dello schema mostra come il costo scala con le dimensioni dello schema. Rimuova le proprietà non necessarie per ridurre il costo per arricchimento.
Usa modelli di caching
I modelli con caching dei prompt (come Anthropic) riducono i costi per gli arricchimenti ripetuti con lo stesso schema. Le schede di utilizzo dei token mostrano il risparmio sui token memorizzati nella cache.