टाइम-सीरीज़ चार्ट्स, प्रति-मॉडल ब्रेकडाउन, प्रदर्शन मेट्रिक्स, और कॉन्फ़िगरेबल डेट प्रीसेट्स के साथ रीयल-टाइम लागत एनालिटिक्स।
अवलोकन
Cost Dashboard आपको आपके LLM खर्च और प्रदर्शन में पूरी दृश्यता देता है। यह आपके ऑर्गनाइज़ेशन के सभी एनरिचमेंट रिकॉर्ड से डेटा एकत्र करता है और उसे इंटरैक्टिव चार्ट और सारांश कार्ड के माध्यम से प्रस्तुत करता है। इसका उपयोग लागत रुझानों की पहचान करने, मॉडल दक्षता की तुलना करने, और अपनी एनरिचमेंट पाइपलाइन को अनुकूलित करने के लिए करें।
Tabs
2
तारीख प्रीसेट
4
चार्ट प्रकार
5
क्रॉस-Org
एडमिन
तारीख प्रीसेट
साइडबार से एक समय सीमा चुनें। चयनित प्रीसेट को दर्शाने के लिए URL अपडेट होता है (उदा., /costs/30d), जिससे बुकमार्क करने योग्य व्यू सक्षम होते हैं:
प्रीसेट
समय सीमा
चार्ट ग्रुपिंग
7d
पिछले 7 दिन
दैनिक
30d
पिछले 30 दिन
दैनिक
90d
पिछले 90 दिन
साप्ताहिक
all
सभी समय
मासिक
सिस्टम एडमिनिस्ट्रेटर को साइडबार में तीन विकल्पों वाला संगठन सेलेक्टर मिलता है: उनका अपना संगठन, सभी संगठन एकत्रित रूप में, या कोई एक निर्दिष्ट संगठन। बाकी सभी को — मालिकों सहित — हमेशा अपने ही संगठन की लागतें दिखती हैं; स्कोप बैकएंड तय करता है, इसलिए क्लाइंट से इस फ़िल्टर को दरकिनार नहीं किया जा सकता। यह चयन प्रत्येक उपयोगकर्ता के लिए local storage में सहेजा जाता है।
लागत अवलोकन टैब
डिफ़ॉल्ट टैब एक व्यापक खर्च विवरण प्रदान करता है:
सारांश कार्ड
1इस अवधि में हुआ कुल खर्च
2एक कॉल की औसत लागत
3एक भरी हुई प्रॉपर्टी की औसत लागत
दो औसत ही रन्स की तुलना संभव बनाते हैं: प्रति अनुरोध लागत बताती है कि “एक संवर्धन की लागत कितनी है”, और प्रति प्रॉपर्टी लागत बताती है कि “एक भरे गए फ़ील्ड की लागत कितनी है” — यही वह संख्या है जो स्कीमा बढ़ने पर बदलती है।
चार्ट और टेबल
समय के साथ लागत— चयनित अवधि में खर्च के रुझान दिखाने वाला लाइन चार्ट, दिन/सप्ताह/माह के अनुसार समूहीकृत।
मॉडल के अनुसार लागत— कुल लागत के अनुसार शीर्ष 10 मॉडलों का हॉरिज़ॉन्टल बार चार्ट। सबसे महंगे मॉडलों को तुरंत पहचानें।
टोकन उपयोग— इनपुट टोकन, आउटपुट टोकन, और खपत किए गए कुल टोकन का विवरण।
मॉडल इनसाइट्स— सबसे अधिक उपयोग किए गए मॉडल और सबसे महंगे मॉडल को हाइलाइट करने वाले कार्ड।
दैनिक विवरण— तिथि, अनुरोध संख्या, कुल लागत, प्रति अनुरोध औसत लागत, और token योग वाली तालिका।
एक अवधि, उसी खर्च के चार नज़रिये: कुल राशि, समय के साथ उसका स्वरूप, कौन-सा मॉडल उसका भार उठाता है, और दिन-प्रतिदिन का ब्योरा।
प्रदर्शन विश्लेषण टैब
मॉडल दक्षता का विश्लेषण करने और लागत-प्रदर्शन ट्रेड-ऑफ पहचानने के लिए Performance टैब पर स्विच करें:
सारांश कार्ड
कुल रिकॉर्ड
156
अवधि में Enrichment रिकॉर्ड
उपयोग किए गए मॉडल
8
परिणाम देने वाले अलग-अलग मॉडल
भाषा वेरिएंट
3
बहुभाषी संवर्धन में उपयोग की गई भाषाएँ
टोकन रेंज
4
अलग-अलग इनपुट टोकन आकार बकेट
चार्ट और टेबल
लागत बनाम अवधि— बबल आकारों के साथ स्कैटर चार्ट, जो रिक्वेस्ट संख्या के अनुपात में हैं। प्रत्येक बबल एक मॉडल है — गति और लागत का सबसे अच्छा संतुलन खोजें।
model अनुसार प्रदर्शन— प्रति model अनुरोध संख्या, औसत लागत, औसत अवधि, और token आँकड़ों की तुलना करने वाली तालिका।
भाषा गणना के अनुसार लागत— बार चार्ट जो दिखाता है कि मल्टीलिंगुअल एनरिचमेंट के लिए चुनी गई भाषाओं की संख्या के साथ लागत कैसे बढ़ती है।
इनपुट टोकन रेंज के अनुसार लागत— इनपुट प्रॉम्प्ट साइज़ बकेट (जैसे, 0–1K, 1K–5K, 5K–10K टोकन) के अनुसार लागत को विभाजित करने वाला बार चार्ट।
schema प्रॉपर्टी संख्या अनुसार प्रदर्शन— यह दर्शाने वाली तालिका कि enrichment लागत और अवधि schema जटिलता के साथ कैसे सहसंबंधित होती हैं (केवल enrichment record)।
यह चार्ट एक विकल्प है, रिपोर्ट नहीं: आमतौर पर आपके लिए सही मॉडल वही है जो नीचे-बाएँ कोने के सबसे नज़दीक हो और फिर भी आपके गुणवत्ता मानक पर खरा उतरे।
अनुकूलन सुझाव
Models की तुलना करें
कम लागत पर अच्छी गुणवत्ता देने वाले मॉडल खोजने के लिए Cost vs Duration स्कैटर चार्ट का उपयोग करें। सरल स्कीमा के लिए अक्सर छोटे, तेज़ मॉडल पर्याप्त होते हैं।
रुझान मॉनिटर करें
Cost Over Time चार्ट को साप्ताहिक रूप से जाँचें। अचानक उछाल गलत तरीके से कॉन्फ़िगर किए गए बैच जॉब या अप्रत्याशित रीट्राई लूप का संकेत हो सकते हैं।
schema को सही आकार दें
Performance by Schema Property Count टेबल दिखाती है कि स्कीमा आकार के साथ लागत कैसे बढ़ती है। प्रति-एनरिचमेंट लागत घटाने के लिए अनावश्यक प्रॉपर्टीज़ हटाएँ।
कैशिंग मॉडल का उपयोग करें
प्रॉम्प्ट कैशिंग वाले मॉडल (जैसे Anthropic) एक ही स्कीमा के साथ बार-बार होने वाले संवर्धन की लागत को कम करते हैं। टोकन उपयोग कार्ड कैश किए गए टोकन की बचत दिखाते हैं।