टाइम-सीरीज़ चार्ट्स, प्रति-मॉडल ब्रेकडाउन, प्रदर्शन मेट्रिक्स, और कॉन्फ़िगरेबल डेट प्रीसेट्स के साथ रीयल-टाइम लागत एनालिटिक्स।
Cost Dashboard आपको आपके LLM खर्च और प्रदर्शन में पूरी दृश्यता देता है। यह आपके ऑर्गनाइज़ेशन के सभी एनरिचमेंट रिकॉर्ड से डेटा एकत्र करता है और उसे इंटरैक्टिव चार्ट और सारांश कार्ड के माध्यम से प्रस्तुत करता है। इसका उपयोग लागत रुझानों की पहचान करने, मॉडल दक्षता की तुलना करने, और अपनी एनरिचमेंट पाइपलाइन को अनुकूलित करने के लिए करें।
साइडबार से एक समय सीमा चुनें। चयनित प्रीसेट को दर्शाने के लिए URL अपडेट होता है (उदा., /costs/30d), जिससे बुकमार्क करने योग्य व्यू सक्षम होते हैं:
| प्रीसेट | समय सीमा | चार्ट ग्रुपिंग |
|---|---|---|
7d | पिछले 7 दिन | दैनिक |
30d | पिछले 30 दिन | दैनिक |
90d | पिछले 90 दिन | साप्ताहिक |
all | सभी समय | मासिक |
सिस्टम एडमिनिस्ट्रेटर को साइडबार में तीन विकल्पों वाला संगठन सेलेक्टर मिलता है: उनका अपना संगठन, सभी संगठन एकत्रित रूप में, या कोई एक निर्दिष्ट संगठन। बाकी सभी को — मालिकों सहित — हमेशा अपने ही संगठन की लागतें दिखती हैं; स्कोप बैकएंड तय करता है, इसलिए क्लाइंट से इस फ़िल्टर को दरकिनार नहीं किया जा सकता। यह चयन प्रत्येक उपयोगकर्ता के लिए local storage में सहेजा जाता है।
डिफ़ॉल्ट टैब एक व्यापक खर्च विवरण प्रदान करता है:
मॉडल दक्षता का विश्लेषण करने और लागत-प्रदर्शन ट्रेड-ऑफ पहचानने के लिए Performance टैब पर स्विच करें:
कम लागत पर अच्छी गुणवत्ता देने वाले मॉडल खोजने के लिए Cost vs Duration स्कैटर चार्ट का उपयोग करें। सरल स्कीमा के लिए अक्सर छोटे, तेज़ मॉडल पर्याप्त होते हैं।
Cost Over Time चार्ट को साप्ताहिक रूप से जाँचें। अचानक उछाल गलत तरीके से कॉन्फ़िगर किए गए बैच जॉब या अप्रत्याशित रीट्राई लूप का संकेत हो सकते हैं।
Performance by Schema Property Count टेबल दिखाती है कि स्कीमा आकार के साथ लागत कैसे बढ़ती है। प्रति-एनरिचमेंट लागत घटाने के लिए अनावश्यक प्रॉपर्टीज़ हटाएँ।
प्रॉम्प्ट कैशिंग वाले मॉडल (जैसे Anthropic) एक ही स्कीमा के साथ बार-बार होने वाले संवर्धन की लागत को कम करते हैं। टोकन उपयोग कार्ड कैश किए गए टोकन की बचत दिखाते हैं।