成本仪表板

实时成本分析,包含时间序列图表、按模型细分、性能指标和可配置的日期预设。

概览

成本仪表板让你全面了解 LLM 的支出和性能。它会汇总组织内所有丰富化记录的数据,并通过交互式图表和摘要卡片进行呈现。你可以用它识别成本趋势、比较模型效率并优化丰富化流程。

标签页
2
日期预设
4
图表类型
5
跨组织
管理员

日期预设

从侧边栏选择一个时间范围。URL 会随所选预设更新(例如 /costs/30d),从而支持可收藏的视图:

预设时间范围图表分组
7d最近 7 天每日
30d最近 30 天每日
90d最近 90 天每周
all所有时间每月

系统管理员可在侧边栏使用组织选择器,共三种设置:本组织、全部组织汇总,或某个指定组织。其他所有人(包括所有者)始终只能看到自己组织的费用;作用范围由后端决定,因此无法从客户端绕过该筛选。该选择按用户保存在本地存储中。

成本概览标签页

默认标签页提供全面的支出明细:

摘要卡片

  1. 1该期间的全部花费
  2. 2单次调用的平均费用
  3. 3单个已填充属性的平均费用
这两个平均值让不同的运行可以互相比较:每次请求成本回答“一次富化要花多少钱”,每个属性成本回答“填充一个字段要花多少钱” — 后者会随着 Schema 增长而变化。

图表与表格

成本随时间变化— 折线图,按天/周/月分组显示所选时间段内的支出趋势。
按模型的成本— 按总成本排列的前 10 个模型的水平条形图。快速识别成本最高的模型。
Token 用量— 输入 token、输出 token 及消耗的总 token 明细。
模型洞察— 突出显示使用最多的模型和最昂贵的模型的卡片。
每日明细— 包含日期、请求数、总成本、每次请求平均成本和 token 总量的表格。
同一时间段,对同一笔支出的四种解读:总额、随时间的变化形态、由哪个模型产生,以及逐日明细。

性能分析选项卡

切换到“性能”标签页,分析 model 效率并识别成本与性能的权衡:

摘要卡片

记录总数
156
该时间段内的富集记录
已使用的模型
8
产生结果的不同模型
语言变体
3
多语言增强中使用的语言
Token 范围
4
不同的输入 token 大小分档

图表与表格

成本与耗时— 气泡大小与请求次数成正比的散点图。每个气泡代表一个模型——找到速度与成本的最佳平衡点。
按模型划分的性能— 对比每个模型的请求数、平均成本、平均时长和 token 统计信息的表格。
按语言数量的成本— 展示成本如何随多语言增强所选语言数量而变化的柱状图。
按输入 Token 区间的成本— 按输入 prompt 大小区间(如 0–1K、1K–5K、5K–10K 令牌)细分成本的柱状图。
按 schema 属性数量划分的性能— 展示 enrichment 成本和时长如何与 schema 复杂度相关的表格(仅限 enrichment 记录)。
这张图表是用来做选择的,而不是一份报告:你想要的模型,通常是最靠近左下角、且仍能达到你质量标准的那一个。

优化提示

比较模型

使用“成本 vs 时长”散点图找出以更低成本提供优质效果的模型。对于简单的 schema,更小、更快的模型通常已经足够。

监控趋势

每周查看“成本随时间变化”图表。突然的峰值可能表示批次作业配置错误或意外的重试循环。

合理设置 schema 规模

“按 schema 属性数量的性能”表格展示了成本如何随 schema 规模变化。移除不必要的属性可降低每次增强的成本。

使用缓存模型

支持提示词缓存的模型(如 Anthropic)可降低使用相同模式重复增强的成本。Token 使用卡片会显示缓存 token 节省的情况。

后续步骤