시계열 차트, 모델별 세부 내역, 성능 지표, 구성 가능한 날짜 프리셋을 갖춘 실시간 비용 분석입니다.
개요
Cost Dashboard는 LLM 지출과 성능을 완전히 파악할 수 있게 해줍니다. 조직의 모든 강화 레코드에서 데이터를 집계하여 대화형 차트와 요약 카드로 표시합니다. 이를 사용하여 비용 추세를 파악하고, 모델 효율성을 비교하며, 강화 파이프라인을 최적화하세요.
탭
2
날짜 프리셋
4
차트 유형
5
조직 간
관리자
날짜 프리셋
사이드바에서 기간을 선택하세요. URL이 선택한 프리셋을 반영하도록 업데이트되어(예: /costs/30d) 북마크 가능한 보기를 제공합니다:
프리셋
시간 범위
차트 그룹화
7d
지난 7일
일별
30d
지난 30일
일별
90d
지난 90일
주간
all
전체 기간
월간
시스템 관리자에게는 사이드바에 세 가지 설정을 제공하는 조직 선택기가 표시됩니다. 자신의 조직, 모든 조직 합계, 또는 지정한 하나의 조직입니다. 그 외 사용자는 소유자를 포함해 항상 자신의 조직 비용만 확인합니다. 범위는 백엔드에서 결정되므로 클라이언트에서 필터를 우회할 수 없습니다. 선택한 값은 사용자별로 로컬 스토리지에 저장됩니다.
비용 개요 탭
기본 탭은 상세한 지출 내역을 제공합니다:
요약 카드
1해당 기간에 사용한 전체 금액
2호출 1건의 평균 비용
3채워진 속성 1개의 평균 비용
이 두 평균값 덕분에 실행을 서로 비교할 수 있습니다. 요청당 비용은 “보강 한 번의 비용”을, 속성당 비용은 “채워진 필드 하나의 비용”을 알려 주며, 후자는 스키마가 커질 때 변하는 수치입니다.
차트 및 표
시간에 따른 비용— 선택한 기간 동안 일/주/월 단위로 그룹화된 지출 추세를 보여주는 선 차트입니다.
모델별 비용— 총 비용 기준 상위 10개 모델의 가로 막대 차트입니다. 가장 비싼 모델을 빠르게 파악하세요.
토큰 사용량— 입력 토큰, 출력 토큰, 소비된 총 토큰의 내역.
모델 인사이트— 가장 많이 사용된 모델과 가장 비싼 모델을 강조하는 카드입니다.
일별 세부 내역— 날짜, 요청 수, 총비용, 요청당 평균 비용, 토큰 합계가 포함된 표입니다.
하나의 기간, 같은 지출을 보는 네 가지 관점: 총액, 시간에 따른 추이, 어떤 모델이 차지하는지, 그리고 일별 상세 내역입니다.
성능 분석 탭
모델 효율성을 분석하고 비용-성능 절충점을 파악하려면 Performance 탭으로 전환하세요:
요약 카드
총 레코드
156
해당 기간의 강화 레코드
사용된 모델
8
결과를 생성한 고유 모델
언어 변형
3
다국어 강화에 사용되는 언어
토큰 범위
4
고유한 입력 토큰 크기 버킷
차트 및 표
비용 대 소요 시간— 버블 크기가 요청 수에 비례하는 산점도입니다. 각 버블은 모델이며, 속도와 비용의 최적 균형을 찾으세요.
모델별 성능— model별 요청 수, 평균 비용, 평균 소요 시간, 토큰 통계를 비교하는 표입니다.
언어 수별 비용— 다국어 enrichment에 선택한 언어 수에 따라 비용이 어떻게 증가하는지 보여주는 막대 차트입니다.
입력 토큰 범위별 비용— 입력 prompt 크기 구간(예: 0–1K, 1K–5K, 5K–10K 토큰)별로 비용을 분류한 막대 차트입니다.
스키마 속성 개수별 성능— enrichment 비용 및 소요 시간이 schema 복잡도와 어떻게 상관되는지 보여주는 표입니다(enrichment record만 해당).
이 차트는 보고서가 아니라 선택입니다. 원하는 모델은 대개 품질 기준을 충족하면서 왼쪽 아래 모서리에 가장 가까운 모델입니다.
최적화 팁
모델 비교
비용 대 소요 시간 산점도 차트를 사용하여 더 낮은 비용으로 우수한 품질을 제공하는 모델을 찾으세요. 간단한 스키마에는 더 작고 빠른 모델로도 충분한 경우가 많습니다.
트렌드 모니터링
시간 경과에 따른 비용 차트를 매주 확인하세요. 갑작스러운 급증은 잘못 구성된 배치 작업이나 예기치 않은 재시도 루프를 나타낼 수 있습니다.
schema를 적정 크기로 조정하기
스키마 속성 수별 성능 표는 스키마 크기에 따라 비용이 어떻게 확장되는지 보여줍니다. 불필요한 속성을 제거하여 보강당 비용을 줄이세요.
캐싱 모델 사용
프롬프트 캐싱을 지원하는 모델(예: Anthropic)은 동일한 스키마로 반복되는 보강의 비용을 줄여줍니다. 토큰 사용량 카드에 캐시된 토큰 절감액이 표시됩니다.