본문으로 건너뛰기

Bedrock 사용량

AWS Bedrock 모델 사용량을 호출 수, 토큰, 지연, 비용, 캐시 절감 관점에서 모니터링할 수 있는 페이지입니다.

Bedrock 사용량

주요 기능​

기간 선택​

  • 상단 세그먼트 컨트롤에서 1h / 6h / 24h / 7d / 30d 중 하나를 선택합니다 (기본값 24h).
  • 선택한 기간이 KPI 카드, 차트, 모델 표 전체에 동시에 적용됩니다.
  • 모든 지표는 CloudWatch의 AWS/Bedrock 메트릭에서 집계됩니다.

KPI 카드​

카드의미
총 비용선택 기간의 예상 비용 합계 (USD)
호출 수모델 호출(invocation) 총합
입력 토큰입력 토큰 총합 (compact 표기)
출력 토큰출력 토큰 총합 (compact 표기)
캐시 절감cache read 할인으로 절약된 예상 비용

차트​

  • 토큰 추이 (입력+출력): 기간 동안의 토큰 사용량을 면적 그래프로 표시합니다.
  • 모델별 호출 수: 모델별 호출량을 막대 그래프로 비교합니다.
  • 모델별 비용: 모델별 비용 비중을 도넛 그래프와 범례로 보여줍니다.

모델 상세 표​

모델마다 다음 열을 제공합니다: 모델, 호출, 입력 토큰, 출력 토큰, 평균 지연(ms), 에러, 비용. 표는 기본적으로 비용이 높은 순으로 정렬됩니다.

사용 방법​

  1. 사이드바에서 Bedrock을 클릭합니다.
  2. 상단 세그먼트 컨트롤에서 보고 싶은 기간을 선택합니다.
  3. KPI 카드로 총 비용, 호출 수, 토큰, 캐시 절감을 한눈에 확인합니다.
  4. 토큰 추이 그래프에서 사용량 변화 패턴을 살펴봅니다.
  5. 모델별 호출 수·모델별 비용 차트로 어떤 모델이 가장 많이 쓰이고 비용을 차지하는지 비교합니다.
  6. 모델 상세 표에서 모델별 지연과 에러까지 함께 점검합니다.
  7. 우측 상단 새로고침 버튼으로 최신 데이터를 다시 불러옵니다. 버튼 옆에 마지막으로 가져온 시각(KST)이 표시됩니다.

사용 팁​

비용은 추정치입니다

표시되는 비용은 토큰 사용량에 100만 토큰당 단가표를 곱해 계산한 예상치이며, 실제 AWS 청구서 금액과 다를 수 있습니다. 정확한 청구 금액은 Cost Explorer에서 확인하세요.

캐시 절감 활용

캐시 절감 카드는 프롬프트 캐시(cache read) 덕분에 절약된 비용을 보여줍니다. 값이 클수록 캐시가 잘 활용되고 있다는 의미입니다.

데이터가 비어 있을 때

선택한 기간에 모델 호출이 없으면 빈 상태 메시지가 표시됩니다. 로드에 실패하면 CloudWatch 권한 또는 세션 만료 여부를 확인하세요.

AI 분석 팁​

플로팅 버튼(또는 AI 어시스턴트 페이지)에서 다음과 같이 질문할 수 있습니다.

  • "지난 7일 동안 비용이 가장 큰 Bedrock 모델은 무엇인가요?"
  • "캐시 절감을 더 늘리려면 어떻게 해야 하나요?"
  • "최근 24시간 동안 모델별 평균 지연을 비교해 주세요."

관련 페이지​