vLLM API 접근 경계

vLLM API 접근 경계 An architecture diagram generated by Archify. 클라이언트 · served-model-name / timeout · Architecture component 클라이언트 served-model-name / timeout 인증된 gateway · 경로·method·한도 허용 목록 · Architecture component 인증된 gateway 경로·method·한도 허용 목록 내부 vLLM Service · API / metrics / 운영 endpoint · Architecture component 내부 vLLM Service API / metrics / 운영 endpoint 운영자 · 별도 권한과 신뢰 경로 · Architecture component 운영자 별도 권한과 신뢰 경로 HTTPS 허용된 요청 운영 기능 Legend Backend Security External

API key의 범위

  • • 접두사별 인증은 모든 endpoint의 보호가 아닙니다.
  • • CORS는 인증이 아니며 JSON model과 HTTP header는 다릅니다.