EKS에서의 AI/ML 인프라 구성

EKS에서의 AI/ML 인프라 구성 An architecture diagram generated by Archify. EKS 클러스터 · AWS 클라우드 › EKS 워크로드와 연동 경로 EKS 클러스터 AWS 서비스 · SageMaker · ECR · CloudWatch · AWS 클라우드 AWS 서비스 SageMaker · ECR · CloudWatch 훈련 노드 그룹 · p4d.24xlarge · p3.16xlarge · g5.48xlarge · AWS 클라우드 › EKS 워크로드와 연동 경로 › 노드 그룹 훈련 노드 그룹 p4d.24xlarge · p3.16xlarge · g5.48xlarge 추론 노드 그룹 · CPU / GPU / Neuron 런타임 · AWS 클라우드 › EKS 워크로드와 연동 경로 › 노드 그룹 추론 노드 그룹 CPU / GPU / Neuron 런타임 CPU 노드 그룹 · c6i.32xlarge · r6i.32xlarge · AWS 클라우드 › EKS 워크로드와 연동 경로 › 노드 그룹 CPU 노드 그룹 c6i.32xlarge · r6i.32xlarge 스토리지 · EBS · EFS · FSx for Lustre · S3 · AWS 클라우드 › EKS 워크로드와 연동 경로 스토리지 EBS · EFS · FSx for Lustre · S3 네트워킹 · VPC CNI · ENA/EFA · 배치 그룹 · AWS 클라우드 › EKS 워크로드와 연동 경로 네트워킹 VPC CNI · ENA/EFA · 배치 그룹 연동 데이터셋 · 모델 아티팩트 분산 훈련 AWS 클라우드 EKS 워크로드와 연동 경로 노드 그룹 Legend 노드 그룹 스토리지 EKS 클러스터 네트워킹 AWS 서비스

예시 구성

  • • 인스턴스는 예시이며 리전·할당량·소프트웨어 호환성을 확인합니다.
  • • 스토리지 공유와 데이터 권한은 자동 설정되지 않습니다.