レジリエンス

Istio のレジリエンス機能により、障害シナリオでも Service Mesh が信頼性高く動作します。

概要

レジリエンスは分散システムにおける重要な特性です。Istio はさまざまなレジリエンスパターンを自動的に実装できます。

主要なレジリエンスパターン

1. Outlier Detection

異常な動作を示す Service インスタンスを自動的に検出し、トラフィックプールから除外します。

yaml

apiVersion: networking.istio.io/v1
kind: DestinationRule
metadata:
  name: myapp
spec:
  host: myapp
  trafficPolicy:
    outlierDetection:
      consecutiveErrors: 5
      interval: 30s
      baseEjectionTime: 30s
      maxEjectionPercent: 50

主な機能:

連続エラーの検出
自動的な除外と復旧
Circuit Breaker と連携

2. Rate Limiting

過負荷から Service を保護するため、リクエストレートを制限します。

yaml

apiVersion: networking.istio.io/v1
kind: EnvoyFilter
metadata:
  name: ratelimit
spec:
  configPatches:
  - applyTo: HTTP_FILTER
    match:
      context: SIDECAR_INBOUND
    patch:
      operation: INSERT_BEFORE
      value:
        name: envoy.filters.http.local_ratelimit
        typed_config:
          "@type": type.googleapis.com/envoy.extensions.filters.http.local_ratelimit.v3.LocalRateLimit
          stat_prefix: http_local_rate_limiter
          token_bucket:
            max_tokens: 100
            tokens_per_fill: 10
            fill_interval: 1s

主な機能:

Token Bucket アルゴリズム
ローカルおよびグローバルのレート制限
クライアント別およびパス別の制限

3. Zone Aware Routing

レイテンシーを削減しコストを節約するため、Availability Zone 間のトラフィックを最適化します。

yaml

apiVersion: networking.istio.io/v1
kind: DestinationRule
metadata:
  name: myapp
spec:
  host: myapp
  trafficPolicy:
    loadBalancer:
      localityLbSetting:
        enabled: true
        distribute:
        - from: us-east-1a/*
          to:
            "us-east-1a/*": 80
            "us-east-1b/*": 20

主な機能:

同一 AZ のトラフィックを優先
AZ 間コストを削減
障害時の自動フェイルオーバー

4. Circuit Breaker

Service の過負荷を防ぐため、接続数とリクエスト数を制限します。

yaml

apiVersion: networking.istio.io/v1
kind: DestinationRule
metadata:
  name: circuit-breaker
spec:
  host: myapp
  trafficPolicy:
    connectionPool:
      tcp:
        maxConnections: 100              # Maximum TCP connections
      http:
        http1MaxPendingRequests: 10      # Maximum pending requests
        http2MaxRequests: 100            # Maximum HTTP/2 requests
        maxRequestsPerConnection: 2       # Maximum requests per connection
    outlierDetection:
      consecutiveErrors: 5
      interval: 30s
      baseEjectionTime: 30s

仕組み:

主な機能:

TCP 接続数の制限
HTTP リクエスト数の制限
保留中のリクエスト数の制限
オーバーフロー時の Fail Fast

5. Retry

一時的な障害が発生したリクエストを自動的にリトライします。

yaml

apiVersion: networking.istio.io/v1
kind: VirtualService
metadata:
  name: myapp
spec:
  hosts:
  - myapp
  http:
  - route:
    - destination:
        host: myapp
    retries:
      attempts: 3                        # Maximum 3 retries
      perTryTimeout: 2s                  # Timeout per attempt
      retryOn: 5xx,reset,connect-failure,refused-stream  # Retry conditions
    timeout: 10s                         # Total request timeout

リトライ条件 (retryOn):

5xx: Server エラー (500、502、503、504)
reset: TCP 接続のリセット
connect-failure: 接続失敗
refused-stream: HTTP/2 ストリームの拒否
retriable-4xx: リトライ可能な 4xx (例: 409)
gateway-error: Gateway エラー (502、503、504)

指数バックオフ:

yaml

retries:
  attempts: 5
  perTryTimeout: 2s
  retryOn: 5xx
  retryRemoteLocalities: true            # Retry to other localities

仕組み:

6. Timeout

リクエストが無期限に待機することを防ぐため、時間制限を設定します。

yaml

apiVersion: networking.istio.io/v1
kind: VirtualService
metadata:
  name: myapp
spec:
  hosts:
  - myapp
  http:
  - route:
    - destination:
        host: myapp
    timeout: 5s                          # Request timeout
    retries:
      attempts: 3
      perTryTimeout: 2s                  # Per-retry timeout

Timeout の階層:

yaml

# Gateway level timeout
apiVersion: networking.istio.io/v1
kind: VirtualService
metadata:
  name: gateway-timeout
spec:
  gateways:
  - my-gateway
  hosts:
  - example.com
  http:
  - route:
    - destination:
        host: frontend
    timeout: 30s                         # Gateway -> Frontend: 30 seconds

---
# Service level timeout
apiVersion: networking.istio.io/v1
kind: VirtualService
metadata:
  name: service-timeout
spec:
  hosts:
  - backend
  http:
  - route:
    - destination:
        host: backend
    timeout: 5s                          # Frontend -> Backend: 5 seconds

推奨設定:

Gateway -> Frontend: 30～60 秒 (ユーザー向け)
Service -> Service: 5～10 秒 (内部通信)
Database クエリ: 2～5 秒
外部 API: 10～30 秒

7. Fault Injection

Chaos Engineering のために意図的に障害を注入します。

yaml

apiVersion: networking.istio.io/v1
kind: VirtualService
metadata:
  name: fault-injection
spec:
  hosts:
  - myapp
  http:
  - fault:
      # Delay injection
      delay:
        percentage:
          value: 10.0                    # 10% of requests delayed
        fixedDelay: 5s                   # 5 second delay

      # Error injection
      abort:
        percentage:
          value: 5.0                     # 5% of requests fail
        httpStatus: 503                  # Return 503 error

    route:
    - destination:
        host: myapp

ユースケースのシナリオ:

ネットワークレイテンシーのシミュレーション:

yaml

fault:
  delay:
    percentage:
      value: 100.0
    fixedDelay: 7s

断続的な障害のテスト:

yaml

fault:
  abort:
    percentage:
      value: 20.0                        # 20% failure rate
    httpStatus: 500

特定のユーザーにのみ障害を注入:

yaml

apiVersion: networking.istio.io/v1
kind: VirtualService
metadata:
  name: fault-injection-user
spec:
  hosts:
  - myapp
  http:
  - match:
    - headers:
        end-user:
          exact: test-user               # Apply only to test-user
    fault:
      abort:
        percentage:
          value: 100.0
        httpStatus: 503
    route:
    - destination:
        host: myapp