Container Service for Kubernetes:Horizontal Pod Autoscaling (HPA) の使用

事前準備

HPA 機能をより効果的に使用するために、Kubernetes の公式ドキュメント Horizontal Pod Autoscaling を読み、その基本原則、アルゴリズムの詳細、および設定可能なスケーリング動作を理解してください。

さらに、Container Service for Kubernetes (ACK) クラスターは、さまざまなワークロードスケーリング (スケジューリング層の伸縮性) およびノードスケーリング (リソース層の伸縮性) ソリューションを提供します。先に進む前に、Auto Scaling を読み、各ソリューションのユースケースと制限事項を理解してください。

前提条件

• ACK マネージドクラスターまたはACK 専用クラスターを作成済みであること。詳細については、「クラスターの作成」をご参照ください。

• kubectl コマンドを使用して HPA を実装する場合は、kubectl を使用して Kubernetes クラスターに接続します。詳細については、「kubectl を使用した ACK クラスターへの接続」をご参照ください。

コンソールでの HPA アプリケーションの作成

Container Service for Kubernetes (ACK) は HPA と統合されており、ACK コンソールで HPA ポリシーを作成できます。アプリケーションの作成時に HPA ポリシーを作成するか、既存のアプリケーションに対して HPA を有効にすることができます。各ワークロードに対して作成する HPA ポリシーは 1 つだけにすることを推奨します。

kubectl を使用した HPA アプリケーションの作成

オーケストレーションテンプレートから手動で HPA を作成し、スケーリングしたい Deployment オブジェクトにアタッチすることもできます。その後、kubectl コマンドを使用してアプリケーションの自動スケーリングを設定できます。各ワークロードに対して HPA は 1 つだけ作成することを推奨します。次の例では、HPA をサポートする Nginx アプリケーションをデプロイする方法を示します。

1. nginx.yml という名前のファイルを作成し、次の内容をコピーします。

   重要

   HPA を実装する場合、Pod の request リソースを設定する必要があります。そうしないと、HPA は実行できません。リソースプロファイル機能を使用して、過去のリソース使用量データを分析し、コンテナーのリクエストとリミットを設定するための推奨事項を取得できます。詳細については、「リソースプロファイル」をご参照ください。

   YAML の例を展開して表示

   apiVersion: apps/v1 
   kind: Deployment
   metadata:
     name: nginx
     labels:
       app: nginx
   spec:
     replicas: 2
     selector:
       matchLabels:
         app: nginx  
     template:
       metadata:
         labels:
           app: nginx
       spec:
         containers:
         - name: nginx
           image: nginx:1.7.9 # 実際の <image_name:tags> に置き換えてください。
           ports:
           - containerPort: 80
           resources:
             requests:         # requests を設定する必要があります。設定しない場合、HPA は計算を実行できず、メトリックは不明として表示されます。
               cpu: 500m

2. 次のコマンドを実行して、Nginx アプリケーションを作成します。

   kubectl apply -f nginx.yml

3. hpa.yml という名前のファイルを作成し、次の内容をコピーして HPA を作成します。

   scaleTargetRef を使用して、HPA がアタッチされるオブジェクトを指定します。この例では、HPA は nginx という名前の Deployment にアタッチされます。すべての Pod 内のすべてのコンテナーの平均 CPU 使用率が 50% に達すると、スケーリング操作がトリガーされます。

   1.24 以降

   apiVersion: autoscaling/v2
   kind: HorizontalPodAutoscaler
   metadata:
     name: nginx-hpa
   spec:
     scaleTargetRef:
       apiVersion: apps/v1
       kind: Deployment
       name: nginx
     minReplicas: 1  # デプロイメントをスケールインできるレプリカの最小数。1 以上の整数である必要があります。
     maxReplicas: 10  # デプロイメントをスケールアウトできるレプリカの最大数。minReplicas より大きい必要があります。
     metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50 # リソースのターゲット平均使用率。これは、平均リソース使用量と要求リソース量の比率です。
                  

   バージョン 1.24 以前

   apiVersion: autoscaling/v2beta2
   kind: HorizontalPodAutoscaler
   metadata:
     name: nginx-hpa
   spec:
     scaleTargetRef:
       apiVersion: apps/v1
       kind: Deployment
       name: nginx
     minReplicas: 1  # 1 以上の整数である必要があります。
     maxReplicas: 10  # レプリカの最小数より大きい必要があります。
     metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50
                  

   CPU とメモリの両方のメトリックを指定するには、2 つの HPA を作成するのではなく、metrics フィールドに cpu と memory の両方のリソースタイプを指定します。HPA がいずれかのメトリックがしきい値に達したことを検出すると、スケーリング操作がトリガーされます。

   metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50
     - type: Resource
       resource:
         name: memory
         target:
           type: Utilization
           averageUtilization: 50

4. 次のコマンドを実行して HPA を作成します。

   kubectl apply -f hpa.yml

   この時点で、kubectl describe hpa <HPA_name> を実行します。この例では、HPA 名は nginx-hpa です。予期される警告メッセージは、HPA がまだデプロイ中であることを示します。kubectl get hpa コマンドを実行して HPA のステータスを確認できます。

   Warning  FailedGetResourceMetric       2m (x6 over 4m)  horizontal-pod-autoscaler  missing request for cpu on container nginx in pod default/nginx-deployment-basic-75675f5897-mqzs7
   
   Warning  FailedComputeMetricsReplicas  2m (x6 over 4m)  horizontal-pod-autoscaler  failed to get cpu utilization: missing request for cpu on container nginx in pod default/nginx-deployment-basic-75675f5

5. HPA が作成され、Pod がスケーリング条件を満たすのを待ちます。この例では、Nginx Pod の CPU 使用率が 50% を超えると条件が満たされます。その後、再度 kubectl describe hpa <HPA_name> コマンドを実行して、水平スケーリングのステータスを確認します。

   期待される出力は、HPA が正常に実行されていることを示します。

   Type    Reason             Age   From                       Message
     ----    ------             ----  ----                       -------
     Normal  SuccessfulRescale  5m6s  horizontal-pod-autoscaler  New size: 1; reason: All metrics below target

関連操作

デフォルトのスケーリング動作がビジネス要件を満たさない場合は、behavior フィールドを使用して、スケールイン (scaleDown) とスケールアウト (scaleUp) の動作をより細かい粒度で設定できます。詳細については、「設定可能なスケーリング動作」をご参照ください。

behavior がサポートする典型的なシナリオには、以下が含まれますが、これらに限定されません：

• 突然のトラフィック急増時の迅速なスケールアウトの実現。

• 負荷変動が頻繁なシナリオでの迅速なスケールアウトと緩やかなスケールインの実装。

• 状態に敏感なアプリケーションのスケールインの無効化。

• リソースが限られている、またはコストに敏感なシナリオで、安定化ウィンドウ stabilizationWindowSeconds を使用してスケールアウト速度を制限し、一時的な変動による頻繁な調整を減らす。

behavior の設定と設定例の詳細については、「HPA のスケーリング感度の調整」をご参照ください。

よくある質問

• HPA メトリックの現在のフィールドに unknown が表示される場合の対処法

• HPA がメトリックを収集できず、スケーリングに失敗する場合の対処法

• ローリングアップデート中に HPA によって過剰な Pod が追加される場合の対処法

• スケーリングのしきい値に達しても HPA が Pod をスケーリングしない場合の対処法

• HPA のメトリック収集間隔の設定方法

• CronHPA と HPA は競合なく連携できますか？ CronHPA が HPA と連携できるようにするにはどうすればよいですか？

• CPU またはメモリ使用率が急増したときに HPA によって過剰な Pod が追加される問題の修正方法

• 監査ログのメトリック値がしきい値より低いのに HPA がアプリケーションをスケールアウトする場合の対処法

• HPA は Pod がスケールインされる順序を制御できますか？

• HPA によって収集される使用率メトリックの単位は何を意味しますか？

• kubectl get hpa コマンドを実行した後に TARGETS 列に unknown が表示される場合の対処法

• HPA がサポートするメトリックを見つける方法

• NGINX Ingress ログのフォーマットをカスタマイズした後の水平自動スケーリングの設定方法

• Prometheus データリクエスト URL の取得方法

• コマンドラインから sls_ingress_qps メトリックをクエリする方法

• kubectl を使用してインストールされた VPA をコンソールで管理する方法

• alibaba-cloud-metrics-adapter イメージのプルに失敗しました

関連ドキュメント

その他の関連ドキュメント

• Kubernetes の外部メトリック機能を使用して Alibaba Cloud コンポーネントのメトリックで HPA を実装する方法については、「Alibaba Cloud メトリックを使用した Pod の水平スケーリング」をご参照ください。

• Prometheus メトリックを HPA 互換のメトリックに変換して HPA を実装する方法の詳細については、「Prometheus メトリックに基づく水平 Pod 自動スケーリング」をご参照ください。

• HPA の使用中に問題が発生した場合は、トラブルシューティング情報について「ノード自動スケーリングに関するよくある質問」をご参照ください。

• CronHPA と HPA を連携させるには、「CronHPA と HPA の連携」をご参照ください。

その他のワークロードスケーリングソリューション

• アプリケーションのリソース使用量が定期的に変化し、Crontab のようなポリシーに基づいて Pod をスケーリングする必要がある場合は、「CronHPA を使用したスケジュールに基づく水平スケーリング」をご参照ください。

• アプリケーションのリソース使用量が定期的に変化するものの、ルールで定義するのが難しい場合は、Advanced Horizontal Pod Autoscaling (AHPA) を使用できます。AHPA は、過去のメトリックに基づいてビジネスサイクルを自動的に識別し、Pod をスケーリングします。詳細については、「予測スケーリング (AHPA)」をご参照ください。

• Pod のリソース使用量に基づいてリソースリミットを自動的に設定し、十分な計算リソースを受け取れるようにするには、「Vertical Pod Autoscaling (VPA) の使用」をご参照ください。

• メッセージキュー、スケジュールされたポリシー、カスタムメトリックなどの Kubernetes イベントに基づいて Pod のスケーリングポリシーを柔軟にカスタマイズするには、「イベント駆動型自動スケーリング」をご参照ください。

組み合わせソリューション

HPA をノード自動スケーリング機能と組み合わせて使用することで、クラスターノードのリソースが不足した場合にノードを自動的にスケーリングできます。詳細については、「ノード自動スケーリングの有効化」をご参照ください。