Container Service for Kubernetes:水平ポッド自動スケーリングの実装

あなたが始める前に

HPA機能をより有効に活用できるように、このトピックを読む前に、Kubernetesの公式ドキュメントHorizontal Pod Autoscalingを読んで、HPAの基本原則、アルゴリズムの詳細、およびスケーリング設定を理解することをお勧めします。

さらに、Container Service for Kubernetes (ACK) クラスターは、スケジューリングレイヤ弾力性のためのさまざまなワークロードスケーリングソリューションと、リソースレイヤ弾力性のためのノードスケーリングソリューションを提供します。 HPA機能を使用する前に、自動スケーリングの概要を読んで、さまざまなソリューションの適用可能なシナリオと使用制限を理解することをお勧めします。

前提条件

• ACK管理クラスターまたはACK専用クラスターが作成されます。 詳細については、「クラスターの作成」をご参照ください。

• kubectlコマンドを使用してHPAを実装する場合は、kubectlクライアントがKubernetesクラスターに接続されていることを確認する必要があります。 詳細については、「クラスターのkubeconfigファイルを取得し、kubectlを使用してクラスターに接続する」をご参照ください。

ACKコンソールでHPAが有効になっているアプリケーションを作成する

ACKはHPAと統合される。 ACKコンソールでHPAが有効になっているアプリケーションを作成できます。 アプリケーションを作成するとき、または既存のアプリケーションに対してHPAを有効にできます。 ワークロードに対してHPAが有効になっているアプリケーションを1つだけ作成することをお勧めします。

kubectlを使用してHPAが有効になっているアプリケーションを作成する

オーケストレーションテンプレートを使用してHPAを作成し、HPAを有効にするデプロイにHPAを関連付けることもできます。 次に、kubectlコマンドを実行してHPAを有効にします。 ワークロードに対してHPAが有効になっているアプリケーションを1つだけ作成することをお勧めします。 次の例では、NGINXアプリケーションでHPAが有効になっています。

1. nginx.ymlという名前のファイルを作成し、次の内容をファイルにコピーします。

   重要

   アプリケーションに必要なリクエストリソースを設定する必要があります。 それ以外の場合は、HPAを有効にできません。 リソースプロファイリング機能を使用して、リソース使用量の履歴データを分析し、コンテナリクエストと制限を設定するための推奨事項を取得できます。 詳細については、「リソースプロファイリング」をご参照ください。

   展開してYAMLテンプレートを表示

   apiVersion: apps/v1 
   kind: Deployment
   metadata:
     name: nginx
     labels:
       app: nginx
   spec:
     replicas: 2
     selector:
       matchLabels:
         app: nginx  
     template:
       metadata:
         labels:
           app: nginx
       spec:
         containers:
         - name: nginx
           image: nginx:1.7.9 # Replace it with your actual <image_name:tags>.
           ports:
           - containerPort: 80
           resources:
             requests:                         # This parameter is required for running the HPA.
               cpu: 500m

2. 次のコマンドを実行して NGINX アプリケーションをインストールします。

   kubectl apply -f nginx.yml

3. hpa.ymlという名前のファイルを作成し、次の内容をファイルにコピーしてHPAを作成します。

   scaleTargetRefパラメーターを使用してHPAをnginxデプロイメントに関連付け、ポッド内のすべてのコンテナーの平均CPU使用率が50% に達したときにスケーリング操作をトリガーします。

   Kubernetesバージョンが1.24以降のクラスターのYAMLテンプレート

   apiVersion: autoscaling/v2
   kind: HorizontalPodAutoscaler
   metadata:
     name: nginx-hpa
   spec:
     scaleTargetRef:
       apiVersion: apps/v1
       kind: Deployment
       name: nginx
     minReplicas: 1  # The minimum number of containers that must run for the Deployment. The value of this parameter must be an integer greater than or equal to 1.
     maxReplicas: 10  # The maximum number of containers to which the Deployment can be scaled. The value of this parameter must be greater than minReplicas.
     metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50 # The average utilization of the target resource, which is the ratio of the average value of resource usage to its request amount.
                  

   Kubernetesバージョンが1.24より前のクラスターのYAMLテンプレート

   apiVersion: autoscaling/v2beta2
   kind: HorizontalPodAutoscaler
   metadata:
     name: nginx-hpa
   spec:
     scaleTargetRef:
       apiVersion: apps/v1
       kind: Deployment
       name: nginx
     minReplicas: 1  # Must be an integer greater than or equal to 1.
     maxReplicas: 10  # Must be greater than minReplicas.
     metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50
                  

   CPUとメモリメトリクスの両方を指定する必要がある場合は、2つのHPAを作成する代わりに、metricsフィールドでcpuとmemoryの両方のリソースタイプを指定できます。 HPAは、メトリックのいずれかがスケーリングしきい値に達したことを検出すると、スケーリング操作を実行します。

   metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50
     - type: Resource
       resource:
         name: memory
         target:
           type: Utilization
           averageUtilization: 50

4. 次のコマンドを実行してHPAを作成します。

   kubectl apply -f hpa.yml

   この時点で、kubectl describe hpa <HPA name> コマンドを実行すると、次の出力と同様の警告が返され、HPAがまだデプロイ中であることを示します。 この例のHPA名はnginx-hpa.ymlです。 kubectl get hpaコマンドを実行して、HPAのステータスを確認できます。

   Warning  FailedGetResourceMetric       2m (x6 over 4m)  horizontal-pod-autoscaler  missing request for cpu on container nginx in pod default/nginx-deployment-basic-75675f5897-mqzs7
   
   Warning  FailedComputeMetricsReplicas  2m (x6 over 4m)  horizontal-pod-autoscaler  failed to get cpu utilization: missing request for cpu on container nginx in pod default/nginx-deployment-basic-75675f5

5. HPAが作成され、ポッドがスケーリング条件に達するまで待ちます。この例では、NGINXのポッドCPU使用率が50% を超えています。 次に、kubectl describe hpa <HPA name> コマンドをもう一度実行して、水平スケーリングのステータスを確認します。

   次の出力が返された場合、HPAは期待どおりに実行されます。

   Type    Reason             Age   From                       Message
     ----    ------             ----  ----                       -------
     Normal  SuccessfulRescale  5m6s  horizontal-pod-autoscaler  New size: 1; reason: All metrics below target

関連する API 操作

デフォルトのスケーリング動作がビジネス要件を満たしていない場合は、動作パラメーターでscaleUpおよびscaleDownフィールドを指定して、より詳細なスケールアウトおよびスケールイン設定を行うことができます。 詳細については、「設定可能なスケーリング動作」をご参照ください。

behaviorでサポートされる一般的なシナリオは次のとおりです。

• トラフィックの急増時に迅速なスケーリングを実現します。

• 負荷が頻繁に変動するシナリオでは、迅速なスケールアップと遅いスケールダウンを実装します。

• 状態に敏感なアプリケーションのスケールダウンを防ぎます。

• 安定化ウィンドウのstabilizationWindowSecondsをリソース制約またはコスト重視のシナリオで使用して、スケールアップの速度を制限し、一時的な変動による頻繁な調整を減らします。

よくある質問

• HPAメトリックの現在のフィールドにunknownが表示されている場合はどうすればよいですか?

• HPAがメトリックを収集できず、スケーリングを実行できない場合はどうすればよいですか?

• ローリングアップデート中にHPAによって余分なポッドが追加された場合はどうすればよいですか?

• スケーリングしきい値に達したときにHPAがポッドをスケーリングしない場合はどうすればよいですか?

• HPAのメトリック収集間隔を設定するにはどうすればよいですか。

• CronHPAとHPAは衝突なしに相互作用できますか? CronHPAを有効にしてHPAと対話するにはどうすればよいですか?

• CPUまたはメモリの使用率が急速に増加したときにHPAによって過剰なポッドが追加される問題を修正するにはどうすればよいですか?

• 監査ログのメトリック値がしきい値を下回っているときに、HPAがアプリケーションをスケールアウトした場合はどうすればよいですか。

• HPAは、ポッドがスケールインされる順序を決定できますか?

• HPAによって収集された利用率メトリックの単位はどういう意味ですか?

• kubectl get hpaコマンドを実行した後、TARGETS列にunknownが表示された場合はどうすればよいですか?

• HPAでサポートされているメトリックを見つけるにはどうすればよいですか?

• NGINX Ingressログの形式をカスタマイズした後、水平オートスケーリングを設定するにはどうすればよいですか?

関連ドキュメント

その他の関連ドキュメント

• Alibaba Cloudメトリクスに基づいてHPAを実装するためにKubernetesでサポートされている外部メトリクスを設定する方法の詳細については、「Alibaba Cloudメトリクスに基づいて水平オートスケーリングを実装する」をご参照ください。

• HPAを実装するためにManaged Service For PrometheusメトリックをHPAでサポートされているメトリックに変換する方法の詳細については、「Prometheusメトリックに基づく水平自動スケーリングの実装」をご参照ください。

• HPAを使用するときによくある質問については、トラブルシューティングのためのFAQ about node auto scalingをご参照ください。

• CronHPAとHPAが競合することなく対話できるようにする方法の詳細については、「CronHPAをHPAと互換性のあるものにする」をご参照ください。

その他のワークロードスケーリングソリューション

• アプリケーションリソースの使用状況に定期的な変更があり、Crontabのような戦略に従ってポッドを定期的にスケーリングする必要がある場合は、「スケジュールされた水平スケーリングにCronHPAを使用する」をご参照ください。

• アプリケーションのリソース使用量に定期的な変更があり、ルールで定義するのが難しい場合は、Advanced Horizontal Pod Autoscasing (AHPA) を使用して、リソース使用サイクルを自動的に識別し、履歴メトリックに基づいてポッドをスケーリングできます。 詳細については、「AHPAの概要」をご参照ください。

• ポッドが十分なコンピューティングリソースを確保するために、ポッドリソースの使用状況に基づいてポッドのリソース制限を自動的に設定する必要がある場合は、「垂直ポッドオートスケーラーの使用」をご参照ください。

• メッセージキュー、タイミング戦略、カスタムメトリクス、およびその他のKubernetesイベントに基づいてポッドのスケーリングポリシーを柔軟にカスタマイズする必要がある場合は、「ACK KEDA」をご参照ください。

組み合わせソリューション

ノードオートスケーリング機能を備えたHPAを使用すると、クラスターノードリソースが不足している場合にノードを自動的にスケーリングできます。 詳細については、「ノードの自動スケーリングの有効化」をご参照ください。