Container Service for Kubernetes:CPUバーストの有効化

CPUバーストが開発される理由

Kubernetesクラスターでは、コンテナーのCPU制限により、コンテナーが使用できるCPUリソースの最大量が指定されます。 これにより、コンテナ間のCPU割り当てが公平になり、個々のコンテナによってCPUリソースが使い果たされた場合のパフォーマンス低下を防ぎます。

CPUリソースはタイムシェアリングです。 複数のプロセスまたはコンテナが1つのCPUタイムスライスを共有できます。 コンテナのCPU制限を指定すると、OSカーネルは完全公平スケジューラ (CFS) を使用して、コンテナが各期間内に使用できるCPUリソースの最大量 (cpu.cfs_quota_us) cpu.cfs_period_usを設定します。 たとえば、コンテナーのCPU制限を4に設定します。 OSカーネルは、コンテナが使用できるCPUタイムスライスを、各期間 (通常は各100ミリ秒) 内で400ミリ秒に制限します。

課金

ack-koordinatorコンポーネントをインストールまたは使用する場合、料金はかかりません。 ただし、次のシナリオでは料金が請求される場合があります。

• ack-koordinatorは、インストール後にワーカーノードリソースを占有する管理対象外のコンポーネントです。 コンポーネントのインストール時に、各モジュールが要求するリソースの量を指定できます。

• 既定では、ack-koordinatorは、リソースプロファイリングや細粒度スケジューリングなどの機能のモニタリングメトリックをPrometheusメトリックとして公開します。 ack-koordinatorのPrometheusメトリクスを有効にし、PrometheusのManaged Serviceを使用する場合、これらのメトリクスはカスタムメトリクスと見なされ、料金が課金されます。 料金は、クラスターのサイズやアプリケーションの数などの要因によって異なります。 Prometheusメトリクスを有効にする前に、Prometheusのマネージドサービスの課金トピックを読んで、カスタムメトリクスの無料クォータと課金ルールについて確認することをお勧めします。 リソース使用量を監視および管理する方法の詳細については、「観察可能なデータ量と請求書の照会」をご参照ください。

使用上の注意

注釈を使用して、ポッドのCPUバーストを有効にできます。 ConfigMapを使用して、名前空間またはクラスター内のポッドのCPUバーストを有効にすることもできます。

annotations:
  # Set the value to auto to enable CPU Burst for a pod. 
  koordinator.sh/cpuBurst: '{"policy": "auto"}'
  # Set the value to none to disable CPU Burst for a pod. 
  koordinator.sh/cpuBurst: '{"policy": "none"}'

手順

次の例では、webアプリケーションを使用して、CPUバーストがアクセス遅延を削減し、アプリケーションのパフォーマンスを向上させる方法を示します。

検証ステップ

1. apache-demo.yamlという名前のファイルを作成し、次の内容をファイルにコピーします。

   ポッドのCPUバーストを有効にするには、ポッド構成のmetadataセクションに特定のアノテーションを追加します。

   apiVersion: v1
   kind: Pod
   metadata:
     name: apache-demo
     annotations:
       koordinator.sh/cpuBurst: '{"policy": "auto"}'   # Add this annotation to enable CPU Burst. 
   spec:
     containers:
     - command:
       - httpd
       - -D
       - FOREGROUND
       image: registry.cn-zhangjiakou.aliyuncs.com/acs/apache-2-4-51-for-slo-test:v0.1
       imagePullPolicy: Always
       name: apache
       resources:
         limits:
           cpu: "4"
           memory: 10Gi
         requests:
           cpu: "4"
           memory: 10Gi
     nodeName: $nodeName # Replace the value with the actual node name. 
     hostNetwork: False
     restartPolicy: Never
     schedulerName: default-scheduler

2. 次のコマンドを実行して、Apache HTTP Serverを使用してアプリケーションを作成します。

   kubectl apply -f apache-demo.yaml

3. wrk2ツールを使用してストレステストを実行します。

   # Download, decompress, and then install the wrk2 package. For more information, visit https://github.com/giltene/wrk2. 
   # Gzip compression is enabled in the Apache image to simulate the request processing logic of the server. 
   # Run the following command to send requests. Replace the IP address in the command with the IP address of the application. 
   ./wrk -H "Accept-Encoding: deflate, gzip" -t 2 -c 12 -d 120 --latency --timeout 2s -R 24 http://$target_ip_address:8010/static/file.1m.test

   説明

   • コマンドのIPアドレスをApacheアプリケーションのポッドIPアドレスに置き換えます。

   • -Rパラメーターを変更して、送信者からの単位時間あたりのクエリ数を変更できます。

分析結果

次の表は、Alibaba Cloud LinuxおよびCentOSのCPUバーストを有効にする前後のメトリックを示しています。

• 無効列は、CPUバーストポリシーがnoneに設定されている場合のメトリックを示します。

• 有効列には、CPUバーストポリシーが自動に設定されている場合のメトリックが表示されます。

上記のメトリックは、次の情報を示しています。

• CPUバーストを有効にすると、P99レイテンシが大幅に削減されます。

• CPUバーストを有効にすると、CPUスロットリングイベントは大幅に削減され、ポッドの平均CPU使用率はほぼ同じ値のままになります。

詳細設定

詳細設定は、ConfigMapで指定するか、ポッド設定にアノテーションを追加して指定できます。 一部のパラメーターは、アノテーションを追加してConfigMapを変更することで設定できます。 この場合、アノテーションはConfigMapよりも優先されます。 このようなパラメーターを設定するためにアノテーションが追加されていない場合、ack-koordinatorは名前空間レベルのConfigMapで対応するパラメーターを使用します。 名前空間レベルのConfigMapでパラメーターが指定されていない場合、ack-koordinatorはクラスターレベルのConfigMapでパラメーターを使用します。

次のコードブロックは例です。

# Example of the ack-slo-config ConfigMap. 
data:
  cpu-burst-config: |
    {
      "clusterStrategy": {
        "policy": "auto",
        "cpuBurstPercent": 1000,
        "cfsQuotaBurstPercent": 300,
        "sharePoolThresholdPercent": 50,
        "cfsQuotaBurstPeriodSeconds": -1
      }
    }

# Example of pod annotations. 
  koordinator.sh/cpuBurst: '{"policy": "auto", "cpuBurstPercent": 1000, "cfsQuotaBurstPercent": 300, "cfsQuotaBurstPeriodSeconds": -1}'

次の表に、CPU Burstの高度なパラメーターを示します。

よくある質問