Container Service for Kubernetes：使用負載熱點打散重調度

使用限制

• 僅支援ACK叢集Pro版。具體操作，請參見建立ACK託管叢集。

• 使用負載熱點打散重調度，需滿足以下版本要求。

  組件	版本要求
  ACK Scheduler	v1.22.15-ack-4.0及以上，v1.24.6-ack-4.0及以上
  ack-koordinator	v1.1.1-ack.1及以上
  Helm	v3.0及以上

費用說明

ack-koordinator組件本身的安裝和使用是免費的，不過需要注意的是，在以下情境中可能產生額外的費用：

• ack-koordinator是非託管組件，安裝後將佔用Worker節點資源。您可以在安裝組件時配置各模組的資源申請量。

• ack-koordinator預設會將資源畫像、精細化調度等功能的監控指標以Prometheus的格式對外透出。若您配置組件時開啟了ACK-Koordinator開啟Prometheus監控指標選項並使用了阿里雲Prometheus服務，這些指標將被視為自訂指標併產生相應費用。具體費用取決於您的叢集規模和應用數量等因素。建議您在啟用此功能前，仔細閱讀阿里雲Prometheus計費說明，瞭解自訂指標的免費額度和收費策略。您可以通過賬單和用量查詢，監控和管理您的資源使用方式。

負載熱點打散重調度介紹

負載感知調度

調度器支援負載感知調度，能夠在調度時選擇負載較低的節點運行新的Pod。節點的利用率會隨著時間、叢集環境變化、工作負載的流量或請求等動態變化，繼而導致叢集內節點間原本負載平衡的情況被打破，甚至有可能出現極端負載不均衡的情況，影響到工作負載運行時品質。ack-koordinator組件提供重調度能力，防止負載出現極端不均衡的情況。通過將負載感知調度和熱點打散重調度結合使用，可以獲得叢集良好的負載平衡效果。關於負載感知調度，請參見使用負載感知調度。

Koordinator Descheduler模組工作原理

ack-koordinator組件提供Koordinator Descheduler模組，其中LowNodeLoad外掛程式負責感知負載水位並完成熱點打散重調度工作。與Kubernetes原生的Descheduler的外掛程式LowNodeUtilization不同，LowNodeLoad是根據節點真實利用率決策重調度，而LowNodeUtilization是根據資源分派率決策重調度。

模組執行過程

Koordinator Descheduler模組周期性運行，每個周期內的執行過程分為以下三個階段。

1. 資料收集：擷取叢集內的節點和工作負載資訊，以及相關的資源使用率資料。

2. 策略外掛程式執行。

   下文以LowNodeLoad為例。

   1. 篩選負載熱點節點。關於節點分類，請參見下文LowNodeLoad負載水位參數說明。

   2. 遍曆熱點節點，從中篩選可以遷移的Pod，並進行排序。關於Pod打分排序，請參見下文Pod打分策略。

   3. 遍曆每個待遷移的Pod，檢查其是否滿足遷移條件，綜合考慮叢集容量、資源使用率水位、副本數比例等約束。詳細資料，請參見下文負載熱點打散重調度策略說明。

   4. 若滿足條件則將Pod歸類為待遷移副本，若不滿足則繼續遍曆其他Pod和熱點節點。

3. 容器驅逐遷移：針對待遷移的Pod發起Evict驅逐操作。關於Evict驅逐，請參見Evict驅逐。

LowNodeLoad負載水位參數說明

資源使用率資料預設每分鐘更新一次，粒度為最近5分鐘的平均值。

• 空閑節點（Idle Node）：資源使用率低於45%的節點。

• 正常節點（Normal Node）：資源使用率高於等於45%且低於等於70%的節點。此節點的負載水位區間是期望達到的合理區間範圍。

• 熱點節點（Hotspot Node）：資源使用率高於70%的節點。熱點節點將驅逐一部分Pod，降低負載水位，使其不超過70%。

負載熱點打散重調度策略說明

kubectl get event | grep stress-demo-588f9646cf-7****
55s         Normal    Evicting           podmigrationjob/3bf8f623-4d10-4fc5-ab4e-2bead3c4****   Pod "default/stress-demo-588f9646cf-7****" evicted from node "cn-beijing.10.XX.XX.53" by the reason "node is overutilized, cpu usage(76.72%)>threshold(50.00%)"
22s         Normal    EvictComplete      podmigrationjob/3bf8f623-4d10-4fc5-ab4e-2bead3c4****   Pod "default/stress-demo-588f9646cf-7****" has been evicted
55s         Normal    Descheduled        pod/stress-demo-588f9646cf-7****                       Pod evicted from node "cn-beijing.10.XX.XX.53" by the reason "node is overutilized, cpu usage(76.72%)>threshold(50.00%)"
55s         Normal    Killing            pod/stress-demo-588f9646cf-7****                       Stopping container stress

步驟一：安裝或修改組件ack-koordinator並開啟重調度

步驟二：開啟負載熱點打散重調度外掛程式

1. 使用如下YAML檔案，建立koord-descheduler-config.yaml。

   koord-descheduler-config.yaml是ConfigMap格式的對象，用於啟用重調度外掛程式LowNodeLoad。

   展開查看YAML檔案內容

   # koord-descheduler-config.yaml
   apiVersion: v1
   kind: ConfigMap
   metadata:
     name: koord-descheduler-config
     namespace: kube-system
   data:
     koord-descheduler-config: |
       # 以下為koord-desheduler系統配置，請保持不變。
       apiVersion: descheduler/v1alpha2
       kind: DeschedulerConfiguration
       leaderElection:
         resourceLock: leases
         resourceName: koord-descheduler
         resourceNamespace: kube-system
       deschedulingInterval: 120s # 執行循環間隔，120s執行一次重調度外掛程式。
       dryRun: false # 全域唯讀模式開關，開啟後Koordinator Descheduler整體不做任何操作。
       # 以上為系統配置。
   
       profiles:
       - name: koord-descheduler
         plugins:
           deschedule:
             disabled:
               - name: "*"
           balance:
             enabled:
               - name: LowNodeLoad # 配置開啟負載熱點打散外掛程式LowNodeLoad。
           evict:
             disabled:
               - name: "*"
             enabled:
               - name: MigrationController # 配置開啟驅逐遷移控制器。
   
         pluginConfig:
         - name: MigrationController # 重調度遷移控制參數。
           args:
             apiVersion: descheduler/v1alpha2
             kind: MigrationControllerArgs
             defaultJobMode: EvictDirectly
   
         - name: LowNodeLoad # 負載熱點打散外掛程式配置。
           args:
             apiVersion: descheduler/v1alpha2
             kind: LowNodeLoadArgs
   
             lowThresholds:  # lowThresholds表示空閑節點的准入水位閾值，判斷條件為“所有資源維度均低於閾值”。
               cpu: 20 # CPU利用率為20%。
               memory: 30  # Memory利用率為30%。
             highThresholds: # highThresholds表示熱點節點的准入水位閾值，判斷條件為“只要有一個資源維度均高於閾值”。
               cpu: 50  # CPU利用率為50%。
               memory: 60 # Memory利用率為60%。
   
             evictableNamespaces: # 參與重調度的Namespace，include和exclude是互斥的，只能配置其中一種。
               include: # include表示只處理下面配置的Namespace。
                 - default
               # exclude: # exclude表示需要排除的Namespace。
                 # - "kube-system"
                 # - "koordinator-system"

2. 執行如下命令，將配置更新到叢集。

   kubectl apply -f koord-descheduler-config.yaml

3. 執行如下命令，重啟重調度器模組Koordinator Descheduler。

   重啟重調度器模組Koordinator Descheduler後，Koordinator Descheduler會使用修改後的最新配置。

   kubectl -n kube-system scale deploy ack-koord-descheduler --replicas 0
   deployment.apps/ack-koord-descheduler scaled
   kubectl -n kube-system scale deploy ack-koord-descheduler --replicas 1
   deployment.apps/ack-koord-descheduler scaled

步驟三（可選）：開啟調度器負載平衡外掛程式

開啟調度器負載平衡外掛程式，以獲得叢集良好的負載平衡效果。具體操作步驟，請參見步驟一：開啟負載感知調度。

步驟四：驗證重調度能力

下文以擁有3台104核 396 GB節點的叢集為例進行說明。

1. 使用如下YAML檔案，建立stress-demo.yaml。

   展開查看YAML檔案內容。

   apiVersion: apps/v1
   kind: Deployment
   metadata:
     name: stress-demo
     namespace: default
     labels:
       app: stress-demo
   spec:
     replicas: 6
     selector:
       matchLabels:
         app: stress-demo
     template:
       metadata:
         name: stress-demo
         labels:
           app: stress-demo
       spec:
         containers:
           - args:
               - '--vm'
               - '2'
               - '--vm-bytes'
               - '1600M'
               - '-c'
               - '2'
               - '--vm-hang'
               - '2'
             command:
               - stress
             image: polinux/stress
             imagePullPolicy: Always
             name: stress
             resources:
               limits:
                 cpu: '2'
                 memory: 4Gi
               requests:
                 cpu: '2'
                 memory: 4Gi
         restartPolicy: Always

2. 執行如下命令，建立壓測Pod。

   kubectl create -f stress-demo.yaml
   deployment.apps/stress-demo created

3. 執行如下命令，觀察Pod的狀態，直到它開始運行。

   kubectl get pod -o wide

   預期輸出：

   NAME                           READY   STATUS    RESTARTS   AGE   IP            NODE                    NOMINATED NODE   READINESS GATES
   stress-demo-588f9646cf-s****   1/1     Running   0          82s   10.XX.XX.53   cn-beijing.10.XX.XX.53   <none>           <none>

   可以看到，Pod stress-demo-588f9646cf-s****調度在節點cn-beijing.10.XX.XX.53上。

4. 提升節點cn-beijing.10.XX.XX.53的負載水位，然後執行如下命令，檢查每個Node節點的負載。

   kubectl top node

   預期輸出：

   NAME                      CPU(cores)   CPU%   MEMORY(bytes)   MEMORY%
   cn-beijing.10.XX.XX.215   17611m       17%    24358Mi         6%
   cn-beijing.10.XX.XX.53    63472m       63%    11969Mi         3%

   可以看到，節點cn-beijing.10.XX.XX.53的負載較高，為63%，已經超過配置的熱點水位50%。節點cn-beijing.10.XX.XX.215負載較低，為17%，低於配置的空閑水位20%。

5. 開啟重調度。具體操作，請參見步驟二：開啟負載熱點打散重調度外掛程式。

6. 執行如下命令，觀察Pod變化。

   等待重調度器檢查熱點節點，並執行驅逐遷移操作。

   說明

   判定為熱點節點的預設條件為連續5次檢查節點均超過熱點水位，即10分鐘。

   kubectl get pod -w

   預期輸出：

   NAME                           READY   STATUS               RESTARTS   AGE     IP           NODE                     NOMINATED NODE   READINESS GATES
   stress-demo-588f9646cf-s****   1/1     Terminating          0          59s   10.XX.XX.53    cn-beijing.10.XX.XX.53     <none>           <none>
   stress-demo-588f9646cf-7****   1/1     ContainerCreating    0          10s   10.XX.XX.215   cn-beijing.10.XX.XX.215    <none>           <none>

7. 執行如下命令，觀察Event。

   kubectl get event | grep stress-demo-588f9646cf-s****

   預期輸出：

   2m14s       Normal    Evicting            podmigrationjob/00fe88bd-8d4c-428d-b2a8-d15bcdeb****   Pod "default/stress-demo-588f9646cf-s****" evicted from node "cn-beijing.10.XX.XX.53" by the reason "node is overutilized, cpu usage(68.53%)>threshold(50.00%)"
   101s        Normal    EvictComplete       podmigrationjob/00fe88bd-8d4c-428d-b2a8-d15bcdeb****   Pod "default/stress-demo-588f9646cf-s****" has been evicted
   2m14s       Normal    Descheduled         pod/stress-demo-588f9646cf-s****                       Pod evicted from node "cn-beijing.10.XX.XX.53" by the reason "node is overutilized, cpu usage(68.53%)>threshold(50.00%)"
   2m14s       Normal    Killing             pod/stress-demo-588f9646cf-s****                       Stopping container stress

   預期輸出為遷移記錄，可以看出結果符合預期。熱點節點上的Pod被重調度到其他節點。

進階配置參數

Koordinator Descheduler模組進階配置參數介紹

Koordinator Descheduler的所有參數配置以ConfigMap形式提供，以下展示了負載熱點打散重調度的進階配置參數格式。

# koord-descheduler-config.yaml
apiVersion: v1
kind: ConfigMap
metadata:
  name: koord-descheduler-config
  namespace: kube-system
data:
  koord-descheduler-config: |
    # 以下為koord-desheduler系統配置，請保持不變。
    apiVersion: descheduler/v1alpha2
    kind: DeschedulerConfiguration
    leaderElection:
      resourceLock: leases
      resourceName: koord-descheduler
      resourceNamespace: kube-system
    deschedulingInterval: 120s # 執行循環間隔，120s執行一次重調度外掛程式。
    dryRun: false # 全域唯讀模式開關，開啟後koord-descheduler整體不做任何操作。
    # 以上為系統配置。

    profiles:
    - name: koord-descheduler
      plugins:
        deschedule:
          disabled:
            - name: "*"
        balance:
          enabled:
            - name: LowNodeLoad # 配置開啟負載熱點打散外掛程式LowNodeLoad。
        evict:
          disabled:
            - name: "*"
          enabled:
            - name: MigrationController # 配置開啟驅逐遷移控制器。

      pluginConfig:
      - name: MigrationController # 重調度遷移控制參數。
        args:
          apiVersion: descheduler/v1alpha2
          kind: MigrationControllerArgs
          defaultJobMode: EvictDirectly
          maxMigratingPerNode: 1 # 每個節點處於遷移狀態的Pod的最大數量。
          maxMigratingPerNamespace: 1  # 每個Namespace處於遷移狀態的Pod的最大數量。
          maxMigratingPerWorkload: 1 # 每個Workload（例如Deployment）中處於遷移狀態的Pod的最大數量。
          maxUnavailablePerWorkload: 2 # 每個Workload（例如Deployment）最大不可用副本數。
          evictLocalStoragePods: false # 是否允許配置了HostPath或EmptyDir的Pod參與重調度
          objectLimiters:
            workload: # Workload層級Pod遷移的流量控制.預設為首次驅逐後，5分鐘內最多遷移1個副本。
              duration: 5m
              maxMigrating: 1

      - name: LowNodeLoad # 負載熱點打散外掛程式配置。
        args:
          apiVersion: descheduler/v1alpha2
          kind: LowNodeLoadArgs

          lowThresholds:  # lowThresholds表示空閑節點的准入水位閾值，判斷條件為“所有資源維度均低於閾值”。
            cpu: 20 # CPU利用率為20%。
            memory: 30  # Memory利用率為30%。
          highThresholds: # highThresholds表示熱點節點的准入水位閾值，判斷條件為“只要有一個資源維度均高於閾值”。
            cpu: 50  # CPU利用率為50%。
            memory: 60 # Memory利用率為60%。

          anomalyCondition: # 熱點節點檢查配置。
            consecutiveAbnormalities: 5 # 連續多個執行循環檢查中，均超過highThresholds的節點，才會被判定為熱點節點。熱點節點被驅逐後會重新計數。

          evictableNamespaces: # 參與重調度的Namespace。include和exclude是互斥的，只能配置其中一種。
            include: # include表示只處理下面配置的Namespace。
              - default
            # exclude: # exclude表示需要排除的Namespace。
              # - "kube-system"
              # - "koordinator-system"

          nodeSelector: # 只處理指定的部分節點。
            matchLabels:
              alibabacloud.com/nodepool-id: np77f520e1108f47559e63809713ce****

          podSelectors: # 只處理部分類型的Pod。
          - name: lsPods
            selector:
              matchLabels:
                koordinator.sh/qosClass: "LS"

Koordinator Descheduler系統配置

驅逐遷移控制配置

type MigrationObjectLimiter struct {
    Duration time.Duration `json:"duration,omitempty"`
    MaxMigrating *intstr.IntOrString `json:"maxMigrating,omitempty"`
}

objectLimiters:
  workload:
    duration: 5m
    maxMigrating: 1

LowNodeLoad外掛程式配置

highThresholds:
  cpu: 55 # CPU利用率熱點水位55%。
  memory: 75 # Memory利用率熱點水位75%。

lowThresholds:
  cpu: 25 # CPU利用率空閑水位25%。
  memory: 25 # Memory利用率空閑水位25%。

evictableNamespaces:
  exclude:
    - "kube-system"
    - "koordinator-system"

type PodSelector struct {
    name     string
    selector metav1.LabelSelector
}

# 只處理LS類型的Pod。
podSelectors:
- name: lsPods
  selector:
    matchLabels:
      koordinator.sh/qosClass: "LS"

常見問題

節點利用率閾值已經達到閾值，但是節點上Pod沒有被驅逐怎麼辦？

出現這種情況時，一般可能是有以下幾種原因，請參考對應的解決方案進行調整。

重調度器頻繁重啟是什麼原因？

重調度器的配置ConfigMap格式錯誤或不存在，請參見進階配置參數檢查ConfigMap檔案內容和格式並進行修改，修改後重啟重調度器。重啟重調度器，請參見步驟二：開啟負載熱點打散重調度外掛程式。

負載感知調度和熱點打散重調度如何搭配使用？

開啟熱點打散重調度後，負載熱點上的Pod將會被驅逐。對於上層控制器（例如Deployment）建立的Pod，調度器會根據其配置選擇合適的節點進行調度。為了獲得更好的負載平衡效果，建議您同時為調度器開啟負載感知調度能力，請參見使用負載感知調度。

配置時，建議您將負載感知調度中的節點篩選功能參數loadAwareThreshold配置為與熱點打散重調度器的highThresholds參數相同的值，具體請參見策略說明。當節點的負載超過highThresholds時，重調度器將驅逐該節點上的Pod，而調度器則通過loadAwareThreshold拒絕新的Pod被調度到該熱點節點上。否則，經驅逐的Pod可能重新被調度到原來的節點，尤其是在Pod指定了節點調度範圍，但對應的節點數量較少且利用率較為接近時。

重調度參考的利用率演算法是什嗎？

重調度器會持續對利用率監控一段時間，並對監控資料做平滑均值處理，因此只有節點持續超過閾值才會觸發重調度，預設為10分鐘左右。此外對於記憶體資源維度，重調度器參考的記憶體用量排除了page cache，因為這部分資源是可以被作業系統回收的，而通過kubectl top node返回的利用率是包含page cache的，您可以通過使用阿里雲Prometheus監控查看真實的記憶體用量資訊。