Container Service for Kubernetes：使用容器水平伸縮（HPA）

閱讀前提示

為了協助您更好地使用HPA功能，建議您在閱讀本文前參見Kubernetes官方文檔Pod 水平自動擴縮瞭解HPA相關的基礎原理、演算法細節、可配置的擴縮行為等等。

此外，ACK叢集提供了多種工作負載伸縮（調度層彈性）和節點伸縮（資源層彈性）方案，建議您在使用本文檔前閱讀Auto Scaling概述，瞭解不同方案的適用情境、使用限制等。

前提條件

• 已建立ACK託管叢集、ACK專有叢集。具體操作，請參見建立叢集。

• 如您使用kubectl命令來實現HPA，還需已通過kubectl串連Kubernetes叢集。具體操作，請參見擷取叢集KubeConfig並通過kubectl工具串連叢集。

通過Container Service控制台建立HPA應用

阿里雲Container Service已經整合了HPA。您可以通過Container Service控制台建立HPA應用。您可以在建立應用時候建立HPA，也可以為已有應用開啟HPA。推薦您為一個工作負載僅建立一個HPA。

通過kubectl命令建立HPA應用

您也可以通過編排模板來手動建立HPA，並將其綁定到要伸縮的Deployment對象上，通過kubectl命令實現容器自動調整配置。推薦您為一個工作負載僅建立一個HPA。下文以部署支援HPA的Nginx應用為例。

1. 建立並複製以下內容到nginx.yml中。

   重要

   實現HPA時，需為Pod設定request資源，否則HPA無法運行。您可以使用資源畫像功能對資源使用量歷史資料進行分析，擷取配置容器Request和Limit的相關建議。更多資訊，請參見資源畫像。

   展開查看YAML樣本

   apiVersion: apps/v1 
   kind: Deployment
   metadata:
     name: nginx
     labels:
       app: nginx
   spec:
     replicas: 2
     selector:
       matchLabels:
         app: nginx  
     template:
       metadata:
         labels:
           app: nginx
       spec:
         containers:
         - name: nginx
           image: nginx:1.7.9 # 替換為實際的<image_name:tags>。
           ports:
           - containerPort: 80
           resources:
             requests:                         # 必須設定，否則HPA無法運行。
               cpu: 500m

2. 執行以下命令，建立Nginx應用。

   kubectl apply -f nginx.yml

3. 建立並複製以下內容到hpa.yml中，用於建立HPA。

   通過scaleTargetRef設定當前HPA綁定的對象。本例中綁定名為nginx的Deployment，在確保所有Pod中容器的平均CPU使用率達到50%時觸發擴縮操作。

   1.24及以上

   apiVersion: autoscaling/v2
   kind: HorizontalPodAutoscaler
   metadata:
     name: nginx-hpa
   spec:
     scaleTargetRef:
       apiVersion: apps/v1
       kind: Deployment
       name: nginx
     minReplicas: 1  # Deployment可縮容的容器數量下限，需設定為大於等於1的整數。
     maxReplicas: 10  # 該Deployment可擴容的容器數量上限，需大於minReplicas。
     metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50 # 目標資源的平均使用率，即資源使用量的平均值與其請求量之間的比例。
                  

   1.24以下

   apiVersion: autoscaling/v2beta2
   kind: HorizontalPodAutoscaler
   metadata:
     name: nginx-hpa
   spec:
     scaleTargetRef:
       apiVersion: apps/v1
       kind: Deployment
       name: nginx
     minReplicas: 1  # 需要為大於等於1的整數。
     maxReplicas: 10  # 需要大於最小副本數。
     metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50
                  

   如果需要同時指定CPU和記憶體指標，您可以在metrics欄位下同時指定cpu和memory類型的資源，而不是建立2個HPA。當HPA檢測到任何一個指標達到擴縮閾值後，便會執行擴縮容操作。

   metrics:
     - type: Resource
       resource:
         name: cpu
         target:
           type: Utilization
           averageUtilization: 50
     - type: Resource
       resource:
         name: memory
         target:
           type: Utilization
           averageUtilization: 50

4. 執行以下命令，建立HPA。

   kubectl apply -f hpa.yml

   此時，執行kubectl describe hpa <HPA名稱>（本樣本的HPA名稱為nginx-hpa.yml），預期輸出的警告資訊如下，表明HPA仍在部署中。您可以執行kubectl get hpa命令查看HPA的狀態。

   Warning  FailedGetResourceMetric       2m (x6 over 4m)  horizontal-pod-autoscaler  missing request for cpu on container nginx in pod default/nginx-deployment-basic-75675f5897-mqzs7
   
   Warning  FailedComputeMetricsReplicas  2m (x6 over 4m)  horizontal-pod-autoscaler  failed to get cpu utilization: missing request for cpu on container nginx in pod default/nginx-deployment-basic-75675f5

5. 等待HPA建立成功且Pod達到伸縮條件後（本樣本為Nginx的Pod CPU使用率超過50%），再次執行kubectl describe hpa <HPA的名稱>命令，查看水平伸縮情況。

   預期輸出如下，表明HPA正常運行。

   Type    Reason             Age   From                       Message
     ----    ------             ----  ----                       -------
     Normal  SuccessfulRescale  5m6s  horizontal-pod-autoscaler  New size: 1; reason: All metrics below target

相關操作

如果預設的擴縮容行為無法滿足業務需求，您可以通過behavior欄位更細粒度地配置縮容（scaleDown）和擴容（scaleUp）行為。更多資訊，請參見配置擴縮行為。

behavior支援的典型情境包括但不僅限於：

• 在流量急劇上升時實現快速擴容。

• 在負載波動頻繁的情境下實現快速擴容和緩慢縮容。

• 對狀態敏感的應用實現禁止縮容。

• 在資源有限或成本敏感的情境中，通過穩定視窗stabilizationWindowSeconds來限制擴容的速度，減少因短暫波動導致的頻繁調整。

關於behavior配置說明以及配置樣本，請參見調節HPA擴縮容靈敏度。

常見問題

• HPA的監控資料current欄位為何顯示為unknown？

• HPA擴縮容失敗，指標擷取異常怎麼辦？

• 為何HPA在滾動時擴容出了多餘的Pod？

• HPA到達閾值為何不進行擴縮容？

• HPA採集周期如何配置？

• CronHPA是否相容HPA？如何相容HPA？

• 如何解決HPA啟動時CPU或記憶體飆高造成擴容出多餘Pod的多彈現象？

• 為什麼HPA審計日誌數值未達閾值但擴縮了？

• HPA縮容時，能夠決定Pod縮容的順序嗎？

• HPA使用率指標單位的含義是什嗎？

• 如果執行kubectl get hpa後發現target一欄為unknown怎麼辦？

• 如何尋找HPA支援的指標名稱？

• 自訂了Nginx Ingress日誌格式後如何進行適配操作？

相關文檔

其他相關操作文檔

• 關於如何在Kubernetes提供External Metrics支援的情況下，基於阿里雲組件的指標實現容器水平伸縮（HPA），請參見基於阿里雲組件指標的容器水平伸縮。

• 關於如何將阿里雲Prometheus指標轉換成HPA可用的指標，實現容器水平伸縮（HPA），請參見基於阿里雲Prometheus指標的容器水平伸縮。

• 關於使用HPA過程中遇到的問題，您可以先參見節點自動調整FAQ進行自助排查。

• 如果您需要實現CronHPA與HPA的協同，請參見實現CronHPA與HPA的協同。

其他工作負載伸縮方案

• 如果您的應用資源使用率存在周期性變化，需要按照類似Crontab的策略定時對Pod進行擴縮容，請參見使用容器定時水平伸縮（CronHPA）。

• 如果您的應用資源使用率存在周期性變化，但難以通過規則定義，您可以選擇AHPA，以根據業務歷史指標自動識別業務水位周期，進行Pod擴縮容，請參見AHPA概述。

• 如需基於Pod的資源使用方式自動為Pod設定資源佔用的限制，從而讓Pod獲得足夠的計算資源，請參見使用容器垂直伸縮（VPA）。

• 如需基於訊息佇列、定時策略、自訂指標等Kubernetes事件靈活自訂擴縮容策略，對Pod進行擴縮容，請參見使用事件驅動伸縮（KEDA）。

搭配方案

您可以將HPA與節點自動調整功能搭配使用，在叢集節點資源不足時，實現節點的自動擴縮。更多資訊，請參見啟用節點自動調整。