如何通過AHPA配置自訂指標以實現應用擴縮 - Container Service for Kubernetes

很多情境中需要根據自訂指標（例如HTTP請求的QPS、訊息佇列的長度等）對應用進行擴縮容。AHPA（Autoscaling Horizontal Pod Autoscaler）提供了External Metrics機制，結合alibaba-cloud-metrics-adapter組件，可以為應用提供更加豐富的擴縮容機制。本文介紹如何通過AHPA配置自訂指標以實現應用擴縮容。

前提條件

已建立ACK託管叢集或ACK Serverless叢集。詳細資料，請參見建立Kubernetes託管版叢集、建立叢集。
已安裝AHPA Controller組件。

步驟一：準備樣本

登入Container Service管理主控台，在左側導覽列選擇叢集。
在叢集列表頁面，單擊目的地組群名稱，然後在左側導覽列，選擇工作負載 > 無狀態。
在無狀態頁面，單擊使用YAML建立資源。

在建立頁面，使用如下YAML，建立應用sample-app、對應的Service以及壓測樣本fib-loader-qps，然後單擊建立。

說明

此容器暴露出自訂指標requests_per_second，用來標識每秒訪問次數。

展開查看YAML詳細內容

apiVersion: apps/v1
kind: Deployment
metadata:
  name: sample-app
  labels:
    app: sample-app
spec:
  replicas: 1
  selector:
    matchLabels:
      app: sample-app
  template:
    metadata:
      labels:
        app: sample-app
    spec:
      containers:
      - image: registry.cn-hangzhou.aliyuncs.com/acs/knative-sample-fib-server:v1
        name: metrics-provider
        ports:
        - name: http
          containerPort: 8080
        env:
        - name: NAMESPACE
          valueFrom:
            fieldRef:
              fieldPath: metadata.namespace
        - name: POD_NAME
          valueFrom:
            fieldRef:
              fieldPath: metadata.name

在建立頁面，使用如下YAML，建立ServiceMonitor，然後單擊建立。

展開查看YAML詳細內容

apiVersion: monitoring.coreos.com/v1
kind: ServiceMonitor
metadata:
  name: sample-app
  namespace: default
spec:
  endpoints:
  - interval: 30s
    port: http
    path: /metrics
  namespaceSelector:
    any: true
  selector:
    matchLabels:
      app: sample-app

開啟ServiceMonitor。
1. 登入ARMS控制台。
2. 在左側導覽列選擇Prometheus監控 > 執行個體列表，進入可觀測監控 Prometheus 版的執行個體列表頁面。
3. 在頁面頂部，選擇Prometheus執行個體所在的地區，單擊目標執行個體名稱（與叢集同名）。
4. 在左側導覽列選擇服務發現，然後在右側頁面單擊配置頁簽，然後單擊ServiceMonitor頁簽。
5. 在sample-app所在行，開啟操作列的開關。

步驟二：部署Metrics Adapter

擷取HTTP API的內網地址。
1. 登入ARMS控制台。
2. 在左側導覽列選擇Prometheus監控 > 執行個體列表，進入可觀測監控 Prometheus 版的執行個體列表頁面。
3. 在執行個體列表頁面頂部，選擇Prometheus執行個體所在的地區，然後單擊目標執行個體名稱（格式為arms_metrics_{RegionId}_XXX）。
4. 在左側導覽列單擊設定，在HTTP API地址（Grafana 讀取地址）地區，查看並記錄內網地址（Prometheus URL）。
  - （可選）如果開啟了Token，則需要設定訪問Token。請記錄Token的值。
  - 查看並記錄內網地址（Prometheus URL）。

部署ack-alibaba-cloud-metrics-adapter。

登入Container Service管理主控台，在左側導覽列選擇市場 > 應用市場。
單擊應用目錄頁簽，搜尋並單擊ack-alibaba-cloud-metrics-adapter。
在ack-alibaba-cloud-metrics-adapter頁面，單擊右上方的一鍵部署。
在基本資料設定精靈中，選擇叢集和命名空間，然後單擊下一步。

在參數配置設定精靈中，選擇Chart版本。根據在擷取HTTP API的內網地址擷取的值，在參數地區配置prometheus.url和prometheus.prometheusHeader，然後單擊確定。

  prometheus:
    enabled: true
    # 填寫HTTP API的內網地址，即阿里雲Prometheus監控的URL地址。
    url: http://cn-beijing-intranet.arms.aliyuncs.com:9090/api/v1/prometheus/6b4b40986a3bec4f92ea418534****/115964845466****/arms-metrics-6fae216078e4****/cn-beijing
    # 阿里雲Prometheus開啟鑒權Token後，請配置prometheusHeader Authorization。
    prometheusHeader:
    - Authorization: eyJhbGciOiJIUzI1NiJ9.eyJleHAiOjIwMDc1MTY0MDksImlzcyI6Imh0dHA6******liYWJhY2xvdWQuY29tIiwiaWF0IjoxNjkyMTU2NDA5LCJqdGkiOiI3NmRkOWJkOS0zYzBkLTRjY2MtOTFkYy1lZTU1OGFkNjg3NmMifQ.gltEJ7g4j-QPao2durNk3OiEBYhv2F_nzG-cncVfFtY

配置自訂指標。

在叢集列表頁面，單擊目的地組群名稱，然後在左側導覽列，選擇應用 > Helm。
在alibaba-cloud-metrics-adapter所在行，單擊操作列的更新。

將下面的YAML檔案內容複寫，然後粘貼並覆蓋模板中對應的參數。注意下面樣本說明中的requests_per_second，需要修改為實際對應的指標，對應Prometheus每秒請求數指標。然後單擊更新。

  ......
  prometheus:
    adapter:
      rules:
        custom:
        - metricsQuery: sum(<<.Series>>{<<.LabelMatchers>>})
          name:
            as: requests_per_second
          resources:
            overrides:
              namespace:
                resource: namespace
          seriesQuery: requests_per_second # 設定指標名稱，請確保阿里雲Prometheus中指標和此處一致。
        default: false
    enabled: true    # 這裡設定為true，開啟Prometheus Adapter。
    ......

執行如下命令，通過Custom Metrics指標查詢方式，查看可用指標詳情。

kubectl get --raw "/apis/external.metrics.k8s.io/v1beta1/namespaces/default/requests_per_second"
{"kind":"ExternalMetricValueList","apiVersion":"external.metrics.k8s.io/v1beta1","metadata":{},"items":[{"metricName":"requests_per_second","metricLabels":{},"timestamp":"2023-08-15T07:59:09Z","value":"10"}]}

步驟三：部署AHPA

建立如下AHPA資源。

設定external.metric，指定指標名稱以及matchLabels。指標名稱與配置自訂指標中的指標名稱保持一致。這裡指定自訂指標為requests_per_second。
設定目標閾值，這裡指定AverageValue為10，表示每秒請求數超過10就開始擴容。

展開查看YAML詳細資料

apiVersion: autoscaling.alibabacloud.com/v1beta1
kind: AdvancedHorizontalPodAutoscaler
metadata:
  name: customer-deployment
  namespace: default
spec:
  metrics:
  - external:
      metric:
        name: requests_per_second
        selector:
          matchLabels:
            namespace: default
            service: sample-app
      target:
        type: AverageValue
        averageValue: 10
    type: External
  minReplicas: 0
  maxReplicas: 50
  prediction:
    quantile: 95
    scaleUpForward: 180
  scaleStrategy: observer
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: sample-app
  instanceBounds:
  - startTime: "2023-08-01 00:00:00"
    endTime: "2033-08-01 00:00:00"
    bounds:
    - cron: "* 0-8 ? * MON-FRI"
      maxReplicas: 50
      minReplicas: 4
    - cron: "* 9-15 ? * MON-FRI"
      maxReplicas: 50
      minReplicas: 5
    - cron: "* 16-23 ? * MON-FRI"
      maxReplicas: 50
      minReplicas: 1

執行如下命令，查看AHPA結果。

custom-metric % kubectl get ahpa
NAME                  STRATEGY   REFERENCE                   METRIC                TARGETS     DESIREDPODS   REPLICAS   MINPODS   MAXPODS   AGE
customer-deployment   observer   Deployment/sample-app       requests_per_second   60000m/10   6             1          1         50        7h53m

K8s需要高精度時，會使用單位m或k。例如1001m=1.001，這裡60000m=60。預期輸出表明，每秒請求數為60，超過了設定的目標閾值10，計算出期望Pod數（DESIREDPODS）為6。