Function Compute：彈性管理（含預留模式）

在處理函數調用請求時，Function Compute會優先使用已有的可用執行個體。若當前執行個體已經滿載，Function Compute會建立新的執行個體來處理請求。隨著調用請求量的增加，Function Compute會持續建立新的執行個體，直到有足夠的執行個體處理請求或者達到您設定的執行個體數上限。在執行個體擴容的過程中，將受到以下限制。

• 處於執行狀態的執行個體總數，預設限制為每個地區300個。

• 處於執行狀態的執行個體數的擴容速度，受突增執行個體數和執行個體增長速度的限制。不同地區的限制條件，請參見各地區擴容速度限制。

  • 突增執行個體數：可立即建立的執行個體數，預設限制為100~300個。

  • 執行個體增長速度：超過突增執行個體數後每分鐘可增加的執行個體數，預設限制為100~300個。

當執行個體總數或者執行個體擴容速度超過限制後，Function Compute將返迴流控錯誤（HTTP Status為429）。下圖展示在一個調用量快速增長的情境下，Function Compute的流控行為。

• 圖示中①：在達到突增執行個體數前，Function Compute立即建立執行個體，這個過程中有冷啟動，但沒有流控錯誤。

• 圖示中②：達到突增執行個體數後，執行個體數的增長受速度限制，部分請求會收到流控錯誤。

• 圖示中③：執行個體數超過限制後，部分請求收到流控錯誤。

當突發的調用量較大時，大量的執行個體建立會受到流控限制導致請求失敗，執行個體的冷啟動也會增加請求延時。為避免這些問題，您可以使用Function Compute的預留執行個體，即提前準備好函數執行個體。預留執行個體的執行個體數上限和擴容速度有單獨的限制，不受上述執行個體伸縮限制的影響。

• 預留執行個體總數：預設每個地區300個。

• 預留執行個體擴容速度：預設每分鐘100~300個執行個體，不同地區的限制不同。具體資訊，請參見各地區擴容速度限制。下圖展示和上面相同的負載情境下，使用預留執行個體後Function Compute的流控行為。

  • 圖示中①：在預留執行個體被用滿之前，請求立即被執行，這個過程既沒有冷啟動，也沒有流控錯誤。

  • 圖示中②：在預留執行個體被用滿後，按量執行個體達到突增執行個體數之前，Function Compute立即建立執行個體，這個過程中有冷啟動，但沒有流控錯誤。

參數樣本如下。為服務service_1的函數function_1配置定時伸縮，配置的生效區間為2022-11-01 10:00:00至2022-11-30 10:00:00，在每天20:00將預留函數執行個體擴容至50，在每天22:00再將預留函數執行個體收縮至10。在使用PutProvisionConfig API配置定時伸縮的請求參數可參考以下資訊。

{
  "ServiceName": "service_1",
  "FunctionName": "function_1",
  "Qualifier": "alias_1",
  "ScheduledActions": [
    {
      "Name": "action_1",
      "StartTime": "2022-11-01T10:00:00Z",
      "EndTime": "2022-11-30T10:00:00Z",
      "TargetValue": 50,
      "ScheduleExpression": "cron(0 0 20 * * *)"
    },
    {
      "Name": "action_2",
      "StartTime": "2022-11-01T10:00:00Z",
      "EndTime": "2022-11-30T10:00:00Z",
      "TargetValue": 10,
      "ScheduleExpression": "cron(0 0 22 * * *)"
    }
  ]
}

參數說明如下。

Cron運算式（Seconds Minutes Hours Day-of-month Month Day-of-week）的欄位說明如下。

對於不同的執行個體並發數，預留模式的函數執行個體最大可響應並發值的計算邏輯如下所示。關於執行個體並發數的具體資訊，請參見設定執行個體並發度。

• 單一實例單並發：最大可響應並發值=函數執行個體數量

• 單一實例多並發：最大可響應並發值=函數執行個體數量×單一實例並發度

擴縮容目標值

• 根據當前指標值、指標追蹤值、當前預留模式的函數執行個體數、縮容係數共同決定。

• 擴縮容計算原理：縮容時會通過縮容係數來實現相對保守的縮容過程，縮容係數取值範圍為(0,1]。縮容係數為系統參數，用於減緩縮容速度，防止縮容過快，您無需設定。擴縮容目標值對計算結果向上取整得到最終結果，計算邏輯如下。

  • 擴容目標值=當前預留模式的函數執行個體數×（當前指標值/指標追蹤值）

  • 縮容目標值=當前預留模式的函數執行個體數×縮容係數×（1-當前指標值/指標追蹤值）

• 擴容目標值計算樣本：當前指標值為80%，指標追蹤值為40%，當前預留模式的函數執行個體數為100，經過計算100×（80%/40%）=200。預留模式的函數執行個體數會擴容到200，以保證擴容後指標追蹤值維持在40%附近。

參數樣本如下。為service_1的function_1函數配置指標追蹤Auto Scaling，配置的生效區間為：2022-11-01 10:00:00至2022-11-30 10:00:00，追蹤預留模式函數執行個體並發利用率ProvisionedConcurrencyUtilization指標，並發利用率追蹤值為60%，超過60%時開始擴容，擴容上限為100；並發利用率低於60%時開始縮容，縮容下限為10。在使用PutProvisionConfig API配置定時伸縮的請求參數可參考以下資訊。

{
  "ServiceName": "service_1",
  "FunctionName": "function_1",
  "Qualifier": "alias_1",
  "TargetTrackingPolicies": [
    {
      "Name": "action_1",
      "StartTime": "2022-11-01T10:00:00Z",
      "EndTime": "2022-11-30T10:00:00Z",
      "MetricType": "ProvisionedConcurrencyUtilization",
      "MetricTarget": 0.6,
      "MinCapacity": 10,
      "MaxCapacity": 100,
    }
  ]
}

參數說明如下。