全部產品
Search
文件中心

Platform For AI:調度策略

更新時間:Jul 13, 2024

資源配額代表了一組算力資源。在配置資源配額時,您可以根據調度策略的實現原理選擇合適的調度策略,來提高出隊效率,從而提高算力資源的利用率。本文為您介紹支援選擇的調度策略和實現原理。

背景資訊

當多個任務或執行個體同時請求算力資源時,會形成一個隊列並等待執行。為了提高算力資源的使用效率,PAI在資源配額維度提供了多種排隊策略,並通過調度策略來提高任務的出隊效率。您可以在資源配額介面上配置和管理這些排隊策略,選擇不同的排隊策略將直接影響任務的執行順序,但不會對已經開始執行的任務產生影響。

調度策略

配置資源配額時,支援選擇以下幾種類型的調度策略,各個調度策略的實現原理說明如下:

FIFO策略

如果隊列中的第一個任務無法出隊,系統將反覆嘗試對第一個任務進行出隊操作,而不會跳過。

遍曆策略

如果隊列中的第一個任務無法出隊,則會跳過該任務,然後依次嘗試對後續隊列中的任務進行出隊操作。

均衡策略

  • 如果隊列中的第一個任務無法出隊,系統將反覆嘗試對第一個任務進行出隊操作,不會跳過。

  • 如果第一個任務等待出隊時間超過預定時間(一般為幾分鐘),則系統會按照遍曆策略嘗試對第一個任務和第二個任務進行出隊操作。

  • 如果第二個任務等待出隊時間也超過預定時間,系統會對第一個、第二個和第三個任務按照遍曆策略嘗試出隊操作,依次類推。

智能策略

當調度策略選擇智能策略時,系統將根據設定的任務優先順序自動選擇合適的執行策略:

  • 對於優先順序在7至9之間的任務,則採用FIFO策略進行調度。

  • 對於優先順序在1至6之間的任務,則採用遍曆策略進行調度,並且這些任務在隊列中的位置將隨著排隊時間的增加而逐步前移,最多可前移至6級任務的位置。

其中:Item1、Item2優先順序≥7;Item3~ItemN優先順序<7。

相關文檔

在建立資源配額時,您可以根據調度策略實現原理選擇合適的調度策略。具體操作,請參見資源配額(Quota)功能介紹

說明

僅華北6(烏蘭察布)地區支援配置調度策略。