全部產品
Search
文件中心

:多終端節點群組流量調配原理及應用情境

更新時間:Jul 06, 2024

Global Acceleration支援為單個TCP和UDP協議的監聽配置多個不同地區的終端節點群組。您可以為終端節點群組設定流量調配值,靈活控制轉寄到各終端節點群組的訪問流量比例,同時,您還可以為終端節點群組開啟健全狀態檢查,剔除異常的終端節點群組。

多終端節點群組流量調配原理

流量調配介紹

Global Acceleration支援設定終端節點群組流量調配,調整多個終端節點群組的訪問流量比例,實現訪問流量的合理調配,為使用者提供更好的訪問體驗。

  • 流量調配:表示訪問流量的調配權重,取值範圍為0%~100%,預設值為100%。0%表示忽略此終端節點群組,不向該終端節點群組轉寄訪問流量,100%表示訪問流量全部轉寄到此終端節點群組。

  • 調度優先順序:終端節點群組最終實際的流量分配,不僅取決於設定的終端節點群組流量調配,還依賴於終端節點群組調度優先順序。Global Acceleration基於網路時延(主要依賴於地理位置和網路鏈路情況)得出調度優先順序。一般來說,存取點到每個終端節點群組地區的地理位置越近,網路鏈路越短,調度優先順序越高。訪問流量會被優先調度至離存取點最近的終端節點群組。

說明

為各終端節點群組開啟了健全狀態檢查後,若高優先順序的終端節點群組健全狀態檢查異常,訪問流量將全部轉寄至次優先順序終端節點群組,此時轉寄權重與設定的流量調配值無關。

流量調配計算

您可以通過以下樣本瞭解流量調配原理:

  • 單加速地區對應多終端節點群組

    假設某應用的用戶端集中在北京地區,伺服器部署在北京和上海地區,已通過Global Acceleration添加了北京加速地區、北京地區終端節點群組和上海地區終端節點群組。現在需要按需分配北京和上海的訪問流量比例。

    • 各終端節點群組流量調配均設定為100%

      序號

      調度流程說明

      用戶端訪問流量被就近調度到北京存取點,進入阿里雲加速網路。

      監聽根據配置的協議與連接埠檢查用戶端的串連請求,並根據各個終端節點群組的調度優先順序與設定的流量調配值選擇接收請求的終端節點群組。

      北京終端節點群組優先順序高於上海終端節點群組,健全狀態檢查正常且流量調配為100%,訪問流量全部被轉寄到北京終端節點群組。

      用戶端請求由北京的伺服器處理。

      當北京終端節點群組健全狀態檢查異常時,次優先順序的上海終端節點群組健全狀態檢查正常,那麼監聽會將流量全部轉寄到上海終端節點群組。

      用戶端請求由上海的伺服器處理。

    • 北京終端節點群組流量調配調整為50%(您也可以按需調整為其他值),上海終端節點群組為100%

      與流量調配為100%時的調度流程類似,北京用戶端訪問流量會被優先轉寄到北京終端節點群組。根據流量調配50%,將前50%的訪問流量轉寄至北京終端節點群組處理,剩餘50%將被轉寄至上海終端節點群組。同樣,若流量調配為30%時,將前30%的訪問流量轉寄至北京終端節點群組,剩餘70%將被轉寄至上海終端節點群組。

      同時,上海終端節點群組的流量調配為100%,則剩餘訪問流量(如上剩餘50%或70%)將全部由上海終端節點群組接收。

    • 各終端節點群組流量調配均設定為50%(您也可以按需調整為其他值)

      序號

      調度流程說明

      用戶端訪問流量被就近調度到北京存取點,進入阿里雲加速網路。

      監聽根據配置的協議與連接埠檢查用戶端的串連請求,並根據各個終端節點群組的調度優先順序與設定的流量調配值選擇接收請求的終端節點群組。

      北京終端節點群組優先順序高於上海終端節點群組,健全狀態檢查正常且流量調配為50%,訪問流量50%轉寄到北京終端節點群組。

      北京伺服器處理訪問流量的50%。

      剩餘50%被轉至次優先順序的上海終端節點群組,根據上海終端節點群組流量調配50%,則上海終端節點群組接收剩餘流量的50%,即50%×50%=25%。

      此時,北京終端節點群組接收50%,上海終端節點群組接收25%,還有25%訪問流量未被接收。

      對用戶端訪問流量剩餘未被接收部分進行二次調度,二次調度方式為剩餘未被接收部分在每個終端節點群組平均分配。

      剩餘未被接收的25%訪問流量平均分配至各終端節點群組,即北京和上海終端節點群組各接收12.5%。

      北京的伺服器處理二次調度的12.5%的訪問流量。 北京的伺服器總共處理62.5%的訪問流量,即50%+12.5%=62.5%。

      上海的伺服器處理37.5%的訪問流量,即25%+12.5%=37.5%。

  • 多加速地區對應多終端節點群組

    當用戶端分布在多個地區,即有多個加速地區時,用戶端的訪問流量通過加速IP從就近存取點進入阿里雲加速網路,再根據調度優先順序調度至離存取點最近的終端節點群組。

    • 各終端節點群組流量調配均設定為100%

      序號

      調度流程說明

      北京和上海用戶端的訪問流量分別被就近調度到北京和上海存取點,進入阿里雲加速網路。

      監聽根據配置的協議與連接埠檢查用戶端的串連請求,並根據各個終端節點群組的調度優先順序與設定的流量調配值選擇接收請求的終端節點群組。

      根據流量調配值,對各地區用戶端訪問流量進行調度。

      • 北京用戶端訪問流量調度情況

        北京終端節點群組優先順序高於上海終端節點群組,健全狀態檢查正常且流量調配為100%,北京用戶端的訪問流量全部被轉寄到北京終端節點群組。

      • 上海用戶端訪問流量調度情況

        上海終端節點群組優先順序高於北京終端節點群組,健全狀態檢查正常且流量調配為100%,上海用戶端的訪問流量全部被轉寄到上海終端節點群組。

      上海和北京的伺服器分別處理各自接收到的訪問流量。

    • 北京終端節點群組流量調配調整為50%(您也可以按需調整為其他值),上海終端節點群組為100%

      與流量調配為100%時的調度流程類似,北京用戶端訪問流量會被優先轉寄到北京終端節點群組。根據流量調配50%,將前50%的訪問流量轉寄至北京終端節點群組,剩餘50%將被轉寄至上海終端節點群組。同樣,若流量調配為30%時,將前30%的訪問流量轉寄至北京終端節點群組,剩餘70%將被轉寄至上海終端節點群組。

      上海用戶端訪問流量會被優先轉寄到上海終端節點群組,根據上海終端節點群組流量調配100%,上海用戶端訪問流量全部被上海終端節點群組接收。

      最終,北京終端節點群組接收50%的北京用戶端訪問流量,上海終端節點群組接收100%上海用戶端訪問流量和北京用戶端剩餘50%的訪問流量。

    • 各終端節點群組流量調配均設定為50%(您也可以按需調整為其他值)

      序號

      調度流程說明

      北京和上海用戶端的訪問流量分別被就近調度到北京和上海存取點,進入阿里雲加速網路。

      監聽根據配置的協議與連接埠檢查用戶端的串連請求,並根據各個終端節點群組的調度優先順序與設定的流量調配值選擇接收請求的終端節點群組。

      根據流量調配值,對各地區用戶端訪問流量進行首次調度。

      • 北京用戶端訪問流量調度情況

        北京終端節點群組優先順序高於上海終端節點群組,健全狀態檢查正常且流量調配為50%,訪問流量50%轉寄到北京終端節點群組,剩餘50%轉寄至上海終端節點群組。根據上海終端節點群組流量調配50%,則上海終端節點群組接收北京剩餘流量的50%,即50%×50%=25%。此時,北京剩餘25%(100%-50%-25%)訪問流量未被接收。

      • 上海用戶端訪問流量調度情況

        上海終端節點群組優先順序高於北京終端節點群組,健全狀態檢查正常且流量調配為50%,訪問流量50%轉寄到上海終端節點群組,剩餘50%轉寄至北京終端節點群組。根據北京終端節點群組流量調配50%,則北京終端節點群組接收上海剩餘流量的50%,即50%×50%=25%。此時,上海剩餘25%(100%-50%-25%)訪問流量未被接收。

      對各地區用戶端訪問流量剩餘未被接收部分進行二次調度,二次調度方式為剩餘未被接收部分在每個終端節點群組平均分配。

      北京剩餘未被接收的25%訪問流量平均分配到北京終端節點群組和上海終端節點群組,即各終端節點群組分別接收12.5%。同樣,上海剩餘未被接收的25%訪問流量,各終端節點群組也分別接收12.5%。

      上海和北京的伺服器分別處理各自接收到的訪問流量。

應用情境

應用情境概覽

情境

說明

服務多地區部署

針對原有的伺服器不滿足現有應用需求或部分地區使用者群體驗不佳時,例如不同的使用者群共用一個加速地區,或多個加速地區共用一個終端節點群組,需要在新地區上線服務。

訪問流量多地區負載

針對單地區部署服務造成的傳輸線路流量過大或者伺服器負載過高問題,可考慮將服務部署在不同地區,將不同地區的後端服務分別配置為終端節點群組,再通過流量調配功能調整不同地區訪問流量的分配比例,來降低單一地區的訪問壓力。

服務跨地區容災

對服務連續性和可靠性有一定要求時,可跨地區部署服務,將不同地區的後端服務分別配置為終端節點群組並開啟健全狀態檢查功能。當某個地區服務出現異常時,可將訪問流量轉寄至正常地區,實現容災需求。

按地區下線或升級服務

針對地區級業務調整,例如需要平滑下線訪問量較小的某地區服務或升級某地區服務,可通過終端節點群組的流量調配功能將此地區訪問流量進行靈活遷移。

服務多地區部署

當業務擴充,原有的伺服器不滿足現有應用的需求或部分地區使用者體驗不佳時,需要在新的地區部署該服務。您可以通過為Global Acceleration新增終端節點群組或加速地區,來提升使用者訪問體驗。

  • 新增終端節點群組,提升服務處理能力

    以下圖情境為例。某應用部署在北京地區,原有的北京和上海用戶端分別由北京和上海存取點接入,訪問請求均由北京終端節點群組的伺服器進行處理。隨著使用者量增大,伺服器負載越來越高。

    您可以增加上海終端節點群組,將上海用戶端的訪問流量遷移到上海終端節點群組的伺服器中,實現應用服務能力提升。實現步驟如下:

    1. 在上海地區部署伺服器。

    2. 在Global Acceleration對應監聽中添加上海地區終端節點群組。具體操作,請參見添加預設終端節點群組

      添加上海終端節點群組時,可先將流量調配配置為一個較小的值,例如1%,以進行調試。

    3. 調實驗證上海用戶端訪問流量轉寄情況。

      此時,北京用戶端的訪問流量繼續由北京終端節點群組的伺服器處理,上海用戶端訪問流量中1%由上海終端節點群組的伺服器處理,剩餘99%轉寄至北京終端節點群組的伺服器處理。

    4. 調試成功後,修改上海地區終端節點群組的流量調配為100%。

      上海用戶端的訪問流量完全遷移到上海終端節點群組的伺服器中,北京終端節點群組的伺服器不再處理上海用戶端的訪問請求。具體操作,請參見設定終端節點群組流量調配

  • 新增加速地區,提升使用者訪問體驗

    以下圖情境為例。假設某應用部署在北京,用戶端集中在北京和上海地區,均通過北京存取點接入Global Acceleration網路,所有訪問請求均由北京終端節點群組的伺服器處理。上海用戶端經常出現延遲、抖動等網路問題。

    您可以在上海地區部署該服務,為Global Acceleration執行個體添加上海加速地區和上海地區的終端節點群組。上海用戶端的訪問請求將就近接入上海存取點,經監聽檢查處理後轉寄至離上海存取點較近的上海終端節點群組。最終實現上海用戶端訪問體驗的提升。具體操作,請參見添加和管理加速地區添加預設終端節點群組

訪問流量多地區負載

您可以通過流量調配功能將某個加速地區的訪問流量分配至多個不同地區的終端節點群組,從而降低該加速地區對應終端節點群組伺服器的負載。

如下圖情境所示。假設某應用部署在北京和上海,用戶端主要集中在北京地區。已通過Global Acceleration添加了北京加速地區、北京地區終端節點群組和上海地區終端節點群組,Global Acceleration預設將北京用戶端的訪問流量全部就近轉寄至北京終端節點群組的伺服器進行處理。由於北京訪問流量較大,導致北京地區終端節點群組的伺服器負載過大,用戶端訪問出現卡頓、丟包等情況。

您可以根據需求調整北京和上海地區終端節點群組的流量調配值,例如將北京終端節點群組的預設流量調配值100%修改為50%,此時,北京用戶端的50%訪問流量由北京終端節點群組的伺服器處理,剩餘50%訪問流量轉寄至上海終端節點群組的伺服器處理,實現北京地區訪問流量的合理分配,降低北京終端節點群組中伺服器的壓力。修改終端節點群組流量調配,請參見設定終端節點群組流量調配

服務跨地區容災

您可以通過在Global Acceleration中添加多個不同地區的終端節點群組,並為多個終端節點群組開啟健全狀態檢查,實現服務跨地區容災。

如下圖情境所示,假設某應用部署在北京和上海,已通過Global Acceleration在上海和北京地區分別添加了對應的加速地區和終端節點群組。正常情況下,北京和上海用戶端的訪問請求會被就近接入對應的加速地區,通過監聽檢查處理,再根據流量調配值和調度優先順序分別轉寄至對應的終端節點群組。為保證應用能持續穩定的對外提供服務,要求北京或上海其中任意一個地區的應用出現異常時,可將異常地區的訪問流量自動切換至另一個運行正常的地區。

您可以分別為北京和上海地區的終端節點群組開啟健全狀態檢查,當上海地區終端節點群組健全狀態檢查出現異常時,監聽會自動將訪問流量調度至健全狀態檢查正常的北京地區終端節點群組;而當上海地區終端節點群組恢複正常後,監聽會自動回復上海用戶端的流量調配,將上海用戶端的訪問流量全部調度至上海地區終端節點群組。健全狀態檢查的配置,請參見開啟和管理健全狀態檢查

按地區下線或升級服務

您可以通過流量調配功能,實現服務按地區下線或升級,降低對用戶端訪問的影響。

以下圖情境為例。假設某公司業務部署在北京和上海地區,已通過Global Acceleration在上海和北京地區分別添加了對應的加速地區和終端節點群組。現位於上海的服務因訪問量較小,需要暫時下線,要求下線過程中,不會影響上海用戶端的正常訪問。

您可以先將上海地區終端節點群組的流量調配配置為較小的值,例如1%,將剩餘99%的訪問流量切換至北京地區的終端節點群組。待上海地區訪問請求量降低至您預期的可下線狀態後,再將流量調配配置為0%,此時您可以下線部署在上海地區的服務。

同樣,當需要升級上海服務時,可以先按照上述下線流程調適流量調配值,當流量調配值為0%時,上海的用戶端訪問流量全部被調度至北京終端節點群組。升級完成後,再將上海地區終端節點群組流量調配配置為100% ,從而恢複上海用戶端的流量調度。