全部產品
Search
文件中心

Platform For AI:使用專屬資源群組

更新時間:Dec 07, 2024

專屬資源群組包括預付費資源群組和後付費資源群組,兩種資源群組的生命週期和計費方式均不相同,您需要根據使用情境,選擇合適類型的資源群組。本文為您介紹如何建立專屬資源群組、管理專屬資源群組、管理專屬資源群組中的機器實現擴縮容等功能。

背景資訊

您可以將模型服務部署到專屬資源群組,在部署服務數量相對較多,對服務即時性要求比較高的情境,需要使用專屬資源群組來保障模型服務能正常部署和運行。後續您也可以對專屬資源群組中的資源進行擴縮容,來滿足更多業務需求。

  • 資源群組類型

    專屬資源群組支援預付費資源群組和後付費資源群組,您可以根據付費類型和支援的資源類型按需選擇。

  • 建立專屬資源群組

    提供預付費和後付費專屬資源群組購買方法,您可以根據需要靈活選擇資源群組類型。

  • 管理專屬資源群組中的機器

    您可以根據業務需求量,在專屬資源群組中購買或刪除機器,完成資源的擴縮容,實現資源的有效利用。

  • 管理專屬資源群組

    您可以在專屬資源群組詳情頁面查看已購買的機器資源和已部署的模型服務,也可以刪除無用的資源群組。

資源群組類型

專屬資源群組按照付費方式分為預付費專屬資源群組和後付費專屬資源群組,簡稱預付費資源群組和後付費資源群組 。兩者的使用區別如下。

類型

付費方式

資源群組管理

支援使用的資源類型

預付費資源群組

訂用帳戶

購買機器、為預付費機器續約、刪除後付費機器、刪除資源群組,詳情請參見管理專屬資源群組中的機器

請前往EAS專屬機器預付費頁面查看。

後付費資源群組

隨用隨付

請前往EAS專屬機器後付費頁面查看。

建立專屬資源群組

  1. 進入模型線上服務(EAS)頁面。

    1. 登入PAI控制台

    2. 在左側導覽列單擊工作空間列表,在工作空間列表頁面中單擊待操作的工作空間名稱,進入對應的工作空間。

    3. 在工作空間頁面的左側導覽列選擇模型部署 > 模型線上服務(EAS),進入模型線上服務(EAS)頁面。

  2. 建立資源群組。

    您可以根據實際需要,建立預付費資源群組或後付費資源群組:

    建立預付費資源群組

    1. 模型線上服務(EAS)頁面,單擊資源群組頁簽,選擇建立資源群組 > 建立預付費資源群組(訂用帳戶)。在EAS專屬機器預付費頁面,配置以下參數。

      參數

      描述

      付費模式

      選擇訂用帳戶

      地區及可用性區域

      參考介面提示選擇資源群組所屬地區和可用性區域。

      機器規格

      系統支援的GPU和CPU規格,詳細的資源清單請參見EAS專屬機器預付費

      說明

      在不同地區,系統支援的機器規格不同。

      系統硬碟

      您可以配置系統硬碟來增加儲存空間,每台機器節點支援配置的容量範圍為200~2000 GB。每台機器節點預設提供200 GB的免費使用額度,超出容量計費詳情,請參見EAS計費說明

      購買方式

      支援建立資源群組已有資源群組

      當選擇已有資源群組時,需要配置資源群組ID

      資源群組ID

      您可以在列表中選擇已建立的資源群組ID。關於如何查看專屬資源群組ID,詳情請參見管理專屬資源群組

      購買數量

      取值範圍:1~9999。

      購買時間長度

      取值範圍:1個月、2個月、3個月、6個月

      到期自動續約

      到期後,是否自動續約。

    2. 單擊立即購買

      支付成功後,系統自動分配資源。您可以在資源群組頁簽,查看已建立的所有資源群組或修改資源群組名稱。

      說明

      如果因為當前地區資源不足等原因,導致資源群組建立失敗,則系統自動建立退款訂單,已支付的費用會原路返回。

    建立後付費資源群組

    1. 模型線上服務(EAS)頁面,單擊資源群組頁簽,選擇建立資源群組 > 建立後付費資源群組(隨用隨付)。在EAS專屬機器後付費頁面,配置以下參數。

      參數

      描述

      地區及可用性區域

      參考介面提示選擇資源群組所屬地區和可用性區域。

      機器規格

      系統支援的GPU和CPU規格,詳細的資源清單請參見EAS專屬機器後付費

      說明

      在不同地區,系統支援的機器規格不同。

      系統硬碟

      您可以配置系統硬碟來增加儲存空間,每台機器節點支援配置的容量範圍為200~2000 GB。每台機器節點預設提供200 GB的免費使用額度,超出容量計費詳情,請參見EAS計費說明

      購買方式

      支援建立資源群組已有資源群組

      當選擇已有資源群組時,需要配置資源群組ID

      資源群組ID

      您可以在列表中選擇資源群組ID。

      購買數量

      取值範圍:1~9999。

    2. 單擊立即購買

      支付成功後,系統自動分配資源。您可以在資源群組頁簽,查看已建立的所有資源群組或修改資源群組名稱。

管理專屬資源群組中的機器

  • 為資源群組購買機器

    如果當前專屬資源群組的資源無法滿足業務需求,您可以為專屬資源群組購買新的機器。

    1. 資源群組頁簽,單擊目標資源群組名稱。

    2. 單擊購買機器 > 預付費機器(或後付費機器),選擇併購買預付費機器或後付費機器,如何配置請參見建立專屬資源群組

  • 為專屬資源的機器續約

    增加指定資源群組的使用時間長度。例如續約1個月,即將預付費資源群組的使用時間長度延長1個月。

    1. 在專屬資源群組詳情頁面機器列表頁簽,單擊預付費機器操作列下的更多,在下拉式清單中選擇續約

    2. 續約頁面,配置購買時間長度,單擊立即購買。

  • 當機器執行個體處於運行中時,您可以單擊目標機器執行個體操作列下的停止調度清空節點,使機器執行個體不可調度。單擊操作列下的重啟調度,即可將機器恢複運行狀態。

  • 單擊機器執行個體ID,進入機器詳情頁面,查看機器執行個體詳情。您可以單擊機器運行服務執行個體操作列下的重啟,重啟服務執行個體;您也可以單擊日誌,來查看服務執行個體作業記錄。

  • 刪除專屬資源群組機器

    重要

    預付費機器未到期前無法直接刪除退訂,如有特殊原因需刪除,請聯絡您的商務經理來處理。

    在專屬資源群組詳情頁面,單擊目標執行個體操作列下的刪除,刪除機器。

  • 查看資源群組機器資源用量

    資源群組頁簽,單擊目標資源群組名稱。然後在機器列表頁簽,查看每台機器的CPU、GPU和記憶體的使用量/總量。

管理專屬資源群組

  • 查看專屬資源群組詳情

    1. 資源群組頁簽,單擊目標資源群組的資源群組名稱,進入資源群組詳情頁面。

    2. 在專屬資源群組詳情頁面,您可以進行以下操作。

      操作

      描述

      查看資源群組ID

      資源群組ID是資源群組的唯一標識。通過EASCMD方式部署模型服務時,需要使用該參數。image

      編輯資源群組名稱

      資源群組資訊地區,單擊資源群組名稱後面的image表徵圖,可以編輯資源群組名稱,建議使用具有業務含義的名稱。通過控制台可視化方式部署模型服務時,需要根據資源群組名稱選擇使用的資源群組。

      查看資源群組中的伺服器

      單擊機器列表頁簽。

      查看部署在當前資源群組的服務列表

      單擊服務列表頁簽。

  • 刪除專屬資源群組

    資源群組頁簽,單擊待刪除資源群組操作列下的刪除,即可刪除該資源群組。

相關文檔

  • 準備好專屬資源群組後,即可將模型服務部署在此專屬資源群組上,詳情請參見服務部署:控制台

  • 為部署在專屬資源群組中的服務配置VPC高速直連。具體操作,請參見配置網路連通

  • 您可以為資源群組配置Log Service,通過Log Service,將部署在該資源群組上的EAS服務列印的日誌,採集到自己的SLS日誌倉庫中。具體操作,請參見配置資源群組Log Service