Platform For AI：如何定時部署EAS服務

步驟一：建立獨享調度資源群組

1. 登入DataWorks控制台。

2. 單擊左側導覽列中的資源群組，預設進入獨享資源群組頁面，在該頁面建立獨享調度資源群組，具體參數配置說明，請參見新增和使用獨享調度資源群組。

步驟二：綁定歸屬的工作空間

獨享調度資源群組需要綁定歸屬的工作空間，才可以在對應的工作空間下選擇該資源群組。

1. 在資源群組列表的獨享資源群組頁簽下，單擊相應資源群組後的修改歸屬工作空間。

2. 在修改歸屬工作空間單擊對應工作空間後的綁定，即可將獨享資源群組綁定至此工作空間。

步驟三：建立商務程序

1. 登入DataWorks控制台，切換至目標地區後，單擊左側導覽列的資料開發與治理 > 資料開發，在下拉框中選擇對應工作空間後單擊進入資料開發。

2. 在資料開發頁面，滑鼠移至上方至表徵圖，單擊建立商務程序。

3. 在建立商務程序對話方塊中，輸入業務名稱和描述。

4. 單擊建立。

5. 按右鍵目標商務程序，選擇建立節點 > 通用 > Shell。

6. 在建立節點頁面的名稱文字框，輸入部署節點，然後單擊確認。

步驟四：部署初始模型

因為定時自動部署是在初始模型服務基礎上，增加一個模型服務版本，作為線上運行服務。所以定時自動部署之前，需要先部署初始模型。如果已經存在初始模型服務，則直接執行步驟五。

1. 編輯部署指令碼。

   1. 在商務程序頁面，雙擊已建立的Shell節點（部署節點）。

   2. 在Shell節點頁面，輸入如下命令。

      # 編寫服務部署描述檔案。
      cat << EOF > echo.json
      {
        "name": "yourModelName",
        "generate_token": "true",
        "model_path": "yourModelAdress",
        "processor": "yourProcessorType",
        "metadata": {
          "instance": 1, #可以根據實際情況修改Instance數量。
          "cpu": 2, #可以根據實際情況修改CPU數量。
          "memory": 4000
        }
      }
      EOF
      # 執行部署命令。
      /home/admin/usertools/tools/eascmd64 -i <yourAccessKeyID> -k <yourAccessKeySecret>  -e pai-eas.cn-shanghai.aliyuncs.com create echo.json

      重要

      如果您使用的獨享調度資源群組是在2022年8月10日之前建立的，則上述指令碼的第16行代碼，需要將/home/admin/usertools/tools/eascmd64 ***修改為/home/admin/usertools/tools/eascmd ***。

      echo.json是描述服務相關資訊（模型儲存位置及使用資源等）的JSON檔案，以下參數需要根據實際情況配置：

      • name：模型服務名稱必須在同地區內唯一，是模型服務的唯一標識，可以結合業務含義命名。

      • model_path：訓練模型的儲存位置，支援HTTP和OSS地址。

        如果使用HTTP地址，則所需的檔案必須為TAR、GZ、BZ2及ZIP等壓縮包格式。如果使用OSS地址，則可以指定壓縮包檔案路徑或目錄路徑。使用OSS地址時，需要指定Endpoint，即在上述服務部署描述檔案中增加 "oss_endpoint":"oss-cn-beijing.aliyuncs.com",程式碼（按照實際情況修改地區）。

        說明

        使用OSS儲存模型時，需要為PAI賦予OSS存取權限，詳情請參見OSS授權。

      • processor：Processor類型。

      • metadata：服務的Meta資訊，需要根據實際情況修改。詳細的欄位資訊請參見命令使用說明。

      • yourAccessKeyID：Access Key ID。如何擷取AccessKey，詳情請參見如何擷取AccessKey。

      • yourAccessKeySecret：Access Key Secret。如何擷取AccessKey，詳情請參見如何擷取AccessKey

      • Endpoint：部署命令-e後的Endpoint參數與地區的對應關係如下。

        地區	Endpoint
        華東2（上海）	pai-eas.cn-shanghai.aliyuncs.com
        華北2（北京）	pai-eas.cn-beijing.aliyuncs.com
        華東1（杭州）	pai-eas.cn-hangzhou.aliyuncs.com
        華南1（深圳）	pai-eas.cn-shenzhen.aliyuncs.com
        中國（香港）	pai-eas.cn-hongkong.aliyuncs.com
        新加坡	pai-eas.ap-southeast-1.aliyuncs.com
        印尼（雅加達）	pai-eas.ap-southeast-5.aliyuncs.com
        德國（法蘭克福）	pai-eas.eu-central-1.aliyuncs.com

2. 運行指令碼。

   1. 在Shell節點頁面，單擊頁面上方的表徵圖。

   2. 在警告對話方塊，單擊繼續運行。

   3. 在運行參數頁面，選擇調度資源群組為已建立的獨享資源群組。

   4. 單擊確定。

      運行完成後，即可產生一個線上的模型服務。您可以參見以下步驟，在PAI控制台查看該模型服務。

3. （可選）查看部署的模型服務。

   1. 登入PAI控制台，在頁面上方選擇目標地區，並在右側選擇目標工作空間，然後單擊進入EAS。

   2. 在模型線上服務（EAS）頁面，查看已部署的模型服務。

      後續步驟中，將不斷對該模型服務增加服務版本，從而實現模型定時部署。

步驟五：編輯定時自動部署指令碼

1. 編輯步驟四中的Shell節點指令碼，樣本如下（如果已執行步驟四，則前14行代碼無需修改。如果未執行步驟四，則需要根據實際情況修改前14行代碼中的參數值）。

   # 編寫服務部署描述檔案。
   cat << EOF > echo.json
   {
     "name": "yourModelName",
     "generate_token": "true",
     "model_path": "yourModelAdress",
     "processor": "yourProcessorType",
     "metadata": {
       "instance": 1,
       "cpu": 2,
       "memory": 4000
     }
   }
   EOF #第14行代碼。
   # 執行模型更新部署。每執行一次定時部署調度，系統就會在原模型服務基礎上，增加一個模型服務版本，作為最新的線上運行服務。
   /home/admin/usertools/tools/eascmd64 -i <yourAccessKeyID> -k <yourAccessKeySecret> -e pai-eas.cn-shanghai.aliyuncs.com modify <yourModelName> -s echo.json
   # 此處可以編寫服務的測試邏輯。
   # 如果測試服務發生異常，則使用下述命令復原模型服務。
   #/home/admin/usertools/tools/eascmd64 -i <yourAccessKeyID> -k <yourAccessKeySecret> -e pai-eas.cn-shanghai.aliyuncs.com version -f <The name of the model to be rolled back> 1

   重要

   如果您使用的獨享調度資源群組是在2022年8月10日之前建立的，則上述指令碼的第16行和第19行代碼，需要將/home/admin/usertools/tools/eascmd64 ***修改為/home/admin/usertools/tools/eascmd ***。

   其中的參數解釋請參見步驟四：部署初始模型。

步驟六：執行定時調度

1. 執行調度任務。

   1. 在Shell節點頁面，單擊頁面右側的調度配置。

   2. 在調度配置頁面的時間屬性地區，選擇調度周期。

   3. 在調度依賴地區，單擊依賴的上遊節點後的使用工作空間根節點。

   4. 配置依賴關係，詳情請參見配置同周期調度依賴。

   5. 單擊Shell節點頁面上方的表徵圖，儲存配置。

   6. 單擊Shell節點頁面上方的表徵圖，提交調度任務。

2. 查看定時調度的運行執行個體。

   1. 在Shell節點頁面，單擊右上方的營運。

   2. 在營運中心頁面，選擇周期任務營運>周期執行個體。

   3. 在執行個體詳情頁面，查看模型自動部署的定時時間。

   4. 選擇操作列下的更多>查看作業記錄，查看每次定時部署的作業記錄。

3. 查看定時部署的模型服務。

   1. 登入PAI控制台，在頁面上方選擇目標地區，並在右側選擇目標工作空間，然後單擊進入EAS。

   2. 按照下圖操作指引，查看模型服務自動更新的所有歷史版本。