全部產品
Search
文件中心

Platform For AI:單模型部署線上服務

更新時間:Dec 07, 2024

Designer和EAS在使用鏈路上進行了無縫對接,您可以在離線訓練、離線預測和評估流程完成後,將單個模型部署至EAS,以建立一個線上模型服務。本文為您介紹如何將在Designer平台訓練獲得的模型一鍵或手動部署為EAS線上服務。

前提條件

已完成模型訓練,並驗證了模型的準確性,詳情請參見構建與調試模型

單模型一鍵部署

支援的模型組件

以下模型組件支援您直接一鍵部署至EAS。其餘部分模型僅支援手動部署,詳情請參見單模型手動部署

組件名稱

產出可部署模型格式

匹配的EAS Processor

備忘

羅吉斯迴歸二分類

PMML

PMML

訓練前需單擊模型組件,在欄位設定頁簽選中是否產生PMML,樣本如下。

image

GBDT二分類

PMML

PMML

線性支援向量機

PMML

PMML

羅吉斯迴歸多分類

PMML

PMML

隨機森林

PMML

PMML

樸素貝葉斯

PMML

PMML

K均值聚類

PMML

PMML

GBDT迴歸

PMML

PMML

線性迴歸

PMML

PMML

評分卡訓練

PMML

PMML

文本摘要訓練

tgz包

EasyNLP

會自動設定好PAI提供在公開OSS中的EasyNLP,無需自訂配置。

映像分類訓練(torch)

tgz包

EasyCV

會自動設定好PAI提供在公開OSS中的EasyCV,無需自訂配置。

PyAlink指令碼

AlinkModel

Alink

詳情請參見PyAlink指令碼

XGBoost訓練

XGBoost

XGBoost

詳情請參見XGBoost訓練

操作步驟

  1. 前往可視化建模,選擇工作空間並進入Designer頁面,單擊並進入目標工作流程。

  2. 在工作流程畫布上方,單擊模型列表,系統會自動檢測當前產出的可部署模型。

    image

  3. 選中目標模型,單擊部署至EAS,跳轉到EAS建立服務頁面。

  4. 配置並完成模型服務的部署。

    模型檔案Processor種類已自動匹配,其他參數詳情請參見服務部署:控制台

  5. 單擊部署,當服務狀態變為運行中時,表明服務部署成功。

單模型手動部署

以下模型組件不支援上述的一鍵部署,需要在模型訓練完成後,使用通用模型匯出組件將模型拼裝並匯出至OSS目錄後,再手動部署。

組件名稱

產出可部署模型格式

匹配的EAS Processor

手動部署流程

PS-SMART二分類

PS格式

PS演算法

需要在組件下遊串連通用模型匯出組件。

PS-SMART多分類

PS-SMART迴歸

匯出模型到OSS Bucket後,您可以參見服務部署:控制台手動部署模型至EAS。

常見問題

通過一鍵部署方式部署模型時,有節點支援部署,但是置灰不支援選擇,如何解決?image.png

您需要單擊該元件節點,在右側欄位設定頁簽中,選中是否產生PMML,並重新執行對應節點。

相關文檔

  • 您可以前往PAI-EAS模型線上服務頁面,查看已部署服務的狀態,或對服務進行管理操作。詳情請參見管理EAS模型線上服務

  • 您可以通過線上調試功能,來測試服務運行是否正常,詳情請參見服務線上調試

  • 部署模型服務後,支援通過Designer的更新EAS服務(beta)組件,來定時更新已部署的服務,詳情請參見線上模型服務定時更新