全部產品
Search
文件中心

Platform For AI:單模型部署線上服務

更新時間:Jul 13, 2024

Designer和EAS在使用鏈路上進行了無縫對接,您可以在離線訓練、預測和評估流程完成後,將單個模型部署至EAS,以建立一個線上模型服務。本文為您介紹如何將在Designer平台訓練獲得的模型部署為EAS線上服務。

前提條件

已完成模型訓練,並驗證了模型的準確性,詳情請參見模型訓練

單模型一鍵部署

支援一鍵部署的演算法

組件名稱

產出可部署模型格式

匹配的EAS Processor

備忘

羅吉斯迴歸二分類

PMML

PMML

訓練前需要在組件的欄位設定頁簽中,選中是否產生PMML

GBDT二分類

PMML

PMML

線性支援向量機

PMML

PMML

羅吉斯迴歸多分類

PMML

PMML

隨機森林

PMML

PMML

樸素貝葉斯

PMML

PMML

K均值聚類

PMML

PMML

GBDT迴歸

PMML

PMML

線性迴歸

PMML

PMML

評分卡訓練

PMML

PMML

文本摘要訓練

tgz包

EasyNLP

會自動設定好PAI提供在公開OSS中的EasyNLP,無需自訂配置。

映像分類訓練(torch)

tgz包

EasyCV

會自動設定好PAI提供在公開OSS中的EasyCV,無需自訂配置。

PyAlink指令碼

AlinkModel

Alink

詳情請參見PyAlink指令碼

XGBoost訓練

XGBoost

XGBoost

詳情請參見XGBoost訓練

對於需要部署PMML模型的演算法組件,您需要參照下圖的操作指引,在欄位設定頁簽中,選中是否產生PMML,並重新執行該節點。image

操作步驟

  1. 進入Designer頁面。

    1. 登入PAI控制台

    2. 在左側導覽列單擊工作空間列表,在工作空間列表頁面中單擊待操作的工作空間名稱,進入對應的工作空間。

    3. 在工作空間頁面的左側導覽列選擇模型開發與訓練 > 可視化建模(Designer),進入Designer頁面。

  2. 在工作流程列表頁面,雙擊目標工作流程,進入工作流程頁面。

  3. 在Designer畫布上方,單擊模型列表

    系統會自動檢測當前畫布中訓練得到的可部署模型,並自動匹配對應的部署Processor,引導您跳轉到EAS完成模型服務的部署。詳情請參見服務部署:Designer

單模型手動部署

下表中的演算法組件在模型訓練完成後,需要使用通用模型匯出組件將模型拼裝並匯出至OSS目錄後,再手動部署。不支援前述章節所述的一鍵部署。

組件名稱

產出可部署模型格式

匹配的EAS Processor

手動部署流程

PS-SMART二分類

PS格式

PS演算法

需要在組件下遊串連通用模型匯出組件。

PS-SMART多分類

PS-SMART迴歸

匯出模型到OSS Bucket後,關於如何手動部署模型,詳情請參見服務部署:控制台

常見問題

執行一鍵部署時,如果有節點支援部署,但是置灰的不支援選擇,如何解決?image.png

您需要在指定的組件右側欄位設定頁簽中,選中是否產生PMML,並重新執行對應節點即可。詳情請參見支援一鍵部署的演算法

相關文檔

  • 您可以前往PAI-EAS模型線上服務頁面,查看已部署服務的狀態,或對服務進行管理操作。詳情請參見管理EAS模型線上服務

  • 部署模型服務後,支援通過Designer的更新EAS服務(beta)組件,來定時更新已部署的服務,詳情請參見線上模型服務定時自動更新

  • Designer支援將離線資料處理pipeline,打包成一個Pipeline模型,並一鍵部署為EAS線上服務。詳情請參見Pipeline部署線上服務

  • 您可以使用Designer提供的預測組件,對模型進行離線批量預測,詳情請參見離線批量預測