全部產品
Search
文件中心

Platform For AI:模型服務

更新時間:Jul 13, 2024

iTAG支援線上模型服務預標註,建立EAS模型線上服務後,您可以在模型服務中完成註冊,然後在建立任務的時候利用模型服務進行預標註。

前提條件

已在EAS上部署了一個模型線上服務,或是使用其它無需鑒權的線上服務。

使用限制

目前僅支援分類情境,例如映像分類、文本分類。

模型服務管理操作

  1. 進入iTAG

    1. 登入PAI控制台

    2. 在左側導覽列單擊工作空間列表,在工作空間列表頁面中單擊待操作的工作空間名稱,進入對應工作空間內。

    3. 在工作空間頁面的左側導覽列選擇資料準備 > 智能標註(iTAG),進入智能標註頁面。

  2. 單擊右上方的前往管理頁,進入iTAG平台。

  3. 服務市場頁簽下,選擇模型服務(舊版)頁簽,單擊建立服務

  4. 建立服務頁面的配置嚮導頁面,配置如下參數。

    參數

    描述

    服務名稱

    以小寫字母、大寫字母、數字或中文開頭,可以包含底線(_)或短劃線(-)。

    服務類型

    目前僅支援HTTP

    服務來源

    支援PAI其他來源的服務。

    • PAI:支援EAS上部署的模型服務,輸入服務地址鑒權token以及能力類型

    • 其他:輸入公開可訪問的服務地址,不支援加密鑒權類的服務。

    請求方式

    支援GETPOST請求,EAS部署的服務選擇POST請求類。

    參數提交方式

    支援JSON提交表單提交EAS部署的服務選擇JSON提交

    服務入參配置

    以PAI提供的通用文本分類模型的入參為例,詳情請參見自然語言處理(NLP)類模型

    上述樣本入參:

    {
        "id": "該文本的ID",
        "first_sequence": "待分類的新聞文本字串",
        "sequence_length": 128
    }
    • 可變入參:

      • 參數1:需要識別的可變入參,本案例中:first_sequence。

      • 別名:自訂輸入,用於後續建立標註任務的匹配。例如:content。

      • 類型:支援String和raw類型,本案例中為String。

      • 預設值:識別的預設值,可不填。

    • 固定入參:

      • 參數1:入參中的固定參數,本案例中:id。

      • 對應值:固定入參的固定輸入值,本案例中:110。

      • 參數2:入參中的固定參數,本案例中:sequence_length。

      • 對應值:固定入參的固定輸入值,本案例中:128。

    服務出參配置

    上述樣本出參:

    {
        "id": "110", 
        "output": [
             {"pred": "國際", "prob": 0.99915063, "logit": 10.21936}, 
             {"pred": "健康", "prob": 8.557205e-05, "logit": 0.8540586}, 
             {"pred": "財經", "prob": 8.2030325e-05, "logit": 0.81178904}, 
             {"pred": "科技", "prob": 8.076288e-05, "logit": 0.79621744}, 
             {"pred": "體育", "prob": 7.966044e-05, "logit": 0.7824724},
             ......
        ]
    }
    • 參數1:出參的參數說明,本案例中:result

    • 取值路徑:識別結果從出參中的取值路徑,本案例中:$.result.output[0].pred

  5. 單擊下一步,進入調試設定精靈頁面。

  6. 輸入入參值,單擊請求服務進行調試。image

  7. 單擊建立,對建立的模型服務進行儲存。

  8. 模型服務的列表頁面,可以對模型進行調試刪除編輯等操作。

後續操作

建立並調試完成模型服務後,您可以在建立標註任務時,選擇線上服務預測進行智能標註,詳情請參見資料預標註:智能標註配置