服務部署完成後,您可以使用線上調試功能來測試服務是否運行正常。本文為您介紹如何進行服務線上調試。
前提條件
已完成服務部署,詳情請參見服務部署:控制台。
操作步驟
進入模型線上服務(EAS)頁面。
登入PAI控制台。
在左側導覽列單擊工作空間列表,在工作空間列表頁面中單擊待操作的工作空間名稱,進入對應的工作空間。
在工作空間頁面的左側導覽列選擇 ,進入模型線上服務(EAS)頁面。
在推理服務頁簽,單擊目標服務操作列下的線上調試。
在調試頁面的線上調試請求參數地區的Body處,佈建服務請求資料。
如果您使用通用Processor(包括TensorFlow、Caffe、PMML等)部署服務,服務要求資料構造,可以參考通用Processor服務要求構造。
其他種類模型的服務要求資料,需要根據您自訂模型或鏡像的資料輸入格式來確定。
以心臟病預測案例的羅吉斯迴歸二分類模型為例,說明如何構造請求資料。
羅吉斯迴歸二分類模型為PMML模型,產生的模型檔案中特徵資料包括sex、cp、fbs、restecg、exang、slop、thal、age、trestbps、chol、thalach、oldpeak和ca。則請求資料配置為
[{"sex":0,"cp":0,"fbs":0,"restecg":0,"exang":0,"slop":0,"thal":0,"age":0,"trestbps":0,"chol":0,"thalach":0,"oldpeak":0,"ca":0}]
單擊發送請求,即可在調試資訊地區查看預測結果。
相關文檔
您可以到模型線上服務(EAS)頁面查看模型部署情況,並管理模型服務,詳情請參見管理EAS模型線上服務。
您可以通過自動壓測工具,對部署的服務進行壓測,從而瞭解EAS服務的使用效能,詳情請參見服務自動壓測。
EAS更多使用案例,詳情請參見EAS使用案例匯總。