服务部署完成后,您可以使用在线调试功能来测试服务是否运行正常。本文为您介绍如何进行服务在线调试。
前提条件
已完成服务部署,详情请参见服务部署:控制台。
操作步骤
进入模型在线服务(EAS)页面。
登录PAI控制台。
在左侧导航栏单击工作空间列表,在工作空间列表页面中单击待操作的工作空间名称,进入对应的工作空间。
在工作空间页面的左侧导航栏选择 ,进入模型在线服务(EAS)页面。
在推理服务页签,单击目标服务操作列下的在线调试。
在调试页面的在线调试请求参数区域的Body处,配置服务请求数据。
如果您使用通用Processor(包括TensorFlow、Caffe、PMML等)部署服务,服务请求数据构造,可以参考通用Processor服务请求构造。
其他种类模型的服务请求数据,需要根据您自定义模型或镜像的数据输入格式来确定。
以心脏病预测案例的逻辑回归二分类模型为例,说明如何构造请求数据。
逻辑回归二分类模型为PMML模型,生成的模型文件中特征数据包括sex、cp、fbs、restecg、exang、slop、thal、age、trestbps、chol、thalach、oldpeak和ca。则请求数据配置为
[{"sex":0,"cp":0,"fbs":0,"restecg":0,"exang":0,"slop":0,"thal":0,"age":0,"trestbps":0,"chol":0,"thalach":0,"oldpeak":0,"ca":0}]
单击发送请求,即可在调试信息区域查看预测结果。
相关文档
您可以到模型在线服务(EAS)页面查看模型部署情况,并管理模型服务,详情请参见管理EAS模型在线服务。
您可以通过自动压测工具,对部署的服务进行压测,从而了解EAS服务的使用性能,详情请参见服务自动压测。
EAS更多使用案例,详情请参见EAS使用案例汇总。