您可以在註冊模型時對模型做服務部署組態,後續一鍵部署該模型時,會直接使用該配置,您無需手動編輯模型相關的配置資訊,可以提升部署效率。本文為您介紹如何做服務部署組態及一鍵部署模型服務。
服務部署組態
新模型註冊時,您可以在模型服務部署組態中,自訂佈建服務部署配置資訊。
選中自訂配置,並在文字框中填寫部署配置資訊。
對於採用自訂鏡像部署的模型,部署服務配置範例如下:
{ "containers": [ { "image": "registry-vpc.cn-shanghai.aliyuncs.com/xxx/yyy:zzz", "env": [ { "name": "var_name", "value": "var_value" } ], "command": "/data/eas/ENV/bin/python /data/eas/app.py", "port": 8000 } ], "storage": [ { "oss": { "readOnly": false }, "properties": { "resource_type": "model" } } ], }
對於選擇預置Processor的模型,部署服務配置範例如下:
{ "processor": "tensorflow_gpu_1.12" }
對於選擇自訂Processor的模型,部署服務配置範例如下:
{ "processor_entry": "./service.py", "processor_type": "python", "processor_path": "http://eas-data.oss-cn-shanghai.aliyuncs.com/demo/service.py", "data_image": "registry.cn-shanghai.aliyuncs.com/eas-service/develop:latest" }
一鍵部署服務
您可以將註冊好的模型直接部署到EAS,部署時會將您的模型服務部署組態直接透傳至EAS的部署配置中。具體操作步驟如下:
在模型管理頁面,單擊模型列表操作列下的部署至EAS,並按照介面提示進行操作。頁面會自動跳轉到EAS部署服務頁面。
在部署服務頁面,根據模型服務部署組態已預填了模型服務資訊地區的關鍵參數,您僅需配置其他必選參數即可開始部署,配置詳情請參見服務部署:控制台。