全部產品
Search
文件中心

Platform For AI:部署配置與一鍵部署

更新時間:Jul 13, 2024

您可以在註冊模型時對模型做服務部署組態,後續一鍵部署該模型時,會直接使用該配置,您無需手動編輯模型相關的配置資訊,可以提升部署效率。本文為您介紹如何做服務部署組態及一鍵部署模型服務。

服務部署組態

新模型註冊時,您可以在模型服務部署組態中,自訂佈建服務部署配置資訊。08ac986b062b90053e728608909d791c..png

選中自訂配置,並在文字框中填寫部署配置資訊。

  • 對於採用自訂鏡像部署的模型,部署服務配置範例如下:

    {
      "containers": [
        {
          "image": "registry-vpc.cn-shanghai.aliyuncs.com/xxx/yyy:zzz",
          "env": [
            {
              "name": "var_name",
              "value": "var_value"
            }
          ],
          "command": "/data/eas/ENV/bin/python /data/eas/app.py",
          "port": 8000
        }
      ],
      "storage": [
        {
          "oss": {
            "readOnly": false
          },
          "properties": {
            "resource_type": "model"
          }
        }
      ],
    }

    其中參數配置說明,詳情請參見服務部署:自訂鏡像。EAS更完整的配置及部署方式,詳情請參見服務部署

  • 對於選擇預置Processor的模型,部署服務配置範例如下:

    {
      "processor": "tensorflow_gpu_1.12"
    }
  • 對於選擇自訂Processor的模型,部署服務配置範例如下:

    {
      "processor_entry": "./service.py",
      "processor_type": "python",
      "processor_path": "http://eas-data.oss-cn-shanghai.aliyuncs.com/demo/service.py",
      "data_image": "registry.cn-shanghai.aliyuncs.com/eas-service/develop:latest"
    }

一鍵部署服務

您可以將註冊好的模型直接部署到EAS,部署時會將您的模型服務部署組態直接透傳至EAS的部署配置中。具體操作步驟如下:

  1. 模型管理頁面,單擊模型列表操作列下的部署至EAS,並按照介面提示進行操作。頁面會自動跳轉到EAS部署服務頁面。

  2. 在部署服務頁面,根據模型服務部署組態已預填了模型服務資訊地區的關鍵參數,您僅需配置其他必選參數即可開始部署,配置詳情請參見服務部署:控制台