Platform For AI:デプロイとデプロイ構成のモデル

モデルサービスの展開

新しいモデルを登録するときに、[モデルサービス展開] セクションでサービス展開構成をカスタマイズできます。

[カスタム設定] を選択し、デプロイ設定情報を入力します。

• カスタムイメージを使用してデプロイされたモデルのサンプル構成:

  {
    "containers": [
      {
        "image": "registry-vpc.cn-shanghai.aliyuncs.com/xxx/yyy:zzz",
        "env": [
          {
            "name": "var_name",
            "value": "var_value"
          }
        ],
        "command": "/data/eas/ENV/bin/python /data/eas/app.py",
        "port": 8000
      }
    ],
    "storage": [
      {
        "oss": {
          "readOnly": false
        },
        "properties": {
          "resource_type": "model"
        }
      }
    ],
  }

  パラメーターの詳細については、「カスタムイメージを使用したモデルサービスのデプロイ」をご参照ください。 Elastic Algorithm Service (EAS) でのモデル展開の詳細については、「PAIコンソールとMachine Learning Designerを使用したモデルサービス展開」をご参照ください。

• プリセットプロセッサを使用してデプロイされたモデルのサンプル設定:

  {
    "processor": "tensorflow_gpu_1.12"
  }

• カスタムプロセッサを使用してデプロイされたモデルのサンプル構成:

  {
    "processor_entry": "./service.py",
    "processor_type": "python",
    "processor_path": "http://eas-data.oss-cn-shanghai.aliyuncs.com/demo/service.py",
    "data_image": "registry.cn-shanghai.aliyuncs.com/eas-service/develop:latest"
  }

モデル展開