Platform For AI:Elasticリソースプール

コンソールでリソースの自動スケーリングを有効にする

1. [サービスのデプロイ] ページに移動します。 詳細については、「PAIコンソールを使用したモデルサービスのデプロイ」をご参照ください。

2. [サービスのデプロイ] ページの [リソースデプロイ情報] セクションで、必要なパラメーターを設定します。 次の表に、主要なパラメーターを示します。 その他のパラメーターの詳細については、「PAIコンソールを使用したモデルサービスのデプロイ」をご参照ください。

   パラメーター	説明
   リソースグループタイプ	既存の専用リソースグループを選択します。
   Elasticリソースプール	[Elastic Resource Pool] をオンにして、専用リソースグループにデプロイされているサービスのelastic resource pool機能を有効にします。 インスタンスタイプを設定します。 詳細については、「PAIコンソールを使用したモデルサービス展開」トピックのリソース設定モードセクションをご参照ください。 Elastic Resource Poolをオンにし、サービスのデプロイに使用する専用リソースグループが完全に占有されている場合、スケールアウト中に従量課金制インスタンスがパブリックリソースグループに自動的に追加されます。 追加されたインスタンスはパブリックリソースとして課金されます。 パブリックリソースグループ内のインスタンスは、スケールイン中に優先的にリリースされます。

   

3. [デプロイ] をクリックします。

クライアントでリソースの自動スケーリングを有効にする

EASCMDクライアントを使用してサービスをデプロイするときに、サービスの自動スケーリングを有効にできます。 次のセクションでは、例としてWindows 64サーバーを使用する手順について説明します。

1. JSONファイルを設定します。

   重要

   リソースの設定方法と仮想プライベートクラウド (VPC) ダイレクト接続機能は、サービスのリソースグループタイプによって異なります。 パブリックリソースグループでは、cloud.com putingパラメーターを使用して、必要なノードタイプを指定し、サービスのリソースをさらに取得できます。 cloud.net作業パラメーターを使用して、サービスのVPC直接接続機能を有効にすることもできます。 サービスが専用リソースグループにデプロイされている場合、専用リソースグループに対してのみVPCダイレクト接続機能を有効にできます。 専用リソースグループにサービスをデプロイし、そのサービスのエラスティックリソースプール機能を有効にする場合は、サービススケーリング中にVPC直接接続が利用可能になるように、e cloud.net作業パラメーターを設定する必要があります。

   次のコードは、JSONファイルのサンプルコンテンツを提供します。

   {
     "model_path": "http://examplebucket.oss-cn-shanghai.aliyuncs.com/models/lr.pmml",
     "name": "test_burstable_service",
     "processor": "pmml",
     "metadata": {
       "instance": 1,
       "cpu": 1,
       "resource": "eas-r-xxx",
       "resource_burstable": true
     },
      "cloud": {
           "computing": {
               "instance_type": "ecs.r7.2xlarge"
           },
           "networking": {
               "security_group_id": "sg-uf68iou5an8j7sxd****",
               "vswitch_id": "vsw-uf6nji7pzztuoe9i7****"
           }
       }
   }

   上記のコードでは、

   • resource_burstable: サービスの自動スケーリングを有効にするかどうかを指定します。 このパラメーターをtrueに設定すると、サービスの自動スケーリングが有効になります。

   • cloud.net動作: 専用リソースグループにデプロイされているサービスでは、このパラメーターは有効になりません。 サービスのエラスティックリソースグループ機能を有効にした場合、このパラメーターを設定して、サービスのスケーリング中にVPC直接接続を確実に利用できるようにする必要があります。

   • cloud.com puting: オプション。 スケールアウト時にパブリックリソースグループで必要なノードタイプを指定できます。 詳細については、「パブリックリソースグループの操作」をご参照ください。

   その他のパラメーターについては、「モデルサービスのパラメーター」をご参照ください。

2. EASCMDクライアントを使用してサービスをデプロイします。 詳細については、「EASCMDまたはDSWを使用したモデルサービスのデプロイ」をご参照ください。

   専用リソースグループがサービスのスケールアウトをサポートするには不十分な場合、サービスに追加されたサービスインスタンスはパブリックリソースグループを使用します。

コンソールの使用

1. Elastic Algorithm Service (EAS) ページに移動します。 詳細については、「PAIコンソールを使用したモデルサービスのデプロイ」をご参照ください。

2. サービスの [操作] 列で、[サービスの更新] をクリックします。

3. [サービスのデプロイ] ページの [リソースデプロイ情報] セクションで、リソースの自動スケーリング機能を有効または無効にします。

   • リソースの自動スケーリングの有効化

     [リソースデプロイ情報] セクションで、[Elastic Resource Pool] をオンにし、パブリックリソースグループのインスタンスタイプを設定します。

   • リソースの自動スケーリングの無効化

     [リソース配置情報] セクションで、[Elastic Resource Pool] をオフにします。

4. [デプロイ] をクリックします。

EASCMDクライアントの使用

# Enable the elastic resource pool feature for a deployed service. 
eascmdwin64.exe modify <service_name> -Dmetadata.resource_burstable=true

# Disable the elastic resource pool feature for a deployed service. 
eascmdwin64.exe modify <service_name> -Dmetadata.resource_burstable=false