PAIでEASサービスのネットワーク接続を設定する - Platform For AI

Platform for AI (PAI) のオンラインElastic Algorithm Service (EAS) サービスは、パブリックおよび専用リソースグループを含むリソースグループにデプロイされます。リソースグループのネットワーク接続を設定すると、クライアントはグループにデプロイされているオンラインEASサービスにアクセスでき、オンラインEASサービスはリソースグループと同じ仮想プライベートクラウド (VPC) にある他のクラウドサービスにアクセスできます。このトピックでは、リソースグループのネットワーク接続を設定する方法について説明します。

前提条件

アカウントには、EASを使用する権限があります。詳細については、「EASを使用するために必要な権限の付与」をご参照ください。
VPC、vSwitch、およびセキュリティグループが作成されます。詳細については、「VPCの作成と管理」および「セキュリティグループの作成」をご参照ください。

リソースグループのネットワーク接続の構成

ネットワーク接続を設定するには、VPC直接接続機能を有効にする必要があります。リソースグループの機能を有効にするには、EASサービス設定で接続するVPCのvSwitchとセキュリティグループを指定します。この機能を有効にすると、VPCに存在するElastic Compute Service (ECS) インスタンスは、elastic network interface (ENI) を使用して、パブリックまたは専用リソースグループにデプロイされているEASサービスにアクセスできます。 EASサービスは、VPCにある他のクラウドサービスにもアクセスできます。次のいずれかの方法を使用して、VPC直接接続機能を有効にできます。

コンソールでVPC直接接続を有効にする

EASサービスのデプロイ時にVPCダイレクト接続機能を有効にします。
[VPC設定] セクションで、VPC、vSwitch、およびセキュリティグループ名パラメーターを設定して、リソースグループにデプロイされているEASサービスのVPC直接接続を有効にします。詳細については、「PAIコンソールでのモデルサービスのデプロイ」をご参照ください。
EASサービスをデプロイした後、次の手順を実行してVPC直接接続を有効にします。
1. [Elastic Algorithm Service (EAS)] ページで、管理するサービスの名前をクリックします。
2. [サービスの詳細] タブで、[ダイレクト接続の設定] をクリックします。
3. [ダイレクト接続の設定] ダイアログボックスで、[VPC] 、[vSwitch] 、[セキュリティグループ名] パラメーターを設定し、[OK] をクリックします。

専用リソースグループ内のインスタンスがYitianコンピューティング最適化インスタンスファミリーやYiTian汎用インスタンスファミリーなどのARMアーキテクチャを使用している場合は、次の手順を実行してVPC直接接続を有効にします。

方法 1：
1. [リソースグループ] タブで、この機能を有効にするリソースグループを見つけ、[VPCダイレクト接続] 列で [VPCダイレクト接続] をオンにします。
2. [VPCダイレクト接続の有効化] ダイアログボックスで、[VPC] 、[vSwitch] 、[セキュリティグループ名] パラメーターを設定し、[OK] をクリックします。
方法 2：
1. [リソースグループ] タブで、表示するリソースグループの名前をクリックします。
2. VPCダイレクト接続をオンにします。
3. [VPCダイレクト接続の有効化] ダイアログボックスで、[VPC] 、[vSwitch] 、[セキュリティグループ名] パラメーターを設定し、[OK] をクリックします。

EASCMDクライアントを使用したVPC直接接続の有効化

EASCMDクライアントの使用方法については、「EASCMDクライアントのダウンロードとID認証の完了」をご参照ください。

EASサービスのデプロイ時にVPCダイレクト接続を有効にします。次のセクションでは、JSON設定ファイルのサンプルを示します。詳細については、「EASCMDクライアントを使用するコマンドの実行」トピックの「サービスの作成」セクションをご参照ください。

{
    "metadata": {
        "name": "service_name",
        "instance": 1,
        "enable_webservice": true
    },
    "cloud": {
        "computing": {
            "instance_type": "ml.gu7i.c16m60.1-gu30",
            "instances": null
        },
        "networking": {
            "vswitch_id": "vsw-bp17jg7wr6s3pzbfe****",
            "security_group_id": "sg-bp14zqduxqm04qg7****",
            "vpc_id": "vpc-bp1s37ltnbvxgcqfc****"
        }
    },
    "containers": [
        {
            "image": "eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/chat-llm-webui:2.0",
            "script": "python webui/webui_server.py --port=8000 --model-path=meta-llama/Llama-2-7b-chat-hf",
            "port": 8000
        }
    ]
}

次の表に、上記のコードのパラメーターを示します。

パラメーター	説明
vswitch_id	クライアントが接続するvSwitchのID。 vSwitchのENIが作成されます。 vSwitchに十分なアイドルIPアドレスがあることを確認します。そうでない場合、EASインスタンスは作成できません。
security_group_id	クライアントをホストするECSインスタンスが属するセキュリティグループのID。
vpc_id	クライアントのVPC ID。

サービスのデプロイ後、VPC直接接続を有効にします。

JSONファイルが保存されているディレクトリで次のコマンドを実行します。次のサンプルコマンドでは、Windows 64を使用します。

eascmdwin64.exe modify <service_name> -s <network_cfg.json>

次の表に、上記のコマンドのパラメーターを示します。

パラメーター

説明

<service_name>

サービスの名前です。

<network_cfg.json>

ネットワーク設定ファイル。サンプル内容:

{
  "cloud": {
      "networking": {
          "security_group_id": "sg-7xvj6jjk0pcac7ou****",
          "vswitch_id": "vsw-7xvm8aelsg03f8cwq****",
          "vpc_id": "vpc-bp1s37ltnbvxgcqfc****"
      }
  }
}

ARMアーキテクチャを使用するインスタンスで構成される専用リソースグループのVPC直接接続を有効にします。詳細については、「EASCMDクライアントを使用するコマンドの実行」トピックの「リソースグループへの直接接続の有効化」をご参照ください。

Platform For AI:ネットワーク接続の設定

前提条件

リソースグループのネットワーク接続の構成

コンソールでVPC直接接続を有効にする

EASCMDクライアントを使用したVPC直接接続の有効化

関連ドキュメント