Platform For AI:ネットワーク接続の設定

コンソールの使用

• EASサービスをデプロイする場合、[VPC設定] セクションで、VPC、vSwitch、およびセキュリティグループ名のパラメーターを設定します。

• サービスのデプロイ後、サービスを更新してVPC設定を変更できます。

専用リソースグループ内のインスタンスがYitianコンピューティング最適化インスタンスファミリーやYiTian汎用インスタンスファミリーなどのARMアーキテクチャを使用している場合は、次の手順を実行してVPC直接接続を有効にします。

• 方法 1：

  1. [リソースグループ] タブで、アクション列で [VPCダイレクト接続] をクリックします。 [VPCダイレクト接続の有効化] ダイアログボックスで、[VPC] 、[vSwitch] 、[セキュリティグループ名] パラメーターを設定し、[OK] をクリックします。

• 方法 2：

  1. [リソースグループ] タブで、表示するリソースグループの名前をクリックします。ページの右上にあるVPCダイレクト接続をクリックして、 [VPCダイレクト接続の有効化] ダイアログボックスで、[VPC] 、[vSwitch] 、[セキュリティグループ名] パラメーターを設定し、[OK] をクリックします。

EASCMDクライアントの使用

1. JSON設定ファイルを準備します。 サンプルファイル:

   {
       "metadata": {
           "name": "service_name",
           "instance": 1,
           "enable_webservice": true
       },
       "cloud": {
           "computing": {
               "instance_type": "ml.gu7i.c16m60.1-gu30",
               "instances": null
           },
           "networking": {
               "vswitch_id": "vsw-bp17jg7wr6s3pzbfe****",
               "security_group_id": "sg-bp14zqduxqm04qg7****",
               "vpc_id": "vpc-bp1s37ltnbvxgcqfc****"
           }
       },
       "containers": [
           {
               "image": "eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/chat-llm-webui:2.0",
               "script": "python webui/webui_server.py --port=8000 --model-path=meta-llama/Llama-2-7b-chat-hf",
               "port": 8000
           }
       ]
   }

   次の表に、VPC設定に関するパラメーターを示します。

   パラメーター	説明
   vswitch_id	クライアントが接続するvSwitchのID。 vSwitchのENIが作成されます。 vSwitchに十分なアイドルIPアドレスがあることを確認します。 そうでない場合、EASインスタンスは作成できません。
   security_group_id	クライアントをホストするECSインスタンスが属するセキュリティグループのID。
   vpc_id	クライアントのVPC ID。

2. JSONファイルが保存されているディレクトリで次のコマンドを実行します。 詳細については、「EASCMDクライアントを使用するコマンドの実行」をご参照ください。 次のサンプルコマンドでは、Windows 64を使用します。

   サービスの作成

   eascmdwin64.exe create <service.json>

   <service.json> をJSON設定ファイルの名前に置き換えます。

   更新サービス

   eascmdwin64.exe modify <service_name> -s <service.json>

   • <service_name> をEASサービスの新しい名前に置き換えます。

   • <service.json> を新しいJSON設定ファイルの名前に置き換えます。

   ARM関連モデルを使用して作成された専用リソースグループのVPC独自ネットワークを構成します。具体的な手順は、「リソースグループネットワークの構成」をご参照ください。