人工智能平台 PAI：配置网络连通

配置资源组网络连通

配置网络连通即开通VPC高速直连，EAS的配置中需要指定待连通VPC环境中的交换机（vSwitch）和安全组（SecurityGroup）。配置网络连通后，该VPC环境中的ECS服务器等可通过创建的弹性网卡访问部署在专属资源组或公共资源组中的EAS在线服务，同时EAS在线服务也可以访问同一个VPC环境中的其它云产品。您可以通过以下方式开通VPC高速直连。

通过控制台开通VPC高速直连

• 部署服务时开通VPC高速直连：

  在专有网络配置区域，配置VPC、交换机和安全组名称参数，为部署在专属资源组或公共资源组中的EAS在线服务开通VPC高速直连。具体操作，请参见服务部署：控制台。

• 服务部署成功后，按照以下操作步骤，开通VPC高速直连：

  1. 在模型在线服务（EAS）页面，单击目标服务名称。

  2. 在服务详情页面右上角，单击配置高速连接。

  3. 在配置高速连接对话框，选择VPC、交换机及安全组名称，并单击确定。

使用ARM相关的机型（包括Yitian计算型和Yitian通用型）创建的专属资源组需要使用以下方式开通VPC高速直连：

• 方式一：

  1. 在资源组页签，打开目标资源组VPC直连列下的开关按钮。

  2. 在开通VPC直连通道对话框，选择VPC、交换机及安全组名称，并单击确定。

• 方式二：

  1. 在资源组页签，单击目标资源组名称。

  2. 在页面上方，打开VPC直连开关。

  3. 在开通VPC直连通道对话框，选择VPC、交换机及安全组名称，并单击确定。

通过eascmd客户端工具开通VPC高速直连

如何使用eascmd客户端工具，请参见下载并认证客户端。

• 部署服务时开通VPC高速直连，JSON配置文件示例如下。更多操作说明，请参见创建服务。

  {
      "metadata": {
          "name": "service_name",
          "instance": 1,
          "enable_webservice": true
      },
      "cloud": {
          "computing": {
              "instance_type": "ml.gu7i.c16m60.1-gu30",
              "instances": null
          },
          "networking": {
              "vswitch_id": "vsw-bp17jg7wr6s3pzbfe****",
              "security_group_id": "sg-bp14zqduxqm04qg7****",
              "vpc_id": "vpc-bp1s37ltnbvxgcqfc****"
          }
      },
      "containers": [
          {
              "image": "eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/chat-llm-webui:2.0",
              "script": "python webui/webui_server.py --port=8000 --model-path=meta-llama/Llama-2-7b-chat-hf",
              "port": 8000
          }
      ]
  }

  其中关键参数说明如下：

  参数	描述
  vswitch_id	用户端的交换机ID，会在该vSwitch中创建ENI，需保证该vSwitch中空闲IP充足，否则会导致EAS的实例无法创建。
  security_group_id	用户端ECS节点所归属的安全组ID。
  vpc_id	用户端的专有网络ID。

• 服务部署完成后开通VPC高速直连。

  在JSON文件所在的当前目录执行以下命令，以Windows64版本为例：

  eascmdwin64.exe modify <service_name> -s <network_cfg.json>

  参数说明如下：

  参数	描述
  <service_name>	服务名称。
  <network_cfg.json>	网络配置文件，示例内容如下： { "cloud": { "networking": { "security_group_id": "sg-7xvj6jjk0pcac7ou****", "vswitch_id": "vsw-7xvm8aelsg03f8cwq****", "vpc_id": "vpc-bp1s37ltnbvxgcqfc****" } } }

• 为使用ARM相关的机型创建的专属资源组开通VPC高速直连。具体操作，请参见配置资源组网络。

相关文档

EAS在线服务内部默认与公网不通，如果您有EAS在线服务访问公网的需求，或者当EAS在线服务需要访问其它有访问限制的云产品时，请参考文档公网连接及白名单配置。