為PAI eas服務配置網路連通 - Platform For AI

EAS線上服務部署在EAS的資源群組（包括公用資源群組和專屬資源群組）上。為資源群組配置網路連通後，一方面使用者端可以正常訪問EAS線上服務，另一方面EAS線上服務也可以正常訪問同一個VPC內的其它雲產品。本文為您介紹資源群組網路連通配置方法。

前提條件

已為EAS授權相關許可權。詳情請參見雲產品依賴與授權：EAS。
已建立一個Virtual Private Cloud、交換器和安全性群組。詳情請參見建立和管理專用網路和建立安全性群組。

配置資源群組網路連通

配置網路連通即開通VPC高速直連，EAS的配置中需要指定待連通VPC環境中的交換器（vSwitch）和安全性群組（SecurityGroup）。配置網路連通後，該VPC環境中的ECS伺服器等可通過建立的彈性網卡訪問部署在專屬資源群組或公用資源群組中的EAS線上服務，同時EAS線上服務也可以訪問同一個VPC環境中的其它雲產品。您可以通過以下方式開通VPC高速直連。

通過控制台開通VPC高速直連

部署服務時開通VPC高速直連：
在專用網路配置地區，配置VPC、交換器和安全性群組名稱參數，為部署在專屬資源群組或公用資源群組中的EAS線上服務開通VPC高速直連。具體操作，請參見服務部署：控制台。
服務部署成功後，按照以下操作步驟，開通VPC高速直連：
1. 在模型線上服務（EAS）頁面，單擊目標服務名稱。
2. 在服務詳情頁面右上方，單擊配置高速串連。
3. 在配置高速串連對話方塊，選擇VPC、交換器及安全性群組名稱，並單擊確定。

使用ARM相關的機型（包括Yitian計算型和Yitian通用型）建立的專屬資源群組需要使用以下方式開通VPC高速直連：

方式一：
1. 在資源群組頁簽，開啟目標資源群組VPC直連列下的開關按鈕。
2. 在開通VPC直連通道對話方塊，選擇VPC、交換器及安全性群組名稱，並單擊確定。
方式二：
1. 在資源群組頁簽，單擊目標資源群組名稱。
2. 在頁面上方，開啟VPC直連開關。
3. 在開通VPC直連通道對話方塊，選擇VPC、交換器及安全性群組名稱，並單擊確定。

通過eascmd用戶端工具開通VPC高速直連

如何使用eascmd用戶端工具，請參見下載並認證用戶端。

部署服務時開通VPC高速直連，JSON設定檔樣本如下。更多操作說明，請參見建立服務。

{
    "metadata": {
        "name": "service_name",
        "instance": 1,
        "enable_webservice": true
    },
    "cloud": {
        "computing": {
            "instance_type": "ml.gu7i.c16m60.1-gu30",
            "instances": null
        },
        "networking": {
            "vswitch_id": "vsw-bp17jg7wr6s3pzbfe****",
            "security_group_id": "sg-bp14zqduxqm04qg7****",
            "vpc_id": "vpc-bp1s37ltnbvxgcqfc****"
        }
    },
    "containers": [
        {
            "image": "eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/chat-llm-webui:2.0",
            "script": "python webui/webui_server.py --port=8000 --model-path=meta-llama/Llama-2-7b-chat-hf",
            "port": 8000
        }
    ]
}

其中關鍵參數說明如下：

參數	描述
vswitch_id	使用者端的交換器ID，會在該vSwitch中建立ENI，需保證該vSwitch中空閑IP充足，否則會導致EAS的執行個體無法建立。
security_group_id	使用者端ECS節點所歸屬的安全性群組ID。
vpc_id	使用者端的專用網路ID。

服務部署完成後開通VPC高速直連。

在JSON檔案所在的目前的目錄執行以下命令，以Windows64版本為例：

eascmdwin64.exe modify <service_name> -s <network_cfg.json>

參數說明如下：

參數

描述

<service_name>

服務名稱。

<network_cfg.json>

網路設定檔，樣本內容如下：

{
  "cloud": {
      "networking": {
          "security_group_id": "sg-7xvj6jjk0pcac7ou****",
          "vswitch_id": "vsw-7xvm8aelsg03f8cwq****",
          "vpc_id": "vpc-bp1s37ltnbvxgcqfc****"
      }
  }
}

為使用ARM相關的機型建立的專屬資源群組開通VPC高速直連。具體操作，請參見配置資源群組網路。

Platform For AI：配置網路連通

前提條件

配置資源群組網路連通

通過控制台開通VPC高速直連

通過eascmd用戶端工具開通VPC高速直連

相關文檔