人工智能平台 PAI：AI视频生成-ComfyUI部署

方式一：场景化模型部署（推荐）

1. 登录PAI控制台，在页面上方选择目标地域，并在右侧选择目标工作空间，然后单击进入EAS。

2. 在模型在线服务 (EAS)页面，单击部署服务，在场景化模型部署区域，单击AI视频生成-ComfyUI部署。

3. 配置以下关键参数：

   • 版本选择：参见选择部署版本。

   • 模型配置：如需使用自己的模型、安装自定义节点或通过API调用，必须配置此项。以对象存储（OSS）为例，选择Bucket和目录，部署成功后系统会自动在其中创建ComfyUI所需目录。

   • 资源配置选择：资源规格必须选择GPU类型，推荐使用GU30、A10或T4卡型。ml.gu7i.c16m60.1-gu30性价比高，如库存不足可选择ecs.gn6i-c16g1.4xlarge。

4. 单击部署。等待约5分钟，当服务状态变为运行中，表示部署成功。

方式二：自定义模型部署

1. 登录PAI控制台，在页面上方选择目标地域，并在右侧选择目标工作空间，然后单击进入EAS。

2. 在推理服务页签，单击部署服务，然后在自定义模型部署区域，单击自定义部署。

3. 配置以下关键参数：

   • 部署方式：选择镜像部署，勾选开启Web应用复选框。

   • 镜像配置：在官方镜像列表中选择comfyui:1.9。其中：x.x：表示标准版，x.x-api：表示API版，x.x-cluster：表示集群版。

     说明

     • 由于版本迭代迅速，部署时镜像版本选择最高版本即可。

     • 更多关于每个版本的使用场景说明，请参见选择部署版本。

   • 存储挂载：如需使用自己的模型、安装自定义节点或通过API调用，必须进行存储挂载。以对象存储（OSS）为例，选择Bucket和目录，部署成功后系统会自动在其中创建ComfyUI所需目录。请确保创建的存储空间与EAS服务位于同一地域。

     • Uri：单击选择已创建的OSS存储目录。例如oss://bucket-test/data-oss/。

     • 挂载路径：配置为/mnt/data，表示将您配置的OSS文件目录挂载到容器路径/mnt/data下 。

   • 运行命令：

     • 选择镜像版本后，系统自动配置运行命令。

     • 若进行了存储挂载，则必须在运行命令中添加--data-dir参数， 并且其值与挂载路径完全一致。例如python main.py --listen --port 8000 --data-dir /mnt/data --cache-root /stable-diffusion-cache。

   • 资源类型：选择公共资源。

   • 部署资源：资源规格必须选择GPU类型，推荐使用GU30、A10或T4卡型。ml.gu7i.c16m60.1-gu30性价比高，如库存不足可选择ecs.gn6i-c16g1.4xlarge。

4. 单击部署。服务部署时间约为5分钟，当服务状态为运行中时，表明服务已成功部署。

在线调试

在模型在线服务 (EAS)页面，单击目标服务操作列下的在线调试，进入在线调试页面。

1. 发送POST请求，获取Prompt ID。

   1. 在调试页面的在线调试请求参数区域的Body处填写已准备好的请求体。并在请求URL文本编辑框中添加/prompt。

   2. 单击发送请求，即可在调试信息区域查看返回结果，示例如下。

2. 发送GET请求，根据Prompt ID获取推理结果。

   1. 在在线调试请求参数区域中，将请求方法修改为GET，并在文本框中配置/history/<prompt id>，示例如下。

      其中<prompt id>需要替换为步骤1获取的Prompt ID。

   2. 单击发送请求，即可获取推理结果。

      您可以在挂载存储的output目录中，查看生成的推理结果。

同步调用

1. 查看调用信息。

   1. 在推理服务页签，单击目标服务名称进入概览页面，在基本信息区域单击查看调用信息。

   2. 在调用信息面板，可获取访问地址和Token。根据您的实际情况选择公网或VPC地址，后续使用<EAS_ENDPOINT>和<EAS_TOKEN>指代这两个值。

      

2. 发送请求获取Prompt ID。

   • HTTP请求方式：POST。

   • 请求路径（URL）：<EAS_ENDPOINT>/prompt。其中<EAS_ENDPOINT>如地址末尾有/，请删除。最终URL如http://comfyui****.175805416243****.cn-beijing.pai-eas.aliyuncs.com/prompt。

   • 请求头部（Headers）：

     头部	值	描述
     Authorization	<EAS_TOKEN>	授权密钥。
     Content-Type	application/json	指定请求体格式。

   代码示例：

   cURL

   curl --location --request POST '<EAS_ENDPOINT>/prompt' \
   --header 'Authorization: <EAS_TOKEN>' \
   --header 'Content-Type: application/json' \
   --data-raw '{
       "prompt":
       ...省略
   }'

   其中，--data-raw 为请求体。

   Python

   代码示例如下：

   import requests
   import json
   
   # <EAS_ENDPOINT> 和 <EAS_TOKEN> 替换为步骤1获取的地址和token。
   service_url = "<EAS_ENDPOINT>"
   token = "<EAS_TOKEN>"
   
   if service_url[-1] == "/":
       service_url = service_url[:-1]
   
   # 请求体，将payload中的prompt的值配置为工作流对应的JSON文件内容。
   payload = """{
       "prompt":
       ...省略
   }"""
   payload = json.loads(payload)
   
   session = requests.session()
   session.headers.update({"Authorization": token})
     
   response = session.post(url=f'{service_url}/prompt', json=payload)
   if response.status_code != 200:
       raise Exception(response.content)
   
   data = response.json()
   print(data)

   返回结果示例如下：

   {
       "prompt_id": "021ebc5b-e245-4e37-8bd3-00f7b949****",
       "number": 5,
       "node_errors": {}
   }

   从返回结果中获取Prompt ID。

3. 获取推理结果。

   • HTTP请求方式：GET

   • 请求URL：<EAS_ENDPOINT>/history/<prompt_id>，其中<prompt_id>替换为步骤1中获取的prompt_id。

   • 请求头部：

     头部	值	描述
     Authorization	<EAS_TOKEN>	授权密钥，步骤1中获取。

   代码示例：

   cURL

   curl --location --request GET '<EAS_ENDPOINT>/history/<prompt_id>' \
        --header 'Authorization: <EAS_TOKEN>'

   Python

   import requests
   
   # <EAS_ENDPOINT> 和 <EAS_TOKEN> 替换为步骤1获取的地址和token。
   # <prompt_id>替换为步骤2中获取的prompt_id
   service_url = "<EAS_ENDPOINT>"
   token = "<EAS_TOKEN>"
   prompt_id = "<prompt_id>"
   
   if service_url[-1] == "/":
       service_url = service_url[:-1]
   
   session = requests.session()
   session.headers.update({"Authorization": token})
   
   response = session.get(url=f'{service_url}/history/{prompt_id}')
   
   if response.status_code != 200:
       raise Exception(response.content)
   
   data = response.json()
   print(data)

   返回结果示例如下：

   单击查看返回结果示例

   {
       "130bcd6b-5bb5-496c-9c8c-3a1359a0****": {
           "prompt": ...省略,
           "outputs": {
               "9": {
                   "images": [
                       {
                           "filename": "ComfyUI_1712645398_18dba34d-df87-4735-a577-c63d5506a6a1_.png",
                           "subfolder": "",
                           "type": "output"
                       }
                   ]
               },
               "15": {
                   "images": [
                       {
                           "filename": "ComfyUI_1712645867_.webp",
                           "subfolder": "",
                           "type": "output"
                       }
                   ],
                   "animated": [
                       true
                   ]
               },
               "19": {
                   "gifs": [
                       {
                           "filename": "comfyUI_00002.mp4",
                           "subfolder": "",
                           "type": "output",
                           "format": "video/h264-mp4"
                       }
                   ]
               }
           },
           "status": {
               "status_str": "success",
               "completed": true,
               "messages": ...省略,
           }
       }
   }

   在本示例返回的outputs中提供了prompt生成的图像、webp文件和mp4视频，您可以在挂载存储的output目录中，根据文件名称来查找这些文件。

异步调用

1. 查看调用信息。

   在推理服务页签，单击目标服务名称进入概览页面，在基本信息区域单击查看调用信息。在调用信息对话框的异步调用页签，查看服务访问地址和Token。

   

   下文使用<EAS_ENDPOINT>指代公网输入调用地址（如果调用端与EAS处于同一VPC，可使用VPC输入调用地址），<EAS_TOKEN>指代Token。

2. 发送请求。

   代码示例如下：

   import requests
   import json
   
   service_url = "<EAS_ENDPOINT>"
   token = "<EAS_TOKEN>"
   
   if service_url[-1] == "/":
       service_url = service_url[:-1]
   
   session = requests.session()
   session.headers.update({"Authorization":token})
   
   # 请求体-工作流JSON,无需"prompt"包装。
   # 使用 """ """ 将其定义为多行字符串，否则需要将工作流JSON中布尔值（true和false）的首字母改为大写。
   payload = """{
       '3': 
       ...省略
     }
     """
   payload = json.loads(payload)
   
   for i in range(5):
     # task_id是标识请求和结果的关键标志，请给每个请求分配一个唯一的值，以对应后面的队列结果
     response = session.post(url=f'{service_url}/api_prompt?task_id=txt2img_{i}', json=payload)
     if response.status_code != 200:
       exit(f"send request error:{response.content}")
     else:
       print(f"send {i} success, index is {response.content}")

3. 订阅结果。

   1. 安装eas_prediction SDK。

      pip install eas_prediction  --user

   2. 执行以下代码，获取返回结果。

      from eas_prediction import QueueClient
      from urllib.parse import urlparse, urlunparse
      
      service_url     = "<EAS_ENDPOINT>"
      token           = "<EAS_TOKEN>"
      
      # 解析服务URL
      def parse_service_url(service_url):
          parsed = urlparse(service_url)
          service_domain = f"{parsed.scheme}://{parsed.netloc}"
          path_parts = [p for p in parsed.path.strip('/').split('/') if p]
          service_name = path_parts[-1]
          return service_domain, service_name
      
      service_domain, service_name = parse_service_url(service_url)
      print(f"service_domain: {service_domain}, service_name: {service_name}.")
         
      # 创建结果队列客户端 
      sink_queue = QueueClient(service_domain, f'{service_name}/sink')
      sink_queue.set_token(token)
      sink_queue.init()
      
      # 监听结果
      watcher = sink_queue.watch(0, 5, auto_commit=False)
      for x in watcher.run():
          if 'task_id' in x.tags:
              print('index {} task_id is {}'.format(x.index, x.tags['task_id']))
          print(f'index {x.index} data is {x.data}')
          # 提交确认接收
          sink_queue.commit(x.index)

      返回结果示例如下：

      index 42 task_id is txt2img_0
      index 42 data is b'[{"type": "executed", "data": {"node": "9", "output": {"images": [{"filename": "ComfyUI_1712647318_8e7f3c93-d2a8-4377-92d5-8eb552adc172_.png", "subfolder": "", "type": "output"}]}, "prompt_id": "c3c983b6-f92b-4dd5-b4dc-442db4d1736f"}}, {"type": "executed", "data": {"node": "15", "output": {"images": [{"filename": "ComfyUI_1712647895_.webp", "subfolder": "", "type": "output"}], "animated": [true]}, "prompt_id": "c3c983b6-f92b-4dd5-b4dc-442db4d1736f"}}, {"type": "executed", "data": {"node": "19", "output": {"gifs": [{"filename": "comfyUI_00001.mp4", "subfolder": "", "type": "output", "format": "video/h264-mp4"}]}, "prompt_id": "c3c983b6-f92b-4dd5-b4dc-442db4d1736f"}}, {"9": {"images": [{"filename": "ComfyUI_1712647318_8e7f3c93-d2a8-4377-92d5-8eb552adc172_.png", "subfolder": "", "type": "output"}]}, "15": {"images": [{"filename": "ComfyUI_1712647895_.webp", "subfolder": "", "type": "output"}], "animated": [true]}, "19": {"gifs": [{"filename": "comfyUI_00001.mp4", "subfolder": "", "type": "output", "format": "video/h264-mp4"}]}}]'
      index 43 task_id is txt2img_1
      index 43 data is b'[{"9": {"images": [{"filename": "ComfyUI_1712647318_8e7f3c93-d2a8-4377-92d5-8eb552adc172_.png", "subfolder": "", "type": "output"}]}, "15": {"images": [{"filename": "ComfyUI_1712647895_.webp", "subfolder": "", "type": "output"}], "animated": [true]}, "19": {"gifs": [{"filename": "comfyUI_00001.mp4", "subfolder": "", "type": "output", "format": "video/h264-mp4"}]}}]'
      index 44 task_id is txt2img_2
      index 44 data is b'[{"9": {"images": [{"filename": "ComfyUI_1712647318_8e7f3c93-d2a8-4377-92d5-8eb552adc172_.png", "subfolder": "", "type": "output"}]}, "15": {"images": [{"filename": "ComfyUI_1712647895_.webp", "subfolder": "", "type": "output"}], "animated": [true]}, "19": {"gifs": [{"filename": "comfyUI_00001.mp4", "subfolder": "", "type": "output", "format": "video/h264-mp4"}]}}]'
      index 45 task_id is txt2img_3
      index 45 data is b'[{"9": {"images": [{"filename": "ComfyUI_1712647318_8e7f3c93-d2a8-4377-92d5-8eb552adc172_.png", "subfolder": "", "type": "output"}]}, "15": {"images": [{"filename": "ComfyUI_1712647895_.webp", "subfolder": "", "type": "output"}], "animated": [true]}, "19": {"gifs": [{"filename": "comfyUI_00001.mp4", "subfolder": "", "type": "output", "format": "video/h264-mp4"}]}}]'
      index 46 task_id is txt2img_4
      index 46 data is b'[{"9": {"images": [{"filename": "ComfyUI_1712647318_8e7f3c93-d2a8-4377-92d5-8eb552adc172_.png", "subfolder": "", "type": "output"}]}, "15": {"images": [{"filename": "ComfyUI_1712647895_.webp", "subfolder": "", "type": "output"}], "animated": [true]}, "19": {"gifs": [{"filename": "comfyUI_00001.mp4", "subfolder": "", "type": "output", "format": "video/h264-mp4"}]}}]'

      您可以在挂载存储的output目录中，查看推理结果文件。