实例类型及使用模式

实例类型

• CPU实例：函数计算的基本实例。适用于突发流量和计算密集等各种场景。

• GPU实例：提供Turing架构的GPU实例。主要适用于音视频、AI人工智能和图像处理等场景。在不同的场景中，将不同的业务负载下沉至GPU硬件加速，从而提升业务处理效率。

  不同场景下使用GPU实例的最佳实践，请参见以下文档。

  • 图像处理最佳实践

  • 人工智能最佳实践

  • 音视频处理最佳实践

  重要

  • GPU实例仅支持通过容器镜像方式部署。

  • 使用GPU实例过程中，为了确保您的业务正常进行，请加入钉钉用户群（钉钉群号：64970014484），并提供以下信息。

    • 组织名称，例如您所在的公司名称。

    • 您的阿里云账号ID。

    • 您使用GPU实例的地域，例如华南1（深圳）。

    • 联系方式，例如您的手机号、邮箱或钉钉账号等。

实例模式

CPU实例和GPU实例均支持两种实例模式：按量模式和预留模式。两种实例模式说明如下。

按量模式

计费方式

在按量模式下，函数执行时长的计量从请求执行函数开始，到请求执行完毕结束。按量模式下，同一个实例同一时间可以执行一个请求，也可以并发执行多个请求。更多信息，请参见创建Web函数。

在没有函数调用请求时不分配实例，所以不会产生费用。只有发生函数调用时才会产生费用。关于具体的产品定价和计费，请参见计费概述。

说明

如果您希望提高实例资源利用率，建议根据业务对资源的诉求，配置您的实例为单实例多并发。在这种方案下，当多个任务同时在一个实例上执行时，CPU或者内存将被抢占式共享，有效提高资源利用率。

单实例单并发执行时长

单实例多并发执行时长

按量模式下，一个实例执行一个请求时，执行时长的计量是从请求到达实例开始，到请求执行完毕为止。

按量模式下，一个实例并发执行多个请求时，执行时长的计量是从第一个请求到达实例开始，到最后一个请求执行完毕为止。并发执行请求时，可以复用资源节省费用。

预留模式

实例规格

• CPU实例

  CPU实例包含以下实例规格，您可以根据业务需求选择不同配置的实例。

  vCPU（核）	内存规格（MB）	代码包大小上限（GB）	函数执行时长上限（s）	磁盘大小上限（GB）	带宽能力上限（Gbps）

  vCPU（核）	内存规格（MB）	代码包大小上限（GB）	函数执行时长上限（s）	磁盘大小上限（GB）	带宽能力上限（Gbps）
  0.05~16 取值说明：必须为0.05的倍数。	128~32768 取值说明：必须为64的倍数。	10	86400	10 取值说明： 512 MB，默认值。 10 GB。	5

  说明

  vCPU大小（单位为核）与内存大小（单位为GB）的比例必须设置在1∶1到1∶4之间。

• GPU实例

  GPU实例包含以下实例规格，您可以根据业务需求选择不同配置的实例。

  说明

  fc.gpu.tesla.1实例规格的性能与NVIDIA T4性能基本一致。

  实例规格	整卡显存（GB）	整卡算力（TFLOPS）		可选切分规格				是否支持按量模式	是否支持普通预留模式	是否支持闲置预留模式
  		FP16算力	FP32算力	vGPU显存（MB）	vGPU算力（卡）	vCPU（核）	内存规格（MB）

  实例规格	整卡显存（GB）	整卡算力（TFLOPS）		可选切分规格				是否支持按量模式	是否支持普通预留模式	是否支持闲置预留模式
  		FP16算力	FP32算力	vGPU显存（MB）	vGPU算力（卡）	vCPU（核）	内存规格（MB）
  fc.gpu.tesla.1	16	65	8	1024~16384（对应1 GB~16 GB） 取值说明：必须为1024 MB的倍数。	取值为vGPU显存（GB）/16。例如，配置vGPU显存为5 GB，则vGPU最高可得5/16张卡算力。 说明：由函数计算系统自动分配，无需手动配置。	取值为0.05~（vGPU显存（GB）/2）。 取值说明：必须为0.05的倍数。具体信息，请参见GPU规格配置表。	取值为128~（vGPU显存（GB）*2048）。 取值说明：必须为64的倍数。具体信息，请参见GPU规格配置表。	Y	Y	Y
  fc.gpu.ada.1	48	119	60	49152（对应48 GB） 取值说明：仅支持48 GB显存规格。	默认分配整卡算力。 说明：由函数计算系统自动分配，无需手动配置。	取值为8。 取值说明：仅支持8核vCPU规格。	取值为65536。 取值说明：仅支持64 GB内存规格。	Y	Y	Y

  函数计算GPU实例同时支持以下资源规格。

  镜像大小（GB）	函数执行时长上限（s）	磁盘大小上限（GB）	带宽能力上限（Gbps）

  镜像大小（GB）	函数执行时长上限（s）	磁盘大小上限（GB）	带宽能力上限（Gbps）
  ACR企业版（标准版）：15 ACR企业版（高级版）：15 ACR企业版（基础版）：15 ACR个人版（免费）：15	86400	10	5

  说明

  • 实例规格设置为g1等同于设置为fc.gpu.tesla.1。

  • 目前支持Tesla系列GPU实例的地域包括华东1（杭州）、华东2（上海）、华北2（北京）、华北3（张家口）、华南1（深圳）、日本（东京）、美国（弗吉尼亚）和新加坡。

  • 目前支持Ada系列GPU实例的地域包括华北2（北京）、华东1（杭州）、华东2（上海）、华南1（深圳）、新加坡和美国（弗吉尼亚）。

GPU规格配置表

相关文档

• 配置弹性伸缩规则时可以开启闲置模式，具体操作请参见修改或删除预留实例并发。

• 关于函数计算的计费方式以及计费项等更多信息，请参见计费概述。

• 使用API创建函数时可以通过instanceType参数指定实例类型，请参见CreateFunction - 创建函数。

• 关于如何通过控制台指定期望的实例类型和实例规格的具体操作，请参见创建Web函数。