函数计算提供的实例类型包含弹性实例和GPU实例。本文介绍实例类型、实例规格、使用说明以及实例的两种使用模式。

实例类型

  • 弹性实例:函数计算的基本实例。适用于突发流量和计算密集等各种场景。
  • GPU实例:基于Turing架构的GPU实例。主要适用于音视频、AI人工智能和图像处理等场景。在不同的场景中,将不同的业务负载下沉至GPU硬件加速,从而提升业务处理效率。
    不同场景下使用GPU实例的最佳实践,请参见以下文档。
    重要
    • GPU实例仅支持通过容器镜像方式部署。
    • 使用GPU实例过程中,为了确保您的业务正常进行,请加入钉钉用户群(钉钉群号:11721331),并提供以下信息。
      • 组织名称,例如您所在的公司名称。
      • 您的阿里云账号ID。
      • 您使用GPU实例的地域,例如华南1(深圳)。
      • 联系方式,例如您的手机号、邮箱或钉钉账号等。

实例规格

  • 弹性实例

    弹性实例包含以下实例规格,您可以根据业务需求选择不同配置的实例。

    vCPU(核) 内存规格(MB) 代码包大小上限(GB) 函数执行时长上限(s) 磁盘大小上限(GB) 带宽能力上限(Gbps)
    0.05~16

    取值说明:必须为0.05的倍数。

    128~32768

    取值说明:必须为64的倍数。

    10 86400 10
    取值说明:
    • 512 MB,默认值。
    • 10 GB。
    5
    说明 vCPU大小(单位为核)与内存大小(单位为GB)的比例必须设置在1∶1到1∶4之间。
  • GPU实例

    GPU实例包含以下实例规格,您可以根据业务需求选择不同配置的实例。

    vGPU显存(GB) vGPU算力(卡) vCPU(核) 内存规格(MB)
    1~16

    取值说明:必须为整数(GB)。

    取值为vGPU显存(GB)/16。例如,配置vGPU显存为5 GB,则vGPU最高可得5/16张卡算力。

    说明:由函数计算系统自动分配,无需手动配置。

    取值为0.05~(vGPU显存(GB)/2)。

    取值说明:必须为0.05的倍数。具体信息,请参见GPU规格配置表

    取值为128~(显存(GB)*2048)。

    取值说明:必须为64的倍数。具体信息,请参见GPU规格配置表

    函数计算GPU实例同时支持以下资源规格。

    镜像大小(GB) 函数执行时长上限(s) 磁盘大小上限(GB) 带宽能力上限(Gbps)

    ACR企业版(标准版):10

    ACR企业版(高级版):10

    ACR企业版(基础版):10

    ACR个人版(免费):10

    86400 10 5
    说明 目前支持GPU实例的地域包括华东1(杭州)、华东2(上海)、华北2(北京)、华北3(张家口)、华南1(深圳)、日本(东京)和美国(弗吉尼亚)。

GPU规格配置表

展开查看GPU实例规格配置表。
vGPU显存(GB) vCPU(核) 内存规格上限(GB) 内存规格(MB)
1 0.05~0.5 2 128~2048
2 0.05~1 4 128~4096
3 0.05~1.5 6 128~6144
4 0.05~2 8 128~8192
5 0.05~2.5 10 128~10240
6 0.05~3 12 128~12288
7 0.05~3.5 14 128~14336
8 0.05~4 16 128~16384
9 0.05~4.5 18 128~18432
10 0.05~5 20 128~20480
11 0.05~5.5 22 128~22528
12 0.05~6 24 128~24576
13 0.05~6.5 26 128~26624
14 0.05~7 28 128~28672
15 0.05~7.5 30 128~30720
16 0.05~8 32 128~32768

使用说明

如果您期望能降低冷启动时间或者提高资源利用率,可以参考以下方案。

  • 预留模式:解决冷启动问题的最佳方案,建议根据业务资源预算选择固定数量预留、根据波峰波谷特性选择指定时间段预留,或者按照水位阈值选择自动伸缩的方案。预留后,实例的平均冷启动时延将明显降低。
  • 单实例多并发:提高实例资源利用率问题的最佳方案,建议根据业务对资源的诉求,配置您的实例为单实例多并发。在这种方案下,当多个任务同时在一个实例上执行时,CPU或者内存将被抢占式共享,有效提高资源利用率。

实例模式

弹性实例和GPU实例均支持两种实例模式:按量模式和预留模式。两种实例模式说明如下。

按量模式

在按量模式下,函数计算系统自动为函数分配和释放实例。该模式下,函数执行时长的计量从请求执行函数开始,到请求执行完毕结束。按量模式下,同一个实例同一时间可以执行一个请求,也可以并发执行多个请求。更多信息,请参见设置实例并发度

  • 单实例单并发执行时长
    按量模式下,一个实例执行一个请求时,执行时长的计量是从请求到达实例开始,到请求执行完毕为止。 instanceconcurrency=1
  • 单实例多并发执行时长

    按量模式下,一个实例并发执行多个请求时,执行时长的计量是从第一个请求到达实例开始,到最后一个请求执行完毕为止。并发执行请求时,可以复用资源节省费用。

    instanceconcurrency>1

预留模式

预留模式下,函数实例由您自行分配、释放和管理。更多信息,请参见 弹性管理(含预留模式)。该模式下,函数执行时长的计量是从 函数计算系统启动预留函数实例开始,到您主动释放为止。因此,即使预留模式下实例未执行任何请求,只要没有释放实例,您都需要为实例付费。 On-Demand Resources

更多信息