实例类型及使用模式

实例类型

• 弹性实例：函数计算的基本实例。适用于突发流量和计算密集等各种场景。
• GPU实例：基于Turing架构的GPU实例。主要适用于音视频、AI人工智能和图像处理等场景。在不同的场景中，将不同的业务负载下沉至GPU硬件加速，从而提升业务处理效率。
  不同场景下使用GPU实例的最佳实践，请参见以下文档。

  • 图像处理最佳实践
  • 人工智能最佳实践
  • 音视频处理最佳实践
  重要

  • GPU实例仅支持通过容器镜像方式部署。
  • 使用GPU实例过程中，为了确保您的业务正常进行，请加入钉钉用户群（钉钉群号：11721331），并提供以下信息。
    • 组织名称，例如您所在的公司名称。
    • 您的阿里云账号ID。
    • 您使用GPU实例的地域，例如华南1（深圳）。
    • 联系方式，例如您的手机号、邮箱或钉钉账号等。

实例规格

• 弹性实例

  弹性实例包含以下实例规格，您可以根据业务需求选择不同配置的实例。

  vCPU（核）	内存规格（MB）	代码包大小上限（GB）	函数执行时长上限（s）	磁盘大小上限（GB）	带宽能力上限（Gbps）
  0.05~16 取值说明：必须为0.05的倍数。	128~32768 取值说明：必须为64的倍数。	10	86400	10 取值说明： 512 MB，默认值。 10 GB。	5

  说明 vCPU大小（单位为核）与内存大小（单位为GB）的比例必须设置在1∶1到1∶4之间。
• GPU实例

  GPU实例包含以下实例规格，您可以根据业务需求选择不同配置的实例。

  vGPU显存（GB）	vGPU算力（卡）	vCPU（核）	内存规格（MB）
  1~16 取值说明：必须为整数（GB）。	取值为vGPU显存（GB）/16。例如，配置vGPU显存为5 GB，则vGPU最高可得5/16张卡算力。 说明：由函数计算系统自动分配，无需手动配置。	取值为0.05~（vGPU显存（GB）/2）。 取值说明：必须为0.05的倍数。具体信息，请参见GPU规格配置表。	取值为128~（显存（GB）*2048）。 取值说明：必须为64的倍数。具体信息，请参见GPU规格配置表。

  函数计算GPU实例同时支持以下资源规格。

  镜像大小（GB）	函数执行时长上限（s）	磁盘大小上限（GB）	带宽能力上限（Gbps）
  ACR企业版（标准版）：10 ACR企业版（高级版）：10 ACR企业版（基础版）：10 ACR个人版（免费）：10	86400	10	5

  说明 目前支持GPU实例的地域包括华东1（杭州）、华东2（上海）、华北2（北京）、华北3（张家口）、华南1（深圳）、日本（东京）和美国（弗吉尼亚）。

GPU规格配置表

使用说明

如果您期望能降低冷启动时间或者提高资源利用率，可以参考以下方案。

• 预留模式：解决冷启动问题的最佳方案，建议根据业务资源预算选择固定数量预留、根据波峰波谷特性选择指定时间段预留，或者按照水位阈值选择自动伸缩的方案。预留后，实例的平均冷启动时延将明显降低。
• 单实例多并发：提高实例资源利用率问题的最佳方案，建议根据业务对资源的诉求，配置您的实例为单实例多并发。在这种方案下，当多个任务同时在一个实例上执行时，CPU或者内存将被抢占式共享，有效提高资源利用率。

实例模式

弹性实例和GPU实例均支持两种实例模式：按量模式和预留模式。两种实例模式说明如下。

按量模式

在按量模式下，函数计算系统自动为函数分配和释放实例。该模式下，函数执行时长的计量从请求执行函数开始，到请求执行完毕结束。按量模式下，同一个实例同一时间可以执行一个请求，也可以并发执行多个请求。更多信息，请参见设置实例并发度。

• 单实例单并发执行时长
  按量模式下，一个实例执行一个请求时，执行时长的计量是从请求到达实例开始，到请求执行完毕为止。
• 单实例多并发执行时长

  按量模式下，一个实例并发执行多个请求时，执行时长的计量是从第一个请求到达实例开始，到最后一个请求执行完毕为止。并发执行请求时，可以复用资源节省费用。

  

预留模式

预留模式下，函数实例由您自行分配、释放和管理。更多信息，请参见 弹性管理（含预留模式）。该模式下，函数执行时长的计量是从 函数计算系统启动预留函数实例开始，到您主动释放为止。因此，即使预留模式下实例未执行任何请求，只要没有释放实例，您都需要为实例付费。

更多信息

• 关于计费方式的更多信息，请参见计费概述。
• 使用SDK为函数配置、更改实例的具体操作，请参见设置实例类型。
• 使用函数计算控制台指定期望的实例类型和实例规格的具体操作，请参见管理函数。