Tair KVCache实例规格表

更新时间:
复制为 MD 格式

本文介绍Tair KVCache实例的规格命名规则与详细配置,帮助您根据业务需求选择合适的实例规格。

规格码

Tair KVCache的规格码采用统一格式,用以表示实例的类型、硬件配置和规模。

格式:kvcache.cu.{类型标识}.{GPU卡数量}

各部分含义如下:

  • kvcache.cu:固定前缀,代表 Tair KVCache 算力单元。

  • {类型标识}:核心标识符,用于区分底层硬件平台和 GPU 卡型。

    • 以 g 开头:表示标准虚拟机实例。

    • 以 eg 开头:表示裸金属实例。

    • 以 lg 开头:表示灵骏实例。

    • 后续的数字和字母(如 4a4b1)代表具体的 GPU 代数和型号。

  • {GPU卡数量}:实例包含的 GPU的数量。

    说明

    规格中的vCPUs和内存按照GPU卡数量切分。

示例:规格码 kvcache.cu.eg4a.8 表示一个基于裸金属平台、包含8L20 GPU卡(每张卡分配16 cCPUs、128 GB内存)的 Tair KVCache 实例。

规格

GPU类型

vCPUs

内存(GB)

显存(GB)

kvcache.cu.g4a.8

L20 EGS

128

1024

8 * 48

kvcache.cu.eg4a.8

L20 裸金属EGS

128

1024

8 * 48

kvcache.cu.g4b.8

4090 EGS - 24GB

128

1024

8 * 24

kvcache.cu.eg4b.8

4090 裸金属EGS - 24GB

128

1024

8 * 24

kvcache.cu.g4b1.8

4090 EGS - 48GB

128

1024

8 * 48

kvcache.cu.g4b2.8

5090 EGS - 32GB

192

1536

8 * 32

kvcache.cu.eg4b1.8

4090 裸金属EGS - 48GB

128

1024

8 * 48

kvcache.cu.g4c.8

H20 EGS

192

1024

8 * 96

kvcache.cu.eg4c.8

H20 裸金属EGS

192

1024

8 * 96

kvcache.cu.lg4c.8

H20 灵骏 -96GB

192

2048

8 * 96

kvcache.cu.lg4c1.8

H20 灵骏 -141GB

192

2048

8 * 141