创建与管理节点

工作原理

PolarDB AI节点（VNode）本质上是Virtual Kubelet技术的一种实现，它在您的Kubernetes集群中注册一个虚拟节点。其工作流程如下：

1. 虚拟节点注册：创建AI集群后，PolarDB会在您的目标Kubernetes集群中注册一个或多个虚拟节点（VNode）。这些节点在您的集群中可见，但其背后没有实际的物理服务器由您管理。

2. Pod调度：当您创建一个 Pod，并通过容忍（Toleration）和亲和性（Affinity）或节点选择器（nodeSelector）将其调度到VNode时，Kubernetes API Server会将调度请求传递给VNode。

3. 资源置备：VNode接收到请求后，PolarDB的后端服务会实时在托管的GPU资源池中置备Pod所需的计算资源（GPU、CPU、内存）。

4. 网络打通：Pod启动时，会通过弹性网卡（ENI）从您指定的VPC交换机中获取一个IP地址。这使得Pod成为您VPC内的一个原生网络成员，能够直接、高效地访问同一VPC内的PolarDB集群。

适用范围

在开始创建AI节点（VNode）前，请确保您的环境满足以下条件：

• 支持的Kubernetes集群：

  • ACK托管集群Pro版，且网络插件需为Terway。

  • ACK Edge集群。

  • 阿里云上自建的Kubernetes集群。

• 账号与权限：

  • 服务关键角色：需创建PolarDB服务关键角色。

    检查是否已创建PolarDB服务关键角色

    1. 使用阿里云账号（主账号）前往RAM控制台的身份管理>角色列表。

    2. 检查角色列表中，是否已存在名为AliyunServiceRoleForPolarDB的服务关联角色，如下：

       • 若存在，请跳过当前检查步骤。

       • 若不存在，则继续执行以下步骤。

    3. 单击创建角色，在打开的创建角色页面中，单击右上角的创建服务关联角色。

    4. 在打开的创建服务关联角色页面中，选择信任的云服务为AliyunServiceRoleForPolarDB，并单击创建服务关联角色以完成创建。

  • RAM用户权限：若使用RAM用户操作，需确保该用户拥有对目标ACK集群的Admin权限。

  • KubeConfig权限：您提供的KubeConfig文件必须拥有cluster-admin权限，以便PolarDB在您的集群中安装必要的组件。

创建并纳管AI集群

1. 登录PolarDB控制台，在左侧导航栏单击AI集群列表进入页面，并单击创建AI新集群。

2. 在售卖页中，配置您的AI集群。

   参数	说明
   付费类型	仅支持包年包月。
   地域	选择与您的Kubernetes集群或自建K8s所在地域。
   架构	选择AI节点。
   生态	选择MySQL。
   源PolarDB集群	选择您的业务数据所在的PolarDB集群，部署在AI节点上的应用将可以内网访问此集群。
   扩展	选择无。
   K8s集群管理方式	根据您的Kubernetes集群类型，选择自建K8s纳管或K8s纳管。 自建K8s纳管：支持阿里云上自建的Kubernetes集群，需提供内网访问的KubeConfig。 K8s纳管：支持ACK托管集群Pro版（网络插件需为Terway）与ACK Edge集群。
   ACK集群名称	选择纳管AI节点的ACK集群。 说明 仅K8s集群管理方式为K8s纳管时，支持选择。
   KubeConfig	请提供内网访问的具有cluster-admin权限的KubeConfig。 自建K8s纳管：请自行在您自建的Kubernetes集群上获取内网访问的KubeConfig。 K8s纳管：可在集群信息页面的连接信息页签内，单击获取长期 KubeConfig按钮进行复制。 说明 若使用RAM用户操作，需确保该用户拥有对目标ACK集群的Admin权限。
   资源	请选择GPU规格，并按需选择节点规格与数量。
   网络类型	固定专业网络。
   VPC网络	默认Kubernetes集群所在VPC网络。
   VPC网络与交换机	按需进行选择。AI 节点上的Pod将通过弹性网卡（ENI）从您选择的交换机获取IP地址，因此需确保K8s API Server连接端点的访问控制策略已放行所选交换机网段。
   安全组	Pod挂载的弹性网卡将此关联的安全组，默认选择Kubernetes集群的安全组。
   数据盘	为AI集群分配的云盘总存储配额，您可以在Pod中通过创建PVC来使用此配额。
   高级选项	（可选）按需为AI节点预设污点 （Taints）和节点标签（Labels）。

3. 创建完成后，请返回AI集群列表等待新创建的集群状态变为运行中。节点创建过程需要1-5分钟。您可以单击集群ID/名称进入详情页查看基本信息和资源用量。

在AI节点上部署AI应用

创建并纳管AI集群后，您可以将AI应用作为Pod调度到这些虚拟节点上运行。您需要编写一个Kubernetes Deployment的YAML文件，在文件中指定容器镜像、资源请求，并配置正确的调度策略（容忍和节点亲和性），以确保Pod能被正确地调度到AI节点上。

1. 为您的应用选择合适的容器镜像。

   • 使用预置镜像：PolarDB提供了SgLang和vLLM推理引擎容器镜像，支持在阿里云VPC环境内免密拉取。使用时，请将{region-id}替换为您的AI节点所在的地域ID（如cn-shanghai）。

     • vLLM：aliclouddb-pub-registry-vpc.{region-id}.cr.aliyuncs.com/aliclouddb-public/des-ai-nv:25.05-vllm0.8.5.post1-pytorch2.7-cu128-20250513-serverless

     • SgLang：aliclouddb-pub-registry-vpc.{region-id}.cr.aliyuncs.com/aliclouddb-public/des-ai-nv:25.05-sglang0.4.6.post4-pytorch2.6-cu124-20250513-serverless

   • 使用其他镜像：您也可以使用自己的ACR镜像或公网镜像。

     说明

     如果需要从公网拉取镜像，请确保AI节点所在交换机已开启SNAT功能以访问公网。

2. 编写应用的部署配置，确保Pod能被正确调度到AI节点。将以下YAML内容保存为polar-vnode-demo.yaml。

   ---
   apiVersion: apps/v1
   kind: Deployment
   metadata:
     name: sample-test-deploy-test
     namespace: default
     labels:
       app: sample-test-deploy-test
   spec:
     replicas: 1
     selector:
       matchLabels:
         app: sample-test-deploy-test
     strategy:
       type: RollingUpdate
       rollingUpdate:
         maxSurge: 25%
         maxUnavailable: 25%
     template:
       metadata:
         labels:
           app: sample-test-deploy-test
       spec:
         containers:
           - name: demo
             # 将 {region-id} 替换为您的地域，例如 cn-shanghai
             image: aliclouddb-pub-registry-vpc.{region-id}.cr.aliyuncs.com/aliclouddb-public/des-ai-nv:25.05-vllm0.8.5.post1-pytorch2.7-cu128-20250513-serverless
             imagePullPolicy: IfNotPresent
             # 此处为示例命令，请替换为您应用的实际启动命令
             command: 
               - sleep
               - infinity
             # 声明 Pod 需要的资源，必须小于或等于您购买的单节点规格
             resources:
               limits:
                 nvidia.com/gpu: "2"
                 cpu: "7"
                 memory: "60Gi"
               requests:
                 nvidia.com/gpu: "2"
                 cpu: "7"
                 memory: "60Gi"
             # 挂载共享内存，许多AI框架（如PyTorch）进行多进程通信时需要
             volumeMounts:
               - name: shm
                 mountPath: /dev/shm
         restartPolicy: Always
         terminationGracePeriodSeconds: 30
         # --- 关键调度配置 ---
         tolerations:
           # 添加对 AI 节点固定污点的容忍，允许 Pod 调度上去
           - effect: NoSchedule
             key: virtual-kubelet.io/provider #添加容忍调度到PolarDB Vnode节点
             operator: Equal
             value: aliclouddb
           - effect: NoExecute
             key: node.kubernetes.io/not-ready
             operator: Exists
             tolerationSeconds: 300
           - effect: NoExecute
             key: node.kubernetes.io/unreachable
             operator: Exists
             tolerationSeconds: 300
         volumes:
           # 定义共享内存卷
           - name: shm
             emptyDir:
               medium: Memory
               sizeLimit: 32Gi

3. 执行以下命令，在Kubernetes集群中创建应用。

   kubectl apply -f polar-vnode-demo.yaml

管理AI节点

您可以在PolarDB控制台中或通过kubectl对AI节点进行日常管理，如查看状态、调整数量等。