RDS Custom容器系列节点使用私有容器镜像部署Pod

前提条件

• 已开通容器镜像服务ACR企业版实例，详见创建容器镜像服务。

• 已完成使用ACR企业版实例的前置工作，包括绑定源代码平台、创建命名空间、创建镜像仓库等。详见使用企业版实例构建镜像的步骤一至三。

• 已创建ACK托管集群Pro版，详见创建ACK托管集群。

• 已创建RDS Custom容器系列节点，并在ACK托管集群Pro版中使用该节点，详见RDS Custom容器系列AI节点使用手册。

操作步骤

1. 通过kubectl工具连接ACK集群，详见获取集群KubeConfig并通过kubectl工具连接集群。

2. 执行以下命令，创建Kubernetes Secret。

   kubectl create secret docker-registry acr-secret-inner \
     --docker-server=beijing-acr-registry-vpc.cn-beijing.cr.aliyuncs.com \
     --docker-username=ACK@rctest \
     --docker-password=Testpassword@123

   说明

   • regsecret：指密钥的键名称，可自定义。

   • --docker-server：指Docker仓库地址。

   • --docker-username：指Docker仓库用户名。

   • --docker-password：指Docker仓库登录密码。

3. 执行以下命令，验证Secret是否创建成功。

   kubectl get secrets acr-secret-inner -o yaml

4. 编写Pod配置。

   将以下完整Pod YAML保存为pod.yaml。

   apiVersion: v1
   kind: Pod
   metadata:
     name: sglang-qwen3  # Pod名称
   spec:
     containers:
     - command:
       - sh
       - -c
       - echo hello world; sleep infinity;  # 容器启动后的命令（示例）
       image: aliclouddb-pub-registry-vpc.cn-beijing.cr.aliyuncs.com/aliclouddb-public/des-ai-nv:25.05-sglang0.4.6.post4-pytorch2.6-cu124-20250513-serverless
       imagePullPolicy: IfNotPresent  
       name: sglang  # 容器名称
       ports:
       - containerPort: 8000  # 容器监听的端口
         name: restful
         protocol: TCP
       resources:
         requests:
           cpu: "80"  
           memory: "300Gi"  
           nvidia.com/gpu: "8" 
         limits:
           cpu: "80" 
           memory: "300Gi"  
           nvidia.com/gpu: "8"  
     restartPolicy: Always  # Pod失败时重启
     nodeSelector:  # 调度到指定标签的节点（虚拟节点）
       alibabacloud.com/virtual-node: "true"
     tolerations:  # 兼容虚拟节点的污点
     - effect: NoSchedule
       key: virtual-kubelet.io/provider
       value: aliclouddb
   

5. 执行以下命令，部署Pod。

   kubectl apply -f pod.yaml

相关文档

RDS Custom简介