存储常见问题_容器服务 Kubernetes 版 ACK(ACK)-阿里云帮助中心

本文为您介绍存储常见问题的分析流程，云盘存储卷与NAS存储卷常见问题的处理方法。

类型	问题
常见问题分析流程	常见问题分析流程
云盘存储卷常见问题	云盘创建常见问题动态创建PV失败且提示InvalidDataDiskCatagory.NotSupported 动态创建PV失败且提示The specified AZone inventory is insufficient 动态创建PV失败且提示disk size is not supported 动态创建PV失败且提示waiting for first consumer to be created before binding 动态创建PV失败且提示no topology key found on CSINode node-XXXX 动态创建PV失败且提示selfLink was empty, can't make reference 云盘挂载常见问题启动挂载了云盘的Pod时提示had volume node affinity conflict 启动挂载了云盘的Pod时提示can't find disk 启动挂载了云盘的Pod时提示Previous attach action is still in process 启动挂载了云盘的Pod时提示InvalidInstanceType.NotSupportDiskCategory 启动挂载了云盘的Pod时提示diskplugin.csi.alibabacloud.com not found in the list of registered CSI drivers 启动挂载了云盘的Pod时提示Multi-Attach error for volume 启动挂载了云盘的Pod时提示Unable to attach or mount volumes: unmounted volumes=[xxx], unattached volumes=[xxx]: timed out waiting for the condition 启动挂载了云盘的Pod时提示validate error Device /dev/nvme1n1 has error format more than one digit locations 启动挂载了云盘的Pod时提示ecs task is conflicted 启动挂载了云盘的Pod时提示wrong fs type, bad option, bad superblock on /dev/xxxxx missing codepage or helper program, or other error 启动挂载了云盘的Pod时提示exceed max volume count 启动挂载了云盘的Pod时提示The amount of the disk on instance in question reach its limits 云盘卸载常见问题删除挂载了云盘的Pod时提示The specified disk is not a portable disk 删除挂载了云盘的Pod时提示无法卸载云盘，kubelet日志中发现Orphaned pod（不受ACK管理的Pod）删除挂载了云盘的Pod后，Pod无法重新启动，提示挂载失败且无法自动恢复删除挂载了云盘的Pod时提示target is busy 删除集群中动态创建的PVC之后，云盘依旧残留删除PVC失败，删除后PVC依旧存在云盘扩容常见问题动态扩容云盘失败，PVC Event提示Waiting for user to (re-)start a pod to finish file system resize of volume on node 云盘使用常见问题应用在读写云盘挂载目录时提示input/output error
NAS存储卷常见问题	使用NAS存储卷时，提示chown: Operation not permitted 使用NAS动态存储卷时，Controller的任务队列已满且无法创建新的PV NAS存储卷挂载时间延长使用NAS存储卷时，无法创建或修改目录当工作负载挂载NAS存储卷时，提示unknown filesystem type "xxx" 读写文件时，提示NFS Stale File Handle 当Pod使用两个PVC挂载NAS存储卷时，Pod一直处于ContainerCreating状态如何通过CSI使用TLS挂载NAS文件系统？
OSS存储卷常见问题	OSS挂载问题 OSS存储卷挂载时间延长 OSS存储挂载权限问题 OSS静态卷挂载失败 OSS使用问题 OSS静态卷访问Bucket过慢 OSS控制台看到文件大小为0 文件目录挂载后，显示为文件对象 OSS服务端监控到大量异常请求流量 ossfs常见问题控制台检测失败问题控制台检测长期卡住，或失败无信息透出，或显示unknown error 网络问题：connection timed out 权限问题：错误码StatusCode=403 Bucket或目录对象不存在：错误码StatusCode=404 其他OSS返回错误码
存储组件常见问题	csi-plugin组件升级失败 CSI组件启动失败集群节点数量不符合要求导致csi-provisioner组件升级失败 StorageClass属性变更导致csi-provisioner组件升级失败 StorageClass变更是否会影响现有存储？ csi-provisioner组件日志出现failed to renew lease xxx timed out waiting for the condition报错存储组件导致的OOM问题创建或挂载存储卷时，PVC提示no volume plugin matched csi-plugin的Pod监控上出现大量流量
云原生常见问题	Pod的Event提示0/x nodes are available: x pod has unbound immediate PersistentVolumeClaims PV为Released状态，无法通过重建PVC绑定 PV为Lost状态，无法通过重建PVC绑定
Flexvolume迁移CSI常见问题	Flexvolume迁移CSI常见问题
其他存储问题	其他存储类问题容器多个应用是否可以使用同一个存储卷？如何更改云盘默认创建的StorageClass的配置？

常见问题分析流程

通过以下操作查看对应存储插件的日志文件，明确问题现象。

执行以下命令，查看PVC或Pod上是否有明显的Event。

kubectl get events

预期输出：

LAST SEEN   TYPE      REASON                 OBJECT                                                  MESSAGE
2m56s       Normal    FailedBinding          persistentvolumeclaim/data-my-release-mariadb-0         no persistent volumes available for this claim and no storage class is set
41s         Normal    ExternalProvisioning   persistentvolumeclaim/pvc-nas-dynamic-create-subpath8   waiting for a volume to be created, either by external provisioner "nasplugin.csi.alibabacloud.com" or manually created by system administrator
3m31s       Normal    Provisioning           persistentvolumeclaim/pvc-nas-dynamic-create-subpath8   External provisioner is provisioning volume for claim "default/pvc-nas-dynamic-create-subpath8"

执行以下命令，查看集群是否部署了Flexvolume或CSI存储插件。

执行以下命令，查看集群是否部署了Flexvolume存储插件。

kubectl get pod -n kube-system |grep flexvolume

预期输出：

NAME                      READY   STATUS             RESTARTS   AGE
flexvolume-***            4/4     Running            0          23d

执行以下命令，查看集群是否部署了CSI存储插件。

kubectl get pod -n kube-system |grep csi

预期输出：

NAME                       READY   STATUS             RESTARTS   AGE
csi-plugin-***             4/4     Running            0          23d
csi-provisioner-***        7/7     Running            0          14d

查看使用的数据卷模板是否和集群存储插件（Flexvolume或CSI）的模板匹配。
若在此集群中初次使用数据卷，请检查您的PV对象及StorageClass对象中定义的Driver名称属于CSI还是Flexvolume。Driver名称必须与当前集群部署的插件类型一致。
查询存储插件是否为最新版本。
- 执行以下命令，查询Flexvolume插件的镜像版本。
```
kubectl get ds flexvolume -n kube-system -oyaml | grep image
```
  预期输出：
```
image: registry.cn-hangzhou.aliyuncs.com/acs/Flexvolume:v1.14.8.109-649dc5a-aliyun
```
  关于Flexvolume插件信息，请参见Flexvolume（已弃用）。
- 执行以下命令，查询CSI插件的镜像版本。
```
kubectl get ds csi-plugin -n kube-system -oyaml |grep image
```
  预期输出：
```
image: registry.cn-hangzhou.aliyuncs.com/acs/csi-plugin:v1.18.8.45-1c5d2cd1-aliyun
```
  关于CSI插件信息，请参见csi-plugin及csi-provisioner。
查看日志。
- 若云盘PVC处于Pending状态，无法成功创建PV，则需要查看Provisioner日志。
  - 若集群部署了Flexvolume插件，则执行以下命令查询alicloud-disk-controller日志。
```
podid=`kubectl get pod -nkube-system | grep alicloud-disk-controller | awk '{print $1}'`
kubectl logs <PodID> -n kube-system
```
  - 若集群部署了CSI插件，则执行以下命令查询csi-provisioner日志。
```
podid=`kubectl get pod -n kube-system | grep csi-provisioner | awk '{print $1}'`
kubectl logs <PodID> -n kube-system -c csi-provisioner
```
    说明
    csi-provisioner的容器组数量为2，上述kubectl get pod -nkube-system | grep csi-provisioner | awk '{print $1}'命令操作会输出2个podid，请分别执行kubectl logs <PodID> -nkube-system -c csi-provisioner命令。
- 若Pod启动时挂载报错，则需要查看Flexvolume或csi-plugin日志。
  - 若集群部署了Flexvolume插件，则执行以下命令查询Flexvolume日志。
```
kubectl get pod <pod-name> -owide
```
    登录Pod所在节点，在/var/log/alicloud/flexvolume_**.log查看Flexvolume日志。
  - 若集群部署了CSI插件，则执行以下命令查询csi-plugin日志。
```
nodeID=`kubectl get pod <pod-name> -owide | awk 'NR>1 {print $7}'`
podID=`kubectl get pods -nkube-system -owide -lapp=csi-plugin | grep $nodeID|awk '{print $1}'`
kubectl logs <PodID> -nkube-system
```
- 查看Kubelet日志。
  执行以下命令，获取Pod所在节点。
```
kubectl get pod <pod-name> -owide | awk 'NR>1 {print $7}'
```
  登录到该节点上查看/var/log/message日志文件。

快速恢复

众多Pod挂载不上数据卷场景的问题，可以通过将Pod调度到其他节点快速恢复。具体操作，请参见调度应用至指定节点。

csi-plugin组件升级失败

由于csi-plugin是Daemonset组件，如果当前集群存在NotReady或者其他非Running状态的节点，就会导致升级失败。您需要手动处理故障节点，然后重新升级。具体操作，请参见管理CSI组件。

CSI组件启动失败

问题现象

csi-provisioner、csi-plugin组件启动失败，csi-plugin、csi-provisioner的main container日志报错403 - Forbidden。

问题原因

由于节点上metadata server开启了安全加固，CSI暂不支持安全加固功能，导致无法访问元信息。

解决方案

请提交工单咨询ECS团队，关闭节点的元数据安全加固。

集群节点数量不符合要求导致csi-provisioner组件升级失败

问题现象

csi-provisioner组件前置检查失败，报错集群节点数量不符合要求。

csi-provisioner前置检查成功，升级成功。但是查看csi-provisioner Pod crash，发现日志中出现类似下方403 Forbidden的日志。

time="2023-08-05T13:54:00+08:00" level=info msg="Use node id : <?xml version=\"1.0\" encoding=\"iso-8859-1\"?>\n<!DOCTYPE html PUBLIC \"-//W3C//DTD XHTML 1.0 Transitional//EN\"\n         \"http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd\">\n<html xmlns=\"http://www.w3.org/1999/xhtml\" xml:lang=\"en\" lang=\"en\">\n <head>\n  <title>403 - Forbidden</title>\n </head>\n <body>\n  <h1>403 - Forbidden</h1>\n </body>\n</html>\n"

问题原因

现象1原因：

csi-provisioner为了保证高可用，它包含主从Pod，并且主从Pod必须在不同的节点上。如果当前集群只有1个节点，会导致该组件升级失败。

现象2原因：

csi-provisioner所在节点开启了安全加固模式，该模式禁止了节点上metadata server的访问，导致此报错信息。

解决方案

现象1解决方案：

您需要更新csi-provisioner组件。具体操作，请参见管理CSI组件。

现象2解决方案：

关闭节点上的安全加固模式，CSI必须要访问到节点的元数据。

StorageClass属性变更导致csi-provisioner组件升级失败

问题现象

csi-provisioner组件前置检查失败，报错StorageClass属性不符合预期。

问题原因

默认StorageClass的属性被变更过，您删除重建过同名的StorageClass。StorageClass属性都是不可变的，否则会导致该组件升级失败。

解决方案

您需要删除集群中默认的StorageClass，包括alicloud-disk-essd，alicloud-disk-available，alicloud-disk-efficiency，alicloud-disk-ssd，alicloud-disk-topology，删除过程不会对现有应用造成任何影响。删除后，请尝试重新安装csi-provisioner组件。安装后，系统会自动重新创建StorageClass，无需您额外处理。

重要

如果您需要自定义的StorageClass，请创建新的StorageClass名称使用，请勿修改默认的StorageClass。

StorageClass变更是否会影响现有存储？

若存储的PVC、PV的YAML文件不发生改变，StorageClass的变更不会对现有存储产生影响。例如，修改 StorageClass中的ALLOWVOLUMEEXPANSION字段时，仅修改PVC的Capacity后才会生效，如果PVC的YAML文件不变，此字段不会影响现有配置。

csi-provisioner组件日志出现failed to renew lease xxx timed out waiting for the condition报错

问题现象

通过kubectl logs csi-provisioner-xxxx -nkube-system命令查看CSI日志，发现failed to renew lease xxx timed out waiting for the condition报错。

问题原因

csi-provisioner是高可用多副本组件，多Pod组件之间需通过K8s Lease选主，选主过程中需要访问APIServer来获取指定的Lease，获取到Lease的组件就称为leader，为集群提供服务。当前报错由于csi-provisioner访问集群内的APIServer失败导致。

解决方案

请排查集群网络和APIserver状态是否正常。如无法解决，请提交工单处理。

存储组件导致的OOM问题

csi-provisioner是中心化的存储组件，Sidecar主要是缓存Pod、PV、PVC等信息，随着集群规模增加，会造成内存OOM。当发生OOM时，您需要根据集群规模自行调整Limit大小，具体操作如下。

登录容器服务管理控制台，在左侧导航栏选择集群。
在集群列表页面，单击目标集群名称，然后在左侧导航栏，选择运维管理 > 组件管理。
在组件管理页面，找到并选中csi-provisioner组件，单击组件右下方的图标，然后选择查看YAML。
根据集群规模修改组件的YAML文件，自行调整Limit大小。

创建或挂载存储卷时，PVC提示no volume plugin matched

问题现象

创建或挂载存储卷时，PVC提示Unable to attach or mount volumes: unmounted volumes=[xxx], unattached volumes=[xxx]: failed to get Plugin from volumeSpec for volume "xxx" err=no volume plugin matched。

问题原因

存储组件与YAML模板不匹配，创建或挂载存储卷时，无法找到相应的存储组件。

解决方案

检查集群中存储组件是否存在。

未安装存储组件，请在集群中安装存储组件。具体操作，请参见管理组件。
已安装存储组件，请确定存储组件与PV和PVC的YAML模板是否匹配，且满足如下条件。
- CSI存储组件使用CSI相关文档进行部署。更多信息，请参见存储CSI。
- Flexvolume存储组件使用Flexvolume相关文档进行部署。更多信息，请参见存储Flexvolume。
  重要
  Flexvolume已经处于已废弃的状态。如果您的ACK集群是早期的版本（版本小于1.18），建议您将Flexvolume插件迁移为CSI插件。关于迁移的具体操作，请参见Flexvolume迁移至CSI。

csi-plugin的Pod监控上出现大量流量

问题现象

在集群Pod监控上，csi-plugin的Pod出现大量流量。

问题原因

csi-plugin负责当前节点上NAS存储卷的挂载。由于NAS走的是网络流量，当节点存在NAS挂载点（即存在使用NAS的Pod）时，Pod发起的NAS请求流量就会经过csi-plugin的Namespace，从而被集群监控记录。造成csi-plugin出现大量网络流量。

解决方案

此种情况无需解决。因为流量只是被记录，并不会翻倍，也不会额外占用网络带宽，所以可以忽略。

Pod的Event提示0/x nodes are available: x pod has unbound immediate PersistentVolumeClaims

问题现象

Pod的Event提示0/x nodes are available: x pod has unbound immediate PersistentVolumeClaims. preemption: 0/x nodes are available: x Preemption is not helpful for scheduling。

问题原因

由于自定义StorageClass未创建，导致Pod引用的自定义StorageClass未找到。

解决方案

当前Pod使用动态卷时，为找到引用的自定义StorageClass，您需要检查当前Pod引用的StorageClass是否存在，若不存在，需重新创建StorageClass。

PV为Released状态，无法通过重建PVC绑定

问题现象

PVC误删除后，PV为Released状态无法通过重建PVC绑定。

问题原因

如果PVC的reclaimPolicy是Retain，当PVC被误删除时，PV会变为Released状态。

解决方案

您需要删除当前PV中的pv.spec.claimRef字段，然后重新使用静态卷方式进行绑定。即可将PV变为Bound状态。

关于如何绑定NAS静态卷的具体操作，请参见使用NAS静态存储卷。
关于如何绑定OSS静态卷的具体操作，请参见使用OSS静态存储卷。
关于如何绑定云盘静态卷的具体操作，请参见使用云盘静态存储卷。

PV为Lost状态，无法通过重建PVC绑定

问题现象

PVC和PV创建后，PV处于Lost状态，且无法与PVC绑定。

问题原因

PV中claimRef引用的PVC名称不存在，导致PV状态为Lost。

解决方案

您需要删除当前PV中的pv.spec.claimRef字段，然后重新使用静态卷方式进行绑定。即可将PV变为Bound状态。

关于如何绑定NAS静态卷的具体操作，请参见使用NAS静态存储卷。
关于如何绑定OSS静态卷的具体操作，请参见使用OSS静态存储卷。
关于如何绑定云盘静态卷的具体操作，请参见使用云盘静态存储卷。

Flexvolume迁移CSI常见问题

容器服务ACK早期的存储插件为Flexvolume，随着Kubernetes版本的迭代，Flexvolume已经处于已废弃的状态。您的ACK集群如果是早期的版本（版本小于1.18），建议您将Flexvolume插件迁移为CSI插件。关于迁移的具体操作，请参见Flexvolume迁移至CSI。

其他存储类问题

当您遇到mountOption拼写有误、PVC引用的StorageClass未创建、未创建挂载点域名等存储类问题时，建议您优先使用CNFS作为容器存储卷，可以避免此类问题。关于CNFS更多内容，请参见容器网络文件系统CNFS概述。

容器多个应用是否可以使用同一个存储卷？

云盘：不支持
云盘为阿里云存储团队提供的非共享存储，只能同时被一个Pod挂载，不支持多个应用使用。
NAS、OSS：支持
NAS、OSS为共享存储，可以同时为多个Pod提供共享存储服务，即一个PVC可以同时被多个应用使用。关于NAS并发写入的一些限制条件，请参见如何避免多进程或多客户端并发写同一日志文件可能出现的异常？和如何解决向NFS文件系统中写入数据延迟问题？
- 关于如何挂载NAS存储卷，请参见创建CNFS管理NAS文件系统（推荐）、使用NAS静态存储卷、使用NAS动态存储卷。
- 关于如何挂载OSS存储卷，请参见使用OSS静态存储卷；通过CNFS实现OSS动态存储卷挂载的具体操作，请参见对OSS生命周期管理。

如何更改云盘默认创建的StorageClass的配置？

默认创建的StorageClass不支持更改。

csi-provisioner组件安装后，集群内会默认创建alicloud-disk-topology-alltype等StorageClass，请勿修改这些默认生成的存储类。关于云盘StorageClass的更多信息，请参见存储类（StorageClass）。如果您需要调整StorageClass的配置，例如存储卷类型、性能、回收策略等，您可以创建新的StorageClass（StorageClass数量不受限制）。具体操作，请参见创建StorageClass。