本文中含有需要您注意的重要提示信息,忽略该信息可能对您的业务造成影响,请务必仔细阅读。
在Linux系统的轻量应用服务器内创建文件或者应用时出现No space left on device
报错提示,即表示您的磁盘空间不足。如果磁盘满不符合您的预期使用,可根据本文判断磁盘满的原因并相应解决。
问题原因
磁盘空间不足的问题通常有以下几类原因:
磁盘分区空间使用率达到100%。
磁盘分区Inode使用率达到100%。
磁盘存在已删除未释放的僵尸文件。
说明已删除文件可能因删除时文件句柄被打开,导致文件删除时文件空间未能被释放。
挂载点覆盖。
说明在原有文件系统的目录下已经存在大量文件,挂载新磁盘后挂载点(目录)被覆盖。但您系统内的应用可能仍会继续读写原有文件系统空间,这时就有可能出现您的应用报空间不足,但您使用
df
或du
命令查看磁盘文件目录的容量使用情况时却无法统计到,原因是df
或du
命令统计的是当前挂载点对应的分区使用情况。inotify watches达到上限。
inotify是Linux系统的一种监控文件系统事件的机制,被广泛用于实时监控文件系统中的文件变化。该错误实际上和磁盘空间没有关联,不表示磁盘存储空间已满。本文档中对这一报错进行补充说明,以便帮助您做正确的排查。
解决方案
请根据不同的问题原因,通过以下方式进行处理。
一、磁盘分区空间使用率达到100%
您可以通过清理占用磁盘空间较大的文件或目录、扩容磁盘或新购磁盘等几种方式来解决磁盘分区空间使用率达到100%的问题。具体操作步骤如下:
清理占用空间较大的文件或者目录
使用救援连接Linux服务器。具体操作,请参见使用救援连接Linux服务器。
执行以下命令,查看磁盘使用率。
df -h
系统显示类似如下信息。例如,分区/dev/xvda1的使用率为15%。
执行以下命令,进入根目录,查看哪个目录占用磁盘空间较大。
cd / du -sh *
系统显示类似如下信息。图示例可以看出
/usr
目录占用空间最大,则需要继续查看/usr
目录下哪个文件或目录占用空间较大。请您根据实际环境进行操作。执行以下命令,逐级查看哪个目录占用磁盘空间较大。例如本例中进入较大的
/usr
目录,继续查看/usr
目录下哪个文件或目录较大。cd /usr du -sh *
系统显示类似如下信息。图示例可以看出
local
目录占用空间最大,则需要查看local
目录下哪个文件或目录占用空间较大,以此类推。结合业务情况判断,删除不再使用的文件或目录。
升级配置、扩容数据盘或挂载数据盘
如果您无法通过清理文件释放更多空间,可以考虑通过升级配置、扩容磁盘或者挂载数据盘(如果之前未挂载)的方式来解决。具体操作,请参见升级配置、挂载数据盘和扩容数据盘。
二、磁盘分区Inode使用率达到100%
磁盘分区Inode使用率达到100%会造成您的应用无法继续新建目录或者文件,此时通常您系统内对应的磁盘空间还未用满,Inode用满也是平时容易被忽略的点。您可以通过清除Inode占用高的文件或者目录、或者增加Inode数量来解决磁盘分区Inode使用率达到100%的问题。
Linux的Inode节点中记录了文件的类型、大小、权限、所有者、文件连接的数目、创建时间与更新时间等重要的信息,以及指向数据块的指针信息。一般情况不需要修改Inode配置,如果存放文件较多导致Inode容量占满,就需要进行修改。
查询Inode使用率
使用救援连接Linux服务器。具体操作,请参见使用救援连接Linux服务器。
执行以下命令,查询Inode使用率。
df -i
如果Inode使用率达到或者接近100%,可以通过以下两种方式进行处理:
清理Inode占用高的文件或者目录
如果不方便格式化磁盘以增加Inode数量,可以参考以下步骤,清理Inode占用量高的文件或者目录。
执行以下命令,分析根目录下的每个二级目录下有多少个文件。
for i in /*; do echo $i; find $i | wc -l; done
系统显示类似如下信息。图示例可以看出
/usr
目录下的文件数最多,则需要继续查看/usr
目录下哪个目录文件数最多,文件数越多说明Inode占用越高。请您根据实际环境进行操作。逐层进入Inode占用最高的目录,继续执行上述命令,逐步定位占用过高空间的文件或目录,最后进行相应清理。
增加Inode数量
如果不允许清理磁盘中的文件,或者清理完可清理的文件后Inode使用率仍然较高,则您需要通过备份数据、重新格式化磁盘增加Inode数、拷回数据等步骤,完成数据的保留并增加文件系统Inode数量。
Inode数量的调整需要重新格式化磁盘,磁盘内的数据将被删除,请确保数据已经得到有效备份后,再进行以下操作。您可以自行拷贝文件,也可以通过快照方式进行数据备份,创建快照的具体操作,请参见创建快照。
Inode数量的调整需要卸载文件系统,这可能会导致您的应用服务中断,请选择您业务合适的时间进行。
执行以下命令,卸载文件系统。
本示例以卸载
/home
为例,请您根据实际环境进行替换。umount /home
执行以下命令,重新建立文件系统,增加Inode节点数。
本示例以磁盘分区为/dev/xvdb、文件系统类型为ext3、Inode节点数为1,638,400为例,请您根据实际环境进行修改。
mkfs.ext3 /dev/xvdb -N 1638400
说明Linux的Inode数通常是根据磁盘容量大小生成的,一般是1:16KB的比例,以40 GB云盘为例,其Inode节点数通常为2,621,440,其支持的最大值是2^32(大约43亿),您可以根据实际的云盘容量大小乘以一定的放大系数(例如1.2)来选择适合您业务的Inode值。
执行以下命令,重新挂载目录。
本示例将按照
/etc/fstab
配置将已卸载的目录再重新挂载,请您根据实际情况操作。mount -a
(可选)执行以下命令,查看并确认修改后的Inode节点数。
dumpe2fs -h /dev/xvdb | grep node
系统显示类似如下信息,表示Inode数调整成功,您可以接着拷回备份数据,恢复相关应用。
三、存在僵尸文件
如果磁盘分区容量和Inode容量都没有问题,可能是系统中存在大量文件已经被删除(显示为deleted)但是仍被系统内进程占用,系统无法释放磁盘空间,且由于这部分文件已经被标记删除,通过df
或du
命令无法统计到。如果僵尸文件过多,会占用较大的磁盘空间。您可以参考以下步骤查看并删除僵尸文件。
使用救援连接Linux服务器。具体操作,请参见使用救援连接Linux服务器。
如果系统没有预装lsof,选择以下合适命令,安装lsof。
Alibaba Cloud Linux、CentOS等系统
yum install -y lsof
Debian、Ubuntu等系统
apt-get install -y lsof
执行以下命令,查看僵尸文件占用情况。
lsof |grep delete | sort -k7 -rn | more
系统显示类似如下信息,其中第7列为对应文件的大小(单位为Byte),您可以将第七列值累加起来看总文件大小和您非预期的磁盘使用空间是否接近,接近即为僵尸文件占用了您磁盘空间。
通过以下两种方式释放句柄,清除僵尸文件,释放磁盘空间。
重启服务器清除
重启服务器,系统会退出现有的进程,释放调用的deleted文件的句柄。
重要重启服务器可能会影响业务,请您选择合适时间进行重启。
通过kill命令清除
根据
lsof
命令列出的PID进程号(通常为第二列),使用kill
命令结束占用这些文件的服务进程。执行以下命令,列出PID进程号。
lsof |grep delete
根据您的业务情况,确保对应进程可以停止或者重启,执行以下命令,停止占用这些文件的服务进程。
kill <进程号>
重要如果服务器正在运行业务,可能会影响到业务,请慎重操作。
四、挂载点覆盖
当您排除了上述三个问题,仍未找到非预期的磁盘空间使用,可能的原因是挂载点覆盖。您可以用下述方法进行确认。
如下图所示案例,您可以看到30 GB的系统盘/dev/vda1使用率已经到了95%,通过du
可以看到,主要是/home
目录占用了24 GB空间。
但当我们把/dev/vdb1挂载到/home
目录后,如下图所示,可以看到系统盘/dev/vda1使用率还是95%,整个根分区下最大的目录仅有/usr
占用超过1 GB,无法找到具体哪个目录占用高,/home
目录统计到的使用空间仅为20 KB,不是此前看到的24 GB空间占用,此现象即为挂载点覆盖。
解决挂载点覆盖的问题,通常通过先取消磁盘分区挂载,再检查原挂载目录下的空间占用情况。
分区卸载可能会导致您的应用服务中断,请选择您业务合适的时间进行。