Linux下使用rsync最快速删除海量文件的方法分享

说实话,我以前处理过一次服务器注册表清理,场景令人难以置信——几TB的数据等待删除,rm -rf?我从早到晚看着进度条,连咖啡都没喝完就倒了三杯。
后来有位老人教了我一个很酷的操作。
使用 rsync 的速度确实快得离谱。

有趣,rsync工具真的很有趣。
仔细想想,它并不是直接删除文件,而是通过同步空目录来导致删除。
这就像清空一个房间。
你不需要一次丢掉一件东西,而是直接消除房间本身。
我测试过一次。
当删除包含数万个小文件的目录时,rsync大约花费了五分钟,并且rm -rf仍然处于“正在处理文件...”状态。

至于具体操作,我当时是这样做的:先安装rsync。
这一步很简单,安装rsync即可。
然后创建一个空目录用于传输,如mkdir /tmp/test。
最后在命令执行过程中添加了一些参数: --delete-fore 表示先复制再删除(虽然这次没有使用),但是这个参数可以在关键时刻挽救局面; -a-H-v是保存文件属性和硬链接,-progress和stats是检查进度,否则就像rm黑屏等死。

但是这里有一个提醒。
我个人从未在Windows环境下运行过rsync。
我在Linux下测试过,没有问题。
我记得数据大约是X TB,但我建议你查看官方文档以确认版本兼容性。
总之,rsync绝对是一个值得尝试的处理海量文件删除的解决方案。

linux中xfs和ext4有什么区别

XFS 和 EXT4 在 Linux 中实际上是不同的。
主要取决于文件的大小、扩展能力和功能。

我们先来谈谈文件大小。
EXT4 中文件的最大大小在 1 6 GB 到 1 6 TB 之间,整个系统的最大大小为 1 EB(即 1 02 4 PB)。
但有一个问题:3 2 位 inode 可以容纳大约 4 0 亿个文件。
磁盘结构跟不上,扩容困难。
XFS 好多了。
一个文件可达1 6 TB至1 6 EB,整个系统可达8 EB(8 1 9 2 PB)。
采用6 4 位空间管理,克服了EXT4 的限制。
对于企业级存储或者大数据来说,XFS的EB级容量支持明显优于EXT4
我们来谈谈可扩展性。
EXT4 的可扩展性主要受磁盘结构的影响。
尤其是当文件较多时,性能下降明显。
XFS 没问题。
它使用并行I/O、元数据记录和在线碎片整理等技术。
当竞争激烈时,表现会很好。
它的设计更多地考虑了水平缩放。
例如,XFS有延迟分配策略,可以减少磁盘碎片;由于频繁移动,EXT4 文件往往很容易碎片化,必须手动排序。

功能也不同。
XFS具有I/O挂起和恢复、在线扩展、延迟分配等高级功能,可以等待稍后写入以提高性能。
EXT4 是日志文件系统,依靠日志技术保证数据一致性,但不具备XFS的动态优化。
另外,XFS的并行I/O在多线程任务中提供了更好的性能,EXT4 的单线程顺序读写可能会更稳定。

经测试,4 K随机读写(直接写入,同时2 0个任务,每个任务1 2 8 次),XFS随机写入稍快(3 1 3 次/秒),EXT4 为3 1 5 次/秒。
对于读取来说,XFS 是 4 2 6 ,EXT4 是 4 3 0,这或多或少是相同的。
常规使用没有什么区别,但是XFS在高并发情况下更有优势。

用什么? EXT4 适合兼容性要求高的中小型场所。
这是 CentOS6 的默认版本。
由于其良好的性能和强大的可扩展性,XFS被用于CentOS7 及更高版本和RHEL等企业级系统中。
但请记住,XFS 无法收缩文件系统,删除许多文件后性能可能会下降。
这取决于实际需要。

linux系统某个目录下的文件数太多(几十万以上) ls等命令没办法正常使用 求查看文件方法

坦率地说,less 和 less 都是神奇的引人入胜的书。
多了只能下降,少了也能上升。
另外,留个空格翻页,按回车键找到你想要的内容,然后按回车键。
减,PageUp 向上,PageDown 向下,按回车即可。
如果您想重复检查某项内容,请按 n。