CentOS HDFS数据恢复操作方法

HDFS 数据在 CentOS 上的恢复操作指南

一、先识别丢失类型并确定恢复优先级

• 首先确认问题属于以下哪一种类型：
  1. 文件或目录被误删（可通过回收站或快照处理）；
  2. DataNode 磁盘故障等情况引发块丢失/副本不足；
  3. 需借助 fsimage/edits 恢复的 NameNode 元数据误删/损坏；
  4. 需从 OS 级处理的底层磁盘或 OS 损坏，不属于 HDFS 层面。
• 建议按照以下优先级恢复：
  1. 存在回收站、快照或备份 → 直接通过快照或备份还原；
  2. 仍有副本但无备份 → 剔除坏块前先修复副本数；
  3. 历史 fsimage + edits 用于恢复损坏的元数据；
  4. 发现 OS/磁盘损坏 → 保护现场并停止写入，之后执行 OS 级恢复。

二、恢复命令及常见路径

• 尚在保留期内的误删数据从回收站找回
  1. 在 core-site.xml 中检查回收站是否处于启用状态
     • fs.trash.interval（0 即关闭，计时单位为分钟）
     • fs.trash.checkpoint.interval（以分钟计，0 代表与前者相同，数值应 ≤ 上一个）
  2. 执行查找与恢复：
     • 查看回收站内容：hdfs dfs -ls /user/<用户名>/.Trash/Current
     • 恢复到原路径：hdfs dfs -mv /user/<用户名>/.Trash/Current/<被删路径> /原/父/目录
     • 或复制到目标：hdfs dfs -cp /user/<用户名>/.Trash/Current/<被删路径> /目标/目录
  3. 若保留期已经结束，可跳过此段，改用快照或备份恢复。
• 已启用目录快照时的数据恢复
  1. 允许快照：hdfs dfsadmin -allowSnapshot <目录>
  2. 查看快照：hdfs dfs -ls <目录>/.snapshot
  3. 恢复：hdfs dfs -cp <目录>/.snapshot/<快照名>/<子路径> /目标/目录
• 通过备份恢复（DistCp/对象存储/离线拷贝）
  1. 跨集群/跨存储恢复：hadoop distcp -m <并发> <备份源> <HDFS目标>
  2. 备份若存放于对象存储（例如 MinIO），恢复至 HDFS 时可从对象存储运行 distcp。
• 修复副本丢失或块损坏
  1. 定位问题：hdfs fsck / -files -blocks -locations
  2. 剔除损坏块：hdfs fsck <文件路径> 可能导致数据丢失，须慎用 -delete
  3. 恢复租约/卡住文件：hdfs debug recoverLease -path <文件路径> -retries <次数>
• 元数据级恢复（NameNode fsimage/edits）
  1. 进入安全模式：hdfs dfsadmin -safemode enter
  2. 生成检查点可保存命名空间：hdfs dfsadmin -saveNamespace
  3. 操作前必须备份现有元数据目录，随后按照时间线回滚历史 fsimage 与 edits 以完成恢复。

三、操作示例要点

• 回收站还原示例
  1. 使用 hdfs dfs -ls /user/root/.Trash/Current/bigdata 查看
  2. 用 hdfs dfs -mv /user/root/.Trash/Current/bigdata/file.txt /user/root/bigdata/ 将文件放回原目录
• 快照还原示例
  1. 依次运行 hdfs dfsadmin -allowSnapshot /data；hdfs dfs -createSnapshot /data snap_20241221 以创建快照
  2. 运行 hdfs dfs -cp /data/.snapshot/snap_20241221/logs /data/restore_logs 完成恢复
• DistCp备份的数据恢复示例
  1. 运行 hadoop distcp -m 50 hdfs://backup-nn:8020/backup/20241221 /data/，恢复备份集群中的数据
• 块与副本的修复案例
  1. 以 hdfs fsck /data -files -blocks -locations 检查健康状态
  2. 剔除坏块：hdfs fsck /data/badfile -delete
  3. 运行 hdfs debug recoverLease -path /data/badfile -retries 10 恢复租约

四、恢复前后的重点检查及注意事项

• 恢复之前
  • 立即停止导入任务和写入操作，以免覆盖仍可恢复的数据；
  • 完整拷贝并备份 NameNode 元数据目录以及 JournalNode 日志目录；
  • 提前估算配额和空间，防止恢复因空间不足而失败。
• 恢复完成后
  • 对关键文件运行 hdfs fsck / -files -blocks -locations，复核块健康与副本数；
  • 行数/大小/校验和应抽样比对，可采用 distcp 校验，或执行 hdfs dfs -cat | wc -l；
  • 确认业务作业是否可以正常执行读写；
  • 记录恢复过程和校验结果，形成文档以便复盘。
• 重点提示
  • 快照和回收站均有启用前提及保留期，未启用或已经过期时无法使用；
  • 元数据恢复风险较高，必须先在测试环境演练，并选取适当的时间点；
  • 数据块文件一旦因底层磁盘/OS 损坏而丢失，便可能超出 HDFS 层面的恢复能力。此时只能寻求专业服务，或结合 extundelete/testdisk/PhotoRec 等 OS 级工具处理，恢复成功率并无保证。