日志结构文件系统：磁盘带宽利用的极致追求

发表于 2025-09-23 更新于 2026-03-03 分类于 Systems-HPC ， Paper-Reading

原始论文：https://dl.acm.org/doi/10.1145/146941.146943

传统文件系统将磁盘视为可随机寻址的块设备，大量小文件操作导致磁盘带宽利用率不足 5%。Rosenblum 与 Ousterhout 在 1992 年发表的论文《The Design and Implementation of a Log-Structured File System》，从硬件发展趋势的不平衡性出发，提出了一种颠覆性方案：将整个磁盘视为一个顺序追加的日志，在极大提升写性能的同时，兼顾了崩溃恢复的高效性。

1. 问题的根源：硬件发展的不平衡

文件系统性能由三个核心硬件组件共同决定，而它们的发展速度存在根本性的不对称：

处理器：性能呈指数级增长，形成巨大的 I/O 压力；
主内存：容量持续扩大，能够缓存大量读请求，使磁盘的读负载大幅降低，工作负载逐渐以写操作为主；
机械磁盘：传输带宽提升有限，而寻道时间几乎没有改善。

这一趋势意味着：磁盘的主要瓶颈不在于数据传输速率，而在于随机寻道的机械延迟。

传统文件系统（如 Unix FFS）对写操作的实现与此趋势严重背离。以创建一个小文件为例，该操作会被分解为多次独立的磁盘写入（目录数据、目录 inode、文件数据、文件 inode、位图等），每次写入均可能触发一次独立寻道，导致磁盘大部分时间耗费在机械臂移动上，实际带宽利用率甚至低于 5%。

2. LFS 的核心思想：顺序写日志

LFS（Log-Structured File System）的设计哲学是：将文件系统的接口实现与底层磁盘布局彻底解耦。

2.1 写入策略

无论上层发起多少次零散的写操作，LFS 在内存中维护一个写缓冲区，将所有脏数据（包括文件数据、inode、目录块等）集中缓存，待积累到足够大（通常为若干 MB）时，以一次大的顺序磁盘写入将所有变更追加到磁盘日志的末尾，丢弃原始位置的旧数据块，不执行原地更新（in-place update）。

传统 FFS 写 N 个小文件：N 次随机写 → 带宽 < 5%
LFS 写 N 个小文件：1 次顺序追加写 → 带宽接近 100%

这一设计将大量随机写操作转化为单次大型顺序写，从根本上规避了寻道延迟。

2.2 崩溃恢复的简化

由于最新的所有修改都集中在日志末尾，崩溃恢复无需像 fsck 那样扫描整个磁盘寻找不一致。LFS 只需检查日志的最新部分，将恢复时间从数十分钟缩短到数十秒。

3. 高效读取：inode Map 机制

3.1 传统文件系统的定位优势

在 FFS 中，inode 的磁盘位置由文件编号直接计算得出，定位开销为零。LFS 每次修改文件都会将 inode 写入新位置，inode 的磁盘地址不再固定，若不加处理，读取性能将急剧退化。

3.2 inode Map：解耦接口与实现

LFS 引入了 inode Map（inode 映射表）来解决这一问题：

文件编号 → inode Map → inode 在日志中的当前物理地址 → 文件数据

inode Map 的元数据本身也以顺序方式写入日志，其当前位置由磁盘固定区域（检查点区域，Checkpoint Region）记录。

由于 inode Map 所占空间相对于总磁盘空间极小，其活跃部分可完整缓存在主内存中。因此，绝大多数文件定位操作不需要额外的磁盘访问，读取性能可与 Unix FFS 相媲美。

这正是”接口与实现解耦“思想的体现：上层看到的仍是”通过文件编号访问文件”的稳定抽象，底层实现则通过 inode Map 透明地处理了日志化带来的地址不固定问题。

4. 空间回收：段清理的成本-收益策略

4.1 碎片化问题的必然性

由于 LFS 不执行原地更新，旧数据块持续积累，必须有机制回收这些已失效的磁盘空间。LFS 将磁盘组织为固定大小的段（Segment），段是日志追加和垃圾回收的基本单位。

4.2 贪心策略的失败

直觉上，应优先清理有效数据比例最低的段（即”最空段优先”策略）。然而仿真实验证明，贪心策略在稳态下会导致：

所有段的有效数据比例趋向同一阈值，磁盘利用率被人为压低；
包含”冷数据”（访问频率极低）的段，因数据失效缓慢，会在略高于清理阈值的位置长期占用磁盘空间，难以被回收。

4.3 成本-收益分析的引入

LFS 论文设计了基于清理收益与清理成本比值的评分函数来选择待清理段：

$$
\text{score}(s) = \frac{\text{收益}}{\text{成本}} = \frac{(1 - u) \cdot \text{age}}{1 + u}
$$

其中 $u$ 为段的有效数据比例，$\text{age}$ 为段中最年轻数据的”年龄”（衡量数据保持稳定的时间）。

热段（有效数据快速失效）：代入公式，只有当 $u$ 极低时得分才足够高，约在 15% 有效数据比例时被清理；
冷段（有效数据长期稳定）：age 值高，即便 $u$ 较大（约 75%）也能获得高分，会被提前主动清理。

这一策略自然促成了理想的 双峰段分布（Bimodal Segment Distribution）：磁盘上的段要么几乎全满（冷数据稳定占用），要么几乎全空（可快速分配）。超过一半被清理的段完全为空，此时总体写入放大系数仅为 1.2–1.6，意味着 LFS 能将超过 70% 的磁盘原始带宽用于写入新数据。

5. 崩溃恢复：检查点与前滚

LFS 的崩溃恢复机制极其简洁：

检查点（Checkpoint）：系统周期性地将当前一致状态的所有元数据（包括 inode Map 的完整快照）写入磁盘固定区域，固化一个”已知良好”的文件系统状态；
前滚（Roll-Forward）：崩溃后，系统从最新检查点恢复，再向前扫描日志尾部，重放检查点之后的操作，尽可能恢复更多数据。

所有待恢复信息集中于日志末尾，完全无需对整个磁盘进行 fsck 式的全量扫描。

6. 与相关工作的对比

LFS 的设计广泛借鉴并改造了已有系统思想：

参考来源	借鉴点	LFS 的改进/区别
一次性写入介质文件系统	追加写模式	LFS 额外实现了日志空间回收
分代垃圾回收器	成本-收益选择回收对象	LFS 必须顺序访问，利用”块最多属于一个文件”简化垃圾识别
数据库日志	日志作为持久化手段	LFS 需写完整数据块（非字节级差分），并设计了段清理来压缩日志
数据库组提交（Group Commit）	批量合并写入	LFS 将这一思想应用于文件系统层

7. 总结

LFS 的核心贡献在于：从硬件趋势的不平衡性出发，以”顺序追加写”重构了文件系统的底层存储模型，并通过 inode Map 保证读取性能不退化，通过成本-收益段清理解决了空间回收的复杂性，最终在一个真实系统（Sprite LFS）上验证了设计的可行性与优越性。

LFS 的思想对后续存储系统产生了深远影响：现代 SSD 的 FTL（Flash Translation Layer）、数据库的 LSM-Tree（LevelDB、RocksDB）均采用了类似的”追加写+后台整理”策略，可以说 LFS 是这一设计范式的奠基性工作。