读书笔记
🪢《Operating System:Three Easy Pieces》第四十章 文件系统实现
00 分钟
2023-4-15
2023-5-11
type
status
date
slug
summary
tags
category
icon
password
Property
May 11, 2023 12:23 PM
文件系统是纯软件。
与 CPU 和内存虚拟化的开发不同,我们不会添加硬件功能来使文件系统的某些方面更好地工作(但我们需要注意设备特性,以确保文件系统运行良好)。

整体组织

开发 VSFS 文件系统在磁盘上的数据结构的整体组织。我们需要做的第一件事是将磁盘分成(block)。简单的文件系统只使用一种块大小。
notion image
任何文件系统中的大多数空间都是(并且应该是)用户数据。
我们将用于存放用户数据的磁盘区域称为数据区域(data region)。
notion image
inode:记录每个文件的信息。该信息是元数据(metadata)的关键部分,并且记录诸如文件包含哪些数据块(在数据区域中)、文件的大小,其所有者和访问权限、访问和修改时间以及其他类似信息的事情。
为了存放 inode,我们还需要在磁盘上留出一些空间。我们将这部分磁盘称为 inode 表(inode table),它只是保存了一个磁盘上 inode 的数组。
notion image
还需要某种方法来记录 inode 或数据块是空闲还是已分配,这种分配结构(allocation structure)是所有文件系统中必需的部分:
当然,可能有许多分配记录方法。例如,我们可以用一个空闲列表(free list),指向第一个空闲块,然后它又指向下一个空闲块,依此类推。
位图:,一种用于数据区域(数据位图,data bitmap),另一种用于 inode 表(inode位图,inode bitmap)。每个位用于指示相应的对象/块是空闲(0)还是正在使用(1)。因此新的磁盘布局如下,包含 inode 位图(i)和数据位图(d)。 超级块(superblock),在下图中用 S 表示。超级块包含关于该特定文件系统的信息,包括例如文件系统中有多少个 inode 和数据块(在这个例子中分别为 80 和 56)、inode 表的开始位置(块 3)等等。它可能还包括一些幻数,来标识文件系统类型(在本例中为 VSFS)。
notion image
因此,在挂载文件系统时,操作系统将首先读取超级块,初始化各种参数,然后将该卷添加到文件系统树中。当卷中的文件被访问时,系统就会知道在哪里查找所需的磁盘上的结构。

文件组织:inode

文件系统最重要的磁盘结构之一是 inode,几乎所有的文件系统都有类似的结构。inode 是 index node(索引节点)的缩写。
每个 inode 都由一个数字(称为 inumber)隐式引用,我们之前称之为文件的低级名称(low-level name)。在 VSFS 中,我们为文件系统分区的开头提供了以下布局(特写视图):
notion image
要读取 inode 号 32,文件系统首先会计算 inode 区域的偏移量(32×inode 的大小,即8192),将它加上磁盘 inode 表的起始地址(inodeStartAddr = 12KB),从而得到希望的 inode块的正确字节地址:20KB。磁盘不是按字节可寻址的,而是由大量可寻址扇区组成,通常是 512 字节。因此,为了获取包含索引节点 32 的索引节点块,文件系统将向节点(即 40)发出一个读取请求,取得期望的 inode 块。更一般地说,inode 块的扇区地址 iaddr可以计算如下:
在每个 inode 中,实际上是所有关于文件的信息:文件类型(例如,常规文件、目录等)、大小、分配给它的块数、保护信息(如谁拥有该文件以及谁可以访问它)、一些时间信息(包括文件创建、修改或上次访问的时间文件下),以及有关其数据块驻留在磁盘上的位置的信息(如某种类型的指针)。我们将所有关于文件的信息称为元数据(metadata)。
设计 inode 时,最重要的决定之一是它如何引用数据块的位置。一种简单的方法是在inode 中有一个或多个直接指针(磁盘地址)。每个指针指向属于该文件的一个磁盘块。这种方法有局限:例如,如果你想要一个非常大的文件(例如,大于块的大小乘以直接指针数),那就不走运了。
notion image

多级索引

为了支持更大的文件,文件系统设计者必须在 inode 中引入不同的结构。一个常见的思路是有一个称为间接指针(indirect pointer)的特殊指针。它不是指向包含用户数据的块,而是指向包含更多指针的块,每个指针指向用户数据。因此,inode 可以有一些固定数量的直接指针和一个间接指针。如果文件变得足够大,则会分配一个间接块(来自磁盘的数据块区域)。
有点像多级页面设计的过程
💡
提示:考虑基于范围的方法
另一种方法是使用范围(extent)而不是指针。范围就是一个磁盘指针加一个长度(以块为单位)。因此,不需要指向文件的每个块的指针,只需要指针和长度来指定文件的磁盘位置。只有一个范围是有局限的,因为分配文件时可能无法找到连续的磁盘可用空间块。因此,基于范围的文件系统通常允许多个范围,从而在文件分配期间给予文件系统更多的自由。 这两种方法相比较,基于指针的方法是最灵活的,但是每个文件使用大量元数据(尤其是大文件)。 基于范围的方法不够灵活但更紧凑。特别是,如果磁盘上有足够的可用空间并且文件可以连续布局(无论如何,这实际上是所有文件分配策略的目标),基于范围的方法都能正常工作。
在这种方法中,你可能希望支持更大的文件。为此,只需添加另一个指向inode 的指针:双重间接指针(double indirect pointer)。该指针指的是一个包含间接块指针的块,每个间接块都包含指向数据块的指针。因此,双重间接块提供了可能性,允许使用额外的 1024×1024 个 4KB 块来增长文件,换言之,支持超过 4GB 大小的文件。不过,你可能想要更多,我们打赌你知道怎么办:三重间接指针(triple indirect pointer)。 这种不平衡树被称为指向文件块的多级索引(multi-level index)方法。

目录组织

VSFS 中(像许多文件系统一样),目录的组织很简单。一个目录基本上只包含一个二元组(条目名称,inode 号)的列表。对于给定目录中的每个文件或目录,目录的数据块中都有一个字符串和一个数字。对于每个字符串,可能还有一个长度(假定采用可变大小的名称)。
notion image
删除一个文件(例如调用 unlink())会在目录中间留下一段空白空间,因此应该有一些方法来标记它(例如,用一个保留的 inode 号,比如 0)。这种删除是使用记录长度的一个原因:新条目可能会重复使用旧的、更大的条目,从而在其中留有额外的空间。 通常,文件系统将目录视为特殊类型的文件。因此,目录有一个 inode,位于 inode 表中的某处(inode 表中的 inode 标记为“目录”的类型字段,而不是“常规文件”)。该目录具有由 inode 指向的数据块(也可能是间接块)。这些数据块存在于我们的简单文件系统的数据块区域中。我们的磁盘结构因此保持不变。 我们还应该再次指出,这个简单的线性目录列表并不是存储这些信息的唯一方法。像以前一样,任何数据结构都是可能的。例如,XFS以 B 树形式存储目录,使文件创建操作(必须确保文件名在创建之前未被使用)快于使用简单列表的系统,因为后者必须扫描其中的条目。

空闲空间管理

文件系统必须记录哪些 inode 和数据块是空闲的,哪些不是,这样在分配新文件或目录时,就可以为它找到空间。因此,空闲空间管理(free space management)对于所有文件系统都很重要。在 VSFS 中,我们用两个简单的位图来完成这个任务。
例如,当我们创建一个文件时,我们必须为该文件分配一个 inode。文件系统将通过位图搜索一个空闲的内容,并将其分配给该文件。文件系统必须将 inode 标记为已使用(用 1),并最终用正确的信息更新磁盘上的位图。分配数据块时会发生类似的一组活动。 为新文件分配数据块时,还可能会考虑其他一些注意事项。例如,一些 Linux 文件系统(如 ext2 和 ext3)在创建新文件并需要数据块时,会寻找一系列空闲块。通过找到这样一系列空闲块,然后将它们分配给新创建的文件,文件系统保证文件的一部分将在磁盘上并且是连续的,从而提高性能。因此,这种预分配(pre-allocation)策略,是为数据块分配空间时的常用启发式方法。

访问路径:读取和写入

对于下面的例子,我们假设文件系统已经挂载,因此超级块已经在内存中。其他所有内容(如 inode、目录)仍在磁盘上。

从磁盘读取文件

当你发出一个 open("/foo/bar", O_RDONLY)调用时,文件系统首先需要找到文件 bar 的inode,从而获取关于该文件的一些基本信息(权限信息、文件大小等等)。为此,文件系统必须能够找inode,但它现在只有完整的路径名。文件系统必须遍历(traverse)路径名,从而找到所需的 inode。 所有遍历都从文件系统的根开始,即根目录(root directory),它就记为/。因此,文件系统的第一次磁盘读取是根目录的 inode。要找到 inode,我们必须知道它的 i-number。
在大多数 UNIX 文件系统中,根的 inode 号为 2。因此,要开始该过程,文件系统会读入 inode 号 2 的块(第一个 inode 块)。
一旦 inode 被读入,文件系统可以在其中查找指向数据块的指针,数据块包含根目录的内容。因此,文件系统将使用这些磁盘上的指针来读取目录,在这个例子中,寻找 foo 的条目。通过读入一个或多个目录数据块,它将找到 foo 的条目。一旦找到,文件系统也会找到下一个需要的 foo 的 inode 号(假定是 44)。
下一步是递归遍历路径名,的 inode。在这个例子中,文件系统读取包含foo 的 inode 及其目录数据的块,最后找到 bar 的 inode 号。open()的最后一步是将 bar 的 inode读入内存。然后文件系统进行最后的权限检查,在每个进程的打开文件表中,为此进程分配一个文件描述符,并将它返回给用户。
打开后,程序可以发出 read()系统调用,从文件中读取。第一次读取(除非 lseek()已被调用,则在偏移量 0 处)将在文件的第一个块中读取,查阅 inode 以查找这个块的位置。它也会用新的最后访问时间更新 inode。读取将进一步更新此文件描述符在内存中的打开文件表,更新文件偏移量,以便下一次读取会读取第二个文件块,等等。

写入磁盘

写入文件是一个类似的过程。首先,文件必须打开。其次,应用程序可以发出 write()调用以用新内容更新文件。最后,关闭该文件。
与读取不同,写入文件也可能会分配(allocate)一个块(除非块被覆写)。当写入一个新文件时,每次写入操作不仅需要将数据写入磁盘,还必须首先决定将哪个块分配给文件,从而相应地更新磁盘的其他结构(例如数据位图和 inode)。
因此,每次写入文件在逻辑上会导致 5 个 I/O:一个读取数据位图(然后更新以标记新分配的块被使用),一个写入位图(将它的新状态存入磁盘),再是两次读取,然后写入 inode(用新块的位置更新),最后一次写入真正的数据块本身。
考虑简单和常见的操作(例如文件创建),写入的工作量更大。要创建一个文件,文件系统不仅要分配一个 inode,还要在包含新文件的目录中分配空间。这样做的 I/O 工作总量非常大:一个读取 inode 位图(查找空闲 inode),一个写入 inode 位图(将其标记为已分配),一个写入新的 inode 本身(初始化它),一个写入目录的数据(将文件的高级名称链接到它的 inode 号),以及一个读写目录 inode 以便更新它。如果目录需要增长以容纳新条目,则还需要额外的 I/O(即数据位图和新目录块)。

缓存和缓冲

如上面的例子所示,读取和写入文件可能是昂贵的,会导致(慢速)磁盘的许多 I/O。这显然是一个巨大的性能问题,为了弥补,大多数文件系统积极使用系统内存(DRAM)来缓存重要的块。
早期的文件系统因此引入了一个固定大小的缓存(fixed-size cache)来保存常用的块。正如我们在讨论虚拟内存时一样,LRU 及不同变体策略会决定哪些块保留在缓存中。这个固定大小的缓存通常会在启动时分配,大约占总内存的 10%。 这种静态的内存划分(static partitioning)可能导致浪费。使用上述固定大小的方法,文件高速缓存中的未使用页面不能被重新用于其他一些用途,因此导致浪费。
现代系统采用动态划分(dynamic partitioning)方法。具体来说,许多现代操作系统将虚拟内存页面和文件系统页面集成到统一页面缓存中(unified page cache)。通过这种方式,可以在虚拟内存和文件系统之间更灵活地分配内存,具体取决于在给定时间哪种内存需要更多的内存。
现在想象一下有缓存的文件打开的例子。第一次打开可能会产生很多 I/O 流量,来读取目录的 inode 和数据,但是随后文件打开的同一文件(或同一目录中的文件),大部分会命中缓存,因此不需要 I/O。 考虑一下缓存对写入的影响。尽管可以通过足够大的缓存完全避免读取 I/O,但写入流量必须进入磁盘,才能实现持久。因此,高速缓存不能减少写入流量,像对读取那样。虽然这么说,写缓冲(write buffering)肯定有许多优点:
  • 首先,通过延迟写入,文件系统可以将一些更新编成一批(batch),放入一组较小的 I/O 中。例如,如果在创建一个文件时,inode 位图被更新,稍后在创建另一个文件时又被更新,则文件系统会在第一次更新后延迟写入,从而节省一次 I/O。
  • 通过将一些写入缓冲在内存中,系统可以调度(schedule)后续的 I/O,从而提高性能。最后,一些写入可以通过拖延来完全避免。例如,如果应用程序创建文件并将其删除,则将文件创建延迟写入磁盘,可以完全避免(avoid)写入。在这种情况下,懒惰(在将块写入磁盘时)是一种美德。

参考


评论
Loading...