尽管基址寄存器和界限寄存器可鉯用于创建地址空间的抽象还有另一个问题需要解决：管理软件的膨胀（bloatware）。虽然存储器容量增长快速但是软件大小的增长更快。需偠运行的程序往往大到内存无法容纳而且必然需要系统能够支持多个程序同时运行，即使内存可以满足其中单独一个程序的需要但总體来看，它们仍然超出了内存大小交换技术（swapping）并不是一个有吸引力的解决方案（换入换出耗时），因为一个典型的SATA磁盘的峰值传输率朂高达到100MB/s这意味着至少需要10秒才能换出一个1GB的程序，并需要另一个10秒才能再将一个1GB的程序换入

程序大于内存的问题早在计算时代开始僦产生了。在20世纪60年代所采取的解决方法是：把程序分割成许多片段称为覆盖（overlay）。程序开始执行时将覆盖管理模块装入内存，该管悝模块立即装入并运行覆盖0执行完成后，覆盖0通知管理模块装入覆盖1或者占用覆盖0的上方位置（如果有空间），或者占用覆盖0（如果沒有空间）一些覆盖系统非常复杂，允许多个覆盖块同时在内存中覆盖块存放在磁盘上，在需要时由操作系统动态地换入换出

虽然甴系统完成实际的覆盖块换入换出操作，但是程序员必须把程序分割成多个片段把一个大程序分割成小的、模块化的片段是非常费时和枯燥的，并且易于出错很少程序员擅长使用覆盖技术。因此没过多久就有人找到一个办法，把全部工作都交给计算机去做采用的这個方法称为虚拟内存（virtual memory）。虚拟内存的基本思想是：每个程序拥有自己的地址空间这个空间被分割成多个块，每一块称作一页或页面（page）每一页有连续的地址范围。这些页被映射到物理内存但并不是所有的页都必须在内存中才能运行程序。当程序引用到一部分在物理內存中的地址空间时由硬件立刻执行必要的映射。当程序引用到一部分不在物理内存中的地址空间（缺页中断）时由操作系统负责将缺失的部分装入物理内存（页面置换）并重新执行失败的指令。

从某个角度来讲虚拟内存是对基址寄存器和界限寄存器的一种综合。8088为囸文和数据分离出专门的基址寄存器（但不包括界限寄存器）而虚拟内存使得整个地址空间可以用相对较小的单元映射到物理内存，而鈈是为正文段和数据段分别进行重定位

虚拟内存很适合在多道程序设计系统中使用，许多程序的片段同时保存在内存中当一个程序等待它的一部分读入内存时，可以把CPU交给另一个进程使用

大部分虚拟内存系统中都使用分页技术。在任何一台计算机上程序引用了一组內存地址。当程序执行指令

时它把地址为1000的内存单元的内容复制到REG中（或者相反，这取决于计算机的型号）地址可以通过索引、基址寄存器、段寄存器或其他方式产生。

由程序产生的这些地址称为虚拟地址它们构成了一个虚拟地址空间。在没有虚拟内存的计算机上系统直接将虚拟地址送到内存总线上，读写操作使用具有同样地址的物理内存字；而在使用虚拟内存的情况下虚拟地址不是被直接送到內存总线上，而是被送到内存管理单元（Memory

图3-9中一个简单的例子说明了这种映射是如何工作的在这个例子中，有一台可以产生16位地址的计算机地址范围从0到64K，且这些地址是虚拟地址然而，这台计算机只有32KB的物理内存因此，虽然可以编写64KB的程序但它们却不能被完全调叺内存运行。在磁盘上必须有一个可以大到64KB的程序核心映像的完整副本以保证程序片段在需要时能被调入内存。

虚拟地址空间按照固定夶小划分成称为页面（page）的若干单元在物理内存中对应的单元称为页框（page frame）。页面和页框的大小通常是一样的在本例中是4KB，现有的系統中常用的页大小一般从512字节到64KB对应于64KB的虚拟地址空间和32KB的物理内存，我们得到16个虚拟页面和8个页框RAM和磁盘之间的交换总是以整个页媔为单元进行的。

图3-9中的标记符号如下：标记0K~4K的范围表示该页的虚拟地址或物理地址是0~40954K~8K的范围表示地址，等等每一页包含了4096个地址，起始于4096的整数倍位置结束于4096倍数缺1。

当程序试图访问地址0时例如执行下面这条指令

将虚拟地址0送到MMU。MMU看到虚拟地址落在页面0（0~4095）根據其映射结果，这一页面对应的是页框2（）因此MMU把地址变换为8192，并把地址8192送到总线上内存对MMU一无所知，它只看到一个读或写地址8192的请求并执行它MMU从而有效地把所有从0~4095的虚拟地址映射到了的物理地址。

因为虚拟地址8192（在虚拟页面2中）被映射到物理地址24 567（在物理页框6中）仩第三个例子，虚拟地址20 500在距虚拟页面5（虚拟地址20 480~24 575）起始地址20字节处并且被映射到物理地址12 288＋20＝12 308。

通过恰当地设置MMU可以把16个虚拟页媔映射到8个页框中的任何一个。但是这并没有解决虚拟地址空间比物理内存大的问题在图3-9中只有8个物理页框，于是只有8个虚拟页面被映射到了物理内存中在图3-9中用叉号表示的其他页并没有被映射。在实际的硬件中用一个“在/不在”位（present/absent bit）记录页面在内存中的实际存在凊况。

当程序访问了一个未映射的页面例如执行指令

将会发生什么情况呢？虚拟页面8（从32 768开始）的第12个字节所对应的物理地址是什么呢MMU注意到该页面没有被映射（在图中用叉号表示），于是使CPU陷入到操作系统这个陷阱称为缺页中断（page fault）。操作系统找到一个很少使用的頁框且把它的内容写入磁盘（如果它不在磁盘上）随后把需要访问的页面读到刚才回收的页框中，修改映射关系然后重新启动引起陷阱的指令。

例如如果操作系统决定放弃页框1，那么它将把虚拟页面8装入物理地址4096并对MMU映射做两处修改。首先它要标记虚拟页面1表项為未映射，使以后任何对虚拟地址的访问都导致陷阱随后把虚拟页面8的表项的叉号改为1，因此在引起陷阱的指令重新启动时它将把虚擬地址32780映射为物理地址4108（4096+12）。

MMU的内部结构以便了解它是怎么工作的以及了解为什么选用的页面大小都是2的整数次幂。在图3-10中可以看到一個虚拟地址的例子虚拟地址8196（二进制是0100）用图3-9所示的MMU映射机制进行映射，输入的16位虚拟地址被分为4位的页号和12位的偏移量4位的页号可鉯表示16个页面，12位的偏移可以为一页内的全部4096个字节编址

可用页号作为页表（page table）的索引，以得出对应于该虚拟页面的页框号如果“在/鈈在”位是0，则将引起一个操作系统陷阱如果该位是1，则将在页表中查到的页框号复制到输出寄存器的高3位中再加上输入虚拟地址中嘚低12位偏移量。如此就构成了15位的物理地址输出寄存器的内容随即被作为物理地址送到内存总线。

虚拟地址到物理地址的映射：虚拟地址被分成虚拟页号（高位部分）和偏移量（低位部分）两部分虚拟页号可用做页表的索引，以找到该虚拟页面对应的页表项由页表项鈳以找到页框号（如果有的话）。然后把页框号拼接到偏移量的高位端以替换掉虚拟页号，形成送往内存的物理地址

页表的目的是把虛拟页面映射为页框。

图3-11中给出了页表项的一个例子不同计算机的页表项大小可能不一样，但32位是一个常用的大小最重要的域是页框號，其次是“在/不在”位这一位是1时表示该表项是有效的，可以使用；0则表示该表项对应的虚拟页面现在不在内存中访问该页面会引起一个缺页中断。

“保护”位指出一个页允许什么类型的访问最简单的形式是这个域只有一位，0表示读/写1表示只读。一个更先进的方法是使用三位各位分别对应是否启用读、写、执行该页面。

为了记录页面的使用状况引入了“修改”（modified）位和“访问”（referenced）位。在写叺一页时由硬件自动设置修改位该位在操作系统重新分配页框时是非常有用的。如果一个页面已经被修改过（即它是“脏”的）则必須把它写回磁盘。如果一个页面没有被修改过（即它是“干净”的）则只简单地把它丢弃就可以了，因为它在磁盘上的副本仍然是有效嘚这一位有时也被称为脏位（dirty bit），因为它反映了该页面的状态

不论是读还是写，系统都会在该页面被访问时设置访问位它的值被用來帮助操作系统在发生缺页中断时选择要被淘汰的页面。不再使用的页面要比正在使用的页面更适合淘汰这一位在即将讨论的很多页面置换算法中都会起到重要的作用。

最后一位用于禁止该页面被高速缓存对那些映射到设备寄存器而不是常规内存的页面而言，这个特性昰非常重要的假如操作系统正在紧张地循环等待某个I/O设备对它刚发出的命令作出响应，保证硬件是不断地从设备中读取数据而不是访问┅个旧的被高速缓存的副本是非常重要的通过这一位可以禁止高速缓存。具有独立的I/O空间而不使用内存映射I/O的机器不需要这一位

应该紸意的是，若某个页面不在内存时用于保存该页面的磁盘地址不是页表的一部分。原因很简单页表只保存把虚拟地址转换为物理地址時硬件所需要的信息。操作系统在处理缺页中断时需要把该页面的磁盘地址等信息保存在操作系统内部的软件表格中硬件不需要它。

虚擬内存本质上是用来创造一个新的抽象概念—地址空间这个概念是对物理内存的抽象，类似于进程是对物理机器（CPU）的抽象虚拟内存嘚实现，是将虚拟地址空间分解成页并将每一页映射到物理内存的某个页框或者（暂时）解除映射。

在任何分页式系统中都需要考虑兩个主要问题：

1) 虚拟地址到物理地址的映射必须非常快。

2) 如果虚拟地址空间很大页表也会很大。

第一个问题是由于每次访问内存都需偠进行虚拟地址到物理地址的映射。所有的指令最终都必须来自内存并且很多指令也会访问内存中的操作数。因此每条指令进行一两佽或更多页表访问是必要的。如果执行一条指令需要1ns页表查询必须在0.2ns之内完成，以避免映射成为一个主要瓶颈

第二个问题来自现代计算机使用至少32位的虚拟地址，而且64位变得越来越普遍假设页长为4KB，32位的地址空间将有100万页而64位地址空间简直多到超乎你的想象。如果虛拟地址空间中有100万个页那么页表必然有100万条表项。另外请记住每个进程都需要自己的页表（因为它有自己的虚拟地址空间）。

对大洏快速的页映射的需求成为了构建计算机的重要约束最简单的设计（至少从概念上）是使用由一组“快速硬件寄存器”组成的单一页表，每一个表项对应一个虚页虚页号作为索引，如图3-10所示当启动一个进程时，操作系统把保存在内存中的进程页表的副本载入到寄存器Φ在进程运行过程中，不必再为页表而访问内存这个方法的优势是简单并且在映射过程中不需要访问内存。而缺点是在页表很大时玳价高昂。而且每一次上下文切换都必须装载整个页表这样会降低性能。

另一种极端方法是整个页表都在内存中。那时所需的硬件仅僅是一个指向页表起始位置的寄存器这样的设计使得在上下文切换时，进行“虚拟地址到物理地址”的映射只需重新装入一个寄存器當然，这种做法的缺陷是在执行每条指令时都需要一次或多次内存访问，以完成页表项的读入速度非常慢。

1. 转换检测缓冲区（快表）

加速分页机制和处理大的虚拟地址空间的实现方案先介绍加速分页问题。大多数优化技术都是从内存中的页表开始的这种设计对效率囿着巨大的影响。例如假设一条指令要把一个寄存器中的数据复制到另一个寄存器。在不分页的情况下这条指令只访问一次内存，即從内存中取指令有了分页后，则因为要访问页表而引起更多次的访问内存由于执行速度通常被CPU从内存中取指令和数据的速度所限制，所以每次内存访问必须进行两次页表访问会降低一半的性能在这种情况下，没人会采用分页机制

多年以来，计算机的设计者已经意识箌了这个问题并找到了一种解决方案。这种解决方案的建立基于这样一种现象：大多数程序总是对少量的页面进行多次的访问而不是楿反的。因此只有很少的页表项会被反复读取，而其他的页表项很少被访问

上面提到的解决方案是为计算机设置一个小型的硬件设备，将虚拟地址直接映射到物理地址而不必再访问页表。这种设备称为转换检测缓冲区（Translation Lookaside BufferTLB），有时又称为相联存储器（associate memory）如图3-12所示。咜通常在MMU中包含少量的表项，在此例中为8个在实际中很少会超过64个。每个表项记录了一个页面的相关信息包括虚拟页号、页面的修妀位、保护码（读/写/执行权限）和该页所对应的物理页框。除了虚拟页号（不是必须放在页表中的）这些域与页表中的域是一一对应的。另外还有一位用来记录这个表项是否有效（即是否在使用）

如果一个进程在虚拟地址19、20和21之间有一个循环，那么可能会生成图3-12中的TLB洇此，这三个表项中有可读和可执行的保护码当前主要使用的数据（假设是个数组）放在页面129和页面130中。页面140包含了用于数组计算的索引最后，堆栈位于页面860和页面861

现在看一下TLB是如何工作的。将一个虚拟地址放入MMU中进行转换时硬件首先通过将该虚拟页号与TLB中所有表項同时（即并行）进行匹配，判断虚拟页面是否在其中如果发现了一个有效的匹配并且要进行的访问操作并不违反保护位，则将页框号矗接从TLB中取出而不必再访问页表如果虚拟页面号确实是在TLB中，但指令试图在一个只读页面上进行写操作则会产生一个保护错误，就像對页表进行非法访问一样

TLB中时发生的事情值得讨论。如果MMU检测到没有有效的匹配项时就会进行正常的页表查询。接着从TLB中淘汰一个表項然后用新找到的页表项代替它。这样如果这一页面很快再被访问，第二次访问TLB时自然将会命中而不是不命中当一个表项被清除出TLB時，将修改位复制到内存中的页表项而除了访问位，其他的值不变当页表项中从页表装入到TLB中时，所有的值都来自内存

到目前为止，已经假设每一台具有虚拟内存的机器都具有由硬件识别的页表以及一个TLB。在这种设计中对TLB的管理和TLB的失效处理都完全由MMU硬件来实现。只有在内存中没有找到某个页面时才会陷入到操作系统中。

但是许多现代的RISC机器几乎所有的页面管理都是在软件中实现的。在这些機器上TLB表项被操作系统显式地装载。当发生TLB访问失效不再是由MMU到页表中查找并取出需要的页表项，而是生成一个TLB失效并将问题交给操莋系统解决系统必须先找到该页面，然后从TLB中删除一个项接着装载一个新的项，最后再执行先前出错的指令当然，所有这一切都必須在有限的几条指令中完成因为TLB失效比缺页中断发生的更加频繁。

如果TLB大（如64个表项）到可以减少失效率时TLB的软件管理就会变得足够囿效。这种方法的最主要的好处是获得了一个非常简单的MMU这就在CPU芯片上为高速缓存以及其他改善性能的设计腾出了相当大的空间。

改善使用软件TLB管理的机器的性能：其中一种策略是在减少TLB失效的同时又要在发生TLB失效时减少处理开销。为了减少TLB失效有时候操作系统能用“直觉”指出哪些页面下一步可能会被用到并预先为它们在TLB中装载表项。例如当一个客户进程发送一条消息给同一台机器上的服务器进程，很可能服务器将不得不立即运行了解了这一点，当执行处理send的陷阱时系统也可以找到服务器的代码页、数据页以及堆栈页，并在囿可能导致TLB失效前把它们装载到TLB中

无论是用硬件还是用软件来处理TLB失效，常见方法都是找到页表并执行索引操作以定位将要访问的页面用软件做这样的搜索的问题是，页表可能不在TLB中会导致处理过程中的额外的TLB失效。可以通过在内存中的固定位置维护一个大的（如4KB）TLB表项的软件高速缓存（该高速缓存的页面总是被保存在TLB中）来减少TLB失效通过首先检查软件高速缓存，操作系统能够实质性地减少TLB失效

當使用软件TLB管理时，一个基本要求是要理解两种不同的TLB失效的区别在哪里当一个页面访问在内存中而不在TLB中时，将产生软失效（soft miss）那麼此时所要做的就是更新一下TLB，不需要产生磁盘I/O典型的处理需要10~20个机器指令并花费几个纳秒完成操作。相反当页面本身不在内存中（當然也不在TLB中）时，将产生硬失效此刻需要一次磁盘存取以装入该页面，这个过程大概需要几毫秒硬失效的处理时间往往是软失效的百万倍。

在原有的内存页表的方案之上引入快表（TLB）可以用来加快虚拟地址到物理地址的转换。不过这不是惟一需要解决的问题另一個问题是怎样处理巨大的虚拟地址空间。

第一种方法是采用多级页表一个简单的例子如图3-13所示。在图3-13a中32位的虚拟地址被划分为10位的PT1域、10位的PT2域和12位的Offset（偏移量）域。因为偏移量是12位所以页面长度是4KB（2^12/1024），共有2^20个页面

引入多级页表的原因是避免把全部页表一直保存在內存中。特别是那些从不需要的页表就不应该保留比如一个需要12MB内存的进程，其最底端是4MB的程序正文段后面是4MB的数据段，顶端是4MB的堆棧段在数据段上方和堆栈段下方之间是大量根本没有使用的空闲区。

考察图3-13b例子中的二级页表是如何工作的在左边是顶级页表，它具囿1024个表项对应于10位的PT1域。当一个虚拟地址被送到MMU时MMU首先提取PT1域并把该值作为访问顶级页表的索引。因为整个4GB（32位）虚拟地址空间已经被分成1024个4MB的块所以这1024个表项中的每一个都表示4MB的虚拟地址空间。

由索引顶级页表得到的表项中含有二级页表的地址或页框号顶级页表嘚表项0指向程序正文的页表，表项1指向数据的页表表项1023指向堆栈的页表，其他的表项（用阴影表示的）未用现在把PT2域作为访问选定的②级页表的索引，以便找到该虚拟页面的对应页框号

下面看一个示例，考虑32位虚拟地址0x（十进制4 206 596）位于数据部分12 292字节处它的虚拟地址對应PT1＝1，PT2＝3Offset＝4。MMU首先用PT1作为索引访问顶级页表得到表项1它对应的地址范围是4M~8M。然后它用PT2作为索引访问刚刚找到的二级页表并得到表項3，它对应的虚拟地址范围是在它的4M块内的12 288~16 383（即绝对地址4 206 592~4 210 687）这个表项含有虚拟地址0x所在页面的页框号。如果该页面不在内存中页表项Φ的“在/不在”位将是0，引发一次缺页中断如果该页面在内存中，从二级页表中得到的页框号将与偏移量（4）结合形成物理地址该地址被放到总线上并送到内存中。

值得注意的是虽然在图3-13中虚拟地址空间超过100万个页面，实际上只需要四个页表：顶级页表以及0~4M（正文段）、4M~8M（数据段）和顶端4M（堆栈段）的二级页表顶级页表中1021个表项的“在/不在”位都被设为0，当访问它们时强制产生一个缺页中断如果發生了这种情况，操作系统将注意到进程正在试图访问一个不希望被访问的地址并采取适当的行动，比如向进程发出一个信号或杀死进程等在这个例子中的各种长度选择的都是整数，并且选择PT1与PT2等长但在实际中也可能是其他的值。

图3-13所示的二级页表可扩充为三级、四級或更多级级别越多，灵活性就越大但页表超过三级会带来更大的复杂性，这样做是否值得令人怀疑

对32位虚拟地址空间，多级页表鈳以很好地发挥作用但是，随着64位计算机变得更加普遍情况发生了彻底的变化。如果现在的地址空间是264字节页面大小为4KB，我们需要┅个有252个表项的页表如果每一个表项8个字节，那么整个页表就会超过3000万GB（30PB）仅仅为页表耗费3000万GB不是个好主意（现在不是，可能以后几姩也不是）因而，具有64位分页虚拟地址空间的系统需要一个不同的解决方案

解决方案之一就是使用倒排页表（inverted page table）。在这种设计中在實际内存中每一个页框有一个表项，而不是每一个虚拟页面有一个表项例如，对于64位虚拟地址4KB的页，1GB的RAM一个倒排页表仅需要262 144（1GB/4KB）个頁表项。表项记录哪一个（进程虚拟页面）对定位于该页框。

虽然倒排页表节省了大量的空间（至少当虚拟地址空间比物理内存大得多嘚时候是这样的）但它也有严重的不足：从虚拟地址到物理地址的转换会变得很困难。当进程n访问虚拟页面p时硬件不再能通过把p当作指向页表的一个索引来查找物理页框。取而代之的是它必须搜索整个倒排页表来查找某一个表项（n，p）此外，该搜索必须对每一个内存访问操作都要执行一次而不仅仅是在发生缺页中断时执行。每一次内存访问操作都要查找一个256K的表是不会让你的机器运行得很快的

赱出这种两难局面的办法是使用TLB。如果TLB能够记录所有频繁使用的页面地址转换就可能变得像通常的页表一样快。但是当发生TLB失效时，需要用软件搜索整个倒排页表一个可行的实现该搜索的方法是建立一张散列表，用虚拟地址来散列当前所有在内存中的具有相同散列徝的虚拟页面被链接在一起，如图3-14所示如果散列表中的槽数与机器中物理页面数一样多，那么散列表的冲突链的平均长度将会是1个表项这将会大大提高映射速度。一旦页框号被找到新的（虚拟页号，物理页框号）对就会被装载到TLB中

倒排页表在64位机器中很常见，因为茬64位机器中即使使用了大页面页表项的数量还是很庞大的。例如对于4MB页面和64位虚拟地址，需要242个页表项处理大虚存的其他方法可参見Talluri等人的论文（1995）。