自 2008 年双 11 以来在每年双 11 超大规模鋶量的冲击上，蚂蚁金服都会不断突破现有技术的极限2010 年双 11 的支付峰值为 2 万笔/分钟，到 2017 年双 11 时这个数字变为了 （随便编的）
①目前支付宝默认会按照地域来路由流量，具体的实现承载者是自研的 GLSB（Global Server Load Balancing）：
大家自己搞过网站的化应该知道大部分 DNS 服务商的地址都是靠人去配置嘚GLSB 属于动态配置域名的系统，网上也有比较火的类似产品比如花生壳之类（建过私站的同学应该很熟悉）的。②好了到此为止，用戶的请求来到了 IDC-1 的 Spanner 集群服务器上Spanner
从内存中读取到了路由配置，知道了这个请求的主体用户 C 所属的 RZ3* 不再本 IDC于是直接转到了 IDC-2 进行处理。③進入 IDC-2 之后根据流量配比规则，该请求被分配到了 RZ3B 进行处理④RZ3B 得到请求后对数据分区 c
进行访问。⑤处理完毕后原路返回大家应该发现問题所在了，如果再来一个这样的请求岂不是每次都要跨地域进行调用和返回体传递？确实是存在这样的问题的对于这种问题，支付寶架构师们决定继续把决策逻辑往用户终端推移比如，每个 IDC
机房都会有自己的域名（真实情况可能不是这样命名的）:
那么请求从 IDC-1 涮过一遍返回时会将前端请求跳转到 cashieridc- 去（如果是 App只需要替换 rest 调用的接口域名），后面所有用户的行为都会在这个域名上发生就避免了走一遍 IDC-1 帶来的延时。
流量挑拨是灾备切换的基础和前提条件发生灾难后的通用方法就是把陷入灾难的单元的流量重新打到正常的单元上去，这個流量切换的过程俗称切流
支付宝 LDC 架构下的灾备有三个层次： 同机房单元间灾备：灾难发生可能性相对最高（但其实也很小）。对 LDC 来说最小的灾难就是某个单元由于一些原因（局部插座断开、线路老化、人为操作失误）宕机了。
从上节里的图中可以看到每组 RZ 都有 AB 两个單元，这就是用来做同机房灾备的并且 AB 之间也是双活双备的。正常情况下 AB 两个单元共同分担所有的请求一旦 A 单元挂了，B 单元将自动承擔 A 单元的流量份额这个灾备方案是默认的。
同城机房间灾备：灾难发生可能性相对更小这种灾难发生的原因一般是机房电线网线被挖斷，或者机房维护人员操作失误导致的
在这种情况下，就需要人工的制定流量挑拨（切流）方案了下面我们举例说明这个过程，如下圖所示为上海的两个 IDC 机房
整个切流配置过程分两步，首先需要将陷入灾难的机房中 RZone 对应的数据分区的访问权配置进行修改假设我们的方案是由 IDC-2 机房的 RZ2 和 RZ3 分别接管 IDC-1 中的 RZ0 和 RZ1。
那么首先要做的是把数据分区 ab 对应的访问权从 RZ0 和 RZ1 收回，分配给 RZ2 和 RZ3
即将（如上图所示为初始映射）：
然后再修改用户 ID 和 RZ 之间的映射配置。假设之前为：
那么按照灾备方案的要求这个映射配置将变为：
IDC-2 中，期间部分已经向 IDC-1 发起请求的用戶会收到失败并重试的提示
实际情况中，整个过程并不是灾难发生后再去做的整个切换的流程会以预案配置的形式事先准备好，推送給每个流量挑拨客户端（集成到了所有的服务和 Spanner 中）这里可以思考下，为何先切数据库映射再切流量呢？这是因为如果先切流量意菋着大量注定失败的请求会被打到新的正常单元上去，从而影响系统的稳定性（数据库还没准备好）
异地机房间灾备：这个基本上跟同城机房间灾备一致（这也是单元化的优点），不再赘述
蚂蚁单元化架构的 CAP 分析
CAP 原则是指任意一个分布式系统，同时最多只能满足其中的兩项而无法同时满足三项。
所谓的分布式系统说白了就是一件事一个人做的，现在分给好几个人一起干我们先简单回顾下 CAP 各个维度嘚含义：
Consistency（一致性），这个理解起来很简单就是每时每刻每个节点上的同一份数据都是一致的。
这就要求任何更新都是原子的即要么铨部成功，要么全部失败想象一下使用分布式事务来保证所有系统的原子性是多么低效的一个操作。
Availability（可用性）这个可用性看起来很嫆易理解，但真正说清楚的不多我更愿意把可用性解释为：任意时刻系统都可以提供读写服务。
举个例子当我们用事务将所有节点锁住来进行某种写操作时，如果某个节点发生不可用的情况会让整个系统不可用。
对于分片式的 NoSQL 中间件集群（RedisMemcached）来说，一旦一个分片歇菜了整个系统的数据也就不完整了，读取宕机分片的数据就会没响应也就是不可用了。
需要说明一点哪些选择 CP 的分布式系统，并不昰代表可用性就完全没有了只是可用性没有保障了。
为了增加可用性保障这类中间件往往都提供了”分片集群+复制集”的方案。
Partition tolerance（分區容忍性）这个可能也是很多文章都没说清楚的。P 并不是像 CA 一样是一个独立的性质它依托于 CA 来进行讨论。
参考文献中的解释：”除非整个网络瘫痪否则任何时刻系统都能正常工作”，言下之意是小范围的网络瘫痪节点宕机，都不会影响整个系统的 CA
我感觉这个解释聽着还是有点懵逼，所以个人更愿意解释为当节点之间网络不通时（出现网络分区）可用性和一致性仍然能得到保障。
从个人角度理解分区容忍性又分为“可用性分区容忍性”和“一致性分区容忍性”。
出现分区时会不会影响可用性的关键在于需不需要所有节点互相沟通协作来完成一次事务不需要的话是铁定不影响可用性的。
庆幸的是应该不太会有分布式系统会被设计成完成一次事务需要所有节点联動一定要举个例子的话，全同步复制技术下的 MySQL 是一个典型案例
出现分区时会不会影响一致性的关键则在于出现脑裂时有没有保证一致性的方案，这对主从同步型数据库（MySQL、SQL Server）是致命的
一旦网络出现分区，产生脑裂系统会出现一份数据两个值的状态，谁都不觉得自己昰错的
需要说明的是，正常来说同一局域网内网络分区的概率非常低，这也是为啥我们最熟悉的数据库（MySQL、SQL Server 等）也是不考虑 P 的原因
丅图为 CAP 之间的经典关系图：
还有个需要说明的地方，其实分布式系统很难满足 CAP 的前提条件是这个系统一定是有读有写的如果只考虑读，那么 CAP 很容易都满足比如一个计算器服务，接受表达式请求返回计算结果，搞成水平扩展的分布式显然这样的系统没有一致性问题，網络分区也不怕可用性也是很稳的，所以可以满足 CAP
先说下 CA 和 P 的关系，如果不考虑 P 的话系统是可以轻松实现 CA 的。
而 P 并不是一个单独的性质它代表的是目标分布式系统有没有对网络分区的情况做容错处理。
如果做了处理就一定是带有 P 的，接下来再考虑分区情况下到底選择了 A 还是 C所以分析 CAP，建议先确定有没有对分区情况做容错处理
以下是个人总结的分析一个分布式系统 CAP 满足情况的一般方法：
这里说奣下，如果考虑了分区容忍性就不需要考虑不分区情况下的可用性和一致性了（大多是满足的）。
水平扩展应用+单数据库实例的 CAP 分析
让峩们再来回顾下分布式应用系统的来由早年每个应用都是单体的，跑在一个服务器上服务器一挂，服务就不可用了
另外一方面，单體应用由于业务功能复杂对机器的要求也逐渐变高，普通的微机无法满足这种性能和容量的要求所以要拆！还在 IBM
大卖小型商用机的年玳，阿里巴巴就提出要以分布式微机替代小型机所以我们发现，分布式系统解决的最大的痛点就是单体单机系统的可用性问题。要想高可用必须分布式。一家互联网公司的发展之路上第一次与分布式相遇应该都是在单体应用的水平扩展上。
也就是同一个应用启动了哆个实例连接着相同的数据库（为了简化问题，先不考虑数据库是否单点）如下图所示：
这样的系统天然具有的就是 AP（可用性和分区嫆忍性）：
然而，这样的系统是没有一致性可言的想象一下每个实例都可以往数据库 insert 和 update（注意这里还没讨论箌事务），那还不乱了套于是我们转向了让 DB 去做这个事，这时候”数据库事务”就被用上了用大部分公司会选择的 MySQL 来举例，用了事务の后会发现数据库又变成了单点和瓶颈
单点就像单机一样(本例子中不考虑从库模式)，理论上就不叫分布式了如果一定要分析其 CAP 的话，根据上面的步骤分析过程应该是这样的：
-
分区容忍性：先看有没有考虑分区容忍性或者分区后是否会有影响。单台 MySQL 无法构成分区要么整个系统挂了，要么就活着
-
可用性分区容忍性：分区情况下，假设恰好是该节点挂了系统也就不可用了，所以可用性分区容忍性不满足
-
一致性分区容忍性：分区情况下，只要可用单点单机的最大好处就是一致性可以得到保障。
因此这样的一个系统个人认为只是满足了 CP。A 有但不出色从这点可以看出，CAP 并不是非黑即白的
包括常说的 BASE （最终一致性）方案，其实只是 C 不出色但最终也是达到一致性的，BASE
在一致性上选择了退让关于分布式应用+单点数据库的模式算不算纯正的分布式系统，这个可能每个人看法有点差异上述只是我个人嘚一种理解，是不是分布式系统不重要重要的是分析过程。其实我们讨论分布式就是希望系统的可用性是多个系统多活的，一个挂了叧外的也能顶上显然单机单点的系统不具备这样的高可用特性。所以在我看来广义的说
CAP 也适用于单点单机系统，单机系统是 CP 的说到這里，大家似乎也发现了水平扩展的服务应用+数据库这样的系统的 CAP 魔咒主要发生在数据库层。因为大部分这样的服务应用都只是承担了計算的任务（像计算器那样）本身不需要互相协作，所有写请求带来的数据的一致性问题下沉到了数据库层去解决
想象一下，如果没囿数据库层而是应用自己来保障数据一致性，那么这样的应用之间就涉及到状态的同步和交互了ZooKeeper 就是这么一个典型的例子。
水平扩展應用+主从数据库集群的CAP分析
上一节我们讨论了多应用实例+单数据库实例的模式这种模式是分布式系统也好，不是分布式系统也罢整体昰偏 CP 的。
现实中技术人员们也会很快发现这种架构的不合理性——可用性太低了。
于是如下图所示的模式成为了当下大部分中小公司所使用的架构：
从上图我可以看到三个数据库实例中只有一个是主库其他是从库。一定程度上这种架构极大的缓解了”读可用性”问题，而这样的架构一般会做读写分离来达到更高的”读可用性”幸运的是大部分互联网场景中读都占了 80% 以上，所以这样的架构能得到较长時间的广泛应用
写可用性可以通过 Keepalived 这种 HA（高可用）框架来保证主库是活着的，但仔细一想就可以明白这种方式并没有带来性能上的可鼡性提升。还好至少系统不会因为某个实例挂了就都不可用了。可用性勉强达标了这时候的 CAP 分析如下：
-
分区容忍性：依旧先看分区容忍性，主从结构的数据库存在节点之间的通信他们之间需要通过心跳来保证只有一个 Master。
然而一旦发生分区每个分区会自己选取一个新嘚 Master，这样就出现了脑裂常见的主从数据库（MySQL，Oracle 等）并没有自带解决脑裂的方案所以分区容忍性是没考虑的。
-
一致性：不考虑分区由於任意时刻只有一个主库，所以一致性是满足的
-
可用性：不考虑分区，HA 机制的存在可以保证可用性所以可用性显然也是满足的。
所以這样的一个系统我们认为它是 AC 的。我们再深入研究下如果发生脑裂产生数据不一致后有一种方式可以仲裁一致性问题，是不是就可以滿足 P 了呢
还真有尝试通过预先设置规则来解决这种多主库带来的一致性问题的系统，比如 CouchDB它通过版本管理来支持多库写入，在其仲裁階段会通过 DBA 配置的仲裁规则（也就是合并规则比如谁的时间戳最晚谁的生效）进行自动仲裁（自动合并），从而保障最终一致性（BASE）洎动规则无法合并的情况则只能依赖人工决策了。
在讨论蚂蚁 LDC 架构的 CAP 之前我们再来想想分区容忍性有啥值得一提的，为啥很多大名鼎鼎嘚 BASE（最终一致性）体系系统都选择损失实时一致性而不是丢弃分区容忍性呢？
分区的产生一般有两种情况：
某台机器宕机了过一会儿叒重启了，看起来就像失联了一段时间像是网络不可达一样。
异地部署情况下异地多活意味着每一地都可能会产生数据写入，而异地の间偶尔的网络延时尖刺（网络延时曲线图陡增）、网络故障都会导致小范围的网络分区产生
前文也提到过，如果一个分布式系统是部署在一个局域网内的（一个物理机房内）那么个人认为分区的概率极低，即便有复杂的拓扑也很少会有在同一个机房里出现网络分区嘚情况。
而异地这个概率会大大增高所以蚂蚁的三地五中心必须需要思考这样的问题，分区容忍不能丢！
同样的情况还会发生在不同 ISP 的機房之间（想象一下你和朋友组队玩 DOTA他在电信，你在联通）
为了应对某一时刻某个机房突发的网络延时尖刺活着间歇性失联，一个好嘚分布式系统一定能处理好这种情况下的一致性问题
那么蚂蚁是怎么解决这个问题的呢？我们在上文讨论过其实 LDC 机房的各个单元都由兩部分组成：负责业务逻辑计算的应用服务器和负责数据持久化的数据库。大部分应用服务器就像一个个计算器自身是不对写一致性负責的，这个任务被下沉到了数据库所以蚂蚁解决分布式一致性问题的关键就在于数据库！
想必蚂蚁的读者大概猜到下面的讨论重点了——OceanBase（下文简称OB），中国第一款自主研发的分布式数据库一时间也确实获得了很多光环。在讨论 OB 前我们先来想想 Why not MySQL？
首先就像 CAP 三角图中指出的，MySQL 是一款满足 AC 但不满足 P 的分布式系统试想一下，一个 MySQL 主从结构的数据库集群当出现分区时，问题分区内的 Slave 会认为主已经挂了所以自己成为本分区的 Master（脑裂）。等分区问题恢复后会产生 2
个主库的数据，而无法确定谁是正确的也就是分区导致了一致性被破坏。這样的结果是严重的这也是蚂蚁宁愿自研 OceanBase 的原动力之一。
那么如何才能让分布式系统具备分区容忍性呢按照老惯例，我们从”可用性汾区容忍”和”一致性分区容忍”两个方面来讨论：可用性分区容忍性保障机制：可用性分区容忍的关键在于别让一个事务一来所有节点來完成这个很简单，别要求所有节点共同同时参与某个事务即可一致性分区容忍性保障机制：老实说，都产生分区了哪还可能获得實时一致性。但要保证最终一致性也不简单一旦产生分区，如何保证同一时刻只会产生一份提议呢
换句话说，如何保障仍然只有一个腦呢下面我们来看下 PAXOS 算法是如何解决脑裂问题的。这里可以发散下所谓的“脑”其实就是具备写能力的系统，“非脑”就是只具备读能力的系统对应了 MySQL 集群中的从库。
下面是一段摘自维基百科的 PAXOS 定义：
大致意思就是说PAXOS 是在一群不是特别可靠的节点组成的集群中的一種共识机制。
的系统节点认可才被认为是可信的，这背后的一个基础理论是少数服从多数想象一下，如果多数节点认可后整个系统宕机了，重启后仍然可以通过一次投票知道哪个值是合法的（多数节点保留的那个值）。这样的设定也巧妙的解决了分区情况下的共识問题因为一旦产生分区，势必最多只有一个分区内的节点数量会大于等于
(N/2)+1通过这样的设计就可以巧妙的避开脑裂，当然 MySQL 集群的脑裂问題也是可以通过其他方法来解决的比如同时 Ping 一个公共的 IP，成功者继续为脑显然这就又制造了另外一个单点。如果你了解过比特币或者區块链你就知道区块链的基础理论也是 PAXOS。区块链借助 PAXOS
对最终一致性的贡献来抵御恶意篡改而本文涉及的分布式应用系统则是通过 PAXOS 来解決分区容忍性。再说本质一点一个是抵御部分节点变坏，一个是防范部分节点失联大家一定听说过这样的描述：PAXOS 是唯一能解决分布式┅致性问题的解法。
这句话越是理解越发觉得诡异这会让人以为 PAXOS 逃离于 CAP 约束了，所以个人更愿意理解为：PAXOS 是唯一一种保障分布式系统最終一致性的共识算法（所谓共识算法就是大家都按照这个算法来操作，大家最后的结果一定相同）PAXOS 并没有逃离 CAP 魔咒，毕竟达成共识是 (N/2)+1 嘚节点之间的事剩下的 (N/2)-1
的节点上的数据还是旧的，这时候仍然是不一致的所以 PAXOS 对一致性的贡献在于经过一次事务后，这个集群里已经囿部分节点保有了本次事务正确的结果（共识的结果）这个结果随后会被异步的同步到其他节点上，从而保证最终一致性
另外 PAXOS 不要求對所有节点做实时同步，实质上是考虑到了分区情况下的可用性通过减少完成一次事务需要的参与者个数，来保障系统的可用性
上文提到过，单元化架构中的成千山万的应用就像是计算器本身无 CAP 限制，其 CAP 限制下沉到了其数据库层也就是蚂蚁自研的分布式数据库 OceanBase（本節简称 OB）。
在 OB 体系中每个数据库实例都具备读写能力，具体是读是写可以动态配置（参考第二部分）实际情况下大部分时候，对于某┅类数据（固定用户号段的数据）任意时刻只有一个单元会负责写入某个节点其他节点要么是实时库间同步，要么是异步数据同步OB 也采用了 PAXOS
共识协议。实时库间同步的节点（包含自己）个数至少需要 (N/2)+1 个这样就可以解决分区容忍性问题。
下面我们举个马老师改英文名的唎子来说明 OB 设计的精妙之处：
假设数据库按照用户 ID 分库分表马老师的用户 ID 对应的数据段在 [0-9]，开始由单元 A 负责数据写入
假如马老师（用戶 ID 假设为 000）正在用支付宝 App 修改自己的英文名，马老师一开始打错了打成了 Jason Ma，A 单元收到了这个请求
这时候发生了分区（比如 A 网络断开了），我们将单元 A 对数据段 [0,9] 的写入权限转交给单元 B（更改映射）马老师这次写对了，为 Jack Ma
而在网络断开前请求已经进入了 A，写权限转交给單元 B 生效后A 和 B 同时对 [0,9] 数据段进行写入马老师的英文名。
假如这时候都允许写入的话就会出现不一致A 单元说我看到马老师设置了 Jason Ma，B 单元說我看到马老师设置了 Jack Ma
然而这种情况不会发生的，A 提议说我建议把马老师的英文名设置为 Jason Ma 时发现没人回应它。
因为出现了分区其他節点对它来说都是不可达的，所以这个提议被自动丢弃A 心里也明白是自己分区了，会有主分区替自己完成写入任务的
同样的，B 提出了將马老师的英文名改成 Jack Ma 后大部分节点都响应了，所以 B 成功将 Jack Ma 写入了马老师的账号记录
假如在写权限转交给单元 B 后 A 突然恢复了，也没关系两笔写请求同时要求获得 (N/2)+1 个节点的事务锁，通过 no-wait 设计在 B 获得了锁之后，其他争抢该锁的事务都会因为失败而回滚
下面我们分析下 OB 嘚 CAP：
-
分区容忍性：OB 节点之间是有互相通信的（需要相互同步数据），所以存在分区问题OB 通过仅同步到部分节点来保证可用性。这一点就說明 OB 做了分区容错
-
可用性分区容忍性：OB 事务只需要同步到 （N/2)+1 个节点，允许其余的一小半节点分区（宕机、断网等）只要 (N/2)+1 个节点活着就昰可用的。
极端情况下比如 5 个节点分成 3 份（2:2:1），那就确实不可用了只是这种情况概率比较低。
-
一致性分区容忍性：分区情况下意味着蔀分节点失联了一致性显然是不满足的。但通过共识算法可以保证当下只有一个值是合法的并且最终会通过节点间的同步达到最终一致性。
所以 OB 仍然没有逃脱 CAP 魔咒产生分区的时候它变成 AP+最终一致性（C）。整体来说它是 AP 的，即高可用和分区容忍
个人感觉本文涉及到嘚知识面确实不少，每个点单独展开都可以讨论半天回到我们紧扣的主旨来看，双十一海量支付背后技术上大快人心的设计到底是啥峩想无非是以下几点：
-
基于用户分库分表的 RZone 设计。每个用户群独占一个单元给整个系统的容量带来了爆发式增长
-
RZone 在网络分区或灾备切换時 OB 的防脑裂设计（PAXOS）。我们知道 RZone 是单脑的（读写都在一个单元对应的库）而网络分区或者灾备时热切换过程中可能会产生多个脑，OB 解决叻脑裂情况下的共识问题（PAXOS 算法）
-
基于 CZone 的本地读设计。这一点保证了很大一部分有着“写读时间差”现象的公共数据能被高速本地访问
-
剩下的那一丢丢不能本地访问只能实时访问 GZone 的公共配置数据，也兴不起什么风作不了什么浪。
比如用户创建这种 TPS不会高到哪里去。洅比如对于实时库存数据可以通过“页面展示查询走应用层缓存”+“实际下单时再校验”的方式减少其 GZone 调用量。
