CouchDB 实现原理

特性

  1. RESTFul API
  2. 基于文档存储,无表固定结构,数据之间没有关系范式要求
  3. 多版本并发控制模型
  4. 用户自定义查询结构(map/reduce)
  5. 增量索引更新机制
  6. 多master复制模式
  7. 用Erlang编写

CouchDB能够适应非常广 泛的应用场景,在某些偶尔连接网络的应用中,我们可以用CouchDB暂存数据,随后进行同步。也可以在Cloud环境中,作为大型的分布式的数据存储。 CouchDB提供了基于 HTTP的API的访问方式,这样,保证了所有的常见的语言都可以使用CouchDB。

底层存储结构

CouchDB是一个"面向文 档"的数据库,文档的格式是一个JSON字符串(也可包含二进制附件)。 底层结构是由一个"存储"(storeage) ,以及多个"视图索引"(view indexs)。 "储存"用来储存文件, "视图索引"用于查询处理。

CouchDB落实到最底层的 数据结构就是两类B+Tree 。

第一类 B+Tree,by_id_index (使用document的id为key)。常用来通过document的id来查找document的位置,实际上,他是指向的一个reversion列 表集合。

第二类B+Tree, by_seqnum_index (使用序列号来作为key,说得具体点就是记录最新的reversion来作为key) 。当document进行更新的时候,就会产生一个新的序列号。 (值得注意的是,所有更新操作都是一个串行的方式,因此序列号反映了序列的非同步更新)。 同步复制的追踪,数据的显示以及更新与它都密不可分。

一切皆追加

所有的更新操作(包括 document的创建,修改和删除)都是以在couch文件尾部追加的方式(即Append方式)进行。而不是修改现有的文件。在此之后, B+树节点也修改为指向新的文件的位置。修改操作实际上就是在现有的B+树的末尾附加一个新的文件。这反过来又引发修改父节点的B+树节点,造成一个新的 副本父节点...直到所有的方式回到根B+树节点。最后修改文件头以指向新的跟节点。

这意味着所有更新将触发1次写 入文件(除删除)和logN写入每个B +树节点的页面。 因此,复杂度为O ( logN )。

一切皆追加的操作提供了一个有 趣的MVCC (多版本并发控制)模型,因为该文件保存了所有以前的历史文件版本信息。 只要客户端持有先前根节点的B +树索引,它就可以得到的快照视图。即便是更新不断发生,客户将不会看到任何的最新变化。这种一致性快照在在线备份以及在线"瘦身"方面是非常有用的。锁机制和MVCC(多版本并发控制)的比较见文章最后补充!

值得注意的是,读操作是并行 的,写操作是串行的。 换句话说,在任何时候只有一个文件可以进行更新操作(但是,如果是写入附件的话,可以在一个文件中进行并行操作。)

GET document

当客户端向CouchDB的发出的HTTP的REST的GET请求,DBServer将做如下操作...

  1. 查找文件头,找到by_id B +树索引的根节点
  2. 在B +树中找出该文件的位置
  3. 阅读了该文件,并返回到客户端

PUT document(修改操作)

当客户端向CouchDB的发 出的HTTP的REST的PUT请求,DBServer将做如下操作...

  1. 查找文件头,找到by_id B +树索引的根节点
  2. 在B +树中找出该文件的位置
  3. 读取该文件。对比reversion,如果他们不匹配就抛出一个错误。
  4. 如果它们匹配,生成一个新的reversion。                                                   
  5. 寻找末尾的一个区域(region),看看该文件的容量是否可以容纳,如果不能就另外开辟一个region。
  6. 写文件(新reversion)到新的区域(region)
  7. 修改by_id B +树以指向新的文件位置
  8. 修改by_seqnum B +树添加新实体(新seqnum ) ,并删除旧的条目(旧seqnum ) 。

请注意, by_seqnum B +树索引总是指向最新版本,以前的修改会自动被覆盖。

PUT/POST document(创建)

当客户端向CouchDB的发 出的HTTP的REST的PUT请求,DBServer将做如下操作...

  1. 生成一个新的seqnum及一个新的文件编号和修订
  2. 寻找末尾的一个区域(region),看看该文件的容量是否可以容纳,如果不能就另外开辟一个region。
  3. 写文件(新reversion)到新的区域(region)
  4. 修改by_id B +树以指向新的文件位置                                                                                                     
  5. 修改by_seqnum B +树添加新项目(新seqnum )

删除文件(修改)

当客户端向CouchDB的发 出的HTTP的REST的DELETE请求,DBServer将做如下操作...

  1. 查找文件头找到根节点的by_id B +树索引
  2. 在B +树找出叶节点以及该文件的位置
  3. 读取该文件。 对比修订,如果他们不匹配就抛出一个错误。
  4. 如果它们匹配,找出找到这个reversion。
  5. 生成一个新的reqnum
  6. 修改by_id B +树的reversion 历史,将这个路径的reversion标记为被删除
  7. 修改by_seqnum B +树添加新实体(新seqnum ) ,并删除旧的条目(旧seqnum )。

Online Compation(删除旧的Document)

作为一个一切皆追加的存储方 式,存储文件会随着时间的推移与日俱增。 因此,我们需要对其进行"瘦身",删除那些旧的Document数据。这个过程称为 Compaction。

打开一个新的存储文件
从by_seqnum B +树索引中找到最新reversion的document
复制document到新的存储文件中(在新的存储文件中自动更新相应的B +树索引)。

在Compation的过程, 数据库仍然可用,只是请注意,在Compation的时候,是通过遍历DBName.couch文件, 将最新的数据拷贝到一个DBName.compat文件中, 因此这个过程可能会耗费很大的存储空间,如果您在系统繁忙(主要是write)的情况下进 行Compation,可能会导致你的硬盘空间耗尽。推荐系统在一个写操作不是很繁忙的情况下进行Compation。

View Indexs

CouchDB支持类似数据库 的View的概念。所不同的是CouchDB是采用Map/Reduce的方式来表现的。(请注意,reduce语义与谷歌的Map/Reduce模型有 着很大的不同)。Map()是一个用户定义的函数,它用来将每个文件处理成中间结果。Reduce()是另外的一种用户定义的函数,它                     将Map()函 数所产生的中间结果进行收集汇总而生成最终结果。

Map()的中间对象和 Reduce()后的结果存储在View Indexs中。随着存储得到更新, 以前的结果也会随着更新。

每一个View的定义就是一个 Map函数和一个可选的Reduce函数。View存储在design Document中。

(map函数,必须)
function(doc) {
emit(null, doc);
}
(reduce函数,可选)
function (key, values, rereduce) {
   return sum(values);
}

请注意这里design Document和View Index是不同的。design Document保存的是view的定义,View Index保存的是针对某个Database进行View操作,产生的结果。

 

 

起初,View文件是空的 (View尚未创建) , 当查询执行的时候会触发下面一系列的处理。

1.CouchDB将遍历存储 文件的by_seqnum B +树索引。
2.在此基础上, CouchDB获得所有现有文件的最新reversion
3.CouchDB通过seqnum获取document,然后将每份document反馈到View Server 上用于进行Map操作。
4.View Server 调用map(doc)函数,遍历调用emit(key,value),一个中间实体就是被这么创建出来的。
5.最后,将map(doc)函数所产生和结果集返回给CouchDB 。
6.CouchDb将这些实体加入到B +树索引,Key = emit_key + doc_id 。 遍历每一个B +树的叶节点。
7.CouchDB将View Servier所获得的Map()结果集进行"Reduce" 操作。
8.View Server 调用Reduce(key,value)函数。
9.将reduce计算的结果返回给CouchDB
10.CouchDb将更新叶子上的B +树节点,将其指向reduce的值。
11.在此之后, CouchDb移动到父节点的叶子上的B +树节点。 遍历每个B +树父节点, CouchDB将相应reduce子节点的数据发送到View Server,再次进行reduce的操作(rereduce)。
12.View Server再次调用 reduce(key, value)函数。
13.最后, 再将rereduce计算出的结果返回给CouchDB 。
14.CouchDB将更新父B +树节点,将其指向rereduce的值。

CouchDB继续上升一个等 级,并重复计算rereduce结果。 最后,直到更新完根节点的rereduce的结果为止。

 

 

当处理完成后,View Index 看上去就是下面这种样子

 

 

增量视图更新

CouchDB更新view indexes采用懒加载和增量的方式。 也即是说,当文件被更新了,CouchDB不会立即刷新view index,直到下一次查询到来的时候才进行更新。                                               

CouchDB刷新index 采用如下的方式:

  1. CouchDB将遍历存储文件的by_seqnum B +树索引。
  2. CouchDB从最后一次视图查询的结果中抽取出的所有改变的文档,然后从新进行map操作,并取得一个Map结果集合。
  3. CouchDb更新Map结果到B +树索引,一些叶子B +树节点将被更新。
  4. 对于那些已经更新了的叶子B +树节点, CouchDB重新发送Map生成的所有中间结果到View Server 进行Reduce的操作。 然后reduce的结果保存到B +树节点。
  5. 所有涉及到这个叶子B +树节点都需要更新, CouchDB需要再次执行Reduce计算,并且更新相应的父节点。 直到更新完根节点为止。

由于一致的快照的特性,在进行 数据更新操作的过程中,view 查询需要花费较长时间。 查询需要等待索引更新完成后才能看到一致的结果。 还有一个选择(开发中) ,立即返回一个陈旧的副本,这对客户来说是可以容忍的。


补充:

悲观锁(即锁机制)和MVCC对比

上面介绍了悲观锁和MVCC的基本原理,但是对于它们分别适用于什么场合,不同的场合下两种机制优劣具体表现在什么地方还不是很清楚。这里我就对一些典型的应用场景进行简单的分析。需要注意的是下面的分析不针对分布式,悲观锁和MVCC两种机制在分布式系统、单数据库系统、甚至到内存变量各个层次都存在。

### 场景1:对读的响应速度要求高

有一类系统更新特别频繁,并且对读的响应速度要求很高,如股票交易系统。在悲观锁机制下,写会阻塞读,那么当有写操作时,读操作的响应速度就会受到影响;而MVCC不存在读写锁,读操作是不受任何阻塞的,所以读的响应速度会更快更稳定。

### 场景2:读远多于写

对于许多系统来讲,读操作的比例往往远大于写操作,特别是某些海量并发读的系统。在悲观锁机制下,当有写操作占用锁,就会有大量的读操作被阻塞,影响并发性能;而MVCC可以保持比较高且稳定的读并发能力。

### 场景3:写操作冲突频繁

如果系统中写操作的比例很高,且冲突频繁,这时就需要仔细评估。假设两个有冲突的业务L1和L2,它们在单独执行是分别耗时t1,t2。在悲观锁机制下,它们的总时间大约等于串行执行的时间:

T = t1 + t2

而在MVCC下,假设L1在L2之前更新,L2需要retry一次,它们的总时间大约等于L2执行两次的时间(这里假设L2的两次执行耗时相等,更好的情况是,如果第1次能缓存下部分有效结果,第二次执行L2耗时是可能减小的):

T’ = 2 * t2

这时关键是要评估retry的代价,如果retry的代价很低,比如,对某个计数器递增,又或者第二次执行可以比第一次快很多,这时采用MVCC机制就比较适合。反之,如果retry的代价很大,比如,报表统计运算需要算几小时甚至一天那就应该采用锁机制避免retry。

从上面的分析,我们可以简单的得出这样的结论:对读的响应速度和并发性要求比较高的场景适合MVCC;而retry代价越大的场景越适合悲观锁机制。

总结

本文介绍了一种基于多版本并发控制(MVCC)思想的Conditional Update解决分布式系统并发控制问题的方法。和基于悲观锁的方法相比,该方法避免了大粒度和长时间的锁定,能更好地适应对读的响应速度和并发性要求高的场景。

Logo

CSDN联合极客时间,共同打造面向开发者的精品内容学习社区,助力成长!

更多推荐