Ruby使用GDBM操作DBM数据存储方法实例详解_Ruby

dbm简介

dbm(database manager) 是使用本地文件来存储数据的数据库，基于key -value对数据进行存储、读取，且有些dbm的实现( berkeley db)还支持btree索引。dbm效率相对较高,甚至在某些情况下比关系型数据库系统的速度还更高，因为几乎所有dbm都支持比btree效率要高的hash索引方式。

有多种dbm实现:标准dbm、ndbm( new dbm)、gdbm(gnu dbm)、sdbm( small dbm)、berkeley db等, gdbm是对ndbm的扩展,它支持缓存功能。

dbm数据存储原理

dbm的数据存取基于key-value的hash格式
dbm/ndbm中，key单独存放在一个文件中，key+value存放在另一个文件中。对于gdbm，则是key作为索引数据单独存放在db文件中的一个地方(索引区)，key+value存放在db文件中的另一个地方(数据区)
为了高效率查询，除了key作为索引单独存放外，还额外存放key+value在db文件中的偏移位置以及大小，使得可以直接seek()跳转到指定位置处读取指定大小的数据
删除记录时，只是删除索引区的key，数据区的key+value不方便删除也没必要删除，数据区这段孤儿空间称为保留空间或碎片空间，可以作为空闲空间留待后续复用
gdbm在执行读取操作之后会将数据缓存下来，因此，第一次读取可能速度慢，但是第二次速度将非常快。keys、values等操作的的结果也都会被缓存下来
因为碎片空间可被复用，所以dbm还会记录所有的碎片空间的位置以及大小，gdbm中以链表方式记录之
因删除记录不会释放空间，所以db文件大小不会减小。换句话说，dbm的文件会随着时间的推移不断增大，除非重组dbm，重组时，将根据索引区存在的key找到数据区所有对应的key+value数据，并将它们写入临时文件，最后重命名覆盖原db文件
插入数据时，如果没有碎片空间，默认将插入在尾部，如果中间有碎片空间，则判断待写入数据的大小是否能够插入在碎片空间中
更新数据时，如果更新后的数据变大，且该数据后面没有碎片空间，则直接原地移除并在文件尾部插入更新后的数据，如果有足够的空间存放更新后的数据，则原地更新
dbm只能存储字符串，数值、布尔、对象等都不能直接存储

ruby使用gdbm

ruby中要使用gdbm，它依赖于gdbm扩展库和头文件，所以需先安装：

# sudo yum install gdbm-devel
# windows：
#   ridk exec uname -a确定32位还是64位，
#   然后ridk exec pacman -s mingw-w64-<$arch>-gdbm
sudo apt install libgdbm-dev
gem install gdbm

使用类方法gdbm.new()或者gdbm.open()可打开gdbm来操作db文件。

require 'gdbm'

gdbm = gdbm.new("/tmp/lang.db")
gdbm["perl"] = "perl"
gdbm["shell"] = "shell"
gdbm["php"] = "php"
gdbm.close

查看其文件内容：

$ ls -l /tmp/lang.db
-rw-rw-rw- 1 longshuai longshuai 8192 may 17 21:22 /tmp/lang.db

$ cat /tmp/lang.db
p |...x...l9php...rdshe...}n;iperl...perlperlshellshellphpphp

其中…表示的是乱码部分。

注意其大小为8k，且数据区默认在db文件的尾部，包含了key和value。

从db中检索数据：

gdbm = gdbm.open("/tmp/lang.db")
pp gdbm["perl"]
pp gdbm["php"]
gdbm.close

new()、open()

new()或open()：open()可给定语句块，语句块退出时自动关闭io流，未给定语句块时，open()等价于new()。

new(filename, mode = 0666, flags = nil)
open(filename, mode = 0666, flags = nil)
open(filename, mode = 0666, flags = nil) { |gdbm| ... }

当指定要操作的db文件不存在时，会创建文件，可指定创建文件时的权限。此外，flag参数接受如下值：

### 注意：writer方式可读可写
reader  - 以只读方式打开，即返回一个reader
writer  - 以可读写方式打开，即返回一个writer
wrcreat - writer，如果数据库文件不存在，则创建
newdb   - writer，总是截断覆盖已存在的数据库文件

# 上面的三个writer可使用位或(|)的方式结合下面的选项：
sync   - 以sync模式写入数据库文件
nolock - 打开时不锁定数据库文件

在未给定任何选项时，即默认情况下，总是先尝试以wrcreat的方式打开，即以writer打开且文件不存在时创建。但如果打开失败(比如另一个进程已经打开且还未关闭)，则尝试使用reader方式打开。

reader和reader之间互相兼容，writer和writer之间以及writer和reader之间互斥。所以，在某一时刻，允许同时有多个reader，但只能有一个writer。

当打开gdbm实例后，它可以按照操作hash结构的方式去操作db，此外，gdbm已经mix-in enumerable模块，所以可以直接使用该模块中的一些方法，比如find、grep、map等。

gdbm方法

######### 查询、插入、更新 #########
["key"]
fetch(key [, default]) → value
检索指定的key。
使用`[]`检索时，如果key不存在将返回nil，
使用fetch检索时，如果key不存在则报错，或者返回指定的默认值

values_at(key, ...) → array
检索一个或多个key，并以数组方式返回对应的value

["key"]= value
store(key, value) → value
更新指定的key，如果key不存在则插入

########## 遍历 #########
each_pair { |key, value| block } → gdbm
each_key { |key| block } → gdbm
each_value { |value| block } → gdbm
分别根据key-value、key、value遍历db

######### 其它检索、筛选方式 #########
key(value) → key
根据value找到其key，如果有多个相同的value，返回第一个

keys → array
以数组方式返回db中所有的key

values → array
以数组方式返回所有value

select { |key, value| block } → array
筛选所有满足条件的key-value

######### 判断key或value是否存在 #########
has_key?(k) → true or false
include?(k) → true or false
key?(k) → true or false
member?(k) → true or false
判断key是否存在

has_value?(v) → true or false
value?(v) → true or false
判断指定的value是否存在

######### 删除 #########
delete(key) → value or nil
根据key移除key-value并返回被移除的key-value，db若空，返回nil

shift → (key, value) or nil
移除指定的key-value，并以数组方式返回之，db若空，则返回nil

delete_if { |key, value| block } → gdbm
移除满足条件(语句块返回true)的key-value，直接修改gdbm

reject { |key, value| block } → hash
等价于delete_if，但不修改gdbm，而是以hash的方式返回

reject! { |key, value| block } → gdbm
等价于delete_if，直接修改gdbm

clear → gdbm
清空db中所有key-value

######## 大小判断 #########
empty? → true or false
db是否为空

length → fixnum
size → fixnum
等价，返回db中的key-value数量

####### 其它操作 #########
invert → hash
反转gdbm中key-value：key作为value，value作为key，并以hash的方式返回

close → nil
关闭已打开的db文件

closed? → true or false
判断db文件是否已关闭

replace(other) → gdbm
将另一个gdbm(即other)的内容覆盖替换到当前的gdbm

update(other) → gdbm
用另一个gdbm(即other)合并到当前gdbm，若key冲突，则当前gdbm的key被覆盖

reorganize → gdbm
重组gdbm

cachesize = size → size
设置gdbm内部的hash桶缓存大小

######## gdbm模式 #########
sync → gdbm
将io buffer中的数据刷入磁盘中的db文件，全部写入成功才返回
如果以sync标记打开，则无需sync()

fastmode = boolean → boolean
syncmode = boolean → boolean
打开或关闭sync模式。
sync模式下，写入操作需要写入磁盘db文件成功(或失败)后才返回，
非sync模式下，只需写入io buffer即可返回。
syncmode方法在gdbm >= 1.8才可用，在此版本之前，使用方法fastmode=

######### 转换 #########
to_a → array
to_hash → hash
转换为数组、转换为hash