【大数据面试题】HBase面试题附答案_数据分析

存储核心由memstore和storefile组成。storefile文件数量增长到阈值后会触发compact合并操作，多个storefile合并为一个storefile，合并过程中会进行版本合并和数据删除。当单个storefile达到一定阈值后，会触发split操作，将当前一个regin分为两个regin，父regin下线，新regin由hmaster分配到新reginserver

(6) hlog(wal)

每个hreginserver中有一个hlog，避免hbase意外宕机时，memstore数据丢失。hlog定期删除已经持久化的数据。当hreginserver意外终止后，hmaster通过zookeeper感知到，先处理遗留的hlog，将其中不同regin的log数据拆分，分发到相应的regin目录下，然后再将失效的regin重新分配，领取到这些regin的hreginserver在load regin时发现有历史hlog需要处理，就将其中数据replay到memstore中，然后flush到storefile，完成数据恢复

(7) hdfs

hdfs为hbase提供最终的底层数据存储服务，同时为hbase提供高可用的支持

(8) hbase-client

用来访问hbase集群

4.hbase的读写缓存

读缓存blockcache

写缓存memstore

5.在删除hbase中的一个数据的时候，它是立马就把数据删除掉了吗?

不是，只是将删除操作记录下来，在storefile文件比较多进行合并时，清理过期或者删除的数据。

6.hbase中的二级索引

（1）背景

hbase中只有rowkey作为一级索引，在查询非rowkey数据时，需要通过mr或spark等计算框架，效率特别低，并且特别消耗资源。

（2）原理

建立各列值与行键之间的映射关系。

（3）问题

索引和数据不一致。

7.hbase的regionserver宕机以后怎么恢复的?

(1) hmaster检测到服务器宕机（通过zookeeper）;

(2) hlog切分，一个reginserver只有一个hlog，因此要将hlog按照regin进行切分，完成后regin连同对应的hlog被hmaster分往新的reginserver;

(3) 被分配了新的regin的reginserver根据hlog进行丢失数据的恢复，恢复完成后继续对外服务。

8.hbase的一个region由哪些东西组成?

有一个或多个store，每个store存放一个列簇；

每个store由一个memstore和0个或多个storefile组成。

9.hbase高可用怎么实现的?

数据复制：数据能够在不同的reginserver之间进行复制；

zookeeper：用于检测和管理各个节点的状态，并触发相应的操作；

regionserver自动恢复：出现故障后，上面的数据会被hmaster发到其他reginserver。

10.为什么hbase适合写多读少业务?

hbase存储引擎使用lsm树实现

写的时候先将数据存在内存中，达到阈值后再顺序写到磁盘上，避免了随机写；
读的时候，hbase只有rowkey索引，并且很难命中内存中数据，需要访问较多磁盘。

11.列式数据库的适用场景和优势?

适用场景：

a. 查询过程中，可针对各列的运算并发执行，在内存中聚合完整记录集，降低查询响应时间

b. 因为各列独立存储，且数据类型已知，可以针对该列的数据类型、数据量大小等因素动态选择压缩算法，以提高物理存储利用率

优势：

a. 列存模式下，只需要读取参与计算的列即可，极大的减低了io花费

b. 同一列中的数据属于同一类型，压缩效果显著

适合olap系统

12.hbase的rowkey设计原则

（1）长度

rowkey是一个二进制码流，太长浪费磁盘，并且memstore中存储数据量也少建议10~100长度，最佳为16，因为64位操作系统内存8字节对齐，为8的整数倍最佳；

（2）散列原则

将rowkey高位字段作为散列字段，避免热点数据集中在一个reginserver上；

（3）唯一原则

rowkey 是按照字典顺序排序存储的，因此可以将经常读到的数据放在一起。

13.hbase的rowkey为什么要唯一?

因为hbase是k-v存储，重复的话旧数据会被新数据覆盖

14.hbase的大合并、小合并是什么?

小合并(minor compaction)

合并相邻的storefile为一个较大的storefile

大合并（major compartion）

将所有storefile合并为一个storefile，伴随着数据的删除清理

15.hbase和关系型数据库(传统数据库)的区别(优点)?

(1)数据类型

hbase只有字符串存储，传统的关系型数据有着丰富的存储类型

(2)数据的操作

hbase只有表内数据的操作，没有表之间的关联

(3)存储方式

hbase是列式存储

(4)数据维护

hbase的修改和删除不是马上执行，操作后并不是第一时间内生效

(5)可伸缩性

hbase能够很容易的增加/减少节点

16.hbase为什么随机查询很快?

(1)只需要遍历相关regin

(2)只需要遍历相关列簇

(3)先内存再磁盘

(4)根据key遍历

17.hbase的get和scan的区别和联系?

区别：

a. get根据rowkey获取唯一值；

b. scan按照指定的条件和顺序扫描表中的多行数据；

c. get操作在内部对数据进行缓存，因此适用于对特定行的频繁读取。而scan操作不会缓存数据，适用于一次性读取大量数据或按顺序遍历数据。

联系：

a. get和scan都可以使用过滤器（filters）进行数据过滤，以便按照特定条件筛选所需的数据；

b. get和scan都可以选择返回的列族和列限定符，以获取特定的列数据。

18.hbase数据compact流程

(1) 触发

(2) 选择合并目标

(3) 合并：对选中的storefile进行归并排序，并进行合并，合并同时处理文件版本，时间戳等信息

(4) 清理：合并完成后，原有storefile会废弃，hbase会将其删除，并释放相应空间

(5) 更新元数据：compaction完成后，hbase会更新相应的元数据信息

19.memstore flush条件

memstore达到阈值，所在regin都会flush

达到memstore的4倍（默认），停止写入memstore

reginserver中memstore总大小达到阈值，全体flush
达到时间阈值，触发flush
wal文件数量超过阈值，regin整体flush

20.既然hbase底层数据是存储在hdfs上，为什么不直接使用hdfs，而还要用hbase

hdfs更多的功能是大文件的存储，创建/删除文件，管理权限，对大文件的数据读取/追加。但是如果要对所存储的数据做修改/删除/插入/随机写，hdfs就做不到了
hbase是基于hdfs进行超大数据集的分布式存储以及对数据的增删改查

21.hbase和phoenix的区别

phoenix是hbase的开源sql中间层，允许使用jdbc方式操作hbase上的数据
hbase创建的表phoenix看不到，phoenix创建的表hbase能看到
phoenix具备二级索引
phoenix支持表之间的join操作

22.hbase支持sql操作吗

不直接支持传统sql语句，使用自身api实现操作数据

23.hbase表设计

列簇设计在合理范围内能尽量少的减少列簇就尽量减少列簇数据保留的版本数数据保留时间
rowkey设计预分区

主要解决热点问题，避免数据吞吐量过大时单个regin负载过大

rowkey长度不宜过大
唯一性原则

24.region分配

任何时刻，一个regin只能分给一个reginserver
master记录了有哪些可用的reginserver，以及当前有哪些regin分配给了哪些reginserver。当需要分配新的regin，并且一个reginserver有空间时，master则会向reginserver发送装载请求，reginserver开始提供服务。

25.hbase的region切分

（1）prepare阶段

在内存中初始化两个hregininfo对象，包含tablename，reginname，startkey，endkey以及transaction journal用来记录切分的进展。

（2）execute阶段

a. regionserver 更改zk节点 /region-in-transition 中该region的状态为spliting

b. master通过watch节点/region-in-transition检测到region状态改变，并修改内存中region的状态

c. 在父存储目录下新建临时文件夹.split保存split后的daughter region信息

d. 关闭parent regin（会触发flush操作，确保数据全部落盘）

e. 核心分裂步骤：在.split文件夹下新建两个子文件夹，称之为daughter a、daughter b，并在文件夹中生成reference文件，分别指向父region中对应文件

f. 父region分裂为两个子region后，将daughter a、daughter b拷贝到hbase根目录下，形成两个新的region

g. parent region通知修改 hbase.meta 表后下线，不再提供服务

h. 开启daughter a、daughter b两个子region。通知修改 hbase.meta 表，正式对外提供服务

(3)rollback阶段

如果execute阶段出现异常，则执行rollback操作

26.介绍下hbase中的lsm树

（1）设计思想

将对数据的修改增量保持在内存中，达到指定的大小限制后将这些修改操作批量写入磁盘，不过读取的时候稍微麻烦，需要合并磁盘中历史数据和内存中最近修改操作，所以写入性能大大提升，读取时可能需要先看是否命中内存，否则需要访问较多的磁盘文件。极端的来说，基于lsm树实现的hbase的写性能比mysql高了一个数量级，读性能低了一个数量级。

本质是将写入操作全部转化成磁盘的顺序写入，极大地提高了写入操作的性能。

（2）数据写

a. 数据首先会插入到内存中的树，为了防止数据丢失，写内存的同时需要暂时持久化到磁盘(wal)，即输入数据时数据会以完全有序的形式先存储在日志文件中（对应hbase的memstore和hlog）。当日志文件被修改时，对应的更新会被先保存在内存中来加速查询。

b. 当内存中树的数据大小达到阈值时，会进行合并操作。合并操作会从左至右遍历内存中的叶子节点与磁盘中树的叶子节点进行合并，当合并的数据量达到磁盘的存储页的大小时，会将合并的数据持久化到磁盘。同时更新父亲节点对叶子节点的指针。

27.hbase写数据流程

a. client先访问zookeeper，获取hbase:meta表位于哪个regionserver

b. 访问对应的regionserver，获取hbase:meta表中数据，查询要写入数据region所在regionserver

c. 访问regionserver，发送写请求

d. reginserver将数据顺序写入（追加）到hlog（wal）

e. 将数据写入对应的memstore，数据会在memstore进行排序

f. 向客户端发送ack

g. 等达到memstore的刷写时机后，将数据刷写到hfile

28.hbase读数据流程

a. client先访问zookeeper，获取hbase:meta表位于哪个region server

b. 访问对应的region server，获取hbase:meta表，根据读请求的namespace:table/rowkey，查询出目标数据位于哪个region server中的哪个region中。并将该table的region信息以及meta表的位置信息缓存在客户端的meta cache，方便下次访问

c. 与目标regionserver进行通讯

d. 分别在memstore、block cache和store file（hfile）中查询目标数据，并将查到的所有数据进行合并。此处所有数据是指同一条数据的不同版本（time stamp）或者不同的类型（put/delete）

e. 将查询到的新的数据块（block，hfile数据存储单元，默认大小为64kb）缓存到block cache

f. 将合并后的最终结果返回给客户端

29.hbase优化

（1）预分区

每一个region维护着startrow与endrowkey，如果加入的数据符合某个region维护的rowkey范围，则该数据交给这个region维护。那么依照这个原则，我们可以将数据所要投放的分区提前大致的规划好，以提高hbase性能

（2）rowkey设计

生成随机数、hash、散列值；

字符串反转；

字符串拼接。

（3）内存优化

适合就好，过大的话虽然性能高，但是gc时候时间特别长。

（4）设置rpc监听数量

默认值为30，用于指定rpc监听的数量，可以根据客户端的请求数进行调整，读写请求较多时，增加此值。

（rpc监听是指region compact后的监听器，当一个region没有被写入新数据，并且仅存在较少的数量的旧数据时，hbase会自动压缩该region。在这种情况下，hbase将触发rck监听器，以便通知相关进程可以将该region从内存中卸载，以释放更多的资源。通过这种方式，rck监听器可以帮助保持hbase集群的高性能和稳定性。）

（5）手动控制major compaction

默认值：604800000秒（7天）， major compaction的周期，若关闭自动major compaction，可将其设为0

（6）优化hstore文件大小

默认值10737418240（10gb），如果需要运行hbase的mr任务，可以减小此值，因为一个region对应一个map任务，如果单个region过大，会导致map任务执行时间过长。该值的意思就是，如果hfile的大小达到这个数值，则这个region会被切分为两个hfile

（7）优化hbase客户端缓存

默认值2097152bytes（2m）用于指定hbase客户端缓存，增大该值可以减少rpc调用次数，但是会消耗更多内存，反之则反之。一般我们需要设定一定的缓存大小，以达到减少rpc次数的目的

（8）指定scan.next扫描hbase所获取的行数

用于指定scan.next方法获取的默认行数，值越大，消耗内存越大

（9）blockcache占用regionserver堆内存的比例默认0.4，读请求比较多的情况下，可适当调大

（10）memstore占用regionserver堆内存的比例默认0.4，写请求较多的情况下，可适当调大

【大数据面试题】HBase面试题附答案

2024年08月02日 • 数据分析 •我要评论

1.介绍下hbase

2.hbase优缺点

3.介绍下的hbase的架构