您当前的位置: 首页 >  hbase

98 hbase原理

杨林伟 发布时间:2019-08-12 14:06:02 ,浏览量:1

在这里插入图片描述

1.写流程

1、client向hregionserver发送写请求。

2、hregionserver将数据写到hlog(write ahead log)。为了数据的持久化和恢复。

3、hregionserver将数据写到内存(memstore)

4、反馈client写成功。

2.数据flush过程

1、当memstore数据达到阈值(默认是64M),将数据刷到硬盘,将内存中的数据删除,同时删除Hlog中的历史数据。

2、并将数据存储到hdfs中。

3、在hlog中做标记点。

3.数据合并过程

1、当数据块达到4块,hmaster将数据块加载到本地,进行合并

2、当合并的数据超过256M,进行拆分,将拆分后的region分配给不同的hregionserver管理

3、当hregionser宕机后,将hregionserver上的hlog拆分,然后分配给不同的hregionserver加载,修改.META.

4、注意:hlog会同步到hdfs

4.hbase的读流程

1、通过zookeeper和-ROOT- .META.表定位hregionserver。

2、数据从内存和硬盘合并后返回给client

3、数据块会缓存

5.hmaster的职责

1、管理用户对Table的增、删、改、查操作;

2、记录region在哪台Hregion server上

3、在Region Split后,负责新Region的分配;

4、新机器加入时,管理HRegion Server的负载均衡,调整Region分布

5、在HRegion Server宕机后,负责失效HRegion Server 上的Regions迁移。

6.hregionserver的职责

HRegion Server主要负责响应用户I/O请求,向HDFS文件系统中读写数据,是HBASE中最核心的模块。

HRegion Server管理了很多table的分区,也就是region。

7.client职责

HBASE Client使用HBASE的RPC机制与HMaster和RegionServer进行通信 管理类操作:Client与HMaster进行RPC; 数据读写类操作:Client与HRegionServer进行RPC。

关注
打赏
1688896170
查看更多评论

杨林伟

暂无认证

  • 1浏览

    0关注

    3183博文

    0收益

  • 0浏览

    0点赞

    0打赏

    0留言

私信
关注
热门博文
立即登录/注册

微信扫码登录

0.0518s