重庆分公司,新征程启航

为企业提供网站建设、域名注册、服务器等服务

Hbase体系结构理解-创新互联

1. Hbase的集群架构

创新互联2013年至今,是专业互联网技术服务公司,拥有项目成都网站设计、网站制作网站策划,项目实施与项目整合能力。我们以让每一个梦想脱颖而出为使命,1280元北塔做网站,已为上家服务,为北塔各地企业和个人服务,联系电话:13518219792

  首先hbase是hadoop的一个组件.而hadoop内部有很多的组件,这些组件几乎都依赖于hadoop最核心的两个东西建立起来的,一个是hdfs文件系统,另一个是mapreduce。当然hbase也不例外。

  hbase其实就是一个非关系型的数据库系统,可以将他和关系型数据库mysql类比一下,可能会便于

理解。

Hbase体系结构理解                                                 (此图引用于百度百科)

  Hbase有3种搭建方式:本地模式,伪分布模式和集群模式。那么一般情况下,我们便于学习Hbase的各种特性,只需要搭建伪分布模式即可。伪分布模式和集群模式的区别就是,hbase这个系统的所有守护进程全部运行在一个物理节点上和真正的分布在不同的物理节点之上。

  那么不论是伪分布和集群模式。其集群都包含几个主要的守护进程:HMaster,HRegionserver,zookeeper,以及client。那么我们通过命令行或者JavaApi或其他方式来使用Hbase时,都是通过client向hbase发送命令的。

  简单理解一下各个守护进程的作用:HMaster并不像hdfs中的Namenode那样,维护了整个系统的元数据,负责与client交互以实现对分节点的管理控制等全部统筹功能。Hmaster不负责与client有太多的交互,大部分情况下是由zookeeper来与client通信,然后实现对hbase的使用和管理。同时元数据也是由zookeeper来维护的,包括各个regionserver的地址等等。

  下面是一个简单的总结这两者各自的分工:

  • Zookeeper

  保证任何时候,集群中只有一个running master

  存贮所有Region 的寻址入口

  实时监控Region Server 的状态,将Region server 的上线和下线信息,实时通知给Master

  存储Hbase 的schema,包括有哪些table,每个table 有哪些column family

  • Master可以启动多个HMaster,通过Zookeeper的Master Election机制保证总有一个Master运行

  为Region server 分配region

  负责region server 的负载均衡

  发现失效的region server 并重新分配其上的region

2. Hbase的存储方式和结构

 要讲Hbase的存储方式,我们从两方面来描述,一个是逻辑存储方式和物理的存储方式。(比如mysql中的二维关系表就是关系型数据库的逻辑存储结构,而这些表在硬盘上实际的存储形式便是所谓的物理存储方式)。

   Hbase的逻辑存储方式:

   Hbase体系结构理解  表是稀疏表,所以可以类别mysql的关系表来理解,但是实际上并不是一回事。首先表有行健,列簇,列名,时间簇等几个概念。一个表定义之初,应该给出其表名,列簇信息。一行中,有多个固定的列簇,每个列簇下在插入数据时可以设置任意的列名。由一个行健,一个列簇+列名可以标定一个表中的单元格,而一个单元格中有由时间戳区分不同版本的值。表中的所有信息实际上都是以二进制形式存储的。不像关系表中支持那么多的数据类型。所以如果要用各种数据类型,只能由自己在程序中进行维护。

  Hbase的物理存储方式:

  Hbase的数据其实是由Hmaster进行配置,实际上存在各个Hregionserver中的。一个稀疏表是按行健进行排序和存储。这些表会按行被拆分为多个region存储道不同的regionserver中,一个regionserver中可以存储多region。这些region对应了表中的不同部分的行,而这些行实际也被划分为不同的文件存储,划分方式即是列簇,一个列簇一个文件,所以称之为面向列的数据库。那么这些文件实际上是放在hdfs里的,也就是以block的形式存储在硬盘上的。

  那么表是按rowkey的字典顺序来存储的,简单来说,就是对于rowkey,从左到右,译成ascii码来比大小排序。所以呢由于这个原因,在设计rowkey时,最好不要直接把时间戳这样的数据直接作为rowkey,因为这样会导致新产生的数据由于其时间戳都在一个范围内,导致存储的时候全部拥挤到某一个regionserver中。一般可以在时间戳前面加上散列值,设计成:(散列值:时间戳)这样的形式

另外有需要云服务器可以了解下创新互联cdcxhl.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。


网站名称:Hbase体系结构理解-创新互联
网址分享:http://cqcxhl.com/article/cdcjie.html

其他资讯

在线咨询
服务热线
服务热线:028-86922220
TOP