HBase 简介

HBase是什么

HBase 基于 Google的BigTable论文而来，是一个分布式海量列式非关系型数据库系统，可以提供超大规模数据集的实时随机读写。
接下来，通过一个场景初步认识HBase列存储
如下MySQL存储机制，空值字段浪费存储空间

id	NAME	AGE	SALARY	JOB
1	小明	23		学生
2	小红		10w	律师

如果是列存储的话，可以这么玩......
rowkey：1 name：小明
rowkey：1 age：23
rowkey：1 job：学生
rowkey：2 name ：小红
rowkey：2 salary：10w
rowkey：2 job：律师
....

列存储的优点：
1）减少存储空间占用。
2）支持好多列

HBase的特点

**海量存储：**底层基于HDFS存储海量数据
**列式存储：**HBase表的数据是基于列族进行存储的，一个列族包含若干列
**极易扩展：**底层依赖HDFS，当磁盘空间不足的时候，只需要动态增加DataNode服务节点就可以
**高并发：**支持高并发的读写请求
**稀疏：**稀疏主要是针对HBase列的灵活性，在列族中，你可以指定任意多的列，在列数据为空的情况下，是不会占用存储空间的。
**数据的多版本：**HBase表中的数据可以有多个版本值，默认情况下是根据版本号去区分，版本号就是插入数据的时间戳
**数据类型单一：**所有的数据在HBase中是以字节数组进行存储

HBase的应用

交通方面：船舶GPS信息，每天有上千万左右的数据存储。
金融方面：消费信息、贷款信息、信用卡还款信息等
电商方面：电商网站的交易信息、物流信息、游览信息等
电信方面：通话信息

总结：HBase适合海量明细数据的存储，并且后期需要有很好的查询性能（单表超千万、上亿，且并发要求高）

HBase数据模型

HBase的数据也是以表（有行有列）的形式存储

HBase逻辑架构

HBase物理存储

概念	描述
NameSpace（数据库）	命名空间，类似于关系型数据库的database概念，每个命名空间下有多个表。HBase两个自带的命名空间，分别是hbase和default，hbase中存放的是HBase内置的表，default表是用户默认使用的命名空间。一个表可以自由选择是否有命名空间，如果创建表的时候加上了命名空间后，这个表名字以:作为区分。
Table	类似于关系型数据库的表概念。不同的是，HBase定义表时只需要声明列族即可，数据属性，比如超时时间（TTL），压缩算法（COMPRESSION）等，都在列族的定义中定义，不需要声明具体的列。
Row（一行逻辑数据）	HBase表中的每行数据都由一个RowKey和多个Column（列）组成。一个行包含了多个列，这些列通过列族来分类,行中的数据所属列族只能从该表所定义的列族中选取，不能定义这个表中不存在的列族，否则报错NoSuchColumnFamilyException。
RowKey（每行数据主键）	Rowkey由用户指定的一串不重复的字符串定义，是一行的唯一标识！数据是按照RowKey的字典顺序存储的，并且查询数据时只能根据RowKey进行检索，所以RowKey的设计十分重要。如果使用了之前已经定义的RowKey，那么会将之前的数据更新掉。
Column Family（列族）	列族是多个列的集合。一个列族可以动态地灵活定义多个列。表的相关属性大部分都定义在列族上，同一个表里的不同列族可以有完全不同的属性配置，但是同一个列族内的所有列都会有相同的属性。列族存在的意义是HBase会把相同列族的列尽量放在同一台机器上，所以说，如果想让某几个列被放到一起，你就给他们定义相同的列族。
Column Qualifier（列）	Hbase中的列是可以随意定义的，一个行中的列不限名字、不限数量，只限定列族。因此列必须依赖于列族存在！列的名称前必须带着其所属的列族！例如info：name，info：age
TimeStamp（时间戳→版本）	用于标识数据的不同版本（version）。时间戳默认由系统指定，也可以由用户显式指定。在读取单元格的数据时，版本号可以省略，如果不指定，Hbase默认会获取最后一个版本的数据返回。
Cell	一个列中可以存储多个版本的数据。而每个版本就称为一个单元格（Cell）。
Region（表的分区）	Region由一个表的若干行组成！在Region中行的排序按照行键（rowkey）字典排序。Region不能跨RegionSever，且当数据量大的时候，HBase会拆分Region。

HBase整体架构

Zookeeper

实现了HMaster的高可用
保存了HBase的元数据信息，是所有HBase表的寻址入口
对HMaster和HRegionServer实现了监控

HMaster（Master）

为HRegionServer分配Region
维护整个集群的负载均衡
维护集群的元数据信息
发现失效的Region，并将失效的Region分配到正常的HRegionServer上

HRegionServer（RegionServer）

负责管理Region
接受客户端的读写数据请求
切分在运行过程中变大的Region
Region
每个HRegion由多个Store构成，
每个Store保存一个列族（Columns Family），表有几个列族，则有几个Store，
每个Store由一个MemStore和多个StoreFile组成，MemStore是Store在内存中的内容，写到文件后就是StoreFile。StoreFile底层是以HFile的格式保存。

HBase集群安装部署

（1）下载安装包
http://archive.apache.org/dist/hbase/1.3.1/
hbase-1.3.1-bin.tar.gz
（2）规划安装目录

/opt/test/servers/

（3）上传安装包到服务器
（4）解压安装包到指定的规划目录

tar -zxvf hbase-1.3.1-bin.tar.gz -C /opt/test/servers

（5）修改配置文件
需要把hadoop中的配置core-site.xml 、hdfs-site.xml拷贝到hbase安装目录下的conf文件夹中（建议采用软链接）

ln -s /opt/test/servers/hadoop-2.9.2/etc/hadoop/core-site.xml /opt/test/servers/hbase-1.3.1/conf/core-site.xml
ln -s /opt/test/servers/hadoop-2.9.2/etc/hadoop/hdfs-site.xml /opt/test/servers/hbase-1.3.1/conf/hdfs-site.xml

修改conf目录下配置文件

修改 hbase-env.sh

#添加java环境变量
export JAVA_HOME=/opt/module/jdk1.8.0_231
#指定使用外部的zk集群
export HBASE_MANAGES_ZK=FALSE

修改 hbase-site.xml

<configuration>
  <!-- 指定hbase在HDFS上存储的路径 -->
  <property>
    <name>hbase.rootdir</name>
    <value>hdfs://linux121:9000/hbase</value>
  </property>
  <!-- 指定hbase是分布式的 -->
  <property>
    <name>hbase.cluster.distributed</name>
    <value>true</value>
  </property>
  <!-- 指定zk的地址，多个用“,”分割 -->
  <property>
    <name>hbase.zookeeper.quorum</name>
    <value>linux121:2181,linux122:2181,linux123:2181</value>
  </property>
</configuration>

修改regionservers文件，指定regionserver节点

linux121
linux122
linux123

hbase的conf目录下创建文件backup-masters (Standby Master)

linux122

（6）配置hbase的环境变量（修改/etc/profile）

export HBASE_HOME=/opt/test/servers/hbase-1.3.1
export PATH=$PATH:$HBASE_HOME/bin

（7）分发hbase目录和环境变量到其他节点

rsync-script hbase-1.3.1
rsync-script /etc/profile

（8）让所有节点的hbase环境变量生效
在所有节点执行 source /etc/profile

HBase集群的启动和停止

前提条件：先启动hadoop和zk集群
启动HBase：start-hbase.sh
停止HBase：stop-hbase.sh

HBase集群的web管理界面
启动好HBase集群之后，可以访问地址：HMaster的主机名:16010

HBase shell基本操作

进入Hbase客户端命令操作界面

hbase shell

查看帮助命令

help

查看当前数据库中有哪些表

list

创建一张test表，包含base_info、extra_info两个列族(Hbase建表必须指定列族信息)

create 'test', 'base_info', 'extra_info'

或者

create 'test', {NAME => 'base_info', VERSIONS => '3'},{NAME => 'extra_info',VERSIONS => '3'}

VERSIONS是指此单元格内的数据可以保留最近的3个版本
5. 添加数据操作
向test表中插入信息，row key为rk1，列族base_info中添加name列标示符，值为wang

put 'test', 'rk1', 'base_info:name', 'wang'

向test表中插入信息，row key为rk1，列族base_info中添加age列标示符，值为30

put 'test', 'rk1', 'base_info:age', 30

向test表中插入信息，row key为rk1，列族extra_info中添加address列标示符，值为shanghai

put 'test', 'rk1', 'extra_info:address', 'shanghai'

查询数据
6.1 通过rowkey进行查询

get 'test', 'rk1'

6.2 查看rowkey下面的某个列族的信息
获取test表中row key为rk1，base_info列族的所有信息

get 'test', 'rk1', 'base_info'

6.3 查看rowkey指定列族指定字段的值
获取表中row key为rk1，base_info列族的name、age列标示符的信息

get 'test', 'rk1', 'base_info:name', 'base_info:age'

6.4 查看rowkey指定多个列族的信息
获取test表中row key为rk1，base_info、extra_info列族的信息

get 'test', 'rk1', 'base_info', 'extra_info'

或者

get 'test', 'rk1', {COLUMN => ['base_info', 'extra_info']}

或者

get 'test', 'rk1', {COLUMN => ['base_info:name', 'extra_info:address']}

6.5 指定rowkey与列值查询
获取表中row key为rk1，cell的值为wang的信息

get 'test', 'rk1', {FILTER => "ValueFilter(=, 'binary:wang')"}

6.6 指定rowkey与列值模糊查询
获取表中row key为rk1，列标示符中含有a的信息

get 'test', 'rk1', {FILTER => "(QualifierFilter(=,'substring:a'))"}

6.7 查询所有数据
查询test表中的所有信息

scan 'test'

6.8 列族查询
查询表中列族为 base_info 的信息

scan 'test', {COLUMNS => 'base_info'}

或者

scan 'test', {COLUMNS => 'base_info', RAW => true, VERSIONS => 3}

注：Scan时可以设置是否开启Raw模式，开启Raw模式会返回包括已添加删除标记但是未实际删除的数据
注：VERSIONS指定查询的最大版本数
6.9 指定多个列族与按照数据值模糊查询
查询test表中列族为 base_info 和 extra_info且列标示符中含有a字符的信息

scan 'test', {COLUMNS => ['base_info', 'extra_info'], FILTER => "(QualifierFilter(=,'substring:a'))"}

6.10 rowkey的范围值查询（非常重要）
查询test表中列族为base_info，rk范围是[rk1, rk3)的数据（rowkey底层存储是字典序）
按rowkey顺序存储。

scan 'test', {COLUMNS => 'base_info', STARTROW => 'rk1', ENDROW => 'rk3'}

6.11 指定rowkey模糊查询
查询test表中row key以rk字符开头的

scan 'test',{FILTER=>"PrefixFilter('rk')"}

更新数据
更新操作同插入操作一模一样，只不过有数据就更新，没数据就添加
把test表中rowkey为rk1的base_info列族下的列name修改为liang

put 'test', 'rk1', 'base_info:name', 'liang'

删除数据和表
8.1 指定rowkey以及列名进行删除
删除test表row key为rk1，列标示符为 base_info:name 的数据

delete 'test', 'rk1', 'base_info:name'

8.2 指定rowkey，列名以及时间戳信息进行删除
删除test表row key为rk1，列标示符为base_info:name的数据

delete 'test', 'rk1', 'base_info:name', 1600660619655

8.3 删除列族
删除 base_info 列族

alter 'test', 'delete' => 'base_info'

8.4 清空表数据
删除test表数据

truncate 'test'

8.5 删除表
删除test表（先disable 再drop）

disable 'test'
drop 'test'

如果不进行disable，直接drop会报错
ERROR: Table user is enabled. Disable it first.

菜单

分享

初识HBase

HBase 简介

HBase是什么

HBase的特点

HBase的应用

HBase数据模型

HBase整体架构

HBase集群安装部署

HBase shell基本操作

Kafka源码剖析

RabbitMQ集群与运维

Kafka集群与运维

RabbitMQ源码剖析

Kafka高级特性解析

Kafka架构与实战

微服务架构

Eureka服务注册中⼼

RestTemplate的使用

Spring Cloud综述