HBaseFusion Insight l HBase Open APISDK Data Farm
HBase在Fusion. Insight中的位置 l HBase作为一个高可靠性、高性能、面向列、可伸缩的分布式数据 库,提供海量数据存储功能,用来解决关系型数据库在处理海量数 据时的局限性。 应用服务层 Open. API/SDK Data. Farm Porter Information Miner REST/SNMP/Syslog Knowledge Farmer Wisdom 系统管理 Plugin API Hadoop Manager HIVE Mapreduce Spark YARN/ Zookeeper 服务治理 Storm Libr. A HDFS/HBase 版权所有© 2018 华为技术有限公司 第 6页 安全管理
Key. Value存储模型 (2) l Key. Value型数据库数据分区方式--按Key值连续范围分区。 Region_01 Region_02 Region_05 Region_06 Region_09 Region_10 Region_03 Region_04 Region_07 Region_08 Region_11 Region_12 Node 1 l Node 2 Node 3 Region_01 Region_05 Region_02 Region_06 Region_03 Region_07 Region_09 Region_04 Region_10 Region_12 Region_11 Region_08 数据按照Row. Key的范围(按Row. Key的字典顺序),划分为一个个的 子区间。每一个子区间都是一个分布式存储的基本单元。 版权所有© 2018 华为技术有限公司 第 10页
Hmaster (1) “Region. A,你到Region. Server 1上 作吧! ” “Region. Server 2挂掉了,其他的 Region. Server去接手他的 作吧!” Region. Server 1 Region. Server 2 版权所有© 2018 华为技术有限公司 Region. Server 3 第 15页
Region (2) Row 001 Row 002 ………. . Row 010 Row 011 Row 012 ………. . Row 020 Row 021 Row 022 ………. . Row 030 Row 031 ………. . 版权所有© 2018 华为技术有限公司 Row 001 Row 002 ………. . Row 010 Region-1 Start. Key, End. Key Row 011 Row 012 ………. . Row 020 Region-2 Start. Key, End. Key Row 021 Row 022 ………. . Row 030 Region-3 Start. Key, End. Key Row 031 ………. . Region-4 Start. Key, End. Key 第 19页
Region (3) META Region l Region分为元数据Region以及用户Region两类。 l Meta Region记录了每一个User Region的路由信息。 l 读写Region数据的路由,包括如下几步: p 找寻Meta Region地址。 p 再由Meta Region找寻User Region地址。 版权所有© 2018 华为技术有限公司 第 20页 Region
Column Family Region /HBase/table /region-1 /region-2 /region-3 /HBase/table /region-1/Column. Family-1 /region-1/Column. Family-2 /region-2/Column. Family-1 /region-2/Column. Family-2 /region-3/Column. Family-1 /region-3/Column. Family-2 HDFS l Column. Family是Region的一个物理存储单元。同一个Region下面的多个 Column. Family,位于不同的路径下面。 l Column. Family信息是表级别的配置。也就是说,同一个表的多个Region,都拥有相 同的Column. Family信息(例如,都有两个Column. Family,且不同Region的同一个 Column. Family配置信息相同)。 版权所有© 2018 华为技术有限公司 第 21页
Compaction (2) Write Mem. Store put Flush HFile HFile Minor Compaction HFile Major Compaction HFile 版权所有© 2018 华为技术有限公司 第 35页 HFile
Open. Scanner Column. Family-1 Mem. Store HFile-11 HFile-12 Region Column. Family-2 Mem. Store HFile-21 HFile-22 l Open. Scanner的过程中,会创建两种不同的Scanner来读取Hfile、 Mem. Store的数据: p HFile对应的Scanner为Store. File. Scanner。 p Mem. Store对应的Scanner为Mem. Store. Scanner。 版权所有© 2018 华为技术有限公司 第 40页
Filter l Filter允许在Scan过程中,设定一定的过 滤条件。符合条件的用户数据才返回。 l 当前包含的一些典型的Filter有: p Row. Filter p Single. Column. Value. Filter p Key. Only. Filter p Filter. List 版权所有© 2018 华为技术有限公司 ü Satisfied Row 第 41页
更多信息 l 下载培训资料: p http: //support. huawei. com/learning/train. Face. Detail. Action? lang=zh&pbi. Path=term 1000025185&course. Id= Node 1000009072 l e. Learning课程: p http: //support. huawei. com/learning/node. Query. Action!load. Train. Project. Info? lang=zh&pbi. Path=term 100002 5185&course. Id=Node 1000009421&nav. Id=MW 000001 l 考试大纲: p l 模拟考试: p l http: //support. huawei. com/learning/Certificate!to. Exam. Outline. Detail? lang=zh&node. Id=Node 1000003516 http: //support. huawei. com/learning/Certificate!to. Sim. Exam. Detail? lang=zh&node. Id=Node 1000004285 认证流程: p http: //support. huawei. com/learning/Navigation. Action!create. Navi#navi[id]=_40 版权所有© 2018 华为技术有限公司 第 52页
- Slides: 54