51
Dev开发社区
首页
文章
问答
工具
搜索
登录
注册
#BASE
HBase与Sqoop集成案例
Step1、配置sqoop-env.sh如下: Step2、在Mysql中创建一张数据库library,一张表bookCREATEDATABASElibrary;CREATETABLEbook(idint(4)PRIMARYKEYNOTNULLAUTO_INCREMENT,nameVARCHAR(255)NO...
代码星球
·
2020-12-15
HBase
Sqoop
集成
案例
HBase与Hive交互操作案例
因为我们后续可能会在操作Hive的同时对HBase也会产生影响,所以Hive需要持有操作HBase的Jar,那么接下来拷贝Hive所依赖的Jar包(或者使用软连接的形式)。$exportHBASE_HOME=/opt/modules/cdh/hbase-0.98.6-cdh5.3.6/$exportHIVE_HOME=...
代码星球
·
2020-12-15
HBase
Hive
交互
操作
案例
Hbase节点的管理|服役和退役节点
Base节点的管理当启动regionserver时,regionserver会向Hmaster注册并开始接收本地数据,开始的时候,新加入的节点不会有任何数据,平衡器开启的情况下,将会有新的region移动到开启的RegionServer上。如果启动和停止进程是使用ssh和HBase脚本,那么会将新添加的节点的主机名加入...
代码星球
·
2020-12-15
节点
Hbase
管理
服役
退役
Hbase Shell
例如:显示服务器状态hbase>status‘hadoop-senior01.itguigu.com’显示HBase当前用户,例如:hbase>whoami显示当前所有的表list统计指定表的记录数,例如:hbase>count'hbase_book'展示表结构信息检查表是否存在,适用于表量特别多的情...
代码星球
·
2020-12-15
Hbase
Shell
BulkLoad加载本地文件到HBase表
将本地数据导入到HBase中BulkLoad会将tsv/csv格式的文件编程hfile文件,然后再进行数据的导入,这样可以避免大量数据导入时造成的集群写入压力过大。1、tsv格式的文件:字段之间以制表符分割2、csv格式的文件:字段之间以逗号,分割减小HBase集群插入数据的压力提高了Job运行的速度,降低了Job执行...
代码星球
·
2020-12-15
BulkLoad
加载
本地
文件
HBase
Hbase的API操作
我这次使用的是linux环境下的eclipse来进行操作的,所以我们先配置linux的maven仓库,当然你也可以在window环境下进行操作然后打成jar包在linux下进行执行。$tar-zxf/opt/softwares/hbase+hadoop_repository.tar.gz-C~/.m2/使用api进行h...
代码星球
·
2020-12-15
Hbase
API
操作
Hbase的读写流程
HRegionServer保存着meta表以及表数据,要访问表数据,首先Client先去访问zookeeper,从zookeeper里面获取meta表所在的位置信息,即找到这个meta表在哪个HRegionServer上保存着。接着Client通过刚才获取到的HRegionServer的IP来访问Meta表所在的HRe...
代码星球
·
2020-12-15
Hbase
读写
流程
Hbase集群类型|集群配置|服务器选型|磁盘容量规划
主要用于开发工作,一台机器上运行所有的守护进程,或者一台机器运行多个虚拟机。一般用于评估和测试。20台机器以内的集群,不同的机器运行不同的守护进程,适用于数据量和处理请求较少的小型生产环境。20到1000台机器集群,3到5个zookeeper节点,适用于成熟的生产环境。1000台机器以上的集群,属于超大规模集群了,适用...
代码星球
·
2020-12-15
集群
Hbase
类型
配置
服务器
HBase自定义MapReduce
在Hadoop阶段,我们编写的MR任务分别进程了Mapper和Reducer两个类,而在HBase中我们需要继承的是TableMapper和TableReducer两个类。目标:将fruit表中的一部分数据,通过MR迁入到fruit_mr表中Step1、构建ReadFruitMapper类,用于读取fruit表中的数据...
代码星球
·
2020-12-15
HBase
自定义
MapReduce
HBase常用操作
1、进入HBase客户端命令操作界面$bin/hbaseshellhbase(main):001:0>helphbase(main):002:0>listhbase(main):003:0>create'student','info'hbase(main):004:0>put'student',...
代码星球
·
2020-12-15
HBase
常用
操作
Hbase的安装和部署
$/opt/modules/cdh/zookeeper-3.4.5-cdh5.3.6/bin/zkServer.shstart$/opt/modules/cdh/hadoop-2.5.0-cdh5.3.6/sbin/start-dfs.sh$/opt/modules/cdh/hadoop-2.5.0-cdh5.3.6/...
代码星球
·
2020-12-15
Hbase
安装
部署
sqoop的导入|Hive|Hbase
在Sqoop中“导入”概念指:从非大数据集群(RDBMS)向大数据集群(HDFS,HIVE,HBASE)中传输数据,叫做:导入,即使用import关键字。1RDBMS到HDFS1)确定Mysql服务开启正常2)在Mysql中新建一张表并插入一些数据$mysql-uroot-p000000mysql>created...
代码星球
·
2020-12-15
sqoop
导入
Hive
Hbase
Hbase概述
一、 HBase的起源HBase的原型是Google的BigTable论文,受到了该论文思想的启发,目前作为Hadoop的子项目来开发维护,用于支持结构化的数据存储。官方网站:http://hbase.apache.org* 2006年Google发表BigTable白皮书* 2006年开...
代码星球
·
2020-12-15
Hbase
概述
解决base64-encoded secret key cannot be null or empty问题
java.lang.IllegalArgumentException:base64-encodedsecretkeycannotbenullorempty.atio.jsonwebtoken.lang.Assert.hasText(Assert.java:135)atio.jsonwebtoken.impl.Defau...
代码星球
·
2020-12-12
解决
base64-encoded
secret
key
cannot
从分布式一致性谈到CAP理论、BASE理论
问题的提出在计算机科学领域,分布式一致性是一个相当重要且被广泛探索与论证问题,首先来看三种业务场景。1、火车站售票假如说我们的终端用户是一位经常坐火车的旅行家,通常他是去车站的售票处购买车票,然后拿着车票去检票口,再坐上火车,开始一段美好的旅行----一切似乎都是那么和谐。想象一下,如果他选择的目的地是杭州,而某一趟开...
代码星球
·
2020-12-09
理论
分布式
一致性
谈到
CAP
首页
上一页
...
52
53
54
55
56
...
下一页
尾页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他