#ADO

查看hadoop压缩方式

bin/hadoopchecknative 来查看我们编译之后的hadoop支持的各种压缩,如果出现openssl为false,那么就在线安装一下依赖包bin/hadoopchecknativeyuminstallopenssl-devel  ...
代码星球 ·2020-11-26

hadoop的基准测试

实际生产环境当中,hadoop的环境搭建完成之后,第一件事情就是进行压力测试,测试我们的集群的读取和写入速度,测试我们的网络带宽是否足够等一些基准测试测试写入速度向HDFS文件系统中写入数据,10个文件,每个文件10MB,文件存放到/benchmarks/TestDFSIO中hadoopjar/export/serve...
代码星球 ·2020-11-26

redis出现(error) READONLY You can‘t write against a read only slave

redis为只读模式,而进行了写操作,导致了报错.之前服务器设置了主从模式来测试哨兵机制,测试完成后关闭了其他服务,留下的一个服务为slave模式,只读,所以再次使用它进行写操作是导致了报错.解决:如果没有没有进行其他的配置更改,直接重启服务就可以了.更改了其他配置,关闭只读模式即可....

Hadoop2.6.0伪分布环境搭建

用到的软件:一、安装jdk:1、要安装的jdk,我把它拷在了共享文件夹里面。 (用优盘拷也可以)2、我把jdk拷在了用户文件夹下面。(其他地方也可以,不过路径要相应改变)3、执行复制安装解压命令: 解压完毕: 查看解压的文件夹:4、配置环境变量:写入如下5行代码:使配置生效:5、查看安装的...

Firefox浏览器怎么安装adobe flash player插件

https://jingyan.baidu.com/article/0a52e3f435d171bf62ed7237.html有些朋友在使用Firefox火狐浏览器,但是火狐浏览器安装以后是没有flashplayer插件的。那么我们怎么安装flashplayer插件呢,其实方法有很多,这里小编介绍一下Firefox火狐...

hadoop实例---多表关联

多表关联和单表关联类似,它也是通过对原始数据进行一定的处理,从其中挖掘出关心的信息。如下输入的是两个文件,一个代表工厂表,包含工厂名列和地址编号列;另一个代表地址表,包含地址名列和地址编号列。要求从输入数据中找出工厂名和地址名的对应关系,输出工厂名-地址名表样本如下:factory:factorynameaddress...
代码星球 ·2020-10-21

Hadoop Oozie 学习笔记

 Oozie是一个工作流引擎服务器,用于运行HadoopMap/Reduce和Pig任务工作流.同时Oozie还是一个JavaWeb程序,运行在JavaServlet容器中,如Tomcat.    Oozie工作流中拥有多个Action,如HadoopMap/Reuce...
代码星球 ·2020-10-21

Hadoop WritableComparable接口

WritableComparable接口Writable接口大家可能都知道,它是一个实现了序列化协议的序列化对象。在Hadoop中定义一个结构化对象都要实现Writable接口,使得该结构化对象可以序列化为字节流,字节流也可以反序列化为结构化对象。那WritableComparable接口是可序列化并且可比较的接口。M...
代码星球 ·2020-10-21

Hadoop集群运行JNI程序

要在Hadoop集群运行上运行JNI程序,首先要在单机上调试程序直到可以正确运行JNI程序,之后移植到Hadoop集群就是水到渠成的事情。Hadoop运行程序的方式是通过jar包,所以我们需要将所有的class文件打包成jar包。在打包的过程中,无需将动态链接库包含进去。在集群中运行程序之前,Hadoop会首先将jar...

Docker 安装Hadoop HDFS命令行操作

网上拉取Docker模板,使用singlarities/hadoop镜像[root@localhost/]#dockerpullsingularities/hadoop查看:[root@localhost/]#dockerimagelsREPOSITORYTAGIMAGEIDCREATEDSIZEdocker.io/s...

Vivado抓取信号

作者:桂。时间:2018-05-03  21:16:03链接:www.cnblogs.com/xingshansi/p/8987608.html 前言FPGA调试需要抓取特定信号,一个直观的思路是:保存抓取的信号,事后分析/或者导出实测数据,用作后续算法仿真验证。本文简要记录数据的导出及读...
代码星球 ·2020-10-09

notepad++与ISE/Vivado关联

转自:http://www.cnblogs.com/ninghechuan/p/6172237.html 1、notepad++与vivado关联打开vivado软件,选择菜单栏“Tools——>Options…”,在弹出的对话框中,选择General选项卡,如图1所示。拉动右边的滚动条到TextEdi...
代码星球 ·2020-10-09

Hadoop和大数据:60款顶级大数据开源工具

 一、Hadoop相关工具  1.Hadoop  Apache的Hadoop项目已几乎与大数据划上了等号。它不断壮大起来,已成为一个完整的生态系统,众多开源工具面向高度扩展的分布式计算。  支持的操作系统:Windows、Linux和OSX。  相关链接:http://hadoop.apache.org  2.Amba...

Hadoop概念学习系列之Hadoop、Spark学习路线

 1Java基础:   视频方面:     推荐《毕向东JAVA基础视频教程》。学习hadoop不需要过度的深入,java学习到javase,在Java虚拟机的内存管理、以及多线程、线程池、设计模式、并行化多多理解实践即可。&nb...

hadoop入门到实战(10)hive从入门到实战四

8.1Hadoop源码编译支持Snappy压缩8.1.1资源准备1、CentOS联网  配置CentOS能连接外网。Linux虚拟机pingwww.baidu.com是畅通的。  注意:采用root角色编译,减少文件夹权限出现问题。2、jar包准备(hadoop源码、JDK8、m...
代码星球 ·2020-09-19
首页上一页...1112131415...下一页尾页