Ubuntu18.10 编译libevent出现错误： creating symbolic link XXXXXX : Operation not supported
今天在VirtualBox虚拟机下的Ubuntu18.10编译libevent源代码时，按照github中使用cmake方式：$mkdirbuild&&cdbuild$cmake…#DefaulttoUnixMakefiles.$make$makeverify#(optional)$makeinstal...
Uva_11361 Investigating Div-Sum Property
题目链接题意： 在[A,B]区间内找出满足条件的数有多少个。 条件：这个数本身能够整除K，且各位数字之和能够整除K。 思路： 数据范围过大2^31 2^31= 2147483648~2*10^10 各位数字之和不会超过2+9*9=83，所以当K>=83...
Hdu 1053 Entropy
TimeLimit:2000/1000MS(Java/Others) MemoryLimit:65536/32768K(Java/Others)TotalSubmission(s):4171 AcceptedSubmission...
Hadoop错误日志
1.错误日志：Directory/tmp/hadoop-root/dfs/nameisinaninconsistentstate:storagedirectorydoesnotexistorisnotaccessible.错误原因：在Linux下Hadoop等的各种数据默认保存在/tmp目录下。当重启系统后/tmp目录...
Hadoop新增和删除节点
1.安装lunix,和以前一样的版本2.初始化系统环境 2.1.设置静态ipvi/etc/sysconfig/network-scripts/ifcfg-eth0//增加#AdvancedMicroDevices[AMD]79c970[PCnet32LANCE]DEVICE=eth0#BOOTPROTO=dhcp#ad...
Hadoop集群搭建
注意：apache提供的hadoop-2.2.0的安装包是在32位操作系统编译的，因为hadoop依赖一些C++的本地库，所以如果在64位的操作上安装hadoop-2.2.0就需要重新在64操作系统上重新编译1.修改Linux主机名2.修改IP3.修改主机名和IP的映射关系######注意######如果是租用的服务器...
Hadoop运维手记
1.处理hadoop的namenode宕机 处理措施：进入hadoop的bin目录，重启namenode服务 操作命令：cdpath/to/hadoop/bin ./hadoop-daemon.shstartnamenode2.处理hadoop的jobtacker宕机 处理措施：进入hadoop的bin目录，重...
Hadoop性能调优
1.Jvm重用JVM重用不是指同一Job的两个或两个以上的Task同时运行于同一JVM上，而是N个Task按顺序在同一个Jvm上运行，即省去了Jvm关闭和再重启的时间。N值可以在Hadoop的mapre-site.xml文件mapreduce.job.jvm.numtasks(默认1)属性进行设置。也可在hive的执行...
Hadoop资源调度器
hadoop调度器的作用是将系统中空闲的资源按一定策略分配给作业。调度器是一个可插拔的模块，用户可以根据自己的实际应用要求设计调度器。Hadoop中常见的调度器有三种，分别为：1.基于队列的FIFO(先进先出) hadoop默认的资源调度器。优点：简单明了。缺点：忽略了不同作业的需求差异。2.计算能力调度器Capac...
解读：hadoop压缩格式
Hadoop中用得比较多的4种压缩格式：lzo，gzip，snappy，bzip2。它们的优缺点和应用场景如下：1).gzip压缩优点：压缩率比较高，而且压缩/解压速度也比较快；hadoop本身支持，在应用中处理gzip格式的文件就和直接处理文本一样；有hadoopnative库；大部分linux系统都自带gzip命令...
解读：Hadoop Archive
hdfs并不擅长存储小文件，因为每个文件最少一个block，每个block的元数据都会在NameNode中占用150byte内存。如果存储大量的小文件，它们会吃掉NameNode节点的大量内存。MR案例：小文件处理方案HadoopArchive或者HAR，是一个高效地将小文件放入HDFS块中的文件存档工具。它能将多个小...
hadoop随手笔记
1.HadoopStreaming是为了方便不太熟悉java用户编写MR程序的工具。用户可以将任何可执行文件（C++）或者脚本(python，ruby)作为Mapper/Reducer,提高了效率。HadoopSteaming要求用户编写的Mapper/Reducer从【标准输入】中读取数据，并将结果写到【标准输出】中...