#op

解读:Hadoop Archive

hdfs并不擅长存储小文件,因为每个文件最少一个block,每个block的元数据都会在NameNode中占用150byte内存。如果存储大量的小文件,它们会吃掉NameNode节点的大量内存。MR案例:小文件处理方案HadoopArchive或者HAR,是一个高效地将小文件放入HDFS块中的文件存档工具。它能将多个小...
代码星球 ·2020-03-30

hadoop2对应的eclipse插件使用

1.eclipse插件安装步骤:a).把插件复制到eclipse安装目录plugins文件夹下b).打开eclipse的Window---Preference---HadoopM/R---指向hadoop-2.2.0安装目录:只要在Windows上将hadoop-2.2.0.tar.gz解压即可c).Window---...

hadoop随手笔记

1.HadoopStreaming是为了方便不太熟悉java用户编写MR程序的工具。用户可以将任何可执行文件(C++)或者脚本(python,ruby)作为Mapper/Reducer,提高了效率。HadoopSteaming要求用户编写的Mapper/Reducer从【标准输入】中读取数据,并将结果写到【标准输出】中...
代码星球 ·2020-03-30

Sqoop相关

1. 常规步骤(安装在一台节点上即可)由于sqoop2配置相对比较麻烦,此次使用的是sqoop1进行演示。上传sqoop-1.4.4.bin_hadoop-2.0.4-alpha.tar.gz文件至/hadoop目录下,解压并重命名为sqoop-1.4.4,配置/etc/profile文件并source刷新。...
代码星球 ·2020-03-29

解读:Hadoop序列化类

序列化(serialization)是指将结构化的对象转化字节流,以便在进程间通信或写入硬盘永久存储。反序列化(deserialization)是指将字节流转回到结构化对象的过程。需要注意的是,能够在网络上传输的只能是字节流。所以,Map的中间结果在不同主机间Shuffle洗牌时,结构化对象将经历序列化(map结果写入...
代码星球 ·2020-03-29

【OpenCV学习】计算两幅图像的重叠区域

问题描述:已知两幅图像Image1和Image2,计算出两幅图像的重叠区域,并在Image1和Image2标识出重叠区域。算法思想:若两幅图像存在重叠区域,则进行图像匹配后,会得到一张完整的全景图,因而可以转换成图像匹配问题。图像匹配问题,可以融合两幅图像,得到全景图,但无法标识出在原图像的重叠区域。将两幅图像都理解为...

【OpenCV】选择ROI区域 (转)

问题描述:在测试目标跟踪算法时,需要选择不同区域作为目标,进行目标跟踪,测试目标跟踪的效果。解决思路:1.OpenCV中提供了鼠标交互控制,利用setMouseCallback()给固定的窗口设置鼠标回调函数。2.在鼠标回调函数中,选择感兴趣区域。代码实现如下,将感兴趣区域封装在MouseSelect类中,提供选择点和...
代码星球 ·2020-03-29

【OpenCV】OpenCV中GPU模块使用 (转)

CUDA基本使用方法在介绍OpenCV中GPU模块使用之前,先回顾下CUDA的一般使用方法,其基本步骤如下:1.主机代码执行;2.传输数据到GPU;3.确定grid,block大小;4.调用内核函数,GPU运行程序;5.传输结果到CPU;6.继续主机代码执行。下图是两个向量相加的简单示例程序和处理流图。注意的问题:cu...
代码星球 ·2020-03-29

redis desktop manager安装及连接方式

1、下载安装包官网下载地址:https://redisdesktop.com/pricing官网下载需要付费使用   再此附上一个免费的破解版本,绿色安全可用链接:https://pan.baidu.com/s/1K5Yd1OQ8nAofCl79Hp8r1A提取码:528k 下载...

linux /dev 常见特殊设备介绍与应用[loop,null,zero,full,random]

linux是文件型系统,所有硬件如软件都会在对于的目录下面有相应的文件表示。对于dev这个目录,我们知道它下面的文件,表示的是linux的设备。在windows系统中,设备大家很好理解,象硬盘,磁盘指的是实实在在硬件。而在文件系统的linux下面,都有对于文件与这些设备关联的。访问它们就可以放到实际硬件,想想还是lin...

FineUIMvc随笔(3)不能忘却的回发(__doPostBack)

 声明:FineUIMvc(基础版)是免费软件,本系列文章适用于基础版。 有网友在官方论坛抛出了这么一个问题,似乎对FineUIMvc中的浏览器端与服务器端的交互方式很有异议。 这里面的关键词就是:回发! 似乎一提到回发(__doPostBack),就让人联想到WebForms中...

error: ‘to_string’ was not declared in this scope

错误:error:‘to_string’wasnotdeclaredinthisscope 原因:to_string是C++11引入的新功能,旧版本编译器可能不支持它,所以要给编译器加上“C++11”编译支持 解决方案:Linux下的GCC编译器:在g...
代码星球 ·2020-03-29

Spring4笔记9--Spring的事务管理(AOP应用的例子)

Spring的事务管理:  事务原本是数据库中的概念,在Dao层。但一般情况下,需要将事务提升到业务层,即Service层。这样做是为了能够使用事务的特性来管理具体的业务。   在Spring中通常可以通过以下三种方式来实现对事务的管理:   (1)使用Spring的事务代理工厂管理事务   (2)使用Spr...

Spring4笔记7--AspectJ 对 AOP 的实现

AspectJ对AOP的实现:  对于AOP这种编程思想,很多框架都进行了实现。Spring就是其中之一,可以完成面向切面编程。然而,AspectJ也实现了AOP的功能,且其实现方式更为简捷,使用更为方便,而且还支持注解式开发。所以,Spring又将AspectJ的对于AOP的实现也引入到了自己的框架中。 在...

Spring4笔记6--Spring与AOP

Spring与AOP:  AOP的引入:    主业务经常需要调用系统级业务(交叉业务),如果在主业务代码中大量的调用系统级业务代码,会使系统级业务与主业务深度耦合在一起,大大影响了主业务逻辑的可读性,降低了代码的可维护性,同时也增加了开发难度。    所以,可以采用动态代理方式。动态代理是OCP开发原则的一个重要体现...
代码星球 ·2020-03-29
首页上一页...302303304305306...下一页尾页