#oop

Js事件循环(Event Loop)机制

EventLoop是计算机系统的一种运行机制,是个很重要的概念。而JavaScript用这种机制来解决单线程运行带来的问题。理解很熟悉将会有利于我们更容易理解vue的异步事件。 1、什么是单线程?单线程在程序执行时,所走的程序路径按照连续顺序排下来,前面的必须处理好,后面的才会执行。简单来说,即同一时间只能做...
代码星球 ·2020-12-25

HTML a标签打开新标签页避免出现安全漏洞,请使用“noopener”

让我们在网站上的新标签页中打开一个网址,html如下<ahref="https://malicious-domain.netlify.com"target="_blank">访问恶意网站!</a>这里我们有一个指向恶意网站的 href 属性,并以 _blank&nb...

Ubuntu 18.04虚拟机中 安装 Hadoop系统环境

修改root用户的初始密码sudopasswd 退出当前用户,使用root登陆系统。关闭防火墙systemctlstopfirewalld.service开机不启动防火墙systemctldisablefirewalld.service查看防火墙状态ufwstatusinactive状态是防火墙关闭状态,ac...

Sqoop简介及使用

一、Sqoop概述1)官网http://sqoop.apache.org/2)场景传统型缺点,分布式存储。把传统型数据库数据迁移。ApacheSqoop(TM)是一种用于在ApacheHadoop和结构化数据存储(如关系数据库)之间高效传输批量数据的工具。二、Sqoop安装部署1)下载安装包2)解压tar-zxvfsq...
代码星球 ·2020-12-18

Hadoop总结

一、linux简介01.Linux简介linux是一种自由和开放源代码的类UNIX操作系统。该操作系统的内核由林纳斯·托瓦兹在1991年10月5日首次发布。,在加上用户空间的应用程序之后,成为Linux操作系统。应用:长时间的运行编写的程序代码,可以安装在各种计算机硬件设备中,如:手机、平板电脑、路由器等...
代码星球 ·2020-12-18

Hadoop优化

1、mr程序的效率瓶颈功能:分布式离线计算计算机性能:CPU、内存、磁盘、网络I/O操作优化(1)数据倾斜(代码优化)(2)map和reduce数设置不合理(3)map运行时间太长,导致reduce等待过久(4)小文件过多(combineTextInputFomrat小文件合并)(5)不可分块的超大文件(不断的溢写)(...
代码星球 ·2020-12-18

Hadoop压缩

一、Hadoop压缩简介1、hadoop的3个阶段(1)分布式文件系统HDFS(2)分布式编程框架MapReduce(3)yarn框架2、Hadoop数据压缩MR操作过程中进行大量数据传输。压缩技术能够有效的减少底层存储(HDFS)读写字节数。压缩提高了网络带宽和磁盘空间的效率。数据压缩能够有效的节省资源!压缩是mr程...
代码星球 ·2020-12-18

模拟hadoop-rpc通信

一、RPC服务类packagecom.css.rpc.server;importjava.io.IOException;importorg.apache.hadoop.HadoopIllegalArgumentException;importorg.apache.hadoop.conf.Configuration;im...
代码星球 ·2020-12-18

500 OOPS: vsftpd: cannot locate user specified in 'chown_username':whoever

错误:500OOPS:vsftpd:cannotlocateuserspecifiedin'chown_username':whoever解决方案:在vsftpd.conf中修改如下两行:#chown_uploads=YES#chown_username=whoever将以上两行的“#”注释符去...

HBase与Sqoop集成案例

Step1、配置sqoop-env.sh如下: Step2、在Mysql中创建一张数据库library,一张表bookCREATEDATABASElibrary;CREATETABLEbook(idint(4)PRIMARYKEYNOTNULLAUTO_INCREMENT,nameVARCHAR(255)NO...
代码星球 ·2020-12-15

sqoop一些常用命令及参数

常用命令列举这里给大家列出来了一部分Sqoop操作时的常用参数,以供参考,需要深入学习的可以参看对应类的源代码。序号命令类说明1importImportTool将数据导入到集群2exportExportTool将集群数据导出3codegenCodeGenTool获取数据库中某张表数据生成Java并打包Jar4creat...

sqoop导出数据|Hive|HDFS和脚本编写

在Sqoop中,“导出”概念指:从大数据集群(HDFS,HIVE,HBASE)向非大数据集群(RDBMS)中传输数据,叫做:导出,即使用export关键字。HIVE/HDFS到RDBMS$bin/sqoopexport--connectjdbc:mysql://hadoop102:3306/company--usern...

sqoop的导入|Hive|Hbase

在Sqoop中“导入”概念指:从非大数据集群(RDBMS)向大数据集群(HDFS,HIVE,HBASE)中传输数据,叫做:导入,即使用import关键字。1RDBMS到HDFS1)确定Mysql服务开启正常2)在Mysql中新建一张表并插入一些数据$mysql-uroot-p000000mysql>created...
代码星球 ·2020-12-15

sqoop安装

安装Sqoop的前提是已经具备Java和Hadoop的环境。(sqoop底层原理还是mapreduce的输入和输出)3.1下载并解压1)下载地址:http://mirrors.hust.edu.cn/apache/sqoop/1.4.6/2)上传安装包sqoop-1.4.6.bin__hadoop-2.0.4-alph...
代码星球 ·2020-12-15

sqoop简介和原理分析

Sqoop是一款开源的工具,主要用于在Hadoop(Hive)与传统的数据库(mysql、postgresql...)间进行数据的传递,可以将一个关系型数据库(例如:MySQL,Oracle,Postgres等)中的数据导进到Hadoop的HDFS中,也可以将HDFS的数据导进到关系型数据库中。Sqoop项目开始于20...
代码星球 ·2020-12-15
首页上一页...910111213...下一页尾页