#HD

centos7操作SSH/SSHD服务(查看/启动/重启/自启)

查看状态:systemctlstatussshd.service启动服务:systemctlstartsshd.service重启服务:systemctlrestartsshd.service开机自启:systemctlenablesshd.service...

HDFS 手写mapreduce单词计数框架

一、数据处理类packagecom.css.hdfs;importjava.io.BufferedReader;importjava.io.IOException;importjava.io.InputStreamReader;importjava.net.URI;importjava.net.URISyntaxExc...

HDFS基本操作的API

一、从hdfs下载文件到windows本地:packagecom.css.hdfs01;importjava.io.IOException;importjava.net.URI;importjava.net.URISyntaxException;importorg.apache.hadoop.conf.Configur...
代码星球 ·2020-12-18

HDFS基本命令行操作及上传文件的简单API

一、HDFS基本命令行操作:1.HDFS集群修改SecondaryNameNode位置到hd09-2(1)修改hdfs-site.xml<configuration>//配置元数据存储位置<property><name>dfs.namenode.name.dir</name&g...

HDFS分布式集群安装

HDFS集群安装:1.准备工作虚拟机(电脑8G内存磁盘500GB)3台linux系统(1台namenode2台datanode)(1)关闭防火墙firewall-cmd--state查看防火墙状态systemctlstopfirewalld.service关闭防火墙systemctldisablefirewalld.s...
代码星球 ·2020-12-18

HDFS集群启动start-dfs.sh报错

[root@mastersbin]#start-dfs.shStartingnamenodeson[master]master:Error:JAVA_HOMEisnotsetandcouldnotbefound.Theauthenticityofhost'localhost(::1)'can'tbeestablishe...

HDFS集群安装

DFS集群安装:1.准备工作(1)虚拟机(电脑8G磁盘500GB)(2)3台linux系统(1台namenode2台datanode)2.安装HDFS(软件)(1)关闭防火墙firewall-cmd--state查看防火墙状态systemctlstopfirewalld.service关闭防火墙systemctldis...
代码星球 ·2020-12-18

sqoop导出数据|Hive|HDFS和脚本编写

在Sqoop中,“导出”概念指:从大数据集群(HDFS,HIVE,HBASE)向非大数据集群(RDBMS)中传输数据,叫做:导出,即使用export关键字。HIVE/HDFS到RDBMS$bin/sqoopexport--connectjdbc:mysql://hadoop102:3306/company--usern...

Layui_Tree模块遍历HDFS

注:转载请署名一、实体packagecom.ebd.application.common.Base;importjava.util.List;publicclassHDFSDir{privateStringid;//自定idprivateStringpid;//父IDprivateStringname;//当前目录名称...

Sqoop_mysql,hive,hdfs导入导出操作

前言:搭建环境,这里使用cdh版hadoop+hive+sqoop+mysql下载hadoop-2.5.0-cdh5.3.6.tar.gz  hive-0.13.1-cdh5.3.6.tar.gz  sqoop-1.4.5-cdh5.3.6.tar.gz配置Hadoop  *.env(3个)--jdk_Path  co...

Hadoop_HDFS HA 及解决方案

1.HDFS系统架构HDFS(HadoopDistributedFileSystem),及Hadoop分布式文件系统作用:为Hadoop分布式计算框架提供高性能,高可靠,高可扩展的存储服务架构:典型的主(NameNode)从(DataNode)架构,两者一对多的关系,一个节点对应一个DataNode,NameNode是...
代码星球 ·2020-12-07

Spark启动报错|java.io.FileNotFoundException: File does not exist: hdfs://hadoop101:9000/directory

atorg.apache.spark.deploy.history.FsHistoryProvider.<init>(FsHistoryProvider.scala:156)atorg.apache.spark.deploy.history.FsHistoryProvider.<init>(Fs...

HDFS在web端无法访问文件

解决办法1:[root@djt002hadoop]#vi/etc/selinux/config  改为 SELINUX=disabled解决办法2:  查看你的$HADOOP_HOME/etc/hadoop下的core-site.xml和hdfs-site.xml是否配置好解决办法3:  必须在hadoop-...
首页上一页...56789...下一页尾页