#hadoop

【Hadoop离线基础总结】Hue的简单介绍和安装部署

目录Hue的简单介绍概述核心功能安装部署下载Hue的压缩包并上传到linux解压编译安装启动启动Hue进程hue与其他框架的集成Hue与Hadoop集成Hue与Hive集成Hue与Impala集成Hue与Mysql集成Hue与oozie集成Hue的简单介绍概述CDHHue官方帮助文档:http://archive.cl...

【Hadoop离线基础总结】Hue与Mysql集成

1.修改hue.ini配置文件这里要去掉#,打开mysql注释,大概在1547行[[[mysql]]]nice_name="MySQLDB"engine=mysqlhost=node03.hadoop.comport=3306user=rootpassword=1234562.启动hue进程,查看Hive是否与Mysq...

【Hadoop离线基础总结】Hue与Impala集成

1.修改hue.ini配置文件[impala]server_host=node03server_port=21050impala_conf_dir=/etc/impala/conf2.启动hue进程,查看Hive是否与Hue集成成功cd/export/servers/hue-3.9.0-cdh5.14.0/build/...

【Hadoop离线基础总结】Hue与Hive集成

目录1.更改hue的配置hue.ini2.启动hive的metastore以及hiveserver2服务3.启动hue进程,查看Hive是否与Hue集成成功1.更改hue的配置hue.inicd/export/servers/hue-3.9.0-cdh5.14.0/desktop/confvimhue.ini不推荐vi...

【Hadoop离线基础总结】Hue与Hadoop集成

目录1.更改所有hadoop节点的core-site.xml配置2.更改所有hadoop节点的hdfs-site.xml3.重启hadoop集群4.停止hue的服务,并继续配置hue.ini启动hue进程,查看hadoop是否与Hue集成成功1.更改所有hadoop节点的core-site.xml配置cd/export...

【Hadoop离线基础总结】impala简单介绍及安装部署

目录impala的简单介绍概述优点缺点impala和Hive的关系impala如何和CDH一起工作impala的架构及查询计划impala/hive/spark对比impala的安装部署安装环境准备下载impala的所有依赖包挂载磁盘上传压缩包并解压制作本地yum源开始安装impala所有节点配置impalaimpal...

【Hadoop离线基础总结】Mac版VMware Fusion虚拟机磁盘挂载

步骤概览1.打开所要挂载磁盘的虚拟机的设置(此时必须关机)2.打开硬盘设置3.添加设备4.选择新硬盘5.设置如下图6.将虚拟机开机,输入df-lh,查看当前虚拟机磁盘7.输入fdisk-l查看所挂载的磁盘8.输入fdisk/dev/sdb,开始格式化磁盘,并创建分区、写入分区9.输入fdisk-l再次查看系统挂载磁盘详...

【Hadoop离线基础总结】流量日志分析网站整体架构模块开发

目录数据仓库设计维度建模概述维度建模的三种模式本项目中数据仓库的设计ETL开发创建ODS层数据表导入ODS层数据生成ODS层明细宽表统计分析开发流量分析受访分析访客visit分析关键路径转化率分析(漏斗模型)级联求和流量日志分析网站整体架构模块的整体步骤为下图关于数据采集模块和数据预处理的开发在【Hadoop离线基础总...

【Hadoop离线基础总结】关键路径转化率分析(漏斗模型)

需求在一条指定的业务流程中,各个步骤的完成人数及相对上一个步骤的百分比模型设计定义好业务流程中的页面标识Step1、/itemStep2、/categoryStep3、/indexStep4、/orderCREATETABLEdw_oute_numbsASSELECT'step1'ASstep,COUNT(DISTIN...

【Hadoop离线基础总结】Hive级联求和

建表CREATETABLEt_salary_detail(usernamestring,monthstring,salaryINT)ROWformatdelimitedFIELDSTERMINATEDBY',';导入数据LOADDATALOCALinpath'/export/servers/hivedatas/clic...

【Hadoop离线基础总结】hive的窗口函数

概述hive中一般求取TopN时就需要用到窗口函数专业窗口函数一般有三个rank()overdenserank()overrow_number()over实例创建一个f_test表拿到以下数据+------------+--------------+-------------+--+|f_test.id|f_test....

【Hadoop离线基础总结】网站流量日志数据分析系统

目录点击流数据模型概述点击流模型网站流量分析网站流量模型分析网站流量来源网站流量多维度细分网站内容及导航分析网站转化及漏斗分析流量常见分析角度和指标分类指标概述指标分类分析角度流量日志分析网站整体架构模块步骤模块开发之数据采集模块开发之数据预处理点击流模型PageViews表点击流模型visit信息表点击流数据模型概述...

【Hadoop离线基础总结】通过Java代码执行Shell命令

需求在实际工作中,总会有些时候需要我们通过java代码通过远程连接去linux服务器上面执行一些shell命令,包括一些集群的状态管理,执行任务,集群的可视化界面操作等等,所以我们可以通过java代码来执行linux服务器的shell命令为了解决上述问题,google公司给提出了对应的解决方案,开源出来了一个jar包叫...

【Hadoop离线基础总结】Sqoop常用命令及参数

目录常用命令常用公用参数公用参数:数据库连接公用参数:import公用参数:export公用参数:hive常用命令&参数从关系表导入——import导出到关系表——exportcodegencreate-hive-tablejobmerge配合【Hadoop离线基础总结】Sqoop数据迁移一起阅读更佳常用命令常...

【Hadoop离线基础总结】Sqoop数据迁移

目录Sqoop介绍概述版本Sqoop安装及使用Sqoop安装Sqoop数据导入导入关系表到Hive已有表中导入关系表到Hive(自动创建Hive表)将关系表子集导入到HDFS中sql语句查找导入到HDFS两种增量导入方式Sqoop的数据导出Sqoop介绍概述Sqoop是Apache开源提供过的一款Hadoop和关系数据...
首页上一页...1112131415...下一页尾页