#ARK

spark sql 的metastore 对接 postgresql

本教程记录spark1.3.1版本的thriftserver的metastore对接postgresql postgresql的编译,参考:http://www.cnblogs.com/chenfool/p/4530925.html 一启动postgresql服务1首先需要将postgresql的l...

spark sql 对接 HDFS

上一篇博客我向大家介绍了如何快速地搭建sparkrunonstandalone,下面我将介绍saprksql如何对接hdfs 我们知道,在sparkshell中操作hdfs上的数据是很方便的,但是操作也未免过于繁琐,幸好spark还想用户提供另外两种操作sparksql的方式一spark-sql启动方式也比较...
代码星球 ·2020-04-05

部署spark 1.3.1 standalong模式

之前已经写过很多次部署spark的博客,但是之前部署都是照瓢画葫芦,不得其中的细节,并且以前都是部署sparkonyarn 部署环境scala2.10.2,jdk1.6,spark版本1.3.1下载地址:https://spark.apache.org/downloads.html两台ubuntu14.04x...

Spark 学习(三) maven 编译spark 源码

spark源码编译scala版本2.11.4os:ubuntu 14.0464位memery3Gspark:1.1.0下载源码后解压1准备环境,安装jdk和scala,具体参考:http://www.cnblogs.com/chenfool/p/3858930.html2编译其实spark官网上说得挺详细的,...

spark 1.1.0 单机与yarn部署

环境:ubuntu14.04,jdk1.6,scala2.11.4,spark1.1.0,hadoop2.5.1 一spark单机模式部分操作参考:http://www.cnblogs.com/chenfool/p/3858930.html,我之前写的spark1.0.1部署1安装scala,具体操作参考我之...

Spark 学习(二)

继续学习spark认真查看了一下${SPARK_HOME}/bin/pyspark的脚本,原来开启spark的python交互挺简单的。主要操作exportPYTHONPATH=${SPARK_HOME}/python/:${SPARK_HOME}/python/lib/py4j-0.8.1-src.zip;expor...
代码星球 ·2020-04-05

Spark 学习

环境:Ubuntu12.04,JDK1.6,scala 2.11.1,spark1.0.1,hadoop1.2.1一安装jdk这里不细说了,自行google吧。二安装scalascala官网:http://www.scala-lang.org/index.html,download下来解压tar-zxvf/m...
代码星球 ·2020-04-05

RestTemplate的一个请求过程,mark一下

   来看下RestTemplate中默认的的ResponseErrorHandler: packageorg.springframework.web.client;importjava.io.IOException;importjava.nio.charset.Charset;...

写Markdown费事?Typora让你像写word一样行云流水,所见即所得。

简介Typora删除了预览窗口,以及所有其他不必要的干扰。取而代之的是实时预览。Markdown的语法因不同的解析器或编辑器而异,Typora使用的是GitHubFlavoredMarkdown。下载Typora下载。常用快捷键加粗: Ctrl/Cmd+B标题: Ctrl/Cmd+H插入链接:&nb...

Markdown 语法整理大集合2017

简明教程:https://ouweiya.gitbooks.io/markdown/1.标题代码注:#后面保持空格#h1##h2###h3####h4#####h5######h6#######h7//错误代码########h8//错误代码#########h9//错误代码##########h10//错误代码演示h...

Mysql一个表编码的坑,mark一下

问题:一个sql执行很慢,5分钟左右,关键是最大的表是5万出头,另一张表不到5000原因:是两个表的字符集不同,导致匹配时,没有匹配到解决办法:将两个表的字符集改成一样具体的命令:ALTERTABLEtodo_listCONVERTTOCHARACTERSETutf8mb4COLLATEutf8mb4_unicode_...

Typora--Draw Diagrams With Markdown

 TyporaTyporasupportssomeMarkdownextensionfordiagrams,youcouldenablethisfeaturefrompreferencepanel.WhenexportingasHTML,PDF,epub,docx,thoserendereddiagramsw...

推荐几个公众号Markdown格式化网站

好多人都喜欢用Markdown写文但是公众号后台编辑又不支持Markdown因此,催生出了一系列Markdown渲染格式化的工具网站我使用了其中的一些分享给你官方网址:https://md.aclickall.com/Md2All是用的比较多的一个。它的特点就是功能丰富、可玩性强。内置多种样式主要是标题样式有所不同多种...

使用WireShark分析使用RedisTemplate取不到值的问题

现象:使用JavaRedis客户端将数据存放到Redis后,使用redisTemplate却不出来原因:JavaRedis客户端在将数据存放在Redis时,会对Key,Value,Field进行编码。从Redis中取数据时,如果Key、Field的编码和存放时不一样,就会取不出来。就像中文乱码一样,同样的中文字符串,存...

wireshark 实用过滤表达式(针对ip、协议、端口、长度和内容)

首先说几个最常用的关键字,“eq”和“==”等同,可以使用“and”表示并且,“or”表示或者。“!"和"not”都表示取反。  一、针对wireshark最常用的自然是针对IP地址的过滤。其中有几种...
首页上一页...3031323334...下一页尾页