大数据学习——scala集合练习

packagecom/***CreatedbyZXon2016/4/5.*/objectListTest{defmain(args:Array[String]){//创建一个Listvallst0=List(1,7,9,8,0,3,5,4,6,2)//将lst0中每个元素乘以10后生成一个新的集合vallst01=lst0.map(_*10)println("lst01"+lst01)vallst1=lst0.map(x=>x*2)//将lst0中的偶数取出来生成一个新的集合vallst02=lst0.filter(_%2==0)println("lst02"+lst02)vallst2=lst0.filter(x=>x%2==0)//将lst0排序后生成一个新的集合//正序vallst03=lst0.sortedprintln("lst03"+lst03)//倒序vallst04=lst0.sorted.reverseprintln("lst04"+lst04)vallst3=lst0.sortedvallst4=lst0.sortBy(x=>x)vallst5=l...

数据学习——scala的wordCount小例子

vallines=List("hellotomhellojerry","hellotomhellokittyhellochina")//方法一:valwc=lines.flatMap(_.split("")).map((_,1)).groupBy(_._1).map(t=>(t._1,t._2.size)).toList.sortBy(_._2).reverse//方法二:valwc2=lines.flatMap(_.split("")).map((_,1)).groupBy(_._1).mapValues(_.size)//方法三:valwc3=lines.flatMap(_.split("")).map((_,1)).groupBy(_._1).mapValues(_.foldLeft(0)(_+_._2))//如果是在spark上://valwc4=lines.flatMap(_.split("")).map((_,1)).reduceByKey(_+_).sortBy(_._2,false).collect ...

数据学习——scala数组

packagecomimportscala.collection.mutable.ArrayBuffer/***CreatedbyAdministratoron2019/4/8.*/objectTestMap{defmain(args:Array[String]){//**定长数组和变长数组*************************************************//数组常用方法valarr=Array(1,2,3,4,5);vala1=arr.map(_*10)vala2=arr.filter(_%2!=0)println(a2.toBuffer)//排序valarr1=Array(1,4,8,3,2,6,9,5)//升序println(arr1.sorted.toBuffer)//降序println(arr1.sorted.reverse.toBuffer)//升序println(arr1.sortWith((x,y)=>x<y).toBuffer)//降序println(arr1.sortWith((x,y)=>x>y).toBuf...
代码星球 代码星球·2021-02-17

数据学习——scala函数与方法

packagecom/***CreatedbyAdministratoron2019/4/8.*/objectTestMap{defttt(f:Int=>Int):Unit={valr=f(10)println(r)}valf0=(x:Int)=>x*xdefm0(x:Int):Int={x*11}defmain(args:Array[String]){//valarr=Array(1,2,3,4,5,6,7,8,9)//valr=arr.map(x=>x*10)//println(r.toBuffer)ttt(f0)ttt(m0_)ttt(m0)//把一个方法的名字传到函数里面,其实就是将方法转换成函数传到方法里边,利用了下划线ttt((x=>m0(x)))ttt(x=>m0(x))}} ...

数据学习——scala入门练习

packagecom/***CreatedbyZXon2015/11/6.*/objectVariableDemo{defmain(args:Array[String]){//1定义变量-----------------------------------------//使用val定义的变量值是不可变的,相当于java里用final修饰的变量vali=1//使用var定义的变量是可变得,在Scala中鼓励使用valvars="hello"//Scala编译器会自动推断变量的类型,必要的时候可以指定类型//变量名在前,类型在后valstr:String="itcast"println(i);println(s);println(str);//2循环-----------------------------------------for(c<-s)println(c);//3Arrayvalarr=Array(1,2,3,4,5,6,7,8,9)for(e<-arr)println(e)for(i<-1to10)println(i)//4高级for循环//每个生成器都可以...

总结学习提高

技术的熟练程度vue.jsangularjsjquery多线程dockerspring组件实现数据库优化数据库设计mysql数据库索引有哪些怎么实现的抽象类和接口uml画图工具jdk1.7和1.8,1.9,,10的区别linux熟练程度算法设计模式大数据技术集合...
代码星球 代码星球·2021-02-17

大数据学习——kettle的简单使用

  1生成随机数保存到本地文件新建转换——输入——生成随机数——输出——文本文件输出——保存到本地文件  2在线预览生成结果  3字段选择   4增加常量    5生成多条数据右键生成随机数——改变开始复制的数量——复制的数量10——确定  6过滤记录   7字段运算  8连接        笛卡尔输出   作业   ...

数据学习——KETTLE入门学习——kettle安装

https://blog.csdn.net/u012637358/article/details/82593492下载的kettle是汉化的改成英文的工具——选项——选择英文  ...

数据学习——scala入门程序

安装scala.msihttps://blog.csdn.net/sinat_32867867/article/details/80305302notepad++objectHelloScala{defmain(args:Array[String]){println("helloscala,iloveyou!")}} ...

数据学习——spark安装

 1下载安装包2上传并解压(不需要修改配置文件) tar-zxvfspark-1.6.2-bin-hadoop2.6.tgzmvspark-1.6.2-bin-hadoop2.6spark 3启动进入spark/bin./spark-shell 计算单词出现次数sc.textFile("/root/words.txt").flatMap(_.split("")).map((_,1)).reduceByKey(_+_).collect 按照单词出现次数降序排列sc.textFile("/root/words.txt").flatMap(_.split("")).map((_,1)).reduceByKey(_+_).sortBy(_._2,false).collect  把计算结果保存sc.textFile("/root/words.txt").flatMap(_.split("")).map((_,1)).reduceByKey(_+_).sortBy(_._2,false).saveAsTextFile("/roo...
代码星球 代码星球·2021-02-17

数据学习——kafka+storm+hdfs整合

1需求kafka,storm,hdfs整合是流式数据常用的一套框架组合,现在根据需求使用代码实现该需求需求:应用所学技术实现,kafka接收随机句子,对接到storm中;使用storm集群统计句子中每个单词重复出现的次数(wordcount),将统计结果存入hdfs中。1pom.xml<?xmlversion="1.0"encoding="UTF-8"?><projectxmlns="http://maven.apache.org/POM/4.0.0"xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"xsi:schemaLocation="http://maven.apache.org/POM/4.0.0http://maven.apache.org/xsd/maven-4.0.0.xsd"><modelVersion>4.0.0</modelVersion><groupId>bigdata</groupId><artifactId>homewor...

数据学习——日志监控告警系统

https://blog.csdn.net/sdksdk0/article/details/73176639...

数据学习——本地安装redis

 下载安装包https://github.com/MicrosoftArchive/redis  下载后解压  运行cmd然后到redis路径运行命令: redis-serverredis.windows.conf   ...

数据学习——Kafka集群部署

1下载安装包 2解压安装包tar-zxvfkafka_2.11-0.9.0.1.tgzmvkafka_2.11-0.9.0.1kafka 3修改配置文件 cpserver.properties server.properties.bak#LicensedtotheApacheSoftwareFoundation(ASF)underoneormore#contributorlicenseagreements.SeetheNOTICEfiledistributedwith#thisworkforadditionalinformationregardingcopyrightownership.#TheASFlicensesthisfiletoYouundertheApacheLicense,Version2.0#(the"License");youmaynotusethisfileexceptincompliancewith#theLicense.YoumayobtainacopyoftheLicenseat##http://www.apache.or...

数据学习——Storm+Kafka+Redis整合

1pom.xml<?xmlversion="1.0"encoding="UTF-8"?><projectxmlns="http://maven.apache.org/POM/4.0.0"xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"xsi:schemaLocation="http://maven.apache.org/POM/4.0.0http://maven.apache.org/xsd/maven-4.0.0.xsd"><modelVersion>4.0.0</modelVersion><groupId>com.cyf</groupId><artifactId>TestStorm</artifactId><version>1.0-SNAPSHOT</version><repositories><repository><id>alimaven</id><...
首页上一页...1617181920...下一页尾页