C/C++教程

003.windows下启动运行spark-spark-shell.cmd

本文主要是介绍003.windows下启动运行spark-spark-shell.cmd,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!

解压文件

D:\bigdata\spark2.1.0\spark-2.1.0-bin-hadoop2.7\bin

创建文件

 

 

spark scala
hadoop scala
scala spark
hive hadoop

 

bin目录下

spark-shell.cmd

 

读文件处理文件

scala> sc.textFile("file:///D:/bigdata/spark2.1.0/spark-2.1.0-bin-hadoop2.7/bin/input/word.txt").flatMap(_.split(" ")).map((_,1)).reduceByKey(_+_).collect
res5: Array[(String, Int)] = Array((scala,3), (hive,1), (spark,1), (hadoop,2), (saprk,1))

 

这篇关于003.windows下启动运行spark-spark-shell.cmd的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!