Java教程

7.Spark SQL

本文主要是介绍7.Spark SQL,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!

1.请分析SparkSQL出现的原因,并简述SparkSQL的起源与发展。

  Shark提供了类似于Hive的功能,与Hive不同的是,Shark把SQL语句转换成Spark作业,而不是MAPreduce作业。为了实现Hive的兼容,Shark重用了Hive中的Hive SQL解析、逻辑执行计划翻译、执行计划优化等逻辑。可以近似的认为,Sark仅仅将物理执行计划从Map Reduce作业替换成了Spark作业,也就是通过Hive的HiveSQL解析功能,把Hive SQL翻译成Spark上的RDD操作。Shark的出现,使得SQL-on-Hadoop的性能比Hive有了10~100倍的提高。

2.简述RDD 和DataFrame的联系与区别?

  Rdd是分布式的Java对象的集合,但是,对象内部的结构对于RDD来说是不可知的。Data Frame是一种以RDD为基础的分布式数据集,提供详细的结构信息,就相当于关系数据库的一张表。

3.DataFrame的创建

  spark.read.text(url)

  spark.read.json(url) 

  spark.read.format("text").load("people.txt")

  spark.read.format("json").load("people.json")

  描述从不同文件类型生成DataFrame的区别。

  用相同的txt或json文件,同时创建RDD,比较RDD与DataFrame的区别

  区别:RDD是直接输出对象,DataFrame是以对象里面的的详细结构进行输出

4.PySpark-DataFrame各种常用操作

  4.1基于df的操作

    打印数据 df.show()默认打印前20条数据

    打印概要 df.printSchema()

    查询总行数 df.count()

    df.head(3) #list类型,list中每个元素是Row类

    输出全部行 df.collect() #list类型,list中每个元素是Row类

    查询概况 df.describe().show()

    取列 的三种方式 df[‘name’], df.name, df[1]

  4.2基于spark.sql的操作:

    创建临时表虚拟表 df.registerTempTable('people')

    spark.sql执行SQL语句 spark.sql('select name from people').show()

这篇关于7.Spark SQL的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!