Java教程

2021-2022年寒假学习进度04

本文主要是介绍2021-2022年寒假学习进度04,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!

今天学习了spark运行结构的一些基本知识,同时学习了springboot后端框架的使用

记录今天学到的spark运行结构的知识:

Spark 框架的核心是一个计算引擎,整体来说,它采用了标准 master-slave 的结构。 如下图所示,它展示了一个 Spark 执行时的基本结构。图形中的 Driver 表示 master, 负责管理整个集群中的作业任务调度。图形中的 Executor 则是 slave,负责实际执行任务。

 

 

核心组件:

一.计算层面的两大核心组件:

1.Driver即master:

Spark 驱动器节点,用于执行 Spark 任务中的 main 方法,负责实际代码的执行工作。 Driver 在 Spark 作业执行时主要负责: ➢ 将用户程序转化为作业(job) ➢ 在 Executor 之间调度任务(task) ➢ 跟踪 Executor 的执行情况 ➢ 通过 UI 展示查询运行情况 实际上,我们无法准确地描述 Driver 的定义,因为在整个的编程过程中没有看到任何有关 Driver 的字眼。所以简单理解,所谓的 Driver 就是驱使整个应用运行起来的程序,也称之为 Driver 类。 2.Excutor即slave: Spark Executor 是集群中工作节点(Worker)中的一个 JVM 进程,负责在 Spark 作业 中运行具体任务(Task),任务彼此之间相互独立。Spark 应用启动时,Executor 节点被同 时启动,并且始终伴随着整个 Spark 应用的生命周期而存在。如果有 Executor 节点发生了 故障或崩溃,Spark 应用也可以继续执行,会将出错节点上的任务调度到其他 Executor 节点 上继续运行。 Executor 有两个核心功能: ➢ 负责运行组成 Spark 应用的任务,并将结果返回给驱动器进程 ➢ 它们通过自身的块管理器(Block Manager)为用户程序中要求缓存的 RDD 提供内存 式存储。RDD 是直接缓存在 Executor 进程内的,因此任务可以在运行时充分利用缓存 数据加速运算。 二.资源调度层面的两大组件: master和worker: Spark 集群的独立部署环境中,不需要依赖其他的资源调度框架,自身就实现了资源调 度的功能,所以环境中还有其他两个核心组件:Master 和 Worker,这里的 Master 是一个进 程,主要负责资源的调度和分配,并进行集群的监控等职责,类似于 Yarn 环境中的 RM, 而 Worker 呢,也是进程,一个 Worker 运行在集群中的一台服务器上,由 Master 分配资源对 数据进行并行的处理和计算,类似于 Yarn 环境中 NM。 三. ApplicationMaster就像中间商一样,计算层面调度资源通过ApplicationMaster调取 ApplicationMaster: Hadoop 用户向 YARN 集群提交应用程序时,提交程序中应该包含 ApplicationMaster,用 于向资源调度器申请执行任务的资源容器 Container,运行用户自己的程序任务 job,监控整 个任务的执行,跟踪整个任务的状态,处理任务失败等异常情况。 说的简单点就是,ResourceManager(资源)和 Driver(计算)之间的解耦合靠的就是 ApplicationMaster。 记录springboot学习记录,学习springboot,包含着许多内容,最近接触了shiro,以及lombo即注解,以及对mybatis-plus的使用。 可以感觉到使用springboot相对之前使用的框架更加简便,mybatis-plus可以使用模板生成controller、entity、mapper、service层,层次分明,而且使用注解较少了大量重复性工作。 类似@Setter,@Getter这样的注解方便对get,set方法的编写,对于构造方法等,也有注解简便代码。目前也是在了解各类注解,之后会总结各类注解的用处。对于mybatis-plus的使用还不是太熟练,之后会继续深入学习。
这篇关于2021-2022年寒假学习进度04的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!