Flink+ClickHouse 玩转企业级实时大数据开发

Flink发展史&特点&行业应用

Flink发展史

2008：柏林理工大学的一个研究性项目Stratosphere

2014-04：Stratosphere贡献给Apache基金会，成为Apache的孵化项目

2014-12：成为Apache顶级项目

18 Jun 2015：发布0.9版本(第一个稳定版本)

3 Mar 2016：Flink 1.0.0

3 Aug 2016：Flink 1.1.0

30 Jan 2017：Flink 1.2.0；

26 May 2017：Flink 1.3.0；

12 Dec 2017：Flink 1.4.0；

26 May 2018：Flink 1.5.0；

9 Aug 2018：Flink 1.6.0；

30 Nov 2018：Flink 1.7.0；

2019年1月8日，阿里巴巴以9000万欧元收购该公司！

9 Apr 2019：Flink 1.8.0

22 Aug 2019：Flink 1.9.0

11 Feb 2020：Flink 1.10.0

6 Jul 2020：Flink 1.11.0

7 Dec 2020：Flink 1.12.0

Apr 2021：Flink 1.13.0

Flink的特点：

支持Scala和Java API

支持批流一体

同时支持高吞吐、低延迟、高性能

支持事件时间和处理时间语义，基于事件时间语义能够针对无序事件提供精确、一致的结果；基于处理时间语义能够用在具有极低延迟需求用中

支持不同时间语义下的窗口编程

支持有状态计算

支持具有Backpressure功能的持续流模型

提供精确一次（exactly once）的状态一致性保障

Flink在JVM内部实现了自己的内存管理

基于轻量级的分布式快照CheckPoint的容错

支持SavePoint机制，手工触发，适用于升级

支持高可用性配置（无单点失效），与k8s、Yarn、Apache Mesos紧密集成。

提供常见存储系统的连接器：Kafka，Elasticsearch等

提供详细、可自由定制的系统及应用指标（metrics）集合，用于提前定位和响应问题

Flink与业界其他框架的对比

Flink Spark Storm Storm-Trident

处理模型 Native Micro-Batch Native Micro-Batch