第7个主题: Kafka Shell操作实战(全面深入理解Kafka相关命令和具备Kafka的运维能力)(30分钟) 1、 Kafka Shell介绍 2、 Kafka查看日志命令 3、 Kafka主从命令 4、 Kafka监控命令 第8个主题: 编写Kafka程序(深入理解Kafka的APIs并动手实践)(30分钟) 1、 搭建Kafka开发环境 2、 Driver程序开发 3、 Producer程序开发 4、 Consumer程序开发 5、 发布与运行 6、 Kafka APIs全面剖析 7、 Kafka APIs应用场景剖析及案例 8、 Kafka程序监控 9、 Kafka实战案例:Kafka整合实现数据实时数据分析处理设计与分析 第9个主题: Apache Flink流式计算基本概念介绍(介绍Apache Flink流式计算基本概念)(30分钟) 1、 Apache Flink流式计算基本概念 2、 Apache Flink历史与趋势剖析 3、 Apache Flink特性 a) 流和批处理 b) 状态管理 c) 事件时间处理语义 d) 状态的一次一致性保证 4、 Apache Flink应用场景 a) 事件驱动的应用 i. 欺诈识别 ii. 异常检测 iii. 基于规则的警报 iv. 业务流程监控 v. Web应用程序(社交网络) b) 数据分析应用 i. 电信网络的质量监控 ii. 移动应用中的产品更新分析和实验评估 iii. 消费者技术中实时数据的临时分析 iv. 大规模图分析 c) 数据管道应用 i. 电子商务中的实时搜索索引构建 ii. 电子商务中的持续ETL 5、 流应用程序的构建方法 a) Streams i. 有界和无界流 ii. 实时和记录流 b) State i. 多状态基元 ii. 可插拔状态后端 iii. 一次状态一致性 iv. 很大的状态支持 v. 可扩展的应用 c) Time i. 事件时间模式 ii. 水印支持 iii. 后期数据处理 iv. 处理时间模式 6、 流式数据与历史数据仓库的结合计算 7、 状态管理 第10个主题: Apache Flink架构体系(Apache Flink架构体系介绍)(30分钟) 1、 Apache Flink架构体系 2、 Flink ML,Flink的机器学习库 3、 Gelly,Flink的图计算库 4、 实战案例:Flink代码开发案例 第11个主题: Apache Flink集群部署(Apache Flink集群部署)(30分钟) 1、 Apache Flink集群部署说明 2、 Apache Flink集群部署 3、 最佳实践案例:企业最佳实践案例剖析 第12个主题: Apache Flink两种数据集(Apache Flink两种数据集介绍)(30分钟) 1、 无界数据集 2、 有界数据集 3、 Data Types & Serialization 4、 Data Sources 5、 Data Sinks 6、 Iterations 7、 Fault Tolerance 8、 Debugging 9、 Apache Flink编程案例实战 第13个主题: Apache Flink流计算模型项目开发实战(介绍Apache Flink流计算模型项目开发实战)(30分钟) 1、 Apache Flink流计算模型算法剖析 2、 DataStream Transformations 3、 Physical partitioning 4、 Task chaining and resource groups 5、 Windows 6、 Window Assigners 7、 Tumbling Windows 8、 Sliding Windows 9、 Session Windows 10、 Global Windows 11、 Window Functions 12、 Triggers 13、 实战案例:Apache Flink流计算实践案例 第14个主题: Apache Flink API项目开发实战(Apache Flink API项目开发实战)(30分钟) 1、 Apache Flink API说明 2、 分层API的设计 3、 DataSet API 4、 DataStream API a) map b) reduce c) aggregate 5、 Table API 6、 Apache Flink API最佳实践 7、 Apache Flink API开发实战 8、 最佳实践案例:月结算费用实践案例 第15个主题: FlinkDataStream API项目开发实战(Flink DataStream API项目开发实战)(30分钟) 1、 什么是DataStream 2、 Flink DataStream API说明 3、 Flink案例程序 4、 DataStream数据源 5、 DataStream转换函数 6、 DataStream数据存储 7、 DataStream执行参数 8、 DataStreamDebugging 9、 DataStream API项目开发实战 第16个主题: FlinkDataSet API项目开发实战(Flink DataSet API项目开发实战)(30分钟) 1、 什么是DataSet 2、 Flink DataSet API说明 3、 Flink案例程序 4、 DataSet数据源 5、 读取压缩文件 6、 DataSet转换函数 7、 DataSet数据存储 8、 迭代操作 9、 语义注释 10、 广播变量 11、 DataSet执行参数 12、 DataSetDebugging 13、 分布式缓存 14、 将参数传递给函数 15、 DataSet API项目开发实战 第17个主题: FlinkTable API & SQL项目开发实战(Flink DataSet API项目开发实战)(30分钟) 1、 什么是Table API & SQL 2、 Flink Table API & SQL说明 3、 Flink Table API & SQL案例程序 4、 概念和通用API:Table API和SQL的共享概念和API 5、 数据类型及其属性。 6、 Table API或SQL的流的时间属性的配置和更新结果的处理 7、 connector连接到外部系统 8、 可用的连接器和格式,用于向外部系统读取和写入数据 9、 Table API支持的操作和API 10、 SQL支持的操作和语法 11、 Table API和SQL支持的内置函数 12、 SQL客户端 13、 使用Flink SQL并在没有编程的情况下将表程序提交给集群 第18个主题: Flink的性能优化、监控、高可用(Flink的性能优化、监控、高可用)(30分钟) 1、 Flink性能优化 2、 Flink监控 3、 Flink高可用 4、 一致的检查点 5、 高效检查站 6、 端到端精确一次 7、 与集群管理器集成 8、 高可用性设置 9、 应用演进 10、 集群迁移 11、 Flink版本更新 12、 应用扩展 13、 A / B测试和假设情景 14、 暂停和恢复 15、 封存 16、 监控 17、 网页界面 18、 日志 19、 指标 第19个主题: Flink的复杂事件处理(Flink的复杂事件处理)(30分钟) 1、 模式API 2、 个别模式 3、 组合模式 4、 模式组 5、 赛后跳过策略 6、 检测图案 7、 从图案中选择 8、 CEP库中的时间 9、 处理活动时间的延迟 10、 时间背景 11、 例子 第20个主题: Apache Flink机器学习算法剖析实战(Apache Flink ML实战)(30分钟) 1、 Flink ML机器学习应用 2、 Flink ML,Flink的机器学习库 3、 Gelly,Flink的图计算库 4、 StreamGraph 5、 JobGraph 6、 ExecutionGraph 7、 Apache Flink API最佳实践 8、 Apache Flink API开发实战 9、 最佳实践案例:Flink流式计算实践案例 第21个主题: Gelly:Flink Graph API剖析实战(Gelly:Flink Graph API实战)(30分钟) 1、 Flink的Graph API 2、 Flink Graph API 3、 Flink Iterative Graph Processing 4、 Flink Library Methods 5、 Flink Graph Algorithms 6、 Flink Graph Generators 7、 Flink Bipartite Graphs 第22个主题: Apache Flink AI案例演示(Apache Flink AI案例演示)(30分钟) 1、 Flink AI介绍 2、 Flink AI实现原理 3、 Apache Flink AI最佳实践 4、 Apache Flink AI开发经验分享 5、 最佳案例分享:Flink AI实践案例分享 第23个主题: Alink机器学习算法剖析实战(Apache Flink ML实战)(30分钟) 1、 Alink介绍 2、 Alink机器学习库介绍 3、 Alink安装部署 4、 Alink机器学习库算法剖析 5、 Alink机器学习库算法实战 6、 Alink最佳实践 7、 Alink开发实战 8、 最佳实践案例:Alink实践案例分享 |