课程策略
实施方法:讲原理(不玩理论)、讲方法、讲技巧、讲干货;经验分享;教训总结。
目的:原理清晰,打牢地基,保证上层建筑质量。
课程亮点
1、顶级大数据平台公司的资深架构师、最权威Python大会PyCon首席讲师讲授,实战与10年+经验与技巧结合,掌握数据分析与可视化以及在Python中应用的最佳捷径。
2、全真案例,借助案例与数据分析的知识与原理,借助最佳实践,帮助您提高数据爬取、处理分析与可视化能力,从而获取大数据带来的价值。
3、关注业界流行工具包与最佳实践,以实战训练驱动对数据获取、处理、分析与可视化进行理解与运用。
在课程中要逐一解决的问题
爬虫难以编写,执行效率低下
爬虫不够灵活,过于简单,容易被识别,容易出错,自适应差
数据规整耗时耗力,效果不佳
分析方法缺乏,难以快速有效地提取信息与要素
可视化效率低下,无法满足需求
分析可视化架构不够健全,适应性差
课程大纲
课程内容 | 1. 第一单元:Python大数据爬取与处理基础 主题:以爬取某网站数据为例,讲解实际爬虫与数据处理用到的Python核心技巧。 具体内容: 1.从几个爬虫与数据分析的实际案例开始讲起,如何构建一个健壮的大数据爬取、整理、分析与可视化系统 覆盖技术:IO、Http、字符串编码、正则表达式 1.继续上例子,讲解更有效的数据处理与解析
2. 第二单元:Python高级数据爬取与数据清洗实战 主题:进一步提升爬虫稳定性、并发性与分布式扩展能力,并着手数据清洗工作。 具体内容: 1.以实际爬虫为例,改造并发提升稳定性 2.继续之前爬虫的例子,改造并发提升性能 3.进一步改造提升爬虫的分布式能力 4.以实际数据为例,对数据进行规整、清洗与验证
3. 第三单元:Python高级数据分析实战。 主题:通过某网站数据,使用Pandas、SeaBorn进行多维与高阶数据分析 详细内容: - DataFrame数据操作 案例分析:多维度数据的操作与分析。 - IO操作与数据预清洗 案例分析:杂乱数据的加载与预处理。 - 高级数据清洗 案例分析:高级数据清洗 - 数据展示 案例分析:可视化直观的展示客户分布与规律 1. 数据转换与丰富 案例分析:丰富数据内容与格式转换成需要的样子。 2. 高阶数据统计与展示 案例分析:使用高级接口进行快速分析与展示。 3. 多维数据分析 案例分析:使用SeaBorn进行高级统计回归分析。
4. 第四单元:Python时间序列数据分析实战。 主题:通过某网站数据,使用Pandas进行基于时间序列的分析 详细内容: 1. 时间序列的格式 案例分析:基于时间的数据进行统计分析 2. 高级时间格式 案例分析:时间格式的调整与转换 3. 时间块数据分析 案例分析:基于时间块的数据分析。
5. 第五单元:Python可视化扩展实战 主题:通过某网站数据,使用Jupyter、Flask/Django、Grafana、Dash构建可视化服务 详细内容: 1. 以实际网站数据,简单数据可视化与分享服务构建 覆盖技术:使用Jupyter作为数据分享平台 2. 以实际网站数据,构建更加灵活的数据可视化服务 覆盖技术:使用Flask/Django作为数据底层欧宁泰 3. 扩展可视化性能,进一步提升更大数据可视化能力 覆盖技术:使用Grafana作为数据展示平台 4. 扩展可视化能力,增加更多交互性 覆盖技术:使用Dash构建交互式可视化服务
|