曙海教学优势
本课程面向企事业项目实际需要,秉承二十一年积累的教学品质,Spark培训――提高云计算大数据速度以项目实现为导向,老师将会与您分享设计的全流程以及工具的综合使用技巧、经验。线上/线下/上门皆可,Spark培训――提高云计算大数据速度专家,课程可定制,热线:4008699035。
大批企业和曙海
建立了良好的合作关系,合作企业30万+。曙海的课程培养了大批受企业欢迎的工程师。曙海的课程在业内有着响亮的知名度。
Spark培训——提高云计算大数据速度
培训内容:
第一部分:
1、Spark的架构设计
1.1 Spark的速度为什么如此的快?
1.2 Spark的架构设计剖析
1.3 RDD计算流程解析
1.4 Spark的出色容错机制
2、实战使用三种语言开发Spark
2.1 Scala简介、为什么Spark会使用Scala作为开发语言?
2.2 在Spark中使用Scala
2.3 使用Java开发Spark程序
2.4 使用Python开发Spark程序
2.5 深入使用Spark Shell
3、快速掌握Scala
3.1 Scala变量声明、操作符、函数的使用实战
3.2 apply方法
3.3 Scal的控制结构和函数
3.4 Scala数组的操作、Map的操作
3.5 Scala中的类
3.6 Scala中对象的使用;
3.7 Scala中的继承
3.8 Scala中的特质
3.9 Scala中集合操作
4、Spark集群的安装和设置
4.1 在一台机器上运行Spark
4.2 在EC2上运行Spark
4.3 在Mesos上部署Spark
4.4 在YARN上部署Spark
4.5 通过SSH在众多机器上部署Spark
4.6 Spark集群设置
5、编写Spark程序
5.1 程序数据的来源:File、HDFS、HBase、S3等
5.2 IDE环境构建
5.3 Maven
5.4 sbt.
5.5 编写并部署Spark程序的实例
第二部分
6、SparkContext解析和数据加载以及存储
6.1 源码剖析SparkContext
6.2 Scala、Java、Python使用SparkContext
6.4 加载数据成为RDD
6.5 把数据物化
7、深入实战RDD
7.1 DAG
7.2 深入实战各种Scala RDD Function
7.3 Spark Java RDD Function
7.4 RDD的优化问题
8、Shark的原理和使用
8.1 Shark与Hive
8.2 安装和配置Shark
8.3 使用Shark处理数据
8.4 在Spark程序中使用Shark Queries
8.5 SharkServer
8.6 思考Shark架构
9、Spark程序的测试
9.1 编写可测试的Spark程序
9.2 Spark测试框架解析
9.3 Spark测试代码实战
10、Spark的优化
10.1 Logs
10.2 并发
10.3 内存
10.4 垃圾回收
10.5 序列化
10.6 安全
第三部分
11、Spark的机器学习
11.1 LinearRegression
11.2 K-Means
11.3 Collaborative Filtering
12、Spark的图计算GraphX
12.1 Table Operators
12.2 Graph Operators
12.3 GraphX
13、Spark SQL
13.1 Parquet支持
13.2 DSL
13.3 SQL on RDD
14、Spark实时流处理
14.1 DStream
14.2 transformation
14.3 checkpoint
14.4 性能优化