Spark深入浅出企业级最佳实践培训课程

课程介绍

 

其他精品课程班: 人机培训 通信培训 AI职场培训 Apollo培训 Twin Builder培训 安全开发培训 公式培训 ABB symphony培训 catia汽车内外饰设计培训 Abaqus复合材料培训 Vue培训 敏捷培训 DevOps培训 AIGC培训 EBMI5培训 CHI培训 Scrum培训 AI培训 SEAi培训 EtherCAT培训 尺寸链培训 3C半导体设备维护和调试培训 FLds模块模拟培训 失效分析培训 sherlock机器视觉培训 CFD流体力学培训 AMESIM电机热培训 AIGC培训培训 机械可靠性培训 ansys模具行业仿真应用培训 HRS培训 Chatgpt培训 数模混合IC设计培训 嵌入式产品测试培训 降噪设计培训 白盒测试培训

 

 

曙海教学优势

　 本课程面向企事业项目实际需要,秉承二十一年积累的教学品质，Spark深入浅出企业级最佳实践培训课程以项目实现为导向,老师将会与您分享设计的全流程以及工具的综合使用技巧、经验。线上/线下/上门皆可,Spark深入浅出企业级最佳实践培训课程专家,课程可定制,热线:4008699035。

　 大批企业和曙海
建立了良好的合作关系,合作企业30万+。曙海的课程培养了大批受企业欢迎的工程师。曙海的课程在业内有着响亮的知名度。

 

精品课程班级列表

•  　　以下就是本次Spark培训内容

  　　第一部分

  　　1、Spark的架构设计

  　　1.1 Spark生态系统剖析

  　　1.2 Spark的架构设计剖析

  　　1.3 RDD计算流程解析

  　　1.4 Spark的出色容错机制

  　　2、Spark编程模型

  　　2.1 RDD

  　　2.2 transformation

  　　2.3 action

  　　2.4 lineage

  　　2.5宽依赖与窄依赖

  　　3、深入Spark内核

  　　3.1 Spark集群

  　　3.2 任务调度

  　　3.3 DAGScheduler

  　　3.4 TaskScheduler

  　　3.5 Task内部揭秘

  　　4、Spark的广播变量与累加器

  　　4.1 广播变量的机制

  　　4.2 广播变量使用最佳实践

  　　4.3 累加器的机制

  　　4.4 累加器使用的最佳实践

  　　5、编写Spark程序

  　　5.1 程序数据的来源：File、HDFS、HBase、S3等

  　　5.2 IDE环境构建

  　　5.3 Maven

  　　5.4 sbt.

  　　5.5 编写并部署Spark程序的实例

  　　6、SparkContext解析和数据加载以及存储

  　　6.1 源码剖析SparkContext

  　　6.2 Scala、Java、Python使用SparkContext

  　　6.4 加载数据成为RDD

  　　6.5 把数据物化

  　　第二部分

  　　7、深入实战RDD

  　　7.1 DAG

  　　7.2 深入实战各种Scala RDD Function

  　　7.3 Spark Java RDD Function

  　　7.4 RDD的优化问题

  　　8、Shark的原理和使用

  　　8.1 Shark与Hive

  　　8.2 安装和配置Shark

  　　8.3 使用Shark处理数据

  　　8.4 在Spark程序中使用Shark Queries

  　　8.5 SharkServer

  　　8.6 思考Shark架构

  　　9、Spark的机器学习

  　　9.1 LinearRegression

  　　9.2 K-Means

  　　9.3 Collaborative Filtering

  　　10、Spark的图计算GraphX

  　　10.1 Table Operators

  　　10.2 Graph Operators

  　　10.3 GraphX

  　　11、Spark SQL

  　　11.1 Parquet支持

  　　11.2 DSL

  　　11.3 SQL on RDD

  　　第三部分

  　　12、Spark实时流处理

  　　12.1 DStream

  　　12.2 transformation

  　　12.3 checkpoint

  　　12.4 性能优化

  　　13、Spark程序的测试

  　　13.1 编写可测试的Spark程序

  　　13.2 Spark测试框架解析

  　　13.3 Spark测试代码实战

  　　14、Spark的优化

  　　14.1 Logs

  　　14.2 并发

  　　14.3 内存

  　　14.4 垃圾回收

  　　14.5 序列化

  　　14.6 安全

  　　15、Spark on Yarn

  　　15.1 Spark on Yarn的架构原理

  　　15.2 Spark on Yarn的最佳实践

  　　16、JobServer

  　　16.1 JobServer的架构设计

  　　16.2 JobServer提供的接口

  　　16.3 JobServer最佳实践

  
  
  

  ---
• 联系曙海客服