班級規(guī)模及環(huán)境--熱線:4008699035 手機(jī):15921673576( 微信同號) |
每個(gè)班級的人數(shù)限3到5人,互動授課, 保障效果,小班授課。 |
上間和地點(diǎn) |
上部份地點(diǎn):【上海】同濟(jì)大學(xué)(滬西)/新城金郡商務(wù)樓(11號線白銀路站)【深圳分部】:電影大廈(地鐵一號線大劇院站)/深圳大學(xué)成教院【北京分部】:北京中山學(xué)院/福鑫大樓【南京分部】:金港大廈(和燕路)【武漢分部】:佳源大廈(高新二路)【成都分部】:領(lǐng)館區(qū)1號(中和大道)【沈陽分部】:沈陽理工大學(xué)/六宅臻品【鄭州分部】:鄭州大學(xué)/錦華大廈【石家莊分部】:河北科技大學(xué)/瑞景大廈 最近開間(周末班/連續(xù)班/晚班):2019年1月26日 |
實(shí)驗(yàn)設(shè)備 |
◆小班教學(xué),教學(xué)效果好 ☆注重質(zhì)量☆邊講邊練 ☆合格學(xué)員免費(fèi)推薦工作 ★實(shí)驗(yàn)設(shè)備請點(diǎn)擊這兒查看★ |
質(zhì)量保障 |
1、培訓(xùn)過程中,如有部分內(nèi)容理解不透或消化不好,可免費(fèi)在以后培訓(xùn)班中重聽; 2、培訓(xùn)結(jié)束后,授課老師留給學(xué)員聯(lián)系方式,保障培訓(xùn)效果,免費(fèi)提供課后技術(shù)支持。 3、培訓(xùn)合格學(xué)員可享受免費(fèi)推薦就業(yè)機(jī)會。☆合格學(xué)員免費(fèi)頒發(fā)相關(guān)工程師等資格證書,提升職業(yè)資質(zhì)。專注高端技術(shù)培訓(xùn)15年,端海學(xué)員的能力得到大家的認(rèn)同,受到用人單位的廣泛贊譽(yù),端海的證書受到廣泛認(rèn)可。 |
部份程大綱 |
|
- 培訓(xùn)內(nèi)容
第一部分
1、Spark的架構(gòu)設(shè)計(jì)
1.1 Spark生態(tài)系統(tǒng)剖析
1.2 Spark的架構(gòu)設(shè)計(jì)剖析
1.3 RDD計(jì)算流程解析
1.4 Spark的出色容錯(cuò)機(jī)制
2、Spark編程模型
2.1 RDD
2.2 transformation
2.3 action
2.4 lineage
2.5寬依賴與窄依賴
3、深入Spark內(nèi)核
3.1 Spark集群
3.2 任務(wù)調(diào)度
3.3 DAGScheduler
3.4 TaskScheduler
3.5 Task內(nèi)部揭秘
4、Spark的廣播變量與累加器
4.1 廣播變量的機(jī)制
4.2 廣播變量使用最佳實(shí)踐
4.3 累加器的機(jī)制
4.4 累加器使用的最佳實(shí)踐
5、編寫Spark程序
5.1 程序數(shù)據(jù)的來源:File、HDFS、HBase、S3等
5.2 IDE環(huán)境構(gòu)建
5.3 Maven
5.4 sbt.
5.5 編寫并部署Spark程序的實(shí)例
6、SparkContext解析和數(shù)據(jù)加載以及存儲
6.1 源碼剖析SparkContext
6.2 Scala、Java、Python使用SparkContext
6.4 加載數(shù)據(jù)成為RDD
6.5 把數(shù)據(jù)物化
第二部分
7、深入實(shí)戰(zhàn)RDD
7.1 DAG
7.2 深入實(shí)戰(zhàn)各種Scala RDD Function
7.3 Spark Java RDD Function
7.4 RDD的優(yōu)化問題
8、Shark的原理和使用
8.1 Shark與Hive
8.2 安裝和配置Shark
8.3 使用Shark處理數(shù)據(jù)
8.4 在Spark程序中使用Shark Queries
8.5 SharkServer
8.6 思考Shark架構(gòu)
9、Spark的機(jī)器學(xué)習(xí)
9.1 LinearRegression
9.2 K-Means
9.3 Collaborative Filtering
10、Spark的圖計(jì)算GraphX
10.1 Table Operators
10.2 Graph Operators
10.3 GraphX
11、Spark SQL
11.1 Parquet支持
11.2 DSL
11.3 SQL on RDD
第三部分
12、Spark實(shí)時(shí)流處理
12.1 DStream
12.2 transformation
12.3 checkpoint
12.4 性能優(yōu)化
13、Spark程序的測試
13.1 編寫可測試的Spark程序
13.2 Spark測試框架解析
13.3 Spark測試代碼實(shí)戰(zhàn)
14、Spark的優(yōu)化
14.1 Logs
14.2 并發(fā)
14.3 內(nèi)存
14.4 垃圾回收
14.5 序列化
14.6 安全
15、Spark on Yarn
15.1 Spark on Yarn的架構(gòu)原理
15.2 Spark on Yarn的最佳實(shí)踐
16、JobServer
16.1 JobServer的架構(gòu)設(shè)計(jì)
16.2 JobServer提供的接口
16.3 JobServer最佳實(shí)踐
|