Spark與Storm系列大數(shù)據(jù)處理技術應用實戰(zhàn)培訓課程
|
| |
 班級規(guī)模及環(huán)境--熱線:4008699035 手機:15921673576( 微信同號) |
|
每期人數(shù)限3到5人。 |
| 上課時間和地點 |
上課地點：【上海】：同濟大學(滬西)/新城金郡商務樓(11號線白銀路站) 【深圳分部】：電影大廈(地鐵一號線大劇院站)/深圳大學成教院 【北京分部】：北京中山學院/福鑫大樓 【南京分部】：金港大廈(和燕路) 【武漢分部】：佳源大廈（高新二路） 【成都分部】：領館區(qū)1號（中和大道） 【沈陽分部】：沈陽理工大學/六宅臻品 【鄭州分部】：鄭州大學/錦華大廈 【石家莊分部】：河北科技大學/瑞景大廈 【廣州分部】：廣糧大廈 【西安分部】：協(xié)同大廈
最近開課時間(周末班/連續(xù)班/晚班）：2020年6月15日 |
| 實驗設備 |
☆資深工程師授課
☆注重質量
☆邊講邊練
☆合格學員免費推薦工作
★實驗設備請點擊這兒查看★ |
| 質量保障 |
1、培訓過程中，如有部分內容理解不透或消化不好，可免費在以后培訓班中重聽；
2、培訓結束后,授課老師留給學員聯(lián)系方式,保障培訓效果,免費提供課后技術支持。
3、培訓合格學員可享受免費推薦就業(yè)機會。 |
課程大綱 |
一、課程背景概述
大數(shù)據(jù)平臺技術已經(jīng)給新興互聯(lián)網(wǎng)企業(yè)（如電子商務網(wǎng)站、搜索引擎、社交網(wǎng)站、互聯(lián)網(wǎng)廣告服務提供商等）、銀行金融證券企業(yè)、電信運營商行業(yè)、高端裝備制造企業(yè)、IT基礎設施提供商等帶來了巨大的商業(yè)機遇，大數(shù)據(jù)平臺在整個企業(yè)的價值增值鏈中發(fā)揮著至關重要的決定性作用。互聯(lián)網(wǎng)+大數(shù)據(jù)時代的到來，一方面為企業(yè)帶來了潛在的巨大發(fā)展機遇，能有效推動企業(yè)的信息化轉型升級和科學決策分析；另一方面由于企業(yè)缺乏大數(shù)據(jù)技術專業(yè)人才和大數(shù)據(jù)平臺建設實施經(jīng)驗，對企業(yè)實行大數(shù)據(jù)發(fā)展戰(zhàn)略也帶來了較大的挑戰(zhàn)。本次課程帶大家領略大數(shù)據(jù)技術的魅力和廣闊前景，系統(tǒng)地講解大數(shù)據(jù)處理技術的產(chǎn)生背景、發(fā)展歷程、主流平臺、核心組件、關鍵技術、平臺架構、大數(shù)據(jù)解決方案以及大數(shù)據(jù)應用案例集錦。結合業(yè)界使用最廣泛的主流大數(shù)據(jù)平臺技術，重點剖析Hadoop + Spark + Storm大數(shù)據(jù)處理技術生態(tài)圈，包括大數(shù)據(jù)存儲管理、分布式并行計算處理、實時內存計算處理、流式數(shù)據(jù)處理技術、大型NoSQL與NewSQL數(shù)據(jù)庫、分布式數(shù)據(jù)檢索與搜索處理技術（ElasticSearch）、大型數(shù)據(jù)倉庫平臺、大數(shù)據(jù)分析挖掘處理平臺，以及這些大數(shù)據(jù)技術的平臺部署運維與開發(fā)實踐應用技巧。通過本次課程培訓讓學員掌握主流的Hadoop與Spark大數(shù)據(jù)平臺技術架構、大數(shù)據(jù)項目實施的關鍵技術，培訓過程中穿插著已經(jīng)落地的成功大數(shù)據(jù)項目實施應用案例，分享大數(shù)據(jù)應用項目解決方案咨詢服務，讓學員掌握如何構建可行的大數(shù)據(jù)平臺技術解決方案。本次培訓緊密結合行業(yè)市場需求和國際國內最新技術發(fā)展趨勢與潮流，為促進企業(yè)實施大數(shù)據(jù)戰(zhàn)略，實現(xiàn)大數(shù)據(jù)的商業(yè)價值提供一種可行的方案思路，共同擁抱“云-網(wǎng)-端”以及“互聯(lián)網(wǎng)+大數(shù)據(jù)”時代的光明前景！
二、授課人群
1. 大數(shù)據(jù)平臺技術架構師
2. 大數(shù)據(jù)項目應用開發(fā)人員
3. 大數(shù)據(jù)平臺集群運維人員
4. 大數(shù)據(jù)項目解決方案工程師
5. 大數(shù)據(jù)應用業(yè)務人員
三、課程目標
1. 本課程讓學員充分掌握大數(shù)據(jù)處理平臺（Hadoop、Spark、Storm）技術架構、以及平臺的安裝部署、運維配置、應用開發(fā)實戰(zhàn)技能，熟悉國內外主流的大數(shù)據(jù)處理解決方案、以及大數(shù)據(jù)應用案例
2. 本課程強調主流的大數(shù)據(jù)關鍵技術及其在不同行業(yè)中企業(yè)的實際應用，立足于實際的行業(yè)應用需求，旨在讓企業(yè)學員能夠掌握大數(shù)據(jù)平臺技術及應用如何落地，以及基于大數(shù)據(jù)平臺的應用程序開發(fā)，以及大數(shù)據(jù)集群的運維技術，讓學員掌握業(yè)界主流的大數(shù)據(jù)平臺的應用和部署，并且結合當前（移動）互聯(lián)網(wǎng)環(huán)境下產(chǎn)生的大規(guī)模結構化與非結構化數(shù)據(jù)管理以及分析處理需求，詳細講解有機地集成大數(shù)據(jù)平臺各個功能組件（大數(shù)據(jù)收集、大數(shù)據(jù)存儲、大數(shù)據(jù)管理、大數(shù)據(jù)挖掘、大數(shù)據(jù)分析和大數(shù)據(jù)可視化組件）設計大數(shù)據(jù)項目，并分享大數(shù)據(jù)項目應用實施案例。
3. 讓學員掌握主流大數(shù)據(jù)Hadoop平臺和Spark實時處理平臺的技術架構和實際應用，并用結合實際的生產(chǎn)系統(tǒng)案例進行教學，講解利用Hadoop+Spark對行業(yè)大數(shù)據(jù)進行存儲管理和分析挖掘的技術應用，掌握基于Hadoop大數(shù)據(jù)平臺的數(shù)據(jù)挖掘和數(shù)據(jù)倉庫分布式系統(tǒng)平臺應用，以及主流的大數(shù)據(jù)平臺產(chǎn)品剖析。
4. 讓學員掌握業(yè)界最流行Hadoop與Spark大數(shù)據(jù)平臺，深入講解Hadoop生態(tài)系統(tǒng)組件，包括Storm，HDFS，MapReduce，HIVE，HBase，Spark，GraphX，MLib，Shark， ElasticSearch等大數(shù)據(jù)存儲管理、分布式數(shù)據(jù)庫、大型數(shù)據(jù)倉庫、大數(shù)據(jù)查詢與搜索、大數(shù)據(jù)分析挖掘與分布式處理技術的實踐應用。
5. 本課程采用技術原理與項目實戰(zhàn)相結合的方式進行教學，在講授原理的過程中，穿插實際的系統(tǒng)操作，本課程講師也精心準備的實際的應用案例供學員動手訓練。
四、培訓特色
定制授課+ 案例分析講解 + 互動交流討論，共2天
五、培訓大綱
時間 授課內容 課堂演示/實踐說明
第1天 1. 大數(shù)據(jù)技術的發(fā)展歷程和應用背景、大數(shù)據(jù)產(chǎn)業(yè)鏈概況，以及大數(shù)據(jù)技術在通信運營商、互聯(lián)網(wǎng)金融業(yè)、網(wǎng)上銀行、電子商務、零售業(yè)、制造業(yè)、電子政務、移動互聯(lián)網(wǎng)、教育信息化等行業(yè)中的應用實踐；
2. 解析目前業(yè)界主流的標準化大數(shù)據(jù)平臺Hadoop + Spark平臺架構，重點講解它們在大數(shù)據(jù)存儲、管理、分析處理方面的應用方案，以及在大數(shù)據(jù)離線分析、近線分析、實時在線分析處理方面的優(yōu)化組合方案及其優(yōu)勢；
3. Hadoop大數(shù)據(jù)平臺的生態(tài)系統(tǒng)組件、平臺架構以及工作原理
4. Hadoop大數(shù)據(jù)存儲系統(tǒng)HDFS的技術原理及應用實戰(zhàn)，HDFS分布式存儲系統(tǒng)的核心關鍵技術、設計精髓、基本工作原理、系統(tǒng)架構、文件存儲模式、工作機制、存儲擴容與吞吐性能擴展。
5. 大數(shù)據(jù)平臺中的并行計算處理與函數(shù)式編程技術原理，以及數(shù)據(jù)并行技術—MapReduce技術的工作機制、工作原理、性能調優(yōu)和大數(shù)據(jù)處理架構，以及MapReduce技術的發(fā)展趨勢
6. Hadoop MapReduce并行處理平臺的系統(tǒng)架構、核心功能模塊、MapReduce編程應用開發(fā)實踐、MapReduce程序Debug調試與任務調度技術
7. 第二代大數(shù)據(jù)計算框架Yarn的工作原理以及DAG并行執(zhí)行機制、MapReduce應用開發(fā)環(huán)境的部署，以及大數(shù)據(jù)并行處理應用程序開發(fā)
8. MapReduce高級編程技巧與性能優(yōu)化實踐、MapReduce與Yarn項目案例實踐
9. 常見的Hadoop平臺故障錯誤分析策略以及監(jiān)控工具詳解，云文件存儲系統(tǒng)狀態(tài)以及海量作業(yè)執(zhí)行狀態(tài)監(jiān)控與故障解決經(jīng)驗介紹 1. VMware虛擬機管理軟件的安裝部署，以及創(chuàng)建、啟動、遷移、熱備虛擬機操作
2. VMware環(huán)境下部署配置CentOS虛擬機集群模擬真實的物理集群
3. 在CentOS虛擬集群上部署Hadoop平臺以及配置操作
4. 基于HDFS實現(xiàn)大規(guī)模在線文件存儲程序
5. 基于Hadoop MapReduce實現(xiàn)網(wǎng)頁數(shù)據(jù)統(tǒng)計程序
第1天 10. 目前業(yè)界行業(yè)云數(shù)據(jù)中心的大規(guī)模非結構化數(shù)據(jù)管理技術實現(xiàn)與平臺應用，以及SQL、NoSQL和NewSQL關鍵技術詳解，系統(tǒng)平臺技術及應用實踐
11. Hadoop半結構化與非結構化大數(shù)據(jù)管理系統(tǒng)HBase集群的應用及其發(fā)展趨勢，HBase半結構化大數(shù)據(jù)管理集群管理、運維監(jiān)控、性能優(yōu)化、負載均衡，以及與Hadoop核心組件HDFS和MapReduce的數(shù)據(jù)協(xié)同操作應用
12. 大型數(shù)據(jù)倉庫HIVE集群的技術原理及應用，Hive文件與記錄存儲格式、Hive與HBase數(shù)據(jù)庫整合、Hive大數(shù)據(jù)統(tǒng)計分析技術、Hive功能操作實踐，以及云計算數(shù)據(jù)中心的Hive大型數(shù)據(jù)倉庫集群在BAT公司和通信運營商中的案例分析，以及HBase和數(shù)據(jù)倉庫HIVE的框架整合技術及其應用
13. Spark大數(shù)據(jù)實時處理平臺的技術原理、集群架構及其在大型互聯(lián)網(wǎng)公司和運營商企業(yè)中的應用實踐案例
14. Spark內存實時處理平臺架構，Spark分布式實時處理框架及工作原理
15. Spark集群的平臺架構及其生態(tài)系統(tǒng)組件剖析，SparkSQL和Spark Streaming應用技巧 6. 部署HBase大數(shù)據(jù)管理系統(tǒng)，配置、參數(shù)調優(yōu)、性能監(jiān)控， HBase數(shù)據(jù)表操作，以及項目應用開發(fā)實踐
7. 配置部署HIVE數(shù)據(jù)倉庫集群，以及性能調優(yōu)實戰(zhàn)
8. 基于給定的實驗數(shù)據(jù)集加載至HIVE以及HBase中，并且根據(jù)實驗要求設計實現(xiàn)應用程序
9. 部署和配置Spark分布式集群?
第2天 16. 基于Spark集群的GraphX圖處理技術剖析以及應用實踐
17. 基于Spark集群的MLib和MLBase實時機器學習平臺技術剖析及其應用實踐
18. Spark集群的安裝部署、開發(fā)環(huán)境搭建，以及根據(jù)實驗數(shù)據(jù)集完成數(shù)據(jù)的加載、查詢檢索和分析統(tǒng)計程序的設計實現(xiàn)，以及和HBase+Hadoop的數(shù)據(jù)對接
19. 基于Hadoop+Mahout大數(shù)據(jù)分析挖掘處理平臺技術架構，以及大數(shù)據(jù)挖掘在互聯(lián)網(wǎng)電商和電信行業(yè)中的應用案例分析
20. Mahout大數(shù)據(jù)協(xié)同過濾分析、頻繁模式挖掘分析、聚類分析、分類分析、推薦分析的應用程序開發(fā)實現(xiàn)
21. ElasticSearch分布式搜索引擎的平臺架構設計、關鍵技術和核心組件剖析
22. ElasticSeach集群的分布式安裝部署與運維配置，以及與Hadoop平臺集成技術應用實踐
23. 流式大數(shù)據(jù)處理技術的基礎知識以及應用介紹
24. Storm流式大數(shù)據(jù)處理平臺的技術原理、平臺架構以及核心組件剖析
25. Storm集群的安裝部署、開發(fā)環(huán)境部署、程序開發(fā)及其實際應用案例分析
26. Storm日志分析項目的應用實踐
27. VMware虛擬化集群管理軟件，以及Hadoop + HBase + ElasticSearch + HIVE + Storm + Spark的大數(shù)據(jù)平臺集成解決方案的應用實踐案例分享
28. 基于真實的互聯(lián)網(wǎng)數(shù)據(jù)和實驗指導手冊在講師的引導下完成實際的項目案例，鞏固學過的大數(shù)據(jù)平臺技術知識以及應用技能 10. 部署配置Storm集群，以及開發(fā)環(huán)境
11. 基于Storm處理平臺實現(xiàn)日志流分析系統(tǒng)設計
12. 結合云計算與大數(shù)據(jù)平臺實現(xiàn)一個真實的互聯(lián)網(wǎng)行業(yè)數(shù)據(jù)搜索系統(tǒng)，以及搜索日志分析與推薦系統(tǒng)應用案例，構建一個Hadoop, MapReduce, Storm, HBase, HIVE, Spark, ElasticSearch, Mahout的大數(shù)據(jù)平臺集成解決方案 |
|
|
|
|
|
|
|
 合作伙伴與授權機構 |
Altera全球合作培訓機構
|
諾基亞Symbian公司授權培訓中心 |
Atmel公司全球戰(zhàn)略合作伙伴
|
微軟全球嵌入式培訓合作伙伴 |
英國ARM公司授權培訓中心 |
ARM工具關鍵合作單位 |
|
|
|
| 我們培訓過的企業(yè)客戶評價： |
端海的andriod 系統(tǒng)與應用培訓完全符合了我公司的要求，達到了我公司培訓的目的。
特別值得一提的是授課講師針對我們公司的開發(fā)的項目專門提供了一些很好程序的源代碼， 基本滿足了我們的項目要求。
——上海貝爾，李工
端海培訓DSP2000的老師，上課思路清晰，口齒清楚，由淺入深，重點突出，培訓效果是不錯的，
達到了我們想要的效果，希望繼續(xù)合作下去。
——中國電子科技集團技術部主任 馬工
端海的FPGA 培訓很好地填補了高校FPGA培訓空白，不錯。總之，有利于學生的發(fā)展，
有利于教師的發(fā)展，有利于課程的發(fā)展，有利于社會的發(fā)展。
——上海電子學院，馮老師
端海給我們公司提供的Dsp6000培訓，符合我們項目的開發(fā)要求，解決了很多困惑我
們很久的問題，與端海的合作非常愉快。
——公安部第三研究所，項目部負責人李先生
MTK培訓-我在網(wǎng)上找了很久，就是找不到。在端海居然有MTK驅動的培訓，老師經(jīng)驗
很豐富，知識面很廣。下一個還想培訓IPHONE蘋果手機。跟他們合作很愉快，老師很有人情味，態(tài)度很和藹。
——臺灣雙揚科技，研發(fā)處經(jīng)理，楊先生
端海對我們公司的iPhone培訓，實驗項目很多，確實學到了東西。受益無窮
啊！特別是對于那種正在開發(fā)項目的，確實是物超所值。
——臺灣歐澤科技,張工
通過參加Symbian培訓，再做Symbian相關的項目感覺更加得心應手了，理
論加實踐的授課方式，很有針對性，非常的適合我們。學完之后，很輕松的就完成了我們的項目。
——IBM公司，沈經(jīng)理
有端海這樣的DSP開發(fā)培訓單位，是教育行業(yè)的財富，聽了他們的課，茅塞頓開。
——上海醫(yī)療器械高等學校，羅老師
|
| 我們最新培訓過的企業(yè)客戶以及培訓的主要內容： |
| |
一汽海馬汽車 DSP培訓
蘇州金屬研究院 DSP培訓
南京南瑞集團技術 FPGA培訓
西安愛生技術集團 FPGA培訓，DSP培訓
成都熊谷加世電氣 DSP培訓
福斯賽諾分析儀器（蘇州） FPGA培訓
南京國電工程 FPGA培訓
北京環(huán)境特性研究所 達芬奇培訓
中國科學院微系統(tǒng)與信息技術研究所 FPGA高級培訓
重慶網(wǎng)視只能流技術開發(fā) 達芬奇培訓
無錫力芯微電子股份 IC電磁兼容
河北科學院研究所 FPGA培訓
上海微小衛(wèi)星工程中心 DSP培訓
廣州航天航空 POWERPC培訓
桂林航天工學院 DSP培訓
江蘇五維電子科技 達芬奇培訓
無錫步進電機自動控制技術 DSP培訓
江門市安利電源工程 DSP培訓
長江力偉股份 CADENCE 培訓
愛普生科技（無錫 ） 數(shù)字模擬電路
河南平高 電氣 DSP培訓
中國航天員科研訓練中心 A/D仿真
常州易控汽車電子 WINDOWS驅動培訓
南通大學 DSP培訓
上海集成電路研發(fā)中心 達芬奇培訓
北京瑞志合眾科技 WINDOWS驅動培訓
江蘇金智科技股份 FPGA高級培訓
中國重工第710研究所 FPGA高級培訓
蕪湖伯特利汽車安全系統(tǒng) DSP培訓
廈門中智能軟件技術 Android培訓
上海科慢車輛部件系統(tǒng)EMC培訓
中國電子科技集團第五十研究所，軟件無線電培訓
蘇州浩克系統(tǒng)科技 FPGA培訓
上海申達自動防范系統(tǒng) FPGA培訓
四川長虹佳華信息 MTK培訓
公安部第三研究所--FPGA初中高技術開發(fā)培訓以及DSP達芬奇芯片視頻、圖像處理技術培訓
上海電子信息職業(yè)技術學院--FPGA高級開發(fā)技術培訓
上海點逸網(wǎng)絡科技有限公司--3G手機ANDROID應用和系統(tǒng)開發(fā)技術培訓
格科微電子有限公司--MTK應用（MMI）和驅動開發(fā)技術培訓
南昌航空大學--fpga 高級開發(fā)技術培訓
IBM 公司--3G手機ANDROID系統(tǒng)和應用技術開發(fā)培訓
上海貝爾--3G手機ANDROID系統(tǒng)和應用技術開發(fā)培訓
中國雙飛--Vxworks 應用和BSP開發(fā)技術培訓
|
上海水務建設工程有限公司--Alter/Xilinx FPGA應用開發(fā)技術培訓
恩法半導體科技--Allegro Candence PCB 仿真和信號完整性技術培訓
中國計量學院--3G手機ANDROID應用和系統(tǒng)開發(fā)技術培訓
冠捷科技--FPGA芯片設計技術培訓
芬尼克茲節(jié)能設備--FPGA高級技術開發(fā)培訓
川奇光電--3G手機ANDROID系統(tǒng)和應用技術開發(fā)培訓
東華大學--Dsp6000系統(tǒng)開發(fā)技術培訓
上海理工大學--FPGA高級開發(fā)技術培訓
同濟大學--Dsp6000圖像/視頻處理技術培訓
上海醫(yī)療器械高等專科學校--Dsp6000圖像/視頻處理技術培訓
中航工業(yè)無線電電子研究所--Vxworks 應用和BSP開發(fā)技術培訓
北京交通大學--Powerpc開發(fā)技術培訓
浙江理工大學--Dsp6000圖像/視頻處理技術培訓
臺灣雙陽科技股份有限公司--MTK應用（MMI）和驅動開發(fā)技術培訓
滾石移動--MTK應用（MMI）和驅動開發(fā)技術培訓
冠捷半導體--Linux系統(tǒng)開發(fā)技術培訓
奧波--CortexM3+uC/OS開發(fā)技術培訓
迅時通信--WinCE應用與驅動開發(fā)技術培訓
海鷹醫(yī)療電子系統(tǒng)--DSP6000圖像處理技術培訓
博耀科技--Linux系統(tǒng)開發(fā)技術培訓
華路時代信息技術--VxWorks BSP開發(fā)技術培訓
臺灣歐澤科技--iPhone開發(fā)技術培訓
寶康電子--Allegro Candence PCB 仿真和信號完整性技術培訓
上海天能電子有限公司--Allegro Candence PCB 仿真和信號完整性技術培訓
上海亨通光電科技有限公司--andriod應用和系統(tǒng)移植技術培訓
上海智搜文化傳播有限公司--Symbian開發(fā)培訓
先先信息科技有限公司--brew 手機開發(fā)技術培訓
鼎捷集團--MTK應用（MMI）和驅動開發(fā)技術培訓
傲然科技--MTK應用（MMI）和驅動開發(fā)技術培訓
中軟國際--Linux系統(tǒng)開發(fā)技術培訓
龍旗控股集團--MTK應用（MMI）和驅動開發(fā)技術培訓
研祥智能股份有限公司--MTK應用（MMI）和驅動開發(fā)技術培訓
羅氏診斷--Linux應用開發(fā)技術培訓
西東控制集團--DSP2000應用技術及DSP2000在光伏并網(wǎng)發(fā)電中的應用與開發(fā)
科大訊飛--MTK應用（MMI）和驅動開發(fā)技術培訓
東北農(nóng)業(yè)大學--IPHONE 蘋果應用開發(fā)技術培訓
中國電子科技集團--Dsp2000系統(tǒng)和應用開發(fā)技術培訓
中國船舶重工集團--Dsp2000系統(tǒng)開發(fā)技術培訓
晶方半導體--FPGA初中高技術培訓
肯特智能儀器有限公司--FPGA初中高技術培訓
哈爾濱大學--IPHONE 蘋果應用開發(fā)技術培訓
昆明電器科學研究所--Dsp2000系統(tǒng)開發(fā)技術
奇瑞汽車股份--單片機應用開發(fā)技術培訓
|
|
|
總部李老師
