Spark海量數(shù)據(jù)處理 技術(shù)詳解與平臺(tái)實(shí)戰(zhàn)

第 一部分 基礎(chǔ)篇
第　1章 序篇　2
1．1　Spark與BDAS　3
1．2　Databricks　4
1．3　如何通過(guò)GitHub向Spark貢獻(xiàn)代碼　5
1．4　如何選擇Spark編程語(yǔ)言　8
1．5　函數(shù)式編程思想　9
1．6　小結(jié)　12
第　2章 Spark編程　13
2．1　Spark架構(gòu)　13
2．2　Spark 2．x與Spark 3．x　15
2．2．1　Tungsten項(xiàng)目　16
2．2．2　統(tǒng)一Dataset和DataFrame 接口　20
2．2．3　新一代流處理技術(shù)：Structured Streaming與持續(xù)型應(yīng)用　21
2．2．4　Hydrogen項(xiàng)目和Spark 3．x　22
2．3　部署Spark　26
2．3．1　Spark on YARN　27
2．3．2　Spark on Mesos　28
2．3．3　Spark Standalone　29
2．3．4　Spark on Kubernetes　30
2．3．5　安裝Spark　31
2．3．6　提交作業(yè)　31
2．3．7　Spark Shell　33
2．3．8　初始化SparkSession　34
2．4　RDD與算子　34
2．4．1　RDD　34
2．4．2　創(chuàng)建RDD　36
2．4．3　轉(zhuǎn)換算子　38
2．4．4　行動(dòng)算子　43
2．4．5　RDD血統(tǒng)與Spark容錯(cuò)　45
2．5　Spark Shuffle　47
2．5．1　Hash Shuffle　47
2．5．2　Sort-based Shuffle　49
2．6　共享變量　50
2．6．1　廣播變量　50
2．6．2　累加器　53
2．7　Spark的多語(yǔ)言支持　55
2．7．1　PySpark　55
2．7．2　SparkR　56
2．8　Spark性能調(diào)優(yōu)　56
2．8．1　硬件配置與資源管理平臺(tái)　57
2．8．2　參數(shù)調(diào)優(yōu)與應(yīng)用調(diào)優(yōu)　57
2．9　使用Jupyter Notebook基于Spark探索數(shù)據(jù)：蒙特卡羅方法預(yù)測(cè)股票價(jià)格　64
2．9．1　Jupyter Notebook　64
2．9．2　用蒙特卡羅方法預(yù)測(cè)股票價(jià)格　67
2．10　小結(jié)　70
第3章　Spark統(tǒng)一編程接口：DataFrame、Dataset和Spark SQL　71
3．1　Catalyst優(yōu)化器　72
3．1．1　SQL抽象語(yǔ)法樹　72
3．1．2　從ULEP到RLEP的過(guò)程　73
3．1．3　調(diào)優(yōu)RLEP　73
3．1．4　全階段代碼生成　74
3．2　DataFrame API　75
3．2．1　創(chuàng)建DataFrame　75
3．2．2　查詢　77
3．2．3　窗口函數(shù)　80
3．2．4　用戶自定義函數(shù)　83
3．2．5　寫入　85
3．3　Dataset API　86
3．3．1　RDD、DataFrame和Dataset　87
3．3．2　安全類型的UDAF　88
3．4　Spark SQL　89
3．4．1　創(chuàng)建臨時(shí)視圖　90
3．4．2　使用Hive元數(shù)據(jù)　90
3．4．3　查詢語(yǔ)句　91
3．4．4　函數(shù)　94
3．4．5　用戶自定義函數(shù)　97
3．5　Google Dremel與列式存儲(chǔ)　97
3．5．1　Apache Parquet　99
3．5．2　Apache ORC　100
3．5．3　Apache CarbonData　100
3．5．4　對(duì)比測(cè)試　101
3．6　使用Spark SQL進(jìn)行數(shù)據(jù)探索　102
3．7　小結(jié)　107
第4章　Spark流處理：Spark Streaming
與Structured　Streaming　108
4．1　一個(gè)Spark Streaming流處理的例子　109
4．2　消息送達(dá)保證　110
4．3　Google MillWheel系統(tǒng)和Google Dataflow模型　114
4．3．1　Google MillWheel設(shè)計(jì)思想　114
4．3．2　Google MillWheel如何實(shí)現(xiàn)“恰好一次”消息送達(dá)語(yǔ)義　114
4．3．3　Google MillWheel對(duì)亂序數(shù)據(jù)與晚到數(shù)據(jù)的處理　115
4．3．4　Google Dataflow：流處理和批處理的統(tǒng)一與取舍　117
4．4　Spark Streaming　122
4．4．1　關(guān)鍵抽象與架構(gòu)　123
4．4．2　無(wú)狀態(tài)的轉(zhuǎn)換算子　125
4．4．3　有狀態(tài)的轉(zhuǎn)換算子　129
4．4．4　輸入與輸出　134
4．4．5　Spark Streaming與Spark SQL　138
4．4．6　容錯(cuò)與結(jié)果正確性　139
4．4．7　性能調(diào)優(yōu)　141
4．5　Structured Streaming　144
4．5．1　關(guān)鍵抽象與架構(gòu)　144
4．5．2　操作　147
4．5．3　輸入和輸出　154
4．5．4　股票交易價(jià)格實(shí)時(shí)分析　157
4．6　流處理技術(shù)對(duì)比　162
4．7　小結(jié)　163
第5章　Spark圖計(jì)算：GraphX　164
5．1　圖模式　164
5．1．1　圖結(jié)構(gòu)　164
5．1．2　圖存儲(chǔ)　165
5．1．3　圖數(shù)據(jù)庫(kù)　168
5．1．4　圖挖掘技術(shù)　169
5．1．5　屬性圖與RDF　170
5．2　生成圖　171
5．2．1　從已有數(shù)據(jù)中生成　172
5．2．2　通過(guò)GraphGenerators生成　174
5．3　圖算子　175
5．3．1　屬性算子　175
5．3．2　結(jié)構(gòu)算子　175
5．3．3　連接算子　175
5．3．4　aggregateMessages　176
5．4　Pregel API　177
5．4．1　圖分區(qū)　177
5．4．2　像頂點(diǎn)一樣思考　180
5．4．3　用戶自定義函數(shù)　182
5．4．4　PageRank的GraphX實(shí)現(xiàn)　183
5．4．5　標(biāo)簽傳播算法　186
5．5　SQL on Graph　187
5．5．1　生成圖　188
5．5．2　SQL查詢　189
5．5．3　模式發(fā)現(xiàn)　190
5．5．4　一些GraphX已經(jīng)有的算法　191
5．5．5　一些GraphX沒有的算法　191
5．5．6　AggregateMessages　192
5．6　n度鄰居頂點(diǎn)算法　193
5．7　小結(jié)　196
第6章　Spark機(jī)器學(xué)習(xí)：MLlib　197
6．1　機(jī)器學(xué)習(xí)　197
6．1．1　典型的機(jī)器學(xué)習(xí)工作流　198
6．1．2　機(jī)器學(xué)習(xí)任務(wù)的學(xué)習(xí)類型　199
6．2　Spark MLlib與Spark ML　201
6．3　數(shù)據(jù)預(yù)處理　205
6．3．1　數(shù)據(jù)標(biāo)準(zhǔn)化　205
6．3．2　缺失值處理　207
6．3．3　特征抽取　208
6．3．4　特征選擇　212
6．4　分類算法應(yīng)用　214
6．4．1　決策樹　214
6．4．2　隨機(jī)森林　217
6．4．3　人體狀態(tài)監(jiān)測(cè)器　218
6．4．4　集成學(xué)習(xí)　223
6．4．5　梯度提升決策樹　224
6．5　聚類算法應(yīng)用　225
6．5．1　物以類聚　225
6．5．2　k均值聚類算法　226
6．5．3　實(shí)現(xiàn)　227
6．6　推薦系統(tǒng)應(yīng)用　230
6．6．1　基于用戶的協(xié)同過(guò)濾　231
6．6．2　基于商品的協(xié)同過(guò)濾　233
6．6．3　兩種協(xié)同過(guò)濾的對(duì)比　235
6．6．4　基于模型的協(xié)同過(guò)濾　236
6．6．5　Movielens電影推薦系統(tǒng)　237
6．7　訓(xùn)練之后　238
6．7．1　模型評(píng)估　239
6．7．2　交叉驗(yàn)證與超參調(diào)優(yōu)　241
6．8　流式機(jī)器學(xué)習(xí)　242
6．8．1　流回歸　242
6．8．2　流聚類　244
6．8．3　用流處理應(yīng)用來(lái)監(jiān)控模型　245
6．9　小結(jié)　249
第7章　Spark深度學(xué)習(xí)：Deeplearning4j　250
7．1　常見的深度學(xué)習(xí)框架　251
7．2　Deeplearning4j　252
7．3　卷積神經(jīng)網(wǎng)絡(luò)　252
7．3．1　理解卷積神經(jīng)網(wǎng)絡(luò)　252
7．3．2　用Deeplearning4j訓(xùn)練卷積神經(jīng)網(wǎng)絡(luò)　254
7．4　循環(huán)神經(jīng)網(wǎng)絡(luò)　257
7．4．1　理解循環(huán)神經(jīng)網(wǎng)絡(luò)　258
7．4．2　用Deeplearning4j訓(xùn)練循環(huán)神經(jīng)網(wǎng)絡(luò)　262
7．5　自動(dòng)編碼器　264
7．5．1　理解自動(dòng)編碼器　264
7．5．2　用Deeplearning4j訓(xùn)練自動(dòng)編碼器　267
7．6　使用GPU　269
7．7　小結(jié)　270
第8章　分布式存儲(chǔ)：Alluxio　271
8．1　Alluxio架構(gòu)　271
8．1．1　Alluxio的組成部分　273
8．1．2　虛擬的Alluxio　273
8．1．3　統(tǒng)一而透明的命名空間　274
8．2　快速上手Alluxio　275
8．2．1　安裝Alluxio　275
8．2．2　Alluxio配置　276
8．2．3　Alluxio血統(tǒng)機(jī)制　277
8．3　與上層框架集成　277
8．3．1　與Spark集成　278
8．3．2　與Presto集成　279
8．3．3　與HBase集成　280
8．4　與底層存儲(chǔ)系統(tǒng)集成　281
8．4．1　與Ceph集成　281
8．4．2　掛載其他文件系統(tǒng)　281
8．5　如何訪問(wèn)Alluxio　282
8．6　Alluxio應(yīng)用案例　283
8．6．1　攜程網(wǎng)　283
8．6．2　滴滴出行　284
8．6．3　陌陌　286
8．7　小結(jié)　288
第二部分　應(yīng)用篇
第9章　企業(yè)數(shù)據(jù)湖與Lambda架構(gòu)　290
9．1　數(shù)據(jù)湖　290
9．1．1　數(shù)據(jù)的湖泊　290
9．1．2　數(shù)據(jù)湖要解決的問(wèn)題　291
9．1．3　數(shù)據(jù)湖與數(shù)據(jù)倉(cāng)庫(kù)對(duì)比　292
9．1．4　數(shù)據(jù)湖如何工作　293
9．2　Lambda架構(gòu)　293
9．2．1　批處理層　294
9．2．2　服務(wù)層　295
9．2．3　速度層　295
9．2．4　Lambda架構(gòu)　296
9．2．5　Lambda架構(gòu)的原則　297
9．3　基于Lambda架構(gòu)的數(shù)據(jù)湖分層設(shè)計(jì)　297
9．3．1　數(shù)據(jù)獲取層　298
9．3．2　消息層　299
9．3．3　數(shù)據(jù)攝取層　300
9．3．4　數(shù)據(jù)存儲(chǔ)層　300
9．3．5　Lambda層　301
9．4　Lambda架構(gòu)的應(yīng)用　301
9．4．1　搜索引擎　301
9．4．2　Druid　302
9．5　構(gòu)建Lambda架構(gòu)的技術(shù)　303
9．6　小結(jié)　304
第　10章 大數(shù)據(jù)企業(yè)動(dòng)態(tài)背景調(diào)查平臺(tái)　305
10．1　企業(yè)背景調(diào)查　305
10．2　基于大數(shù)據(jù)的企業(yè)動(dòng)態(tài)背景調(diào)查　308
10．2．1　企業(yè)行為信息　308
10．2．2　企業(yè)關(guān)聯(lián)方分析　311
10．3　數(shù)據(jù)采集與數(shù)據(jù)字典　313
10．4　企業(yè)背景調(diào)查平臺(tái)需求　317
10．4．1　企業(yè)關(guān)聯(lián)圖譜展示　317
10．4．2　企業(yè)風(fēng)險(xiǎn)指標(biāo)計(jì)算　318
10．5　企業(yè)關(guān)聯(lián)圖譜的模式　318
10．6　傳統(tǒng)數(shù)據(jù)倉(cāng)庫(kù)架構(gòu)　320
10．7　小結(jié)　321
第　11章 平臺(tái)設(shè)計(jì)　322
11．1　平臺(tái)架構(gòu)　322
11．1．1　數(shù)據(jù)源　323
11．1．2　數(shù)據(jù)管道　323
11．1．3　速度層　325
11．1．4　批處理層　325
11．1．5　服務(wù)層　325
11．1．6　查詢層　325
11．1．7　可視化組件　325
11．2　物理拓?fù)洹?26
11．3　服務(wù)層圖數(shù)據(jù)庫(kù)設(shè)計(jì)　326
11．4　項(xiàng)目規(guī)劃　327
11．5　小結(jié)　327
第　12章 數(shù)據(jù)管道層　328
12．1　安裝并配置canal　328
12．2　實(shí)現(xiàn)Kafka生產(chǎn)者　330
12．3　安裝并配置Flume　335
12．4　小結(jié)　336
第　13章 速度層　337
13．1　速度層輸入　337
13．1．1　類型1　338
13．1．2　類型2　338
13．1．3　類型3　339
13．1．4　類型4　340
13．2　Cypher基礎(chǔ)　341
13．2．1　寫入　342
13．2．2　讀取　343
13．2．3　刪除　344
13．3　生成Cypher語(yǔ)句　345
13．3．1　類型1　345
13．3．2　類型2　346
13．3．3　類型3　346
13．3．4　類型4　346
13．3．5　實(shí)現(xiàn)　347
13．4　整合Structured Streaming　352
13．4．1　Neo4jWriter　353
13．4．2　啟動(dòng)流　354
13．5　小結(jié)　355
第　14章 批處理層　356
14．1　自融風(fēng)險(xiǎn)監(jiān)測(cè)　356
14．2　生成主數(shù)據(jù)集　357
14．2．1　全量與增量　358
14．2．2　合并　359
14．2．3　數(shù)據(jù)治理　361
14．3　用GraphX計(jì)算企業(yè)自融風(fēng)險(xiǎn)值　363
14．4　導(dǎo)入HBase　364
14．5　調(diào)度中心　366
14．5．1　Airflow　366
14．5．2　配置　368
14．6　小結(jié)　370
第　15章 服務(wù)層與查詢層　371
15．1　不僅僅是合并　371
15．1．1　NetworkX　372
15．1．2　計(jì)算流程　372
15．2　接口開發(fā)　372
15．3　小結(jié)　376
第三部分　總結(jié)篇
第　16章 總結(jié)和展望　378
16．1　統(tǒng)一的大數(shù)據(jù)處理接口　378
16．1．1　Unified Spark　378
16．1．2　Apache Beam　379
16．2　Kappa架構(gòu)　380
16．3　大數(shù)據(jù)處理技術(shù)　382
16．3．1　Apache Flink　382
16．3．2　Apache Apex　383
16．3．3　Ray　384
16．4　Spark未來(lái)發(fā)展方向　386