Python大數(shù)據(jù)架構(gòu)全棧開(kāi)發(fā)與應(yīng)用

第1章 數(shù)據(jù)架構(gòu)整體設(shè)計(jì) 1
1.1 數(shù)據(jù)架構(gòu)概述 1
1.2 數(shù)據(jù)架構(gòu)設(shè)計(jì)的8個(gè)考慮因素 1
1.2.1 適用性 2
1.2.2 延伸性 2
1.2.3 安全性 3
1.2.4 易用性 3
1.2.5 高性能 4
1.2.6 成本限制 5
1.2.7 應(yīng)用需求 5
1.2.8 運(yùn)維管理 5
1.3 數(shù)據(jù)架構(gòu)設(shè)計(jì)的4個(gè)核心內(nèi)容 6
1.3.1 物理架構(gòu) 6
1.3.2 邏輯架構(gòu) 10
1.3.3 技術(shù)架構(gòu) 13
1.3.4 數(shù)據(jù)流架構(gòu) 15
1.4 常見(jiàn)的6種數(shù)據(jù)架構(gòu) 17
1.4.1 簡(jiǎn)單數(shù)據(jù)庫(kù)支撐的數(shù)據(jù)架構(gòu) 17
1.4.2 傳統(tǒng)數(shù)倉(cāng)支撐的數(shù)據(jù)架構(gòu) 18
1.4.3 傳統(tǒng)大數(shù)據(jù)架構(gòu) 20
1.4.4 流式大數(shù)據(jù)架構(gòu) 22
1.4.5 流批一體大數(shù)據(jù)架構(gòu) 23
1.4.6 存算分離的流批一體大數(shù)據(jù)架構(gòu) 25
1.5 案例：某B2B企業(yè)的數(shù)據(jù)架構(gòu)選型 26
1.5.1 企業(yè)背景 26
1.5.2 應(yīng)用預(yù)期 27
1.5.3 數(shù)據(jù)現(xiàn)狀 27
1.5.4 選型分析 27
1.5.5 選型方案 28
1.5.6 未來(lái)拓展 29
1.6 常見(jiàn)問(wèn)題 29
第2章 數(shù)據(jù)源和數(shù)據(jù)采集 32
2.1 數(shù)據(jù)源概述 32
2.1.1 常見(jiàn)的3種數(shù)據(jù)類(lèi)型 32
2.1.2 常見(jiàn)的8種數(shù)據(jù)源 33
2.2 企業(yè)內(nèi)部流量數(shù)據(jù)采集技術(shù)選型 33
2.2.1 企業(yè)內(nèi)部流量數(shù)據(jù)采集常用的技術(shù) 34
2.2.2 內(nèi)部流量數(shù)據(jù)采集技術(shù)選型的因素 37
2.2.3 內(nèi)部流量數(shù)據(jù)采集技術(shù)選型總結(jié) 39
2.3 企業(yè)外部互聯(lián)網(wǎng)數(shù)據(jù)采集技術(shù)選型 40
2.3.1 外部互聯(lián)網(wǎng)數(shù)據(jù)采集常用的4種技術(shù) 40
2.3.2 外部互聯(lián)網(wǎng)數(shù)據(jù)采集技術(shù)選型的5個(gè)因素 44
2.3.3 外部互聯(lián)網(wǎng)數(shù)據(jù)采集技術(shù)選型總結(jié) 44
2.4 使用Requests+BeautifulSoup抓取數(shù)據(jù)并寫(xiě)入Sqlite 45
2.4.1 安裝配置 45
2.4.2 基本示例 46
2.4.3 高級(jí)用法 47
2.4.4 技術(shù)要點(diǎn) 53
2.5 使用Scrapy+XPath抓取數(shù)據(jù)并寫(xiě)入MongoDB 54
2.5.1 安裝配置 54
2.5.2 基本示例 55
2.5.3 高級(jí)用法 62
2.5.4 技術(shù)要點(diǎn) 69
2.6 案例：某B2C電商企業(yè)的數(shù)據(jù)源結(jié)構(gòu) 69
2.6.1 企業(yè)背景 69
2.6.2 業(yè)務(wù)系統(tǒng) 69
2.6.3 數(shù)據(jù)源結(jié)構(gòu) 71
2.7 常見(jiàn)問(wèn)題 71
第3章 數(shù)據(jù)同步 74
3.1 數(shù)據(jù)同步概述 74
3.1.1 數(shù)據(jù)同步的3種模式 74
3.1.2 數(shù)據(jù)同步的5種預(yù)處理技術(shù) 75
3.2 數(shù)據(jù)同步的技術(shù)選型 76
3.2.1 數(shù)據(jù)同步的7種技術(shù) 76
3.2.2 數(shù)據(jù)同步選型的9個(gè)因素 80
3.2.3 數(shù)據(jù)同步技術(shù)選型總結(jié) 82
3.3 Python操作DataX實(shí)現(xiàn)數(shù)據(jù)同步 83
3.3.1 安裝配置 84
3.3.2 基本示例 84
3.3.3 高級(jí)用法 89
3.3.4 技術(shù)要點(diǎn) 95
3.4 Python操作第三方庫(kù)實(shí)現(xiàn)Google Analytics數(shù)據(jù)同步 96
3.4.1 安裝配置 96
3.4.2 基本示例 100
3.4.3 高級(jí)用法 104
3.4.4 技術(shù)要點(diǎn) 111
3.5 案例：某O2O企業(yè)離線數(shù)據(jù)同步案例 112
3.6 常見(jiàn)問(wèn)題 114
第4章 消息隊(duì)列 117
4.1 消息隊(duì)列概述 117
4.1.1 消息隊(duì)列的核心概念 117
4.1.2 選擇消息隊(duì)列的3種技術(shù)應(yīng)用場(chǎng)景 118
4.2 消息隊(duì)列的技術(shù)選型 119
4.2.1 常見(jiàn)的6種消息隊(duì)列技術(shù) 119
4.2.2 消息隊(duì)列技術(shù)選型的4個(gè)維度 121
4.2.3 消息隊(duì)列技術(shù)選型總結(jié) 123
4.3 Python操作RabbitMQ處理消息隊(duì)列服務(wù) 124
4.3.1 安裝配置 124
4.3.2 基本示例 125
4.3.3 高級(jí)用法 129
4.3.4 技術(shù)要點(diǎn) 131
4.4 Python操作Kafka處理消息隊(duì)列服務(wù) 132
4.4.1 安裝配置 132
4.4.2 基本示例 135
4.4.3 高級(jí)用法 138
4.4.4 技術(shù)要點(diǎn) 139
4.5 Python操作ZeroMQ處理消息隊(duì)列服務(wù) 140
4.5.1 安裝配置 140
4.5.2 基本示例 140
4.5.3 高級(jí)用法 146
4.5.4 技術(shù)要點(diǎn) 150
4.6 案例：利用消息隊(duì)列采集電商用戶行為數(shù)據(jù) 151
4.6.1 案例背景 151
4.6.2 主要技術(shù) 151
4.6.3 案例過(guò)程 152
4.6.4 案例小結(jié) 155
4.7 常見(jiàn)問(wèn)題 156
第5章 關(guān)系數(shù)據(jù)庫(kù) 158
5.1 關(guān)系數(shù)據(jù)庫(kù)概述 158
5.1.1 關(guān)系數(shù)據(jù)庫(kù)的相關(guān)概念 158
5.1.2 使用關(guān)系數(shù)據(jù)庫(kù)的3種場(chǎng)景 158
5.2 關(guān)系數(shù)據(jù)庫(kù)的技術(shù)選型 159
5.2.1 常見(jiàn)的5種技術(shù)選型 159
5.2.2 關(guān)系數(shù)據(jù)庫(kù)選型的3個(gè)維度 161
5.2.3 關(guān)系數(shù)據(jù)庫(kù)技術(shù)選型總結(jié) 162
5.3 使用基于DB-API 2.0規(guī)范的PyMySQL操作MySQL數(shù)據(jù)庫(kù) 162
5.3.1 安裝配置 163
5.3.2 基本示例 163
5.3.3 高級(jí)用法 165
5.3.4 技術(shù)要點(diǎn) 169
5.4 使用基于ORM技術(shù)的SQLAlchemy操作PostgreSQL數(shù)據(jù)庫(kù) 170
5.4.1 安裝配置 170
5.4.2 基本示例 171
5.4.3 高級(jí)用法 175
5.4.4 技術(shù)要點(diǎn) 180
5.5 案例：某傳統(tǒng)零售企業(yè)基于關(guān)系數(shù)據(jù)庫(kù)的數(shù)據(jù)集市 181
5.5.1 企業(yè)背景 181
5.5.2 企業(yè)為什么選擇SQL Server作為數(shù)據(jù)集市 181
5.5.3 數(shù)據(jù)字典 181
5.5.4 應(yīng)用場(chǎng)景 183
5.6 常見(jiàn)問(wèn)題 184
第6章 NoSQL數(shù)據(jù)庫(kù) 186
6.1 NoSQL數(shù)據(jù)庫(kù)概述 186
6.1.1 NoSQL數(shù)據(jù)庫(kù)的相關(guān)概念 186
6.1.2 使用NoSQL數(shù)據(jù)庫(kù)的5種場(chǎng)景 187
6.2 不同類(lèi)型NoSQL數(shù)據(jù)庫(kù)的技術(shù)選型 188
6.2.1 常見(jiàn)的3種鍵值數(shù)據(jù)庫(kù)技術(shù)選型 188
6.2.2 常見(jiàn)的3種文檔型數(shù)據(jù)庫(kù)的技術(shù)選型 188
6.2.3 常見(jiàn)的兩種列式存儲(chǔ)數(shù)據(jù)庫(kù)的技術(shù)選型 190
6.2.4 常見(jiàn)的兩種圖數(shù)據(jù)庫(kù)的技術(shù)選型 190
6.2.5 NoSQL數(shù)據(jù)庫(kù)技術(shù)選型的五大維度 191
6.2.6 NoSQL數(shù)據(jù)庫(kù)技術(shù)選型總結(jié) 192
6.3 使用Python操作HBase 193
6.3.1 安裝配置 193
6.3.2 基本示例 195
6.3.3 HBase應(yīng)用過(guò)濾器進(jìn)行復(fù)雜查詢 199
6.3.4 批量操作 201
6.3.5 技術(shù)要點(diǎn) 201
6.4 使用Python操作Redis 202
6.4.1 安裝配置 202
6.4.2 基本示例 203
6.4.3 使用HyperLogLog實(shí)現(xiàn)獨(dú)立IP計(jì)數(shù)器 210
6.4.4 Redis數(shù)據(jù)持久化 212
6.4.5 技術(shù)要點(diǎn) 213
6.5 使用Python操作ES 213
6.5.1 安裝配置 213
6.5.2 基本示例 215
6.5.3 批量加載文檔到ES+使用Kibana進(jìn)行分析 220
6.5.4 技術(shù)要點(diǎn) 228
6.6 使用Python操作Neo4j 230
6.6.1 安裝配置 230
6.6.2 基本示例 231
6.6.3 APOC 234
6.6.4 技術(shù)要點(diǎn) 236
6.7 使用Python操作MongoDB 237
6.7.1 安裝配置 237
6.7.2 基本示例 237
6.7.3 文檔聚合與管道 239
6.7.4 技術(shù)要點(diǎn) 242
6.8 案例：某菜譜網(wǎng)站基于ES+Redis構(gòu)建智能搜索推薦引擎 243
6.8.1 案例背景 243
6.8.2 為什么選擇ES+Redis 243
6.8.3 系統(tǒng)架構(gòu) 244
6.8.4 相關(guān)要點(diǎn) 245
6.8.5 案例延伸 246
6.9 常見(jiàn)問(wèn)題 246
第7章 批處理 247
7.1 批處理概述 247
7.1.1 批處理的基本特征 247
7.1.2 批處理的3類(lèi)應(yīng)用場(chǎng)景 248
7.2 批處理的技術(shù)選型 248
7.2.1 批處理的5種技術(shù) 248
7.2.2 批處理選型的8個(gè)技術(shù)因素 250
7.2.3 批處理選型總結(jié) 251
7.3 Python使用PyHive操作HQL進(jìn)行批處理 252
7.3.1 安裝配置 252
7.3.2 基本示例 252
7.3.3 數(shù)據(jù)批量加載及處理 256
7.3.4 Hive函數(shù) 259
7.3.5 窗口 268
7.3.6 技術(shù)要點(diǎn) 272
7.4 PySpark操作DataFrame進(jìn)行批處理 273
7.4.1 安裝配置 273
7.4.2 基本示例 273
7.4.3 常用Spark DataFrame操作示例 277
7.4.4 使用Spark MLlib + DataFrame進(jìn)行特征工程 281
7.4.5 技術(shù)要點(diǎn) 282
7.5 案例：某B2C企業(yè)基于PySpark實(shí)現(xiàn)用戶畫(huà)像標(biāo)簽的構(gòu)建 283
7.6 常見(jiàn)問(wèn)題 285
第8章 流處理 288
8.1 流處理概述 288
8.1.1 流處理的核心概念 288
8.1.2 流處理的3個(gè)特征 289
8.1.3 流處理的適用/不適用場(chǎng)景 289
8.2 流處理的依賴(lài)條件 290
8.2.1 流數(shù)據(jù) 290
8.2.2 流式應(yīng)用 291
8.3 流處理的技術(shù)選型 291
8.3.1 流處理的3種技術(shù) 291
8.3.2 流處理選型的7個(gè)技術(shù)因素 295
8.3.3 流處理技術(shù)選型總結(jié) 295
8.4 Python操作Structured Streaming實(shí)現(xiàn)流處理 296
8.4.1 安裝配置 296
8.4.2 基本示例 298
8.4.3 高級(jí)用法 322
8.4.4 技術(shù)要點(diǎn) 328
8.5 案例：某B2C企業(yè)基于Structured Streaming實(shí)現(xiàn)實(shí)時(shí)話題熱榜統(tǒng)計(jì) 330
8.6 常見(jiàn)問(wèn)題 331
第9章 圖計(jì)算 333
9.1 圖計(jì)算概述 333
9.1.1 圖計(jì)算的特征 333
9.1.2 圖計(jì)算的算法和應(yīng)用場(chǎng)景 334
9.2 圖計(jì)算引擎的技術(shù)選型 335
9.2.1 圖計(jì)算的8種技術(shù) 335
9.2.2 圖計(jì)算選型的8個(gè)技術(shù)因素 338
9.2.3 圖計(jì)算選型總結(jié) 339
9.3 Python操作GraphFrames實(shí)現(xiàn)圖計(jì)算 341
9.3.1 安裝配置 341
9.3.2 構(gòu)建圖 341
9.3.3 視圖分析 342
9.3.4 子頂點(diǎn)、子邊和子圖過(guò)濾 344
9.3.5 度分析 345
9.3.6 模體查找 346
9.3.7 圖持久化 348
9.3.8 廣度優(yōu)先搜索 348
9.3.9 短路徑搜索 349
9.3.10 連通分量和強(qiáng)連通分量 351
9.3.11 標(biāo)簽傳播 351
9.3.12 通用網(wǎng)頁(yè)排名和個(gè)性化網(wǎng)頁(yè)排名 352
9.3.13 三角形計(jì)數(shù) 354
9.3.14 技術(shù)要點(diǎn) 355
9.4 案例：基于用戶社交行為的分析 355
9.5 常見(jiàn)問(wèn)題 359
第10章 人工智能 361
10.1 人工智能概述 361
10.1.1 人工智能的4種應(yīng)用場(chǎng)景 361
10.1.2 人工智能的12類(lèi)常用算法介紹 362
10.2 人工智能的技術(shù)選型 366
10.2.1 常見(jiàn)的3種技術(shù)框架 366
10.2.2 人工智能選型的6個(gè)因素 368
10.2.3 人工智能選型總結(jié) 369
10.3 PySpark ML的應(yīng)用實(shí)踐 370
10.3.1 準(zhǔn)備數(shù)據(jù) 371
10.3.2 特征工程和處理 373
10.3.3 核心算法應(yīng)用 375
10.3.4 Pipeline式應(yīng)用 381
10.3.5 訓(xùn)練和預(yù)測(cè)拆分及持久化操作 384
10.3.6 超參數(shù)優(yōu)化的