Spark實戰(zhàn)

目錄 \n
譯者序 \n
致謝 \n
前言 \n
關于本書 \n
關于作者 \n
關于封面 \n
第1部分 第1步 \n
第1章 Apache Spark介紹 \n
1.1什么是Spark \n
1.1.1 Spark革命 \n
1.1.2 MapReduce的缺點 \n
1.1.3 Spark帶來了什么有價值的東西 \n
1.2 Spark組件 \n
1.2.1 Spark核心 \n
1.2.2 Spark SQL \n
1.2.3 Spark Streaming \n
1.2.4 Spark MLlib \n
1.2.5 Spark GraphX \n
1.3 Spark程序流 \n
1.4 Spark生態(tài)系統(tǒng) \n
1.5 建立spark-in-action 虛擬機 \n
1.5.1下載啟動虛擬機 \n
1.5.2 停止虛擬機 \n
1.6總結(jié) \n
第2章 Spark基礎 \n
2.1使用spark-in-action虛擬機 \n
2.1.1 復制Spark in Action GitHub存儲庫 \n
2.1.2 找到java \n
2.1.3 用虛擬機的Hadoop安裝 \n
2.1.4 檢查虛擬機的Spark安裝 \n
2.2用Spark shell（殼）編寫第一個Spark程序 \n
2.2.1 啟動Spark shell \n
2.2.2 第一個Spark代碼示例 \n
2.2.3 彈性分布式數(shù)據(jù)集的概念 \n
2.3基礎RDD行為和轉(zhuǎn)換 \n
2.3.1 使用用map轉(zhuǎn)換 \n
2.3.2 使用distinct和flatMap 轉(zhuǎn)換 \n
2.3.3 使用sample、take和takeSample操作獲取RDD的元素 \n
2.4 Double RDD功能 \n
2.4.1 Double RDD基本統(tǒng)計 \n
2.4.2 使用直方圖可視化數(shù)據(jù)分布 \n
2.4.3 近似求和與平均值 \n
2.5 總結(jié) \n
第3章 編寫Spark應用程序 \n
3.1在Eclipse上生成一個新的Spark項目 \n
3.2開發(fā)應用程序 \n
3.2.1 準備 GitHub 檔案數(shù)據(jù) \n
3.2.2 加載 JSON \n
3.2.3 從Eclipse運行應用 \n
3.2.4 數(shù)據(jù)匯總 \n
3.2.5 排除非公司員工 \n
3.2.6 廣播變量 \n
3.2.7 使用整個數(shù)據(jù)集 \n
3.3提交應用程序 \n
3.3.1 建立uberjar \n
3.3.2 調(diào)整應用程序 \n
3.3.3 使用spark-submit \n
3.4 總結(jié) \n
第4章 深入Spark API \n
4.1使用鍵值對RDD \n
4.1.1 創(chuàng)建鍵值對RDD \n
4.1.2 鍵值對RDD的基本功能 \n
4.2了解數(shù)據(jù)分區(qū)和減少數(shù)據(jù)混排 \n
4.2.1 使用spark數(shù)據(jù)分區(qū)器 \n
4.2.2 了解和避免不必要的數(shù)據(jù)混排 \n
4.2.3 RDD重新分區(qū) \n
4.2.4 在分區(qū)中映射數(shù)據(jù) \n
4.3 連接、排序、分組數(shù)據(jù) \n
4.3.1 連接數(shù)據(jù) \n
4.3.2 數(shù)據(jù)排序 \n
4.3.3 數(shù)據(jù)分組 \n
4.4 理解RDD依賴 \n
4.4.1 RDD依賴和Spark執(zhí)行 \n
4.4.2 Spark階段和任務 \n
4.4.3 使用檢查點保存Spark譜系 \n
4.5 使用累加器和廣播變量與spark執(zhí)行器進行溝通 \n
4.5.1 使用累加器從執(zhí)行器獲取數(shù)據(jù) \n
4.5.2 使用廣播變量將數(shù)據(jù)發(fā)送數(shù)據(jù)到執(zhí)行器 \n
4.6總結(jié) \n
第二部分 認識Spark家族 \n
第5章 Spark SQL查詢 \n
5.1使用DataFrames \n
5.1.1 從RDD創(chuàng)建DataFrames \n
5.1.2 DataFrame API 基礎知識 \n
5.1.3 用SQL函數(shù)執(zhí)行數(shù)據(jù)計算 \n
5.1.4 使用缺失值 \n
5.1.5 將DataFrames轉(zhuǎn)換為RDD \n
5.1.6 分組和連接數(shù)據(jù) \n
5.1.7 執(zhí)行連接 \n
5.2超越DataFrames：引入DataSet \n
5.3使用SQL命令 \n
5.3.1 表目錄和Hive metastore \n
5.3.2 執(zhí)行SQL查詢 \n
5.3.3 通過Thrift服務器連接到Spark SQL \n
5.4保存并加載DataFrame 數(shù)據(jù) \n
5.4.1 內(nèi)置數(shù)據(jù)源 \n
5.4.2 保存數(shù)據(jù) \n
5.4.3 加載數(shù)據(jù) \n
5.5 Catalyst 優(yōu)化器 \n
5.6 Tungsten性能改進 \n
5.7總結(jié) \n
第6章 使用Spark Streaming提取數(shù)據(jù) \n
6.1編寫Spark Streaming應用程序 \n
6.1.1 介紹示例程序 \n
6.1.2 創(chuàng)建流上下文 \n
6.1.3 創(chuàng)建離散流 \n
6.1.4 使用離散流 \n
6.1.5 把結(jié)果保存到文檔 \n
6.1.6 啟動和停止流計算 \n
6.1.7 隨著保存計算狀態(tài) \n
6.1.8 使用窗口操作進行限制計算 \n
6.1.9 檢查其他內(nèi)置輸入流 \n
6.2使用外部數(shù)據(jù)源 \n
6.2.1 設置kafka \n
6.2.2 使用kafka更改流應用程序 \n
6.3 Spark Streaming任務的性能 \n
6.3.1 獲得良好的性能 \n
6.3.2 實現(xiàn)容錯 \n
6.4結(jié)構(gòu)化流 \n
6.4.1 創(chuàng)建流式DataFrame \n
6.4.2 輸出流數(shù)據(jù) \n
6.4.3 檢查流執(zhí)行 \n
6.4.4 結(jié)構(gòu)化流的未來方向 \n
6.5總結(jié) \n
第7章 使用MLlib變聰明 \n
7.1機器學習簡介 \n
7.1.1 機器學習的定義 \n
7.1.2 機器學習算法分類 \n
7.1.3 使用Spark進行機器學習 \n
7.2 Spark中的線性代數(shù) \n
7.2.1 本地向量與矩陣實現(xiàn) \n
7.2.2 分布式矩陣 \n
7.3線性回歸 \n
7.3.1 有關線性回歸 \n
7.3.2 簡單的線性回歸 \n
7.3.3 將模型擴展到多元線性回歸 \n
7.4分析和準備數(shù)據(jù) \n
7.4.1 分析數(shù)據(jù)分布 \n
7.4.2 分析列余弦相似性 \n
7.4.3 協(xié)方差矩陣的計算 \n
7.4.4 轉(zhuǎn)化為標記點 \n
7.4.5 拆分數(shù)據(jù) \n
7.4.6 特征縮放和平均歸一化 \n
7.5擬合和使用線性回歸模型 \n
7.5.1 預測目標值 \n
7.5.2 評估模型性能 \n
7.5.3 解釋模型參數(shù) \n
7.5.4 加載和保存模型 \n
7.6調(diào)整算法 \n
7.6.1 找到正確的步長和迭代次數(shù) \n
7.6.2 添加高階多項式 \n
7.6.3 偏差-方差權(quán)衡和模型復雜度 \n
7.6.4 繪制殘差圖 \n
7.6.5 利用正則化避免過度擬合 \n
7.6.6 k折交叉驗證 \n
7.7優(yōu)化線性回歸 \n
7.7.1 小批量隨機梯度下降 \n
7.7.2 LBFGS優(yōu)化 \n
7.8總結(jié) \n
八、ML：分類和聚類 \n
8.1 Spark ML 圖書館 \n
8.1.1 估計器，變壓器和評估器 \n
8.1.2 ML參數(shù) \n
8.1.3 ML管道 \n
8.2邏輯回歸 \n
8.2.1 二元邏輯回歸模型 \n
8.2.2準備數(shù)據(jù)在Spark中使用邏輯回歸 \n
8.2.3 訓練模型 \n
8.2.4 評估分類模型 \n
8.2.5 執(zhí)行k折交叉驗證 \n
8.2.6 多類邏輯回歸 \n
8.3決策樹和隨機森林 \n
8.3.1 決策樹 \n
8.3.2 隨機森林 \n
8.4使用k均值聚類 \n
8.4.1 k均值聚類 \n
8.5總結(jié) \n
第9章 使用GraphX連接點 \n
9.1 Spark圖處理 \n
9.1.1 使用GraphX API構(gòu)造圖 \n
9.1.2 轉(zhuǎn)換圖 \n
9.2圖算法 \n
9.2.1 數(shù)據(jù)集的介紹 \n
9.2.2 最短路徑算法 \n
9.2.3 頁面排名 \n
9.2.4 連通分量 \n
9.2.5 強連通分量 \n
9.3實現(xiàn)A *搜索算法 \n
9.3.1 了解A *搜索算法 \n
9.3.2 實現(xiàn)A *搜索算法 \n
9.3.3 測試實現(xiàn) \n
9.4總結(jié) \n
第3部分 Spark ops \n
第10章 運行Spark \n
10.1 Spark的運行時架構(gòu)概述 \n
10.1.1 Spark運行組件 \n
10.1.2 Spark集群類型 \n
10.2作業(yè)與資源調(diào)度 \n
10.2.1 集群資源調(diào)度 \n
10.2.2 Spark作業(yè)調(diào)度 \n
10.2.3 數(shù)據(jù)局部性考慮 \n
10.2.4 Spark內(nèi)存調(diào)度 \n
10.3配置Spark \n
10.3.1 Spark配置文件 \n
10.3.2 命令行參數(shù) \n
10.3.3 系統(tǒng)環(huán)境變量 \n
10.3.4 譯編程方式設置配置 \n
10.3.5 master參數(shù) \n
10.3.6 查看所有配置的參數(shù) \n
10.4 Spark Web UI （網(wǎng)絡用戶界面） \n
10.4.1 Jobs（作業(yè)）頁面 \n
10.4.2 Stages（階段）頁面 \n
10.4.3 Storage（存儲）頁面 \n
10.4.4 Environment（環(huán)境）頁面 \n
10.4.5 Executors（執(zhí)行器）頁面 \n
10.5在本地機器運行Spark \n
10.5.1 本地模式 \n
10.5.2 本地集群模式 \n
10.6總結(jié) \n
第11章 在Spark獨立集群上運行 \n
11.1 Spark Standalone集群組件 \n
11.1.1 啟動Stanalone集群 \n
11.1.2 用shell腳本啟動群集 \n
11.1.3 手動啟動集群 \n
11.1.4 查看Spark進程 \n
11.1.5 Standalone master高可用性和恢復 \n
11.3 Standalone集群網(wǎng)絡用戶界面 \n
11.4 在3Standalone集群中運行應用程序 \n
11.4.1 驅(qū)動器的位置 \n
11.4.2 指定執(zhí)行器的數(shù)量 \n
11.4.3 指定額外的類路徑和文件 \n
11.4.4 終止應用程序 \n
11.4.5 應用程序自動重啟 \n
11.5 Spark歷史記錄服務器和事件日志記錄 \n
11.6 在Amazon EC2上運行 \n
11.6.1 先決條件 \n
11.6.2 創(chuàng)建一個E2C獨立集群 \n
11.6.3 使用E2C集群 \n
11.6.4 銷毀集群 \n
11.7 總結(jié) \n
第12章 在YARN and Mesos運行 \n
12.1 在YARN上運行Spark \n
12.1.1 YARN架構(gòu) \n
12.1.2 安裝配置啟動YARN \n
12.1.3 YARN中的資源調(diào)度 \n
12.1.4 向YARN提交Spark應用程序 \n
12.1.5 在YARN上配置Spark \n
12.1.6 為Spark工作配置資源 \n
12.1.7 YARN UI \n
12.1.8 在YARN上尋找日志 \n
12.1.9 安全注意事項 \n
12.1.10 動態(tài)資源分配 \n
12.2在Mesos上運行Spark \n
12.2.1 Mesos架構(gòu) \n
12.2.2 安裝配置Mesos \n
12.2.3 Mesos Web UI \n
12.2.4 Mesos資源調(diào)度 \n
12.2.5 向Mesos提交Spark應用程序 \n
12.2.6 使用 Docker運行Spark \n
12.3總結(jié) \n
第4部分 協(xié)同使用 \n
第13章 實例學習：實時儀表盤 \n
13.1了解用例 \n
13.1.1 概況 \n
13.1.2 了解應用程序組件 \n
13.2 運行應用程序 \n
13.2.1 在spark-in-action VM中運行應用程序 \n
13.2.2 手動啟動應用程序 \n
13.3 理解源代碼 \n
13.3.1 KafkaLogsSimulator項目 \n
13.3.2 Streaming Log Analyzer項目 \n
13.3.3 Web統(tǒng)計信息顯示板項目 \n
13.3.4 建設項目 \n
13.4總結(jié) \n
第14章 H20深入學習Spark \n
14.1什么是深入學習 \n
14.2 在Spark中使用H2O和 \n
14.2.1 什么是H2O \n
14.4.2 在Spark中啟動Sparkling Water \n
14.4.3 啟動H2O集群 \n
14.4.4 訪問Flow UI \n
14.3 使用H2O的深度學習進行回歸 \n
14.4.3 將數(shù)據(jù)加載到H2O框架中 \n
14.4.4 使用Flow UI構(gòu)建和評估深度學習模型 \n
14.4.5 使用Sparkling Water API構(gòu)建和評估深度學習模型 \n
14.4使用H2O的深度學習進行分類 \n
14.4.1 加載和拆分數(shù)據(jù) \n
14.4.2 通過Flow UI 建造模型 \n
14.4.3 通過Sparkling Water API建造模型 \n
14.4.4 停止H2O集群 \n
14.5總結(jié) \n
附錄A 安裝Apache Spark \n
附錄B 了解MapReduce \n
附錄C 線性代數(shù)基礎