scikit learn機(jī)器學(xué)習(xí)：常用算法原理及編程實(shí)戰(zhàn)

目錄
前言
第1章 機(jī)器學(xué)習(xí)介紹1
1.1 什么是機(jī)器學(xué)習(xí)1
　　1.2 機(jī)器學(xué)習(xí)有什么用2
　　1.3 機(jī)器學(xué)習(xí)的分類3
　　1.4 機(jī)器學(xué)習(xí)應(yīng)用開發(fā)的典型步驟4
1.4.1 數(shù)據(jù)采集和標(biāo)記4
1.4.2 數(shù)據(jù)清洗5
1.4.3 特征選擇5
1.4.4 模型選擇5
1.4.5 模型訓(xùn)練和測(cè)試5
1.4.6 模型性能評(píng)估和優(yōu)化5
1.4.7 模型使用6
　　1.5 復(fù)習(xí)題6
第2章 Python機(jī)器學(xué)習(xí)軟件包7
　　2.1 開發(fā)環(huán)境搭建7
　　2.2 IPython簡(jiǎn)介8
2.2.1 IPython基礎(chǔ)8
2.2.2 IPython圖形界面13
　　2.3 Numpy簡(jiǎn)介15
2.3.1 Numpy數(shù)組15
2.3.2 Numpy運(yùn)算19
　　2.4 Pandas簡(jiǎn)介32
2.4.1 基本數(shù)據(jù)結(jié)構(gòu)32
2.4.2 數(shù)據(jù)排序34
2.4.3 數(shù)據(jù)訪問34
2.4.4 時(shí)間序列36
2.4.5 數(shù)據(jù)可視化36
2.4.6 文件讀寫38
　　2.5 Matplotlib簡(jiǎn)介38
2.5.1 圖形樣式38
2.5.2 圖形對(duì)象40
2.5.3 畫圖操作46
　　2.6 scikit-learn簡(jiǎn)介51
2.6.1 scikit-learn示例51
2.6.2 scikit-learn一般性原理和通用規(guī)則55
　　2.7 復(fù)習(xí)題56
　　2.8 拓展學(xué)習(xí)資源57
第3章 機(jī)器學(xué)習(xí)理論基礎(chǔ)58
　　3.1 過擬合和欠擬合58
　　3.2 成本函數(shù)59
　　3.3 模型準(zhǔn)確性60
3.3.1 模型性能的不同表述方式61
3.3.2 交叉驗(yàn)證數(shù)據(jù)集61
　　3.4 學(xué)習(xí)曲線62
3.4.1 實(shí)例：畫出學(xué)習(xí)曲線62
3.4.2 過擬合和欠擬合的特征65
　　3.5 算法模型性能優(yōu)化65
　　3.6 查準(zhǔn)率和召回率66
　　3.7 F1 Score67
　　3.8 復(fù)習(xí)題67
第4章 k-近鄰算法69
　　4.1 算法原理69
4.1.1 算法優(yōu)缺點(diǎn)69
4.1.2 算法參數(shù)70
4.1.3 算法的變種70
　　4.2 示例：使用k-近鄰算法進(jìn)行分類70
　　4.3 示例：使用k-近鄰算法進(jìn)行回歸擬合72
　　4.4 實(shí)例：糖尿病預(yù)測(cè)74
4.4.1 加載數(shù)據(jù)74
4.4.2 模型比較75
4.4.3 模型訓(xùn)練及分析77
4.4.4 特征選擇及數(shù)據(jù)可視化78
　　4.5 拓展閱讀80
4.5.1 如何提高k-近鄰算法的運(yùn)算效率80
4.5.2 相關(guān)性測(cè)試80
　　4.6 復(fù)習(xí)題81
第5章 線性回歸算法83
　　5.1 算法原理83
5.1.1 預(yù)測(cè)函數(shù)83
5.1.2 成本函數(shù)84
5.1.3 梯度下降算法84
　　5.2 多變量線性回歸算法86
5.2.1 預(yù)測(cè)函數(shù)86
5.2.2 成本函數(shù)87
5.2.3 梯度下降算法88
　　5.3 模型優(yōu)化89
5.3.1 多項(xiàng)式與線性回歸89
5.3.2 數(shù)據(jù)歸一化89
　　5.4 示例：使用線性回歸算法擬合正弦函數(shù)90
　　5.5 示例：測(cè)算房?jī)r(jià)92
5.5.1 輸入特征92
5.5.2 模型訓(xùn)練93
5.5.3 模型優(yōu)化94
5.5.4 學(xué)習(xí)曲線95
　　5.6 拓展閱讀96
5.6.1 梯度下降迭代公式推導(dǎo)96
5.6.2 隨機(jī)梯度下降算法96
5.6.3 標(biāo)準(zhǔn)方程97
　　5.7 復(fù)習(xí)題97
第6章 邏輯回歸算法98
　　6.1 算法原理98
6.1.1 預(yù)測(cè)函數(shù)98
6.1.2 判定邊界99
6.1.3 成本函數(shù)100
6.1.4 梯度下降算法102
　　6.2 多元分類102
　　6.3 正則化103
6.3.1 線性回歸模型正則化103
6.3.2 邏輯回歸模型正則化104
　　6.4 算法參數(shù)104
　　6.5 實(shí)例：乳腺癌檢測(cè)106
6.5.1 數(shù)據(jù)采集及特征提取106
6.5.2 模型訓(xùn)練108
6.5.3 模型優(yōu)化110
6.5.4 學(xué)習(xí)曲線111
　　6.6 拓展閱讀113
　　6.7 復(fù)習(xí)題114
第7章 決策樹115
　　7.1 算法原理115
7.1.1 信息增益116
7.1.2 決策樹的創(chuàng)建119
7.1.3 剪枝算法120
　　7.2 算法參數(shù)121
　　7.3 實(shí)例：預(yù)測(cè)泰坦尼克號(hào)幸存者122
7.3.1 數(shù)據(jù)分析122
7.3.2 模型訓(xùn)練123
7.3.3 優(yōu)化模型參數(shù)124
7.3.4 模型參數(shù)選擇工具包127
　　7.4 拓展閱讀130
7.4.1 熵和條件熵130
7.4.2 決策樹的構(gòu)建算法130
　　7.5 集合算法131
7.5.1 自助聚合算法Bagging131
7.5.2 正向激勵(lì)算法boosting131
7.5.3 隨機(jī)森林132
7.5.4 ExtraTrees算法133
　　7.6 復(fù)習(xí)題133
第8章 支持向量機(jī)134
　　8.1 算法原理134
8.1.1 大間距分類算法134
8.1.2 松弛系數(shù)136
　　8.2 核函數(shù)138
8.2.1 最簡(jiǎn)單的核函數(shù)138
8.2.2 相似性函數(shù)140
8.2.3 常用的核函數(shù)141
8.2.4 核函數(shù)的對(duì)比142
　　8.3 scikit-learn里的SVM144
　　8.4 實(shí)例：乳腺癌檢測(cè)146
　　8.5 復(fù)習(xí)題149
第9章 樸素貝葉斯算法151
　　9.1 算法原理151
9.1.1 貝葉斯定理151
9.1.2 樸素貝葉斯分類法152
　　9.2 一個(gè)簡(jiǎn)單的例子153
　　9.3 概率分布154
9.3.1 概率統(tǒng)計(jì)的基本概念154
9.3.2 多項(xiàng)式分布155
9.3.3 高斯分布158
　　9.4 連續(xù)值的處理159
　　9.5 實(shí)例：文檔分類160
9.5.1 獲取數(shù)據(jù)集160
9.5.2 文檔的數(shù)學(xué)表達(dá)161
9.5.3 模型訓(xùn)練163
9.5.4 模型評(píng)價(jià)165
　　9.6 復(fù)習(xí)題167
第10章 PCA算法168
　　10.1 算法原理168
10.1.1 數(shù)據(jù)歸一化和縮放169
10.1.2 計(jì)算協(xié)方差矩陣的特征向量169
10.1.3 數(shù)據(jù)降維和恢復(fù)170
　　10.2 PCA 算法示例171
10.2.1 使用Numpy模擬PCA計(jì)算過程171
10.2.2 使用sklearn進(jìn)行PCA降維運(yùn)算173
10.2.3 PCA的物理含義174
　　10.3 PCA 的數(shù)據(jù)還原率及應(yīng)用175
10.3.1 數(shù)據(jù)還原率175
10.3.2 加快監(jiān)督機(jī)器學(xué)習(xí)算法的運(yùn)算速度176
　　10.4 實(shí)例：人臉識(shí)別176
10.4.1 加載數(shù)據(jù)集176
10.4.2 一次失敗的嘗試179
10.4.3 使用PCA來處理數(shù)據(jù)集182
10.4.4 最終結(jié)果185
　　10.5 拓展閱讀189
　　10.6 復(fù)習(xí)題189
第11章 k-均值算法190
　　11.1 算法原理190
11.1.1 k-均值算法成本函數(shù)191
11.1.2 隨機(jī)初始化聚類中心點(diǎn)191
11.1.3 選擇聚類的個(gè)數(shù)192
　　11.2 scikit-learn里的k-均值算法192
　　11.3 使用k-均值對(duì)文檔進(jìn)行聚類分析195
11.3.1 準(zhǔn)備數(shù)據(jù)集195
11.3.2 加載數(shù)據(jù)集196
11.3.3 文本聚類分析197
　　11.4 聚類算法性能評(píng)估200
11.4.1 Adjust Rand Index200
11.4.2 齊次性和完整性201
11.4.3 輪廓系數(shù)203
　　11.5 復(fù)習(xí)題204
　　后記205