機器學習與算法應用

第1章 機器學習概述 1
1．1　機器學習簡介 1
1．1．1 機器學習簡史 1
1．1．2 機器學習主要流派 3
1．2　人工智能、數(shù)據(jù)挖掘和機器學習 5
1．2．1 什么是人工智能 5
1．2．2 什么是數(shù)據(jù)挖掘 6
1．2．3 人工智能、數(shù)據(jù)挖掘和機器學習的關系 7
1．3　典型機器學習應用領域 7
1．3．1 藝術(shù)創(chuàng)作 7
1．3．2 金融領域 8
1．3．3 醫(yī)療領域 9
1．3．4 自然語言處理 10
1．3．5 網(wǎng)絡安全 12
1．4　機器學習算法分類 14
1．4．1 分類算法 15
1．4．2 關聯(lián)分析 19
1．4．3 回歸分析 19
1．4．4 深度學習 20
1．5　機器學習的一般流程 22
第2章 機器學習的Python常用庫 24
2．1　Numpy簡介及基礎使用 24
2．1．1 Numpy簡介 24
2．1．2 Numpy基礎使用 27
2．2　Pandas簡介及基礎使用 31
2．2．1 Pandas簡介 31
2．2．2 Pandas自行車數(shù)據(jù)統(tǒng)計分析 36
2．3　Matplotlib簡介及基礎使用 42
2．3．1 Matplotlib簡介 42
2．3．2 Matplotlib繪圖實例 45
2．4　Scikit-Learn簡介及基礎使用 52
2．4．1 Scikit-Learn安裝與簡介 52
2．4．2 Scikit-Learn基礎使用 56
2．5　波士頓房價預測實驗 59
第3章 回歸分析與應用 64
3．1　回歸分析問題 64
3．1．1 介紹 64
3．1．2 常見回歸數(shù)據(jù)集 66
3．2　線性回歸 68
3．2．1 原理與應用場景 68
3．2．2 實現(xiàn)線性回歸 70
3．2．3 Python實現(xiàn)最小二乘法擬合直線 71
3．3　嶺回歸和Lasso回歸 72
3．3．1 原理與應用場景 73
3．3．2 實現(xiàn)嶺回歸 75
3．3．3 實現(xiàn)Lasso回歸 76
3．4　邏輯回歸 76
3．4．1 原理與應用場景 76
3．4．2 實現(xiàn)邏輯回歸 78
第4章 特征工程、降維與超參數(shù)調(diào)優(yōu) 80
4．1　特征工程 80
4．1．1 缺失值處理 81
4．1．2 數(shù)據(jù)的特征值化 87
4．1．3 特征選擇 89
4．1．4 特征構(gòu)建 89
4．2　降維與超參數(shù)調(diào)優(yōu) 91
4．2．1 降維 91
4．2．2 實現(xiàn)降維 92
4．2．3 超參數(shù)調(diào)優(yōu) 93
第5章 分類算法與應用 97
5．1　分類問題簡介 97
5．1．1 分類問題的流程與任務 97
5．1．2 常用的分類數(shù)據(jù)集 98
5．2　K近鄰算法 102
5．2．1 K近鄰算法原理與應用場景 102
5．2．2 基于K近鄰算法實現(xiàn)分類任務 103
5．2．3 使用Python實現(xiàn)KNN算法 110
5．3　概率模型 111
5．3．1 原理 111
5．3．2 應用場景 111
5．4　樸素貝葉斯分類 112
5．4．1 原理與應用場景 112
5．4．2 樸素貝葉斯算法應用 115
5．5　向量空間模型 115
5．5．1 原理與應用場景 115
5．5．2 向量空間模型應用 116
5．6　支持向量機 120
5．6．1 支持向量機概述 120
5．6．2 支持向量機實現(xiàn)分類 122
5．6．3 支持向量機實現(xiàn)回歸 123
5．6．4 支持向量機異常檢測 123
5．6．5 過擬合問題 125
5．7　集成學習 129
5．7．1 集成學習概述 129
5．7．2 決策樹 131
5．7．3 隨機森林 135
5．7．4 Adaboost算法 137
第6章 關聯(lián)規(guī)則 140
6．1　關聯(lián)規(guī)則的概念 140
6．1．1 什么是關聯(lián)規(guī)則 140
6．1．2 關聯(lián)規(guī)則的挖掘過程 141
6．2　Apriori算法 142
6．2．1 Apriori算法概念 142
6．2．2 Apriori算法實現(xiàn)原理 142
6．2．3 實現(xiàn)Apriori算法 144
第7章 聚類算法與應用 148
7．1　無監(jiān)督學習問題 148
7．1．1 無監(jiān)督學習 148
7．1．2 聚類分析的基本概念與原理 149
7．1．3 常見聚類數(shù)據(jù)集 150
7．2　劃分聚類 152
7．2．1 劃分聚類概述 152
7．2．2 K-Means算法 152
7．2．3 sklearn中K-Means算法聚類的使用 155
7．2．4 使用聚類進行圖像壓縮 156
7．2．5 Numpy實現(xiàn)K-Means聚類 158
7．3　層次聚類 159
7．3．1 層次聚類算法 159
7．3．2 使用層次聚類算法聚類 161
7．4　密度聚類 162
7．4．1 DBSCAN算法 163
7．4．2 OPTICS算法 167
7．4．3 DENCLUE算法 168
7．5　聚類效果評測 169
第8章 神經(jīng)網(wǎng)絡 172
8．1　神經(jīng)網(wǎng)絡介紹 172
8．1．1 神經(jīng)元原理 173
8．1．2 前饋神經(jīng)網(wǎng)絡 174
8．1．3 反饋神經(jīng)網(wǎng)絡 175
8．1．4 自組織神經(jīng)網(wǎng)絡 176
8．2　神經(jīng)網(wǎng)絡相關概念 177
8．2．1 激活函數(shù) 177
8．2．2 Softmax算法與損失函數(shù) 182
8．2．3 梯度下降算法 185
8．2．4 學習率 186
8．2．5 過擬合與欠擬合 187
8．2．6 神經(jīng)網(wǎng)絡模型的評估指標 189
8．3　神經(jīng)網(wǎng)絡識別MNIST手寫數(shù)據(jù)集 190
第9章 文本分析 198
9．1　文本數(shù)據(jù)處理的相關概念 198
9．2　中英文的文本數(shù)據(jù)處理方法對比 199
9．2．1 中英文分詞與分詞粒度 200
9．2．2 中英文的多種形態(tài) 200
9．2．3 詞性標注方法的差異 201
9．2．4 句法結(jié)構(gòu)分析方法 201
9．3　文本數(shù)據(jù)處理分析案例 202
9．3．1 使用NLTK進行文本數(shù)據(jù)分析 202
9．3．2 使用jieba進行文本數(shù)據(jù)分析 215
9．4　自然語言處理的應用 221
第10章 圖像數(shù)據(jù)分析 226
10．1　圖像數(shù)據(jù) 226
10．2　圖像數(shù)據(jù)分析方法 228
10．3　圖像數(shù)據(jù)分析案例 230
10．3．1 PIL：Python圖像處理類庫應用示例 230
10．3．2 Numpy圖像數(shù)據(jù)分析示例 235
10．3．3 SciPy圖像數(shù)據(jù)分析示例 238
10．3．4 Scikit-Image 241
10．3．5 OpenCV 246
10．4　計算機視覺的應用 255
10．4．1 圖像分類 256
10．4．2 目標檢測 257
10．4．3 圖像分割 258
10．4．4 風格遷移 260
10．4．5 圖像重構(gòu) 260
10．4．6 超分辨率 261
10．4．7 圖像生成 261
10．4．8 人臉圖像的應用 262
10．4．9 其他 262
第11章 深度學習入門 263
11．1　深度學習的概述 263
11．2　卷積神經(jīng)網(wǎng)絡 264
11．2．1 卷積神經(jīng)網(wǎng)絡簡介 264
11．2．2 卷積神經(jīng)網(wǎng)絡的整體結(jié)構(gòu) 265
11．2．3 常見的卷積神經(jīng)網(wǎng)絡 267
11．3　循環(huán)神經(jīng)網(wǎng)絡 276
11．3．1 RNN基本原理 276
11．3．2 長短期記憶網(wǎng)絡 278
11．3．3 門限循環(huán)單元 282
11．4　深度學習流行框架 283
11．5　基于卷積神經(jīng)網(wǎng)絡識別手寫數(shù)字的實戰(zhàn) 284
11．5．1 實驗目的 284
11．5．2 實驗背景 284
11．5．3 實驗原理 285
11．5．4 實驗環(huán)境 285
11．5．5 實驗步驟 285