人工智能的矩陣代數(shù)方法：應(yīng)用篇

輔文
6章 機(jī)器學(xué)習(xí)
  6.1 機(jī)器學(xué)習(xí)樹(shù)
  6.2 機(jī)器學(xué)習(xí)中的優(yōu)化
   6.2.1 單目標(biāo)組合優(yōu)化
   6.2.2 梯度聚合法
   6.2.3 坐標(biāo)下降法
   6.2.4 單目標(biāo)優(yōu)化的基準(zhǔn)函數(shù)
  6.3 優(yōu)化小化算法
   6.3.1 優(yōu)化小 化算法框架
   6.3.2 優(yōu)化小化算法舉例
  6.4 提升與概率近似正確學(xué)習(xí)
   6.4.1 弱學(xué)習(xí)算法提升
   6.4.2 概率近似正確學(xué)習(xí)
  6.5 機(jī)器學(xué)習(xí)的基本理論
   6.5.1 學(xué)習(xí)機(jī)
   6.5.2 機(jī)器學(xué)習(xí)方法
   6.5.3 機(jī)器學(xué)習(xí)算法的期望性能
  6.6 分類(lèi)與回歸
   6.6.1 模式識(shí)別與分類(lèi)
   6.6.2 回歸
  6.7 特征選擇
   6.7.1 有監(jiān)督特征選擇
   6.7.2 無(wú)監(jiān)督特征選擇
   6.7.3 非線性聯(lián)合無(wú)監(jiān)督特征選擇
  6.8 主成分分析
   6.8.1 主成分分析基礎(chǔ)
   6.8.2 次成分分析
   6.8.3 主子空間分析
   6.8.4 魯棒主成分分析
   6.8.5 稀疏主成分分析
  6.9 監(jiān)督學(xué)習(xí)回歸
   6.9.1 主成分回歸
   6.9.2 偏小二乘回歸
   6.9.3 懲罰回歸
   6.9.4 稀疏重構(gòu)中的梯度投影
  6.10 監(jiān)督學(xué)習(xí)分類(lèi)
   6.10.1 二進(jìn)制線性分類(lèi)器
   6.10.2 多類(lèi)線性分類(lèi)器
  6.11 監(jiān)督張量學(xué)習(xí)
   6.11.1 張量代數(shù)基礎(chǔ)
   6.11.2 監(jiān)督張量學(xué)習(xí)問(wèn)題
   6.11.3 張量Fisher判別分析
   6.11.4 張量回歸學(xué)習(xí)
   6.11.5 張量K均值聚類(lèi)
  6.12 無(wú)監(jiān)督聚類(lèi)
   6.12.1 相似性測(cè)度
   6.12.2 分層聚類(lèi)
   6.12.3 無(wú)監(jiān)督聚類(lèi)的Fisher判別分析
   6.12.4 K均值聚類(lèi)
  6.13 譜聚類(lèi)
   6.13.1 譜聚類(lèi)算法
   6.13.2 約束譜聚類(lèi)
   6.13.3 快速譜聚類(lèi)
  6.14 半監(jiān)督學(xué)習(xí)算法
   6.14.1 半監(jiān)督歸納/直推學(xué)習(xí)
   6.14.2 自訓(xùn)練
   6.14.3 協(xié)同訓(xùn)練
  6.15 典型相關(guān)分析
   6.15.1 典型相關(guān)分析算法
   6.15.2 核典型相關(guān)分析
   6.15.3 懲罰典型相關(guān)分析
  6.16 圖機(jī)器學(xué)習(xí)
   6.16.1 圖
   6.16.2 圖拉普拉斯矩陣
   6.16.3 圖譜
   6.16.4 圖信號(hào)處理
   6.16.5 半監(jiān)督圖學(xué)習(xí): 調(diào)和函數(shù)法
   6.16.6 半監(jiān)督圖學(xué)習(xí): 小割集法
   6.16.7 無(wú)監(jiān)督圖學(xué)習(xí): 稀疏編碼法
  6.17 主動(dòng)學(xué)習(xí)
   6.17.1 主動(dòng)學(xué)習(xí)的背景
   6.17.2 統(tǒng)計(jì)主動(dòng)學(xué)習(xí)
   6.17.3 主動(dòng)學(xué)習(xí)算法
   6.17.4 基于主動(dòng)學(xué)習(xí)的二元線性分類(lèi)器
   6.17.5 使用極限學(xué)習(xí)機(jī)的主動(dòng)學(xué)習(xí)
  6.18 強(qiáng)化學(xué)習(xí)
   6.18.1 基本概念與理論
   6.18.2 馬爾可夫決策過(guò)程
  6.19 Q學(xué)習(xí)
   6.19.1 基本Q學(xué)習(xí)
   6.19.2 雙Q學(xué)習(xí)與加權(quán)雙Q學(xué)習(xí)
   6.19.3 在線連接Q學(xué)習(xí)算法
   6.19.4 Q體驗(yàn)式學(xué)習(xí)
  6.20 遷移學(xué)習(xí)
   6.20.1 符號(hào)與定義
   6.20.2 遷移學(xué)習(xí)的分類(lèi)
   6.20.3 遷移學(xué)習(xí)的提升
   6.20.4 多任務(wù)學(xué)習(xí)
   6.20.5 特征遷移
  6.21 域適應(yīng)
   6.21.1 特征增強(qiáng)法
   6.21.2 跨域變換法
   6.21.3 遷移成分分析法
  本章小結(jié)
  參考文獻(xiàn)
7章 神經(jīng)網(wǎng)絡(luò)
  7.1 神經(jīng)網(wǎng)絡(luò)樹(shù)
  7.2 從現(xiàn)代神經(jīng)網(wǎng)絡(luò)到深度學(xué)習(xí)
  7.3 神經(jīng)網(wǎng)絡(luò)的優(yōu)化
   7.3.1 在線優(yōu)化問(wèn)題
   7.3.2 自適應(yīng)梯度算法
   7.3.3 自適應(yīng)矩估計(jì)
  7.4 激活函數(shù)
   7.4.1 邏輯斯諦回歸與S型函數(shù)
   7.4.2 Softma回歸與softma函數(shù)
   7.4.3 其他激活函數(shù)
  7.5 反饋神經(jīng)網(wǎng)絡(luò)
   7.5.1 常規(guī)反饋神經(jīng)網(wǎng)絡(luò)
   7.5.2 時(shí)間反向傳播(BPTT)
   7.5.3 Jordan網(wǎng)絡(luò)和Elman網(wǎng)絡(luò)
   7.5.4 雙向反饋神經(jīng)網(wǎng)絡(luò)
   7.5.5 長(zhǎng)短期記憶(LSTM)
   7.5.6 長(zhǎng)短期記憶的改進(jìn)
  7.6 Boltzmann機(jī)
   7.6.1 Hopfield網(wǎng)絡(luò)與Boltzmann機(jī)
   7.6.2 受限Boltzmann機(jī)
   7.6.3 對(duì)比散度學(xué)習(xí)
   7.6.4 多重受限Boltzmann機(jī)
  7.7 貝葉斯神經(jīng)網(wǎng)絡(luò)
   7.7.1 樸素貝葉斯分類(lèi)
   7.7.2 貝葉斯分類(lèi)理論
   7.7.3 稀疏貝葉斯學(xué)習(xí)
  7.8 卷積神經(jīng)網(wǎng)絡(luò)
   7.8.1 Hankel矩陣與卷積
   7.8.2 池化層
   7.8.3 卷積神經(jīng)網(wǎng)絡(luò)的激活函數(shù)
   7.8.4 損失函數(shù)
  7.9 丟棄學(xué)習(xí)
   7.9.1 淺層與深層學(xué)習(xí)的丟棄學(xué)習(xí)
   7.9.2 丟棄學(xué)習(xí)球形K均值聚類(lèi)
   7.9.3 丟棄學(xué)習(xí)連接
  7.10 自動(dòng)編碼器
   7.10.1 基本自動(dòng)編碼器
   7.10.2 堆棧稀疏自動(dòng)編碼器
   7.10.3 堆棧去噪自動(dòng)編碼器
   7.10.4 卷積自動(dòng)編碼器
   7.10.5 堆棧卷積去噪自動(dòng)編碼器
   7.10.6 非負(fù)稀疏自動(dòng)編碼器
  7.11 極限學(xué)習(xí)機(jī)
   7.11.1 具有隨機(jī)隱藏節(jié)點(diǎn)的單隱層前饋網(wǎng)絡(luò)
   7.11.2 回歸與二元分類(lèi)的極限學(xué)習(xí)機(jī)算法
   7.11.3 多類(lèi)分類(lèi)的極限學(xué)習(xí)機(jī)算法
  7.12 圖嵌入
   7.12.1 接近度與圖嵌入
   7.12.2 多維標(biāo)度
   7.12.3 流形學(xué)習(xí): 等距映
   7.12.4 流形學(xué)習(xí): 局部線性嵌入
   7.12.5 流形學(xué)習(xí): 拉普拉斯特征映
  7.13 網(wǎng)絡(luò)嵌入
   7.13.1 結(jié)構(gòu)與屬性保持的網(wǎng)絡(luò)嵌入
   7.13.2 社區(qū)保持的網(wǎng)絡(luò)嵌入
   7.13.3 高階接近度保持的網(wǎng)絡(luò)嵌入
  7.14 圖域神經(jīng)網(wǎng)絡(luò)
   7.14.1 圖神經(jīng)網(wǎng)絡(luò)
   7.14.2 DeepWalk與GraphSAGE
   7.14.3 圖卷積網(wǎng)絡(luò)
  7.15 批量規(guī)格化網(wǎng)絡(luò)
   7.15.1 批量規(guī)格化
   7.15.2 批量規(guī)格化的變形與擴(kuò)展
  7.16 生成對(duì)抗網(wǎng)絡(luò)
   7.16.1 生成對(duì)抗網(wǎng)絡(luò)框架
   7.16.2 雙向生成對(duì)抗網(wǎng)絡(luò)
   7.16.3 變分自動(dòng)編碼器
  本章小結(jié)
  參考文獻(xiàn)
8章 支持向量機(jī)
  8.1 支持向量機(jī)基本理論
   8.1.1 統(tǒng)計(jì)學(xué)習(xí)理論
   8.1.2 線性支持向量機(jī)
  8.2 核回歸方法
   8.2.1 再生核與Mercer核
   8.2.2 表示定理與核回歸
   8.2.3 半監(jiān)督與圖回歸
   8.2.4 核偏小二乘回歸
   8.2.5 拉普拉斯支持向量機(jī)
  8.3 支持向量機(jī)回歸
   8.3.1 支持向量機(jī)回歸器
   8.3.2 $epsilon $支持向量回歸
   8.3.3 $ u $支持向量機(jī)回歸
  8.4 支持向量機(jī)二元分類(lèi)
   8.4.1 支持向量機(jī)二元分類(lèi)器
   8.4.2 $ u $支持向量二元分類(lèi)器
   8.4.3 小二乘支持向量機(jī)二元分類(lèi)器
   8.4.4 近似支持向量機(jī)二元分類(lèi)器
   8.4.5 支持向量機(jī)遞推特征消除
  8.5 支持向量機(jī)多類(lèi)分類(lèi)
   8.5.1 多類(lèi)分類(lèi)的分解方法
   8.5.2 小二乘支持向量機(jī)多類(lèi)分類(lèi)器
   8.5.3 近似支持向量機(jī)多類(lèi)分類(lèi)器
  8.6 回歸與分類(lèi)的高斯過(guò)程
   8.6.1 聯(lián)合概率、邊緣概率與條件概率
   8.6.2 高斯過(guò)程
   8.6.3 高斯過(guò)程回歸
   8.6.4 高斯過(guò)程分類(lèi)
  8.7 相關(guān)向量機(jī)
   8.7.1 稀疏貝葉斯回歸
   8.7.2 稀疏貝葉斯分類(lèi)
   8.7.3 快速邊緣似然大化
  本章小結(jié)
  參考文獻(xiàn)
9章 演化計(jì)算
  9.1 演化計(jì)算樹(shù)
  9.2 多目標(biāo)優(yōu)化
   9.2.1 多目標(biāo)組合優(yōu)化
   9.2.2 多目標(biāo)優(yōu)化問(wèn)題
  9.3 帕累托優(yōu)化理論
   9.3.1 帕累托概念
   9.3.2 適應(yīng)度選擇法
   9.3.3 非支配排序法
   9.3.4 擁擠距離分配法
   9.3.5 分層聚類(lèi)法
   9.3.6 多目標(biāo)優(yōu)化的基準(zhǔn)函數(shù)
  9.4 含噪多目標(biāo)優(yōu)化
   9.4.1 含噪多目標(biāo)優(yōu)化的帕累托概念
   9.4.2 逼近集合的性能測(cè)度
  9.5 多目標(biāo)模擬火
   9.5.1 模擬火原理
   9.5.2 多目標(biāo)模擬火算法
   9.5.3 存檔多目標(biāo)模擬火
  9.6 遺傳算法
   9.6.1 基本遺傳算法運(yùn)算
   9.6.2 具有基因重排的遺傳算法
  9.7 非支配多目標(biāo)遺傳算法
   9.7.1 適應(yīng)度函數(shù)
   9.7.2 適應(yīng)度選擇
   9.7.3 非支配排序遺傳算法
   9.7.4 精英非支配排序遺傳算法
  9.8 進(jìn)化算法
   9.8.1 $(1 1)$進(jìn)化算法
   9.8.2 進(jìn)化算法的理論分析
  9.9 多目標(biāo)進(jìn)化算法
   9.9.1 求解多目標(biāo)優(yōu)化問(wèn)題的經(jīng)典方法
   9.9.2 基于分解的多目標(biāo)進(jìn)化算法
   9.9.3 增強(qiáng)帕累托進(jìn)化算法
   9.9.4 成就標(biāo)量化函數(shù)
  9.10 演化規(guī)劃
   9.10.1 經(jīng)典演化規(guī)劃
   9.10.2 快速演化規(guī)劃
   9.10.3 混合演化規(guī)劃
  9.11 差分演化
   9.11.1 經(jīng)典差分演化
   9.11.2 差分演化的變形
  9.12 蟻優(yōu)化
   9.12.1 真實(shí)螞蟻與人工螞蟻
   9.12.2 典型蟻優(yōu)化問(wèn)題
   9.12.3 螞蟻系統(tǒng)與蟻系統(tǒng)
  9.13 多目標(biāo)人工蜂算法
   9.13.1 人工蜂算法
   9.13.2 人工蜂算法的變形
  9.14 粒子優(yōu)化
   9.14.1 基本概念
   9.14.2 典型粒子
   9.14.3 遺傳學(xué)習(xí)粒子優(yōu)化
   9.14.4 特征選擇的粒子優(yōu)化
  9.15 基于對(duì)立的演化計(jì)算
   9.15.1 對(duì)立學(xué)習(xí)
   9.15.2 基于對(duì)立的差分演化
   9.15.3 對(duì)立學(xué)習(xí)的兩種變形
  本章小結(jié)
  參考文獻(xiàn)
索引
后記