貝葉斯推理與機(jī)器學(xué)習(xí)

譯者序
前言
符號(hào)表
BRML工具箱第一部分　概率模型中的推斷第1章　概率推理3　1.1　概率知識(shí)復(fù)習(xí)3
　　1.1.1　條件概率5
　　1.1.2　概率表7
　1.2　概率推理8
　1.3　先驗(yàn)、似然與后驗(yàn)14
　　1.3.1　兩枚骰子：各自的分?jǐn)?shù)是
多少15
　1.4　總結(jié)18
　1.5　代碼18
　　1.5.1　基礎(chǔ)概率代碼18
　　1.5.2　通用工具20
　　1.5.3　示例20
　1.6　練習(xí)題20第2章　圖的基礎(chǔ)概念23　2.1　圖23
　2.2　圖的數(shù)值表示25
　　2.2.1　邊表25
　　2.2.2　鄰接矩陣25
　　2.2.3　團(tuán)矩陣26
　2.3　總結(jié)26
　2.4　代碼26
　　2.4.1　實(shí)用程序26
　2.5　練習(xí)題27第3章　信念網(wǎng)絡(luò)29　3.1　結(jié)構(gòu)化的優(yōu)勢(shì)29
　　3.1.1　獨(dú)立性建模29
　　3.1.2　降低說(shuō)明的負(fù)擔(dān)32
　3.2　不確定性和不可靠的證據(jù)33
　　3.2.1　不確定性證據(jù)33
　　3.2.2　不可靠證據(jù)35
　3.3　信念網(wǎng)絡(luò)36
　　3.3.1　條件獨(dú)立性37
　　3.3.2　對(duì)撞的影響38
　　3.3.3　圖路徑獨(dú)立性操作41
　　3.3.4　d-分離41
　　3.3.5　圖和分布的獨(dú)立性與
相關(guān)性42
　　3.3.6　信念網(wǎng)絡(luò)中的馬爾可夫
等價(jià)性43
　　3.3.7　信念網(wǎng)絡(luò)的有限表達(dá)性43
　3.4　因果關(guān)系44
　　3.4.1　辛普森悖論45
　　3.4.2　do算子46
　　3.4.3　影響圖和do算子47
　3.5　總結(jié)47
　3.6　代碼47
　　3.6.1　簡(jiǎn)單的推斷演示47
　　3.6.2　條件獨(dú)立性演示48
　　3.6.3　實(shí)用程序48
　3.7　練習(xí)題48第4章　圖模型52　4.1　圖模型簡(jiǎn)介52
　4.2　馬爾可夫網(wǎng)絡(luò)52
　　4.2.1　馬爾可夫性質(zhì)54
　　4.2.2　馬爾可夫隨機(jī)場(chǎng)55
　　4.2.3　Hammersley-Clifford理論55
　　4.2.4　使用馬爾可夫網(wǎng)絡(luò)的條件
獨(dú)立性58
　　4.2.5　晶格模型58
　4.3　鏈圖模型60
　4.4　因子圖61
　　4.4.1　因子圖中的條件獨(dú)立性62
　4.5　圖模型的表達(dá)能力63
　4.6　總結(jié)65
　4.7　代碼65
　4.8　練習(xí)題65第5章　樹(shù)中的有效推斷68　5.1　邊緣推斷68
　　5.1.1　馬爾可夫鏈中的變量消除和
消息傳遞68
　　5.1.2　因子圖上的和-積算法71
　　5.1.3　處理證據(jù)74
　　5.1.4　計(jì)算邊緣似然74
　　5.1.5　循環(huán)問(wèn)題75
　5.2　其他形式的推斷75
　　5.2.1　最大-積75
　　5.2.2　尋找N個(gè)最可能的狀態(tài)78
　　5.2.3　最可能的路徑和最短的
路徑79
　　5.2.4　混合推斷82
　5.3　多連通圖中的推斷82
　　5.3.1　桶消元82
　　5.3.2　環(huán)切條件84
　5.4　連續(xù)分布中的消息傳遞84
　5.5　總結(jié)85
　5.6　代碼85
　　5.6.1　因子圖示例86
　　5.6.2　最可能和最短路徑86
　　5.6.3　桶消元86
　　5.6.4　基于高斯的消息傳遞86
　5.7　練習(xí)題86第6章　聯(lián)結(jié)樹(shù)算法90　6.1　聚類變量90
　　6.1.1　重參數(shù)化90
　6.2　團(tuán)圖91
　　6.2.1　吸收92
　　6.2.2　團(tuán)樹(shù)上的吸收順序93
　6.3　聯(lián)結(jié)樹(shù)93
　　6.3.1　運(yùn)行相交性質(zhì)94
　6.4　為單連通分布構(gòu)建聯(lián)結(jié)樹(shù)97
　　6.4.1　倫理化97
　　6.4.2　構(gòu)建團(tuán)圖97
　　6.4.3　根據(jù)團(tuán)圖構(gòu)建聯(lián)結(jié)樹(shù)97
　　6.4.4　為團(tuán)分配勢(shì)函數(shù)97
　6.5　為多連通分布構(gòu)建聯(lián)結(jié)樹(shù)98
　　6.5.1　三角化算法99
　6.6　聯(lián)結(jié)樹(shù)算法及示例102
　　6.6.1　關(guān)于聯(lián)結(jié)樹(shù)算法的備注102
　　6.6.2　計(jì)算分布的歸一化常數(shù)103
　　6.6.3　邊緣似然103
　　6.6.4　聯(lián)結(jié)樹(shù)算法示例104
　　6.6.5　Shafer-Shenoy傳播105
　6.7　尋找最可能的狀態(tài)106
　6.8　重吸收：將聯(lián)結(jié)樹(shù)轉(zhuǎn)換為有向
網(wǎng)絡(luò)107
　6.9　近似的必要性107
　　6.9.1　寬度有界聯(lián)結(jié)樹(shù)108
　6.10　總結(jié)108
　6.11　代碼108
　　6.11.1　實(shí)用程序109
　6.12　練習(xí)題109第7章　決策111　7.1　期望效用111
　　7.1.1　貨幣效用111
　7.2　決策樹(shù)112
　7.3　擴(kuò)展貝葉斯網(wǎng)絡(luò)以做出決策114
　　7.3.1　影響圖的語(yǔ)法114
　7.4　求解影響圖118
　　7.4.1　影響圖上的消息119
　　7.4.2　使用聯(lián)結(jié)樹(shù)119
　7.5　馬爾可夫決策過(guò)程122
　　7.5.1　利用消息傳遞來(lái)最大化期望
效用123
　　7.5.2　貝爾曼方程124
　7.6　時(shí)間無(wú)窮的馬爾可夫決策過(guò)程…　124
　　7.6.1　值迭代124
　　7.6.2　策略迭代125
　　7.6.3　維度災(zāi)難126
　7.7　變分推斷和規(guī)劃126
　7.8　金融事項(xiàng)128
　　7.8.1　期權(quán)定價(jià)和期望效用128
　　7.8.2　二項(xiàng)式期權(quán)定價(jià)模型129
　　7.8.3　最優(yōu)投資130
　7.9　進(jìn)一步的主題132
　　7.9.1　部分可觀察的MDP132
　　7.9.2　強(qiáng)化學(xué)習(xí)133
　7.10　總結(jié)1