認(rèn)知網(wǎng)絡(luò)測量與大數(shù)據(jù)

第一部分理論 第 1章數(shù)學(xué)基礎(chǔ) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .2  1.1概率論基本知識. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .2  1.1.1聯(lián)合界. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .2  1.1.2獨立性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .2  1.1.3二維隨機變量 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .3  1.1.4馬爾可夫、切比雪夫不等式和切爾諾夫界 . . . . . . . . . . . . . . . . . . . . . . . .3  1.1.5特征函數(shù)和傅里葉變換 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .4  1.1.6概率密度函數(shù)的拉普拉斯變換 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .5  1.1.7概率母函數(shù) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .5  1.2獨立的隨機標(biāo)量之和與中心極限定理 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .6  1.3獨立的隨機標(biāo)量之和及幾個典型的偏差不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . .7  1.3.1由概率界到期望界的轉(zhuǎn)換 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .8  1.3.2 Hoe?ding不等式. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .8  1.3.3伯恩斯坦不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .9  1.4概率論與矩陣分析 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .11  1.4.1特征值、跡以及埃爾米特矩陣之和 . . . . . . . . . . . . . . . . . . . . . . . . . . . .11  1.4.2半正定矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .11  1.4.3半正定矩陣的偏序 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .12  1.4.4矩陣函數(shù) f(A)的定義 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .13  1.4.5矩陣與向量的范數(shù) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .13  1.4.6期望 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .14  1.4.7矩和尾概率 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .16  1.4.8隨機向量與 Jensen不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .19  1.4.9收斂 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .19  1.4.10獨立的隨機標(biāo)量之和：切爾諾夫不等式 . . . . . . . . . . . . . . . . . . . . . . . . .19  1.4.11隨機矩陣的期望 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .20  1.4.12特征值和譜范數(shù) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .20  1.4.13譜映射. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .21  1.4.14算子凸性與單調(diào)性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .22  1.4.15矩陣函數(shù)之跡的單調(diào)性和凸性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .23  1.4.16矩陣指數(shù) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .24  1.4.17 Golden-Thompson不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .24  1.4.18矩陣對數(shù) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .25  1.4.19量子相對熵和布雷格曼散度 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .25  1.4.20 Lieb定理 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .27  1.4.21矩陣擴張 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .28  1.4.22半正定矩陣和偏序 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .28  1.4.23期望與半定序 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .29  1.4.24概率的矩陣表示 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .29  1.4.25等距性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .29  1.4.26特征值的 Courant-Fischer性質(zhì). . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .30  1.5由非獨立到獨立的解耦 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .30  1.6隨機矩陣的基礎(chǔ)知識 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .35  1.6.1傅里葉法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .36  1.6.2矩的方法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .36  1.6.3復(fù)高斯隨機矩陣的期望矩 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .36  1.6.4埃爾米特高斯隨機矩陣 HGRM(n, σ2). . . . . . . . . . . . . . . . . . . . . . . . . .37  1.6.5高斯隨機矩陣 GRM(m, n, σ2) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .39  1.7亞高斯隨機變量. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .40  1.8亞高斯隨機向量. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .42  1.9亞指數(shù)隨機變量. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .43  1.10 ε-網(wǎng). . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .44  1.11拉德馬赫均值與對稱化 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .45  1.12作用于亞高斯隨機向量的算子 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .47  1.13隨機過程的上確界 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .49  1.14伯努利序列 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .50  1.15由隨機矩陣和到隨機向量和的轉(zhuǎn)換. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .50  1.16線性有界緊算子. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .52  1.17自伴隨緊算子的譜 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .53  第 2章矩陣值隨機變量之和 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .55  2.1隨機矩陣和的推導(dǎo)方法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .55  2.2矩陣?yán)绽棺儞Q方法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .56  2.2.1方法 1——Harvey推導(dǎo) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .56  2.2.2方法 2——Vershynin推導(dǎo). . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .59  2.2.3方法 3——Oliveria推導(dǎo) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .60  2.2.4方法 4——Ahlswede-Winter推導(dǎo) . . . . . . . . . . . . . . . . . . . . . . . . . . . . .61  2.2.5方法 5——Gross, Liu, Flammia, Becker以及 Eisert ...............68  2.2.6方法 6——Recht推導(dǎo) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .68  2.2.7方法 7——Wigderson和 Xiao推導(dǎo). . . . . . . . . . . . . . . . . . . . . . . . . . . .69  2.2.8方法 8——Tropp推導(dǎo). . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .69  2.3矩陣?yán)鄯e量的拉普拉斯變換方法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .69  2.4矩母函數(shù)的不適用性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .70  2.5矩陣?yán)鄯e量母函數(shù)的次可加性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .71  2.6獨立隨機矩陣之和的尾概率界 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .72  2.7矩陣高斯級數(shù)——個例研究 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .74  2.8應(yīng)用：具有非均勻方差的高斯矩陣. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .76  2.9期望控制 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .76  2.10隨機半正定矩陣的和 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .78  2.11矩陣 Bennett和伯恩斯坦不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .81  2.12隨機矩陣之和的所有特征值的尾概率界 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .82  2.13內(nèi)部特征值的切爾諾夫界. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .84  2.14通過隨機矩陣和完成線性濾波 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .86  2.15隨機矩陣和的無維數(shù)限制不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .88  2.16一些欣欽型不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .90  2.17半正定矩陣的稀疏和 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .93 第 3章測量的集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .94  3.1測量的集中現(xiàn)象. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .94  3.2卡方分布 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .95  3.3隨機向量的測量集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .96  3.4 Slepian-Fernique引理和高斯隨機矩陣的測量集中性 . . . . . . . . . . . . . . . . . . . . 103  3.5 Dudley不等式. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105  3.6誘導(dǎo)算子范數(shù)的集中 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107  3.7高斯和 Wishart隨機矩陣的測量集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112  3.8算子范數(shù)的測量集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117  3.9亞高斯隨機矩陣的測量集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 120  3.10最大特征值的測量集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 123  3.10.1 Talagrand不等式方法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124  3.10.2鏈方法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124  3.10.3一般隨機矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 125  3.11隨機向量投影的測量集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 126  3.12進一步討論 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 128 第 4章特征值及其函數(shù)的集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .129  4.1特征值和范數(shù)的上確界表示 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 129  4.2特征值的利普希茨映射 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 131  4.3矩陣特征值和矩陣跡的平滑性及凸性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 132  4.4矩陣函數(shù)的泰勒級數(shù)近似法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 137  4.5 Talagrand集中不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 140  4.6維格納隨機矩陣的譜測度集中理論. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 141  4.7隨機矩陣的非可交換多項式集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 144  4.8 Wishart隨機矩陣的譜測度集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 145  4.9兩個隨機矩陣和的集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 153  4.10子矩陣的集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 154  4.11矩方法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 154  4.12跡函數(shù)的集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 158  4.13特征值的集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 158  4.14大隨機矩陣函數(shù)的集中性：線性譜統(tǒng)計量 . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159  4.15二次型的集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 161  4.16隨機向量和子空間的距離. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 167  4.17斯蒂爾切斯變換域的隨機矩陣集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 169  4.18馮·諾依曼熵函數(shù)的集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 171  4.19隨機過程的上確界 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 173  4.20進一步討論 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 173 第 5章隨機矩陣的局部非漸近性理論 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .175  5.1符號記法和基礎(chǔ)知識 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 175  5.2迷向凸體 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 176  5.3對數(shù)凹的隨機向量 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 178  5.4 Rudelson定理 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 179  5.5行獨立的樣本協(xié)方差矩陣. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 181  5.6對數(shù)凹迷向隨機向量的集中理論 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 187  5.6.1 Paouris集中不等式. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 187  5.6.2非增重排及次序統(tǒng)計量 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 189  5.6.3樣本協(xié)方差 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 189  5.7小球概率的集中不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 191  5.8矩估計. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 193  5.8.1對數(shù)凹的迷向隨機向量的矩 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 194  5.8.2凸測度的矩 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 196  5.9隨機矩陣的大數(shù)定律 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 198  5.10低秩近似 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 201  5.11元素相互獨立的隨機矩陣. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 203  5.12具有獨立行向量的隨機矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 204  5.12.1獨立的行 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 204  5.12.2重尾分布的行 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 205  5.13協(xié)方差矩陣的估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 207  5.14奇異值的集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 210  5.14.1緊致小偏差 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 211  5.14.2高矩陣. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 211  5.14.3近似方陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 211  5.14.4方陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212  5.14.5長方形矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212  5.14.6隨機矩陣和確定性矩陣的乘積 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 213  5.14.7隨機矩陣的行列式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 215  5.15隨機矩陣的可逆性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 217  5.16奇異值的普適性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 218  5.16.1隨機矩陣加確定的矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 221  5.16.2協(xié)方差矩陣和相關(guān)矩陣的普適性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 224  5.17進一步討論 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 226 第 6章隨機矩陣的全局漸近理論. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .228  6.1大隨機矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 228  6.2極限分布律 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 229  6.3矩方法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 229  6.4斯蒂爾切斯變換. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 230  6.5自由概率 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 232  6.5.1概念 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 232  6.5.2實際意義 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 233  6.5.3定義和基本性質(zhì) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 234  6.5.4自由獨立性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 235  6.5.5自由卷積 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 236  6.6斯蒂爾切斯，R和 S變換表格. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 237 第二部分應(yīng)用 第 7章壓縮感知與稀疏重構(gòu) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .241  7.1壓縮感知 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 241  7.2 JL引理與 RIP條件 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 243  7.3結(jié)構(gòu)化隨機矩陣. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 249  7.4循環(huán)矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 249  7.5隨機測量矩陣與確定性字典 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 249  7.6部分隨機循環(huán)矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 255  7.7時頻結(jié)構(gòu)化矩陣. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 260  7.8混沌過程的上確界 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 263  7.9特普利茨隨機矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 265  7.10確定性矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 266 第 8章矩陣填充與低秩矩陣重構(gòu). . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .267  8.1低秩矩陣恢復(fù) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 267  8.2矩陣 RIP性質(zhì). . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 268  8.3重構(gòu)誤差限 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 269  8.4假設(shè)檢驗 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 269  8.5高維統(tǒng)計學(xué) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 270  8.6矩陣壓縮感知 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 271  8.6.1觀測模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 271  8.6.2核范數(shù)正則化 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 271  8.6.3限制強凸性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 272  8.6.4低秩矩陣重構(gòu)的誤差限 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 272  8.7線性回歸 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 275  8.8多任務(wù)矩陣回歸. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 277  8.9矩陣填充 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 279  8.9.1正交分解與正交投影 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 279  8.9.2矩陣填充 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 280  8.10馮 ·諾依曼熵懲罰與低秩矩陣預(yù)測 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 282  8.10.1系統(tǒng)模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 282  8.10.2基于正交基的采樣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 283  8.10.3低秩矩陣估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 284  8.10.4所用工具 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 285  8.11大量凸成分函數(shù)和 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 285  8.12基于矩陣填充的相位恢復(fù). . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 287  8.12.1方法學(xué). . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 288  8.12.2基于凸優(yōu)化的矩陣恢復(fù) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 289  8.12.3相位空間成像 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 290  8.12.4自相關(guān) RF斷層成像 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 291  8.13進一步討論 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 296 第 9章高維協(xié)方差矩陣估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .297  9.1大局觀:感知、通信、計算和控制 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 297  9.1.1接收信號強度 (RSS)及其在異常檢測中的應(yīng)用 . . . . . . . . . . . . . . . . . . 299  9.1.2非連續(xù)正交頻分復(fù)用 (NC-OFDM)波形及其在異常檢測中的應(yīng)用 . . . . 299  9.2協(xié)方差矩陣估計. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 300  9.2.1經(jīng)典協(xié)方差估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 300  9.2.2掩?；瘶颖緟f(xié)方差矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 301  9.2.3平穩(wěn)時間序列的協(xié)方差矩陣估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 308  9.3協(xié)方差矩陣估計. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 309  9.4協(xié)方差矩陣的部分估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 310  9.5無限維數(shù)據(jù)的協(xié)方差矩陣估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 311  9.6信號加噪聲 Y = S + X的矩陣模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 312  9.7魯棒的協(xié)方差估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 315 第 10章高維檢測 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .317  10.1 OFDM雷達 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 317  10.2主成分分析 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 317  10.3稀疏主成分 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 319  10.4基于隨機矩陣之和的信息加噪模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 320  10.5矩陣假設(shè)檢驗 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 321  10.6隨機矩陣檢測 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 322  10.7稀疏備擇假設(shè)的球形檢驗. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 325  10.8與隨機矩陣?yán)碚摰穆?lián)系 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 326  10.8.1譜方法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 326  10.8.2 Wishart矩陣的低秩擾動. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 327  10.9稀疏的主成分檢測 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 327  10.9.1 k稀疏最大特征值的集中不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 327  10.9.2基于 λk 的假設(shè)檢驗 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 328  max 10.9.3稀疏特征值 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 329  10.10稀疏主成分檢驗的半定方法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 329  10.10.1 λk 計算問題的半定松弛 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 329  max 10.10.2凸松弛的高概率界 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 330  10.10.3基于凸方法的假設(shè)檢驗 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 330  10.11稀疏向量估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 331  10.12高維向量檢測 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 332  10.13高維匹配子空間檢測 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 335  10.14基于壓縮感知的高維向量子空間檢測 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 336  10.15數(shù)據(jù)矩陣檢測 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 338  10.16高維雙樣本檢驗. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 339  10.17與非可交換隨機矩陣假設(shè)檢驗的聯(lián)系 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 342 第 11章概率約束的優(yōu)化問題 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .343  11.1問題描述 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 343  11.2隨機對稱矩陣之和 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 344  11.3隨機矩陣之和的應(yīng)用 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 349  11.4機會約束的線性矩陣不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 354  11.5概率約束的優(yōu)化問題 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 354  11.6采用協(xié)同干擾機制的概率安全 AF中繼 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 357  11.6.1引言 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 357  11.6.2系統(tǒng)模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 358  11.6.3提出的方法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 361  11.6.4仿真結(jié)果 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 364  11.7進一步討論 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 365 第 12章數(shù)據(jù)集的高效處理算法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .366  12.1低秩矩陣近似 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 366  12.2矩陣算法的行采樣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 367  12.3近似矩陣乘法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 368  12.4矩陣和張量稀疏化 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 369  12.5進一步討論 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 371  第 13章網(wǎng)絡(luò)到大數(shù)據(jù) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .372  13.1大數(shù)據(jù)的大隨機矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 372  13.2高維假設(shè)檢測實例 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 373  13.3認(rèn)知無線電網(wǎng)絡(luò)測試平臺. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 374  13.4無線分布式計算. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 375  13.5數(shù)據(jù)收集 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 376  13.6數(shù)據(jù)存儲與管理. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 376  13.7大數(shù)據(jù)集的數(shù)據(jù)挖掘 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 377  13.8無人飛行器對無線網(wǎng)絡(luò)移動性的利用 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 377  13.9智能電網(wǎng) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 377  13.10從認(rèn)知無線電網(wǎng)絡(luò)到復(fù)雜網(wǎng)絡(luò)和隨機圖 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 377  13.11隨機矩陣?yán)碚摵图袦y量. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 377 參考文獻 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .379