認知網路測量與大數據

本書系統論述了大規模網路下認知測量的基本理論及某些套用問題，基本涵蓋了認知測量在理論和實際套用中各個方面的內容。全書包括隨機矩陣和的性質，隨機矩陣的集中不等式性質及高維大數據矩陣特徵值的集中不等式性質，隨機矩陣的非漸進和局部性質及漸進和全局性質。

基本介紹

• 書名：認知網路測量與大數據
• 作者：美）Robert Qiu（邱才明）, Michael Wicks（M. 威克斯） 
• 譯者：宋彬,秦浩,劉海嘯等
• ISBN：9787121275517
• 出版社：電子工業出版社
• 出版時間：2016-05-01

圖書內容

本書系統論述了大規模網路下認知測量的基本理論及某些套用問題，基本涵蓋了認知測量在理論和實際套用中各個方面的內容。全書包括隨機矩陣和的性質，隨機矩陣的集中不等式性質及高維大數據矩陣特徵值的集中不等式性質，隨機矩陣的非漸進和局部性質及漸進和全局性質。

本書還詳細介紹了認知測量理論在其他學科中的具體套用，包括壓縮感知、矩陣填充、低秩矩陣恢復、高維協方差矩陣估計、高維信號檢測、機率條件受限的最佳化問題求解等。本書最後討論了相關理論在大數據套用中的分析方法。

目錄

第一部分理論

第 1章數學基礎 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .2

1.1機率論基本知識. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .2

1.1.1聯合界. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .2

1.1.2獨立性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .2

1.1.3二維隨機變數 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .3

1.1.4馬爾可夫、切比雪夫不等式和切爾諾夫界 . . . . . . . . . . . . . . . . . . . . . . . .3

1.1.5特徵函式和傅立葉變換 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .4

1.1.6機率密度函式的拉普拉斯變換 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .5

1.1.7機率母函式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .5

1.2獨立的隨機標量之和與中心極限定理 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .6

1.3獨立的隨機標量之和及幾個典型的偏差不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . .7

1.3.1由機率界到期望界的轉換 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .8

1.3.2 Hoe?ding不等式. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .8

1.3.3伯恩斯坦不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .9

1.4機率論與矩陣分析 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .11

1.4.1特徵值、跡以及埃爾米特矩陣之和 . . . . . . . . . . . . . . . . . . . . . . . . . . . .11

1.4.2半正定矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .11

1.4.3半正定矩陣的偏序 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .12

1.4.4矩陣函式 f(A)的定義 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .13

1.4.5矩陣與向量的範數 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .13

1.4.6期望 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .14

1.4.7矩和尾機率 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .16

1.4.8隨機向量與 Jensen不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .19

1.4.9收斂 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .19

1.4.10獨立的隨機標量之和：切爾諾夫不等式 . . . . . . . . . . . . . . . . . . . . . . . . .19

1.4.11隨機矩陣的期望 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .20

1.4.12特徵值和譜範數 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .20

1.4.13譜映射. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .21

1.4.14運算元凸性與單調性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .22

1.4.15矩陣函式之跡的單調性和凸性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .23

1.4.16矩陣指數 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .24

1.4.17 Golden-Thompson不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .24

1.4.18矩陣對數 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .25

1.4.19量子相對熵和布雷格曼散度 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .25

1.4.20 Lieb定理 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .27

1.4.21矩陣擴張 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .28

1.4.22半正定矩陣和偏序 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .28

1.4.23期望與半定序 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .29

1.4.24機率的矩陣表示 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .29

1.4.25等距性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .29

1.4.26特徵值的 Courant-Fischer性質. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .30

1.5由非獨立到獨立的解耦 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .30

1.6隨機矩陣的基礎知識 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .35

1.6.1傅立葉法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .36

1.6.2矩的方法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .36

1.6.3復高斯隨機矩陣的期望矩 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .36

1.6.4埃爾米特高斯隨機矩陣 HGRM(n, σ2). . . . . . . . . . . . . . . . . . . . . . . . . .37

1.6.5高斯隨機矩陣 GRM(m, n, σ2) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .39

1.7亞高斯隨機變數. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .40

1.8亞高斯隨機向量. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .42

1.9亞指數隨機變數. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .43

1.10 ε-網. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .44

1.11拉德馬赫均值與對稱化 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .45

1.12作用於亞高斯隨機向量的運算元 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .47

1.13隨機過程的上確界 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .49

1.14伯努利序列 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .50

1.15由隨機矩陣和到隨機向量和的轉換. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .50

1.16線性有界緊運算元. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .52

1.17自伴隨緊運算元的譜 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .53

第 2章矩陣值隨機變數之和 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .55

2.1隨機矩陣和的推導方法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .55

2.2矩陣拉普拉斯變換方法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .56

2.2.1方法 1——Harvey推導 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .56

2.2.2方法 2——Vershynin推導. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .59

2.2.3方法 3——Oliveria推導 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .60

2.2.4方法 4——Ahlswede-Winter推導 . . . . . . . . . . . . . . . . . . . . . . . . . . . . .61

2.2.5方法 5——Gross, Liu, Flammia, Becker以及 Eisert ...............68

2.2.6方法 6——Recht推導 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .68

2.2.7方法 7——Wigderson和 Xiao推導. . . . . . . . . . . . . . . . . . . . . . . . . . . .69

2.2.8方法 8——Tropp推導. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .69

2.3矩陣累積量的拉普拉斯變換方法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .69

2.4矩母函式的不適用性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .70

2.5矩陣累積量母函式的次可加性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .71

2.6獨立隨機矩陣之和的尾機率界 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .72

2.7矩陣高斯級數——個例研究 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .74

2.8套用：具有非均勻方差的高斯矩陣. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .76

2.10隨機半正定矩陣的和 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .78

2.11矩陣 Bennett和伯恩斯坦不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .81

2.12隨機矩陣之和的所有特徵值的尾機率界 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .82

2.13內部特徵值的切爾諾夫界. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .84

2.14通過隨機矩陣和完成線性濾波 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .86

2.15隨機矩陣和的無維數限制不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .88

2.16一些欣欽型不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .90

2.17半正定矩陣的稀疏和 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .93

第 3章測量的集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .94

3.1測量的集中現象. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .94

3.2卡方分布 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .95

3.3隨機向量的測量集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .96

3.4 Slepian-Fernique引理和高斯隨機矩陣的測量集中性 . . . . . . . . . . . . . . . . . . . . 103

3.5 Dudley不等式. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105

3.6誘導運算元範數的集中 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107

3.7高斯和 Wishart隨機矩陣的測量集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112

3.8運算元範數的測量集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117

3.9亞高斯隨機矩陣的測量集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 120

3.10最大特徵值的測量集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 123

3.10.1 Talagrand不等式方法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124

3.10.2鏈方法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124

3.10.3一般隨機矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 125

3.11隨機向量投影的測量集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 126

3.12進一步討論 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 128

第 4章特徵值及其函式的集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .129

4.1特徵值和範數的上確界表示 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 129

4.2特徵值的利普希茨映射 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 131

4.3矩陣特徵值和矩陣跡的平滑性及凸性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 132

4.4矩陣函式的泰勒級數近似法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 137

4.5 Talagrand集中不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 140

4.6維格納隨機矩陣的譜測度集中理論. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 141

4.7隨機矩陣的非可交換多項式集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 144

4.8 Wishart隨機矩陣的譜測度集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 145

4.9兩個隨機矩陣和的集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 153

4.10子矩陣的集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 154

4.11矩方法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 154

4.12跡函式的集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 158

4.13特徵值的集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 158

4.14大隨機矩陣函式的集中性：線性譜統計量 . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159

4.15二次型的集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 161

4.16隨機向量和子空間的距離. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 167

4.17斯蒂爾切斯變換域的隨機矩陣集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 169

4.18馮·諾依曼熵函式的集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 171

4.19隨機過程的上確界 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 173

4.20進一步討論 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 173

第 5章隨機矩陣的局部非漸近性理論 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .175

5.1符號記法和基礎知識 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 175

5.2迷向凸體 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 176

5.3對數凹的隨機向量 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 178

5.4 Rudelson定理 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 179

5.5行獨立的樣本協方差矩陣. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 181

5.6對數凹迷向隨機向量的集中理論 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 187

5.6.1 Paouris集中不等式. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 187

5.6.2非增重排及次序統計量 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 189

5.6.3樣本協方差 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 189

5.7小球機率的集中不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 191

5.8矩估計. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 193

5.8.1對數凹的迷向隨機向量的矩 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 194

5.8.2凸測度的矩 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 196

5.9隨機矩陣的大數定律 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 198

5.10低秩近似 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 201

5.11元素相互獨立的隨機矩陣. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 203

5.12具有獨立行向量的隨機矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 204

5.12.1獨立的行 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 204

5.12.2重尾分布的行 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 205

5.13協方差矩陣的估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 207

5.14奇異值的集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 210

5.14.1緊緻小偏差 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 211

5.14.2高矩陣. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 211

5.14.3近似方陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 211

5.14.4方陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212

5.14.5長方形矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212

5.14.6隨機矩陣和確定性矩陣的乘積 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 213

5.14.7隨機矩陣的行列式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 215

5.15隨機矩陣的可逆性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 217

5.16奇異值的普適性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 218

5.16.1隨機矩陣加確定的矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 221

5.16.2協方差矩陣和相關矩陣的普適性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 224

5.17進一步討論 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 226

第 6章隨機矩陣的全局漸近理論. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .228

6.1大隨機矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 228

6.2極限分布律 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 229

6.3矩方法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 229

6.4斯蒂爾切斯變換. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 230

6.5自由機率 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 232

6.5.1概念 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 232

6.5.2實際意義 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 233

6.5.3定義和基本性質 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 234

6.5.4自由獨立性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 235

6.5.5自由卷積 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 236

6.6斯蒂爾切斯，R和 S變換表格. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 237

第二部分套用

第 7章壓縮感知與稀疏重構 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .241

7.1壓縮感知 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 241

7.2 JL引理與 RIP條件 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 243

7.3結構化隨機矩陣. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 249

7.4循環矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 249

7.5隨機測量矩陣與確定性字典 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 249

7.6部分隨機循環矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 255

7.7時頻結構化矩陣. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 260

7.8混沌過程的上確界 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 263

7.9特普利茨隨機矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 265

7.10確定性矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 266

第 8章矩陣填充與低秩矩陣重構. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .267

8.1低秩矩陣恢復 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 267

8.2矩陣 RIP性質. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 268

8.3重構誤差限 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 269

8.4假設檢驗 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 269

8.5高維統計學 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 270

8.6矩陣壓縮感知 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 271

8.6.1觀測模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 271

8.6.2核範數正則化 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 271

8.6.3限制強凸性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 272

8.6.4低秩矩陣重構的誤差限 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 272

8.7線性回歸 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 275

8.8多任務矩陣回歸. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 277

8.9矩陣填充 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 279

8.9.1正交分解與正交投影 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 279

8.9.2矩陣填充 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 280

8.10馮 ·諾依曼熵懲罰與低秩矩陣預測 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 282

8.10.1系統模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 282

8.10.2基於正交基的採樣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 283

8.10.3低秩矩陣估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 284

8.10.4所用工具 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 285

8.11大量凸成分函式和 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 285

8.12基於矩陣填充的相位恢復. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 287

8.12.1方法學. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 288

8.12.2基於凸最佳化的矩陣恢復 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 289

8.12.3相位空間成像 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 290

8.12.4自相關 RF斷層成像 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 291

8.13進一步討論 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 296

第 9章高維協方差矩陣估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .297

9.1大局觀:感知、通信、計算和控制 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 297

9.1.1接收信號強度 (RSS)及其在異常檢測中的套用 . . . . . . . . . . . . . . . . . . 299

9.1.2非連續正交頻分復用 (NC-OFDM)波形及其在異常檢測中的套用 . . . . 299

9.2協方差矩陣估計. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 300

9.2.1經典協方差估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 300

9.2.2掩模化樣本協方差矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 301

9.2.3平穩時間序列的協方差矩陣估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 308

9.3協方差矩陣估計. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 309

9.4協方差矩陣的部分估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 310

9.5無限維數據的協方差矩陣估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 311

9.6信號加噪聲 Y = S + X的矩陣模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 312

9.7魯棒的協方差估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 315

第 10章高維檢測 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .317

10.1 OFDM雷達 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 317

10.2主成分分析 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 317

10.3稀疏主成分 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 319

10.4基於隨機矩陣之和的信息加噪模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 320

10.5矩陣假設檢驗 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 321

10.6隨機矩陣檢測 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 322

10.7稀疏備擇假設的球形檢驗. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 325

10.8與隨機矩陣理論的聯繫 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 326

10.8.1譜方法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 326

10.8.2 Wishart矩陣的低秩擾動. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 327

10.9稀疏的主成分檢測 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 327

10.9.1 k稀疏最大特徵值的集中不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 327

10.9.2基於 λk 的假設檢驗 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 328

max

10.9.3稀疏特徵值 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 329

10.10稀疏主成分檢驗的半定方法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 329

10.10.1 λk 計算問題的半定鬆弛 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 329

max

10.10.2凸鬆弛的高機率界 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 330

10.10.3基於凸方法的假設檢驗 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 330

10.11稀疏向量估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 331

10.12高維向量檢測 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 332

10.13高維匹配子空間檢測 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 335

10.14基於壓縮感知的高維向量子空間檢測 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 336

10.15數據矩陣檢測 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 338

10.16高維雙樣本檢驗. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 339

10.17與非可交換隨機矩陣假設檢驗的聯繫 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 342

第 11章機率約束的最佳化問題 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .343

11.1問題描述 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 343

11.2隨機對稱矩陣之和 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 344

11.3隨機矩陣之和的套用 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 349

11.4機會約束的線性矩陣不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 354

11.5機率約束的最佳化問題 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 354

11.6採用協同干擾機制的機率安全 AF中繼 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 357

11.6.1引言 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 357

11.6.2系統模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 358

11.6.3提出的方法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 361

11.6.4仿真結果 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 364

11.7進一步討論 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 365

第 12章數據集的高效處理算法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .366

12.1低秩矩陣近似 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 366

12.2矩陣算法的行採樣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 367

12.3近似矩陣乘法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 368

12.4矩陣和張量稀疏化 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 369

12.5進一步討論 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 371

第 13章網路到大數據 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .372

13.1大數據的大隨機矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 372

13.2高維假設檢測實例 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 373

13.3認知無線電網路測試平台. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 374

13.4無線分散式計算. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 375

13.5數據收集 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 376

13.6數據存儲與管理. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 376

13.7大數據集的數據挖掘 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 377

13.8無人飛行器對無線網路移動性的利用 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 377

13.9智慧型電網 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 377

13.10從認知無線電網路到複雜網路和隨機圖 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 377

13.11隨機矩陣理論和集中測量. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 377

參考文獻 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .379