《高維數據非負矩陣分解方法》是電子工業出版社出版的圖書，作者是管乃洋,陶大程。
基本介紹
- 中文名：高維數據非負矩陣分解方法
- 作者：管乃洋,陶大程
- 出版時間：2023年1月
- 出版社：電子工業出版社出版
- 頁數：300 頁
- 字數：300千字
- ISBN：9787121447716
- 開本：16 開
內容簡介,圖書目錄,
內容簡介
本書從算法框架入手，建立系列非負矩陣分解模型的抽象數學模型，即非負塊配準模型，從統一的角度分析現有的非負矩陣分解模型，並用以開發新的非負矩陣分解模型。根據非負塊配準模型的分析，本書提出非負判別局部塊配準模型，克服了經典非負矩陣分解模型的缺點，提高了非負矩陣分解模型的分類性能。為了克服經典非負矩陣分解的最佳化算法收斂速度慢的缺點，本書提出線上搜尋中利用牛頓法快速搜尋步長，提出非負塊配準的快速梯度下降算法。為了克服經典非負最小二乘問題的求解算法的缺點，本書利用最優梯度法在無需線搜尋的情況下以二階收斂速度求解非負最小二乘問題，提出非負矩陣分解的高效求解算法。在此基礎上提出非負矩陣分解的高效求解算法，並開發非負塊配準的最優梯度法。為了克服經典最佳化算法套用於流數據處理時計算開銷過大的缺點，本書提出非負矩陣分解線上最佳化算法，利用魯棒隨機近似算法更新基矩陣，提出線上算法，提高線上最佳化算法的魯棒性。本書結合非負矩陣分解的低秩表示特性和殘差矩陣的稀疏特性，指出曼哈頓非負矩陣分解模型可以有效地抑制數據中的噪音和野值，並指出其與低秩和稀疏矩陣分解模型的等價關係。本書提出高效最佳化算法求解模型，即秩一殘差疊代算法和加速梯度下降算法，前者將模型求解問題分解成若干加權中值問題並用快速算法求解，後者將模型求解問題分解成若干非負最小一乘問題並用平滑技術將其目標函式近似為可微函式，然後利用最優梯度法進行求解。
圖書目錄
第1章 緒論 001
1.1 本書研究背景及意義 001
1.2 國內外研究現狀 006
1.2.1 非負矩陣分解發展歷史 006
1.2.2 國內外研究機構 008
1.2.3 非負數據降維研究現狀 009
1.3 本書主要工作 012
1.4 本書組織結構 014
第2章 非負矩陣分解基礎 016
2.1 非負矩陣分解模型 016
2.1.1 相似性度量 017
2.1.2 先驗信息 024
2.1.3 擴展模型 032
2.2 非負矩陣分解理論問題 035
2.2.1 數據表示特性 035
2.2.2 維數選擇 036
2.2.3 非負矩陣分解與聚類分析算法的等價關係 038
2.3 最佳化算法 040
2.3.1 初始化方法 040
2.3.2 不精確塊疊代方法 041
2.3.3 精確塊疊代方法 045
2.3.4 隨機規劃方法 048
2.3.5 多層分解方法 048
2.3.6 線上最佳化算法 049
2.3.7 並行與分散式算法 050
2.4 套用領域 052
2.4.1 數據挖掘 052
2.4.2 模式識別 054
2.5 本章小結與討論 055
第3章 非負塊配準框架 057
3.1 引言 057
3.1.1 局部最佳化 060
3.1.2 全局配準 060
3.2 非負塊配準框架 061
3.2.1 基於KL距離的NPAF 063
3.2.2 基於歐幾里得距離的NPAF 070
3.2.3 計算複雜性分析 076
3.2.4 非負數據降維算法框架比較 076
3.3 非負數據降維算法的分析 077
3.3.1 非負矩陣分解 078
3.3.2 局部非負矩陣分解 078
3.3.3 判別非負矩陣分解 080
3.3.4 圖罰分非負矩陣分解 081
3.4 非負塊配準框架派生模型實例 082
3.4.1 非負PCA模型 082
3.4.2 非負LLE模型 083
3.4.3 非負LTSA模型 084
3.5 本章小結與討論 085
第4章 非負判別局部塊配準模型 087
4.1 引言 087
4.2 模型定義 089
4.2.1 數學描述 090
4.2.2 兩類NDLA模型 092
4.2.3 流形學習角度的解釋 093
4.3 改進NDLA模型 094
4.4 模型求解算法 095
4.4.1 乘法更新規則 095
4.4.2 計算複雜性 098
4.5 試驗結果 098
4.5.1 人臉識別 098
4.5.2 手寫體識別 103
4.5.3 局部特徵提取 105
4.5.4 結果分析 107
4.6 本章小結與討論 109
第5章 非負塊配準框架快速梯度下降算法 111
5.1 引言 111
5.2 改進乘法更新規則 113
5.3 快速梯度下降算法 118
5.3.1 單步長快速線搜尋 119
5.3.2 多步長快速線搜尋 122
5.3.3 平衡多步長快速線搜尋 128
5.4 基於歐幾里得距離的NPAF最佳化 131
5.4.1 NPAFE快速梯度下降算法 131
5.4.2 NPAFE投影梯度下降算法 137
5.4.3 計算複雜性分析 138
5.5 非負塊配準框架派生模型最佳化 139
5.6 數值試驗 139
5.6.1 單步長快速梯度下降算法 140
5.6.2 多步長快速梯度下降算法 143
5.7 本章小結與討論 146
第6章 非負矩陣分解最優梯度下降算法 147
6.1 引言 147
6.1.1 非負矩陣分解最佳化算法研究現狀 150
6.1.2 最優梯度下降算法 154
6.2 非負矩陣分解最優梯度下降算法 155
6.2.1 非負最小二乘最佳化算法 156
6.2.2 非負矩陣分解最佳化算法 164
6.2.3 擴展模型最佳化算法 166
6.3 非負塊配準最優梯度下降算法 168
6.3.1 派生模型最佳化算法 171
6.4 試驗結果 172
6.4.1 非負矩陣分解最佳化 172
6.4.2 圖正則非負矩陣分解最佳化 182
6.5 本章小結與討論 183
第7章 非負矩陣分解線上最佳化算法 185
7.1 引言 185
7.1.1 線上非負矩陣分解研究現狀 186
7.1.2 INMF-VC算法 189
7.1.3 OMF-DA算法 190
7.1.4 魯棒隨機近似算法 191
7.2 基於RSA的線上非負矩陣分解算法 193
7.2.1 緩衝池策略 197
7.2.2 計算複雜性 199
7.2.3 收斂性分析 199
7.3 非負矩陣分解擴展模型的線上最佳化 203
7.3.1 滑動視窗更新擴展 204
7.3.2 距離度量擴展 204
7.3.3 稀疏約束擴展 205
7.3.4 平滑約束擴展 206
7.3.5 盒約束擴展 206
7.4 數值試驗 207
7.4.1 線上非負矩陣分解效率比較 208
7.4.2 人臉識別 215
7.5 本章小結與討論 217
第8章 非負矩陣分解典型套用實例 218
8.1 引言 218
8.2 模式識別 219
8.2.1 人臉識別 220
8.3 數據挖掘 229
8.3.1 文本聚類 230
8.4 信息檢索 234
8.4.1 圖像標註 234
8.5 本章小結與討論 240
附錄A 輔助函式技術 242
A.1 輔助函式的定義 242
A.2 輔助函式套用 242
附錄B 一階最佳化方法與收斂速度 244
B.1 收斂速度的定義 244
B.2 一階最佳化方法假設 245
B.3 一階最佳化方法的最優收斂速度 245
參考文獻 246
後記 277
