超限學習機理論技術與套用

《超限學習機理論技術與套用》是2020年人民郵電出版社出版的圖書，作者是鄧宸偉、周士超。

基本介紹

• 中文名：超限學習機理論技術與套用 
• 作者：鄧宸偉、周士超
• 出版社：人民郵電出版社
• ISBN：9787115537423

內容簡介

本書對超限學習機近年來取得的各方面成果進行詳細的闡述與分析。本書分為4個部分：第1部分（第1～2章）主要介紹超限學習機的基本概念與核心理論；第2部分（第3～4章）系統介紹超限學習機理論為應對數據分類、回歸以及特徵學習等重要機器學習任務所做的技術性調整；第3部分（第5～6章）主要介紹超限學習機的工程實現與領域套用案例；第4部分（第7章）對全書進行總結，並歸納出若干挑戰性問題以待後續研究。本書附錄部分為與超限學習機相關的數學基礎知識，以便讀者查閱。

本書可供對超限學習機感興趣的研究人員閱讀，也可為信號處理領域的工程技術人員提供技術參考。

作者簡介

鄧宸偉

北京理工大學教授、博士生導師，IEEE高級會員。近年來，緊密圍繞“高解析度對地觀測”領域國家重大需求，開展航空、航天遙感圖像處理方向的基礎和套用研究。相關研究成果獲2018年軍隊科技進步獎二等獎，2017年國家自然科學基金委遙感影像智慧型處理大賽特等獎，入選2013年北京市優秀人才培養資助計畫。擔任多個國際期刊的副編輯和IEEE視覺計算與內容管理興趣小組聯合主席。出版英文著作一部，以第一/通信作者發表SCI論文30餘篇，SCI引用700餘次，獲授權發明專利10餘項。

周士超

北京理工大學在讀博士。主要研究方向包括機器學習、模式識別和高分辨遙感圖像處理。先後在國內外學術期刊發表SCI論文1篇，EI論文3篇，申請發明專利2項。

目錄

第1章 緒論 1

1．1　引言　1

1．2　ELM研究背景　2

1．3　ELM概念與內涵　3

1．3．1　快速前饋神經網路　3

1．3．2　通用機器學習單元　4

1．3．3　可信生物學習機制　5

1．4　ELM的發展歷程　6

1．4．1　第一階段（2006—2010年）：新型神經網路結構與理論　6

1．4．2　第二階段（2011—2015年）：通用學習模型構建與解釋　7

1．4．3　第三階段（2016—至今）：生物學習機制研究與硬體實現　7

1．5　本書內容具體安排　8

參考文獻　8

第2章　超限學習機理論　11

2．1　ELM網路模型　11

2．1．1　網路結構描述　11

2．1．2　網路參數學習　13

2．2　ELM網路性能分析　14

2．2．1　有效擬合：隨機投影與通用逼近　15

2．2．2　快速學習：等式約束最佳化　19

2．3　ELM學習機制通用性分析　23

2．3．1　顯式映射形式與參數求解策略　24

2．3．2　核化映射形式與參數對偶表示　25

2．3．3　“顯式”與“核化”的統一　27

2．4　本章小結　29

參考文獻　30

第3章　超限學習機分類與回歸　32

3．1　分類與回歸——ELM的統一性解決策略　32

3．1．1　均方誤差代價函式：分類與回歸的統一　33

3．1．2　等式最佳化約束項：二分類與多分類的統一　34

3．2　標籤不平衡——加權ELM　35

3．2．1　加權ELM模型構建　36

3．2．2　加權ELM機理分析　37

3．2．3　加權ELM性能評估　39

3．3　標籤缺失——弱監督ELM　40

3．3．1　弱監督ELM模型構建　41

3．3．2　弱監督ELM機理分析　45

3．3．3　弱監督ELM性能評估　45

3．4　樣本動態更迭——線上序貫ELM　53

3．4．1　線上序貫ELM模型構建　54

3．4．2　線上序貫ELM機理分析　56

3．4．3　線上序貫ELM性能評估　56

3．5　樣本含噪——濾波型ELM　59

3．5．1　濾波型ELM模型構建　59

3．5．2　濾波型ELM機理分析　62

3．5．3　濾波型ELM性能評估　63

3．6　本章小結　66

參考文獻　66

第4章　超限學習機特徵學習　69

4．1　ELM特徵選擇　69

4．1．1　ELM包裹式特徵選擇　71

4．1．2　ELM嵌入式特徵選擇　77

4．2　ELM單隱藏層特徵映射學習　80

4．2．1　有監督隨機特徵映射　81

4．2．2　無監督特徵自編碼器　87

4．3　ELM層次化特徵映射學習　92

4．3．1　隨機特徵映射遞歸　93

4．3．2　特徵自編碼器棧式堆疊　97

4．4　ELM層次化特徵映射學習與深度學習的聯繫　100

4．4．1　特徵映射建模：普適性與自適應性　100

4．4．2　特徵最佳化方法：凸最佳化與非凸尋優　102

4．5　本章小結　104

參考文獻　105

第5章　超限學習機工程實現　107

5．1　面向模型訓練的並行加速技術　107

5．1．1　分散式軟體架構加速　108

5．1．2　GPU平台加速　121

5．1．3　雲端集群計算平台加速　124

5．2　面向模型測試的嵌入式實時處理系統設計　127

5．2．1　基於FPGA平台的ELM模擬驗證系統　128

5．2．2　基於ASIC平台的ELM實際架構系統　132

5．3　本章小結　146

參考文獻　147

第6章　超限學習機領域套用　149

6．1　智慧型安防套用實例　149

6．1．1　監控系統的目標跟蹤　149

6．1．2　門禁系統的人臉識別　154

6．1．3　報警系統的行為識別　159

6．2　衛星遙感套用實例　163

6．2．1　SAR圖像在軌變化檢測　163

6．2．2　高光譜圖像農作物分類　170

6．2．3　可見光氣象影像雲圖分類識別　176

6．3　生物醫藥套用實例　182

6．3．1　運動想像腦電信號分類　182

6．3．2　骨髓細胞分類　187

6．3．3　基因表達數據分類　192

6．4　本章小結　195

參考文獻　196

第7章　研究總結與未來展望　199

7．1　研究總結與結論　200

7．2　發展趨勢分析　200

7．2．1　套用前景　201

7．2．2　技術走向　201

7．2．3　難點與挑戰　203

7．3　本章小結　206

參考文獻　206

附錄A　矩陣與最最佳化　208

A．1　範數及最小化　208

A．2　流形假設與圖拉普拉斯矩陣　210

A．2．1　流形假設　210

A．2．2　圖拉普拉斯矩陣　210

附錄B　機率與不等式　213

B．1　高斯分布與投影結果分析　213

B．2　不等式與投影結果的穩定性描述　214

名詞索引　217