內容簡介
為了便於讀者理解,書中儘量避免煩瑣的數學推導,加強了套用舉例,並在內容的選擇和編排上注意到讀者初次接觸新概念的易接受性和思維的邏輯性,也注意引入目前神經網路研究領域的前沿知識如深度網路等。為便於讀者能將理論轉化為套用,在主要章節的後都給出了MATLAB的套用采汗匙例子,並對程式和結果進行了詳細的講解。
圖書目錄
前言
第1 章 緒論 1
1. 1 人工神經網路概述 1
1. 1. 1 人腦與計算機信息處理能力的
比較 2
1. 1. 2 人腦與計算機信息處理機制的
比較 3
1. 1. 3 什麼是人工神經網路 4
1. 2 人工神經網路發展簡史 5
1. 2. 1 啟蒙時期 5
1. 2. 2 低潮時期 7
1. 2. 3 復興時期 8
1. 2. 4 新時期 9
1. 2. 5 海量數據時代 12
1. 2. 6 國內研究概況 12
1. 3 神經網路的基本特徵與功能 13
1. 3. 1 神經網路的基本特點 13
1. 3. 2 神經網路的基本功能 13
1. 4 神經網路的套用領域 15
1. 4 1 信息處理領域 15
1. 4. 2 自動化領域 16
1. 4. 3 工程領域 16
1. 4. 4 醫學領域 17
1. 4. 5 經濟領域 17
本章小結 18
習題 19
第2 章 人工神經網路建模基礎 20
2. 1 腦的生物神經系統概述 20
2. 1. 1 人體神經系統的構成 20
2. 1. 2 高級中樞神經系統的功能 21
2. 1. 3 腦組織的分層結構 22
2. 2. 1 生物神經元的結構 23
2. 2. 2 生物神經元的信息處理機理 24
2. 3 人工神經元模型 26
2. 3. 1 神經元的建模 26
2. 3. 2 神經元的數學模型 27
2. 3. 3 神經元的變換函式 28
2. 4 人工神經網路模型 30
2. 4. 1 網路拓撲結構類型 30
2. 4. 2 網路信息流向類型 31
2. 5 神經網路學習鑽遷放嘗 32
2. 5. 1 Hebbian 學習規則 34
2. 5. 2 離散感知器學習規則 35
2. 5. 3 連續感知器學習規則 36
2. 5. 4 最小方均學習規則 37
2. 5. 5 相關學習規則 38
2. 5. 6 勝者為王棄享整學習規則 38
2. 5. 7 外星學習規則 38
本章小結 40
習題 40
第3 章 感知器神經網路 42
3. 1 單層感知器 42
3. 1. 1 感知器模型 42
3. 1. 2 感知器的功能 43
3. 1. 3 感知器的局限性 45
3. 1. 4 感知器的學習算法 45
3. 2 多層感知器 47
3. 3 自適應線性單元簡介 49
3. 3. 1 ADALINE 模型 49
3. 3. 2 ADALINE 學習算法 49
3. 3. 3 ADALINE 套用 51
3. 4 誤差反傳算法 51
Ⅵ
模型 52
3. 4. 2 BP 學習算法雅求重 53
3. 4. 3 BP 算法的程式實現 56
3. 4. 4 多層感知器的主要能力 57
3. 4. 5 誤差曲面與BP 算法頁獄的局限性 58
3. 5 標準BP 算法的改進 59
3. 5. 1 增加動量項 59
3. 5. 2 自適應調節學習率 59
3. 5. 3 引入陡度因子 60
3. 6 基於BP 算法的多層感知器設計
基礎 60
3. 6. 1 網路信息容量與訓判棄促練樣本數 60
3. 6. 2 訓練樣本集的準備 61
3. 6. 3 初始權值的設計 64
3. 6. 4 多層感知器結構設計 65
3. 6. 5 網路訓練與測試 66
3. 7 基於BP 算法的多層感知器套用與設計
實例 67
3. 7. 1 基於BP 算法的多層感知器用於
催化劑配方建模 67
3. 7. 2 基於BP 算法的多層感知器用於
3. 7. 3 基於BP 算法的多層感知器用於
3. 7. 4 基於BP 算法的多層感知器用於
水庫最佳化調度 69
3. 8 基於MATLAB 的BP 網路套用實例 70
3. 8. 1 BP 網路用於數據擬合 70
3. 8. 2 BP 網路用於鳶尾花分類問題 72
擴展資料 76
本章小結 77
習題 77
第譽備判戀4 章 自組織競爭神經網路 80
4. 1 競爭學習的概念與原理 80
4. 1. 1 基本概念 80
4. 1. 2 競爭學習原理 82
4. 2 自組織特徵映射神經網路 84
4. 2. 1 SOFM 網的生物學基礎 85
4. 2. 2 SOFM 網的拓撲結構與權值
調整域 85
4. 2. 3 自組織特徵映射網的運行原理與
學習算法 86
4. 2. 4 SOFM 網的設計基礎 90
4. 2. 5 套用與設計實例 92
4. 3 學習向量量化神經網路 95
4. 3. 1 向量量化 95
4. 3. 2 LVQ 網路結構與工作原理 96
4. 3. 3 LVQ 網路的學習算法 97
4. 4 對偶傳播神經網路 98
4. 4. 1 網路結構與運行原理 98
4. 4. 2 CPN 的學習算法 99
4. 4. 3 改進的CPN 網 100
4. 4. 4 CPN 網的套用 102
4. 5 自適應共振理論網路 102
4. 5. 1 ARTⅠ型網路 103
4. 5. 2 ARTⅡ型網路 110
4. 6 基於MATLAB 的SOM 網路聚類
實例 114
擴展資料 117
本章小結 118
習題 119
5. 1 基於徑向基函式技術的函式逼近與
內插 122
5. 1. 1 插值問題描述 122
5. 1. 2 徑向基函式技術解決插值問題 123
5. 1. 3 完全內插存在的問題 124
5. 2 正則化理論與正則化RBF 網路 125
5. 2. 1 正則化理論 125
5. 2. 2 正則化RBF 網路 126
5. 3 模式可分性觀點與廣義RBF 網路 127
5. 3. 1 模式的可分性 127
5. 3. 2 廣義RBF 網路 128
5. 4 RBF 網路常用學習算法 129
5. 4. 1 數據中心的聚類算法 130
5. 4. 2 數據中心的監督學習算法 131
5. 5 RBF 網路與多層感知器的比較 132
5. 6 RBF 網路的設計與套用實例 133
5. 6. 1 RBF 網路在液化氣銷售量預測中
的套用 133
5. 6. 2 RBF 網路在地表水質評價中的
套用 133
5. 6. 3 RBF 網路在汽油乾點軟測量中的
套用 134
5. 7 基於MATLAB 的RBF 網路套用
Ⅶ
實例 136
擴展資料 138
本章小結 138
習題 139
第6 章 反饋神經網路 140
6. 1 離散型Hopfield 神經網路 140
6. 1. 1 網路的結構與工作方式 140
6. 1. 2 網路的穩定性與吸引子 141
6. 1. 3 網路的權值設計 147
6. 1. 4 網路的信息存儲容量 148
6. 2 連續型Hopfield 神經網路 149
6. 2. 1 網路的拓樸結構 149
6. 2. 2 能量函式與穩定性分析 150
6. 3 Hopfield 網路套用與設計實例 151
6. 3. 1 套用DHNN 網解決聯想問題 151
6. 3. 2 套用CHNN 網解決最佳化計算
問題 152
6. 4 雙向聯想記憶神經網路 155
6. 4. 1 BAM 網結構與原理 155
6. 4. 2 能量函式與穩定性 156
6. 4. 3 BAM 網的權值設計 157
6. 4. 4 BAM 網的套用 158
6. 5 隨機神經網路 159
6. 5. 1 模擬退火原理 160
6. 5. 2 玻爾茲曼機 161
擴展資料 165
本章小結 166
習題 166
第7 章 小腦模型神經網路 168
7. 1 CMAC 網路的結構 168
7. 2 CMAC 網路的工作原理 169
7. 2. 1 從X 到M 的映射 169
7. 2. 2 從M 到A 的映射 171
7. 2. 3 從A 到Ap的映射 172
7. 2. 4 從Ap到F 的映射 173
7. 3 CMAC 網路的學習算法 173
7. 4 CMAC 網路的套用 174
擴展資料 175
第8 章 深度神經網路 176
8. 1 深度神經網路框架 177
8. 1. 1 選擇深層模型的原因 177
8. 1. 2 深度網路的訓練算法 179
8. 1. 3 深度學習的軟體工具及平台 180
8. 2 受限玻爾茲曼機和深度置信網 180
8. 2. 1 受限玻爾茲曼機的基本結構 181
8. 2. 2 受限玻爾茲曼機的能量模型和
似然函式 181
8. 2. 3 最優參數的梯度計算 182
8. 2. 4 基於對比散度的快速算法 184
8. 2. 5 深度置信網路 185
8. 3 卷積神經網路 186
8. 3. 1 卷積神經網路基本概念及原理 187
8. 3. 2 卷積神經網路完整模型 189
8. 3. 3 CNN 的學習 190
8. 3. 4 CNN 套用 190
8. 4 堆疊式自動編碼器 192
8. 4. 1 自編碼算法與稀疏性 192
8. 4. 2 棧式自動編碼器 194
分類中的套用 194
擴展資料 196
本章小結 197
習題 198
第9 章 支持向量機 199
9. 1. 1 最優超平面的概念 199
9. 1. 2 線性可分數據最優超平面的
構建 201
9. 1. 3 非線性可分數據最優超平面的
構建 202
9. 2 非線性支持向量機 203
9. 2. 1 基於內積核的最優超平面 203
9. 2. 2 非線性支持向量機神經網路 205
9. 3 支持向量機的學習算法 205
9. 4 支持向量機設計套用實例 207
9. 4. 1 XOR 問題 207
9. 4. 2 人工數據分類 210
9. 4. 3 手寫體阿拉伯數字識別 211
9. 5 基於MATLAB 的支持向量機分類 212
擴展資料 214
本章小結 215
習題 215
第10 章 遺傳算法與神經網路進化 216
10. 1 遺傳算法的原理與特點 216
10. 1. 1 遺傳算法的基本原理 216
Ⅷ
10. 1. 2 遺傳算法的特點 217
10. 2 遺傳算法的基本操作與模式理論 217
10. 2. 1 遺傳算法的基本操作 218
10. 2. 2 遺傳算法的模式理論 220
10. 3 遺傳算法的實現與改進 223
10. 3. 1 編碼問題 223
10. 3. 2 初始種群的產生 223
10. 3. 3 適應度的設計 224
10. 3. 4 遺傳算法的操作步驟 225
10. 3. 5 遺傳算法中的參數選擇 225
10. 3. 6 遺傳算法的改進 225
10. 4 遺傳算法在神經網路設計中的
套用 226
10. 4. 1 遺傳算法用於神經網路的
權值最佳化 227
10. 4. 2 遺傳算法用於神經網路的
結構最佳化 229
本章小結 231
習題 232
第11 章 神經網路系統設計與軟
硬體實現 233
11. 1 神經網路系統總體設計 233
11. 1. 1 神經網路的適用範圍 233
11. 1. 2 神經網路的設計過程與需求
分析 234
11. 1. 3 神經網路的性能評價 235
11. 1. 4 輸入數據的預處理 238
11. 2 神經網路的軟體實現 238
11. 3 神經網路的高級開發環境 239
11. 3. 1 神經網路的開發環境及其
特徵 240
11. 3. 2 MATLAB 神經網路工具箱 240
11. 3. 3 其他神經網路開發環境簡介 245
11. 4 神經網路的硬體實現 247
11. 4. 1 概述 247
11. 4. 2 神經元器件 249
11. 4. 3 神經網路系統結構 251
11. 4. 4 神經網路的光學實現 254
擴展資料 257
本章小結 257
習題 257
第12 章 人工神經系統 258
12. 1 人工神經系統的基本概念 258
12. 1. 1 生物神經系統 258
12. 1. 2 人工神經系統 259
12. 2 人工神經系統的體系結構 259
12. 2. 1 高級中樞神經系統 259
12. 2. 2 低級中樞神經系統 261
12. 2. 3 外周神經系統 261
12. 3 人工神經系統的控制特性 262
12. 3. 1 神經快速、分區控制系統 263
12. 3. 2 體液慢速、分工控制系統 263
12. 3. 3 人體神經控制系統 263
12. 4 人工神經系統的信息模式 264
12. 4. 1 “數字.模擬” 混合信息模式 264
12. 4. 2 “串列.並行” 兼容信息模式 265
12. 4. 3 “集中.分散” 結合信息模式 265
12. 5 人工神經系統的套用示例 266
12. 5. 1 擬人智慧型綜合自動化系統 266
12. 5. 2 人工魚的總體技術方案 266
本章小結 268
習題 268
參考文獻 269
2. 5. 1 Hebbian 學習規則 34
2. 5. 2 離散感知器學習規則 35
2. 5. 3 連續感知器學習規則 36
2. 5. 4 最小方均學習規則 37
2. 5. 5 相關學習規則 38
2. 5. 6 勝者為王學習規則 38
2. 5. 7 外星學習規則 38
本章小結 40
習題 40
第3 章 感知器神經網路 42
3. 1 單層感知器 42
3. 1. 1 感知器模型 42
3. 1. 2 感知器的功能 43
3. 1. 3 感知器的局限性 45
3. 1. 4 感知器的學習算法 45
3. 2 多層感知器 47
3. 3 自適應線性單元簡介 49
3. 3. 1 ADALINE 模型 49
3. 3. 2 ADALINE 學習算法 49
3. 3. 3 ADALINE 套用 51
3. 4 誤差反傳算法 51
Ⅵ
模型 52
3. 4. 2 BP 學習算法 53
3. 4. 3 BP 算法的程式實現 56
3. 4. 4 多層感知器的主要能力 57
3. 4. 5 誤差曲面與BP 算法的局限性 58
3. 5 標準BP 算法的改進 59
3. 5. 1 增加動量項 59
3. 5. 2 自適應調節學習率 59
3. 5. 3 引入陡度因子 60
3. 6 基於BP 算法的多層感知器設計
基礎 60
3. 6. 1 網路信息容量與訓練樣本數 60
3. 6. 2 訓練樣本集的準備 61
3. 6. 3 初始權值的設計 64
3. 6. 4 多層感知器結構設計 65
3. 6. 5 網路訓練與測試 66
3. 7 基於BP 算法的多層感知器套用與設計
實例 67
3. 7. 1 基於BP 算法的多層感知器用於
催化劑配方建模 67
3. 7. 2 基於BP 算法的多層感知器用於
3. 7. 3 基於BP 算法的多層感知器用於
3. 7. 4 基於BP 算法的多層感知器用於
水庫最佳化調度 69
3. 8 基於MATLAB 的BP 網路套用實例 70
3. 8. 1 BP 網路用於數據擬合 70
3. 8. 2 BP 網路用於鳶尾花分類問題 72
擴展資料 76
本章小結 77
習題 77
第4 章 自組織競爭神經網路 80
4. 1 競爭學習的概念與原理 80
4. 1. 1 基本概念 80
4. 1. 2 競爭學習原理 82
4. 2 自組織特徵映射神經網路 84
4. 2. 1 SOFM 網的生物學基礎 85
4. 2. 2 SOFM 網的拓撲結構與權值
調整域 85
4. 2. 3 自組織特徵映射網的運行原理與
學習算法 86
4. 2. 4 SOFM 網的設計基礎 90
4. 2. 5 套用與設計實例 92
4. 3 學習向量量化神經網路 95
4. 3. 1 向量量化 95
4. 3. 2 LVQ 網路結構與工作原理 96
4. 3. 3 LVQ 網路的學習算法 97
4. 4 對偶傳播神經網路 98
4. 4. 1 網路結構與運行原理 98
4. 4. 2 CPN 的學習算法 99
4. 4. 3 改進的CPN 網 100
4. 4. 4 CPN 網的套用 102
4. 5 自適應共振理論網路 102
4. 5. 1 ARTⅠ型網路 103
4. 5. 2 ARTⅡ型網路 110
4. 6 基於MATLAB 的SOM 網路聚類
實例 114
擴展資料 117
本章小結 118
習題 119
5. 1 基於徑向基函式技術的函式逼近與
內插 122
5. 1. 1 插值問題描述 122
5. 1. 2 徑向基函式技術解決插值問題 123
5. 1. 3 完全內插存在的問題 124
5. 2 正則化理論與正則化RBF 網路 125
5. 2. 1 正則化理論 125
5. 2. 2 正則化RBF 網路 126
5. 3 模式可分性觀點與廣義RBF 網路 127
5. 3. 1 模式的可分性 127
5. 3. 2 廣義RBF 網路 128
5. 4 RBF 網路常用學習算法 129
5. 4. 1 數據中心的聚類算法 130
5. 4. 2 數據中心的監督學習算法 131
5. 5 RBF 網路與多層感知器的比較 132
5. 6 RBF 網路的設計與套用實例 133
5. 6. 1 RBF 網路在液化氣銷售量預測中
的套用 133
5. 6. 2 RBF 網路在地表水質評價中的
套用 133
5. 6. 3 RBF 網路在汽油乾點軟測量中的
套用 134
5. 7 基於MATLAB 的RBF 網路套用
Ⅶ
實例 136
擴展資料 138
本章小結 138
習題 139
第6 章 反饋神經網路 140
6. 1 離散型Hopfield 神經網路 140
6. 1. 1 網路的結構與工作方式 140
6. 1. 2 網路的穩定性與吸引子 141
6. 1. 3 網路的權值設計 147
6. 1. 4 網路的信息存儲容量 148
6. 2 連續型Hopfield 神經網路 149
6. 2. 1 網路的拓樸結構 149
6. 2. 2 能量函式與穩定性分析 150
6. 3 Hopfield 網路套用與設計實例 151
6. 3. 1 套用DHNN 網解決聯想問題 151
6. 3. 2 套用CHNN 網解決最佳化計算
問題 152
6. 4 雙向聯想記憶神經網路 155
6. 4. 1 BAM 網結構與原理 155
6. 4. 2 能量函式與穩定性 156
6. 4. 3 BAM 網的權值設計 157
6. 4. 4 BAM 網的套用 158
6. 5 隨機神經網路 159
6. 5. 1 模擬退火原理 160
6. 5. 2 玻爾茲曼機 161
擴展資料 165
本章小結 166
習題 166
第7 章 小腦模型神經網路 168
7. 1 CMAC 網路的結構 168
7. 2 CMAC 網路的工作原理 169
7. 2. 1 從X 到M 的映射 169
7. 2. 2 從M 到A 的映射 171
7. 2. 3 從A 到Ap的映射 172
7. 2. 4 從Ap到F 的映射 173
7. 3 CMAC 網路的學習算法 173
7. 4 CMAC 網路的套用 174
擴展資料 175
第8 章 深度神經網路 176
8. 1 深度神經網路框架 177
8. 1. 1 選擇深層模型的原因 177
8. 1. 2 深度網路的訓練算法 179
8. 1. 3 深度學習的軟體工具及平台 180
8. 2 受限玻爾茲曼機和深度置信網 180
8. 2. 1 受限玻爾茲曼機的基本結構 181
8. 2. 2 受限玻爾茲曼機的能量模型和
似然函式 181
8. 2. 3 最優參數的梯度計算 182
8. 2. 4 基於對比散度的快速算法 184
8. 2. 5 深度置信網路 185
8. 3 卷積神經網路 186
8. 3. 1 卷積神經網路基本概念及原理 187
8. 3. 2 卷積神經網路完整模型 189
8. 3. 3 CNN 的學習 190
8. 3. 4 CNN 套用 190
8. 4 堆疊式自動編碼器 192
8. 4. 1 自編碼算法與稀疏性 192
8. 4. 2 棧式自動編碼器 194
分類中的套用 194
擴展資料 196
本章小結 197
習題 198
第9 章 支持向量機 199
9. 1. 1 最優超平面的概念 199
9. 1. 2 線性可分數據最優超平面的
構建 201
9. 1. 3 非線性可分數據最優超平面的
構建 202
9. 2 非線性支持向量機 203
9. 2. 1 基於內積核的最優超平面 203
9. 2. 2 非線性支持向量機神經網路 205
9. 3 支持向量機的學習算法 205
9. 4 支持向量機設計套用實例 207
9. 4. 1 XOR 問題 207
9. 4. 2 人工數據分類 210
9. 4. 3 手寫體阿拉伯數字識別 211
9. 5 基於MATLAB 的支持向量機分類 212
擴展資料 214
本章小結 215
習題 215
第10 章 遺傳算法與神經網路進化 216
10. 1 遺傳算法的原理與特點 216
10. 1. 1 遺傳算法的基本原理 216
Ⅷ
10. 1. 2 遺傳算法的特點 217
10. 2 遺傳算法的基本操作與模式理論 217
10. 2. 1 遺傳算法的基本操作 218
10. 2. 2 遺傳算法的模式理論 220
10. 3 遺傳算法的實現與改進 223
10. 3. 1 編碼問題 223
10. 3. 2 初始種群的產生 223
10. 3. 3 適應度的設計 224
10. 3. 4 遺傳算法的操作步驟 225
10. 3. 5 遺傳算法中的參數選擇 225
10. 3. 6 遺傳算法的改進 225
10. 4 遺傳算法在神經網路設計中的
套用 226
10. 4. 1 遺傳算法用於神經網路的
權值最佳化 227
10. 4. 2 遺傳算法用於神經網路的
結構最佳化 229
本章小結 231
習題 232
第11 章 神經網路系統設計與軟
硬體實現 233
11. 1 神經網路系統總體設計 233
11. 1. 1 神經網路的適用範圍 233
11. 1. 2 神經網路的設計過程與需求
分析 234
11. 1. 3 神經網路的性能評價 235
11. 1. 4 輸入數據的預處理 238
11. 2 神經網路的軟體實現 238
11. 3 神經網路的高級開發環境 239
11. 3. 1 神經網路的開發環境及其
特徵 240
11. 3. 2 MATLAB 神經網路工具箱 240
11. 3. 3 其他神經網路開發環境簡介 245
11. 4 神經網路的硬體實現 247
11. 4. 1 概述 247
11. 4. 2 神經元器件 249
11. 4. 3 神經網路系統結構 251
11. 4. 4 神經網路的光學實現 254
擴展資料 257
本章小結 257
習題 257
第12 章 人工神經系統 258
12. 1 人工神經系統的基本概念 258
12. 1. 1 生物神經系統 258
12. 1. 2 人工神經系統 259
12. 2 人工神經系統的體系結構 259
12. 2. 1 高級中樞神經系統 259
12. 2. 2 低級中樞神經系統 261
12. 2. 3 外周神經系統 261
12. 3 人工神經系統的控制特性 262
12. 3. 1 神經快速、分區控制系統 263
12. 3. 2 體液慢速、分工控制系統 263
12. 3. 3 人體神經控制系統 263
12. 4 人工神經系統的信息模式 264
12. 4. 1 “數字.模擬” 混合信息模式 264
12. 4. 2 “串列.並行” 兼容信息模式 265
12. 4. 3 “集中.分散” 結合信息模式 265
12. 5 人工神經系統的套用示例 266
12. 5. 1 擬人智慧型綜合自動化系統 266
12. 5. 2 人工魚的總體技術方案 266
本章小結 268
習題 268
參考文獻 269