神經網路(書籍):研究內容,生物原型,建立模型,算法,套用,機器學習和相關領域：,

神經網路可以指向兩種，一個是生物神經網路，一個是人工神經網路。

生物神經網路：一般指生物的大腦神經元，細胞，觸點等組成的網路，用於產生生物的意識，幫助生物進行思考和行動。

人工神經網路（Artificial Neural Networks，簡寫為ANNs）也簡稱為神經網路（NNs）或稱作連線模型（Connection Model），它是一種模仿動物神經網路行為特徵，進行分散式並行信息處理的算法數學模型。這種網路依靠系統的複雜程度，通過調整內部大量節點之間相互連線的關係，從而達到處理信息的目的。

人工神經網路：是一種套用類似於大腦神經突觸聯接的結構進行信息處理的數學模型。在工程與學術界也常直接簡稱為“神經網路”或類神經網路。

基本介紹

書名：神經網路
作者：侯媛彬，杜京義，汪梅
ISBN： 9787560619026
頁數： 223
定價：￥26.00
出版社：西安電子科技大學出版社
出版時間：2007-8-1
種類：人工神經網路，生物神經網路

研究內容,生物原型,建立模型,算法,套用,機器學習和相關領域：,分類：,工作原理,發展歷史,常見的工具,研究方向,相關書籍,內容簡介,作者簡介,目錄總覽,

研究內容

神經網路的研究內容相當廣泛，反映了多學科交叉技術領域的特點。主要的研究工作集中在以下幾個方面：

生物原型

從生理學、心理學、解剖學、腦科學、病理學等方面研究神經細胞、神經網路、神經系統的生物原型結構及其功能機理。

建立模型

根據生物原型的研究，建立神經元、神經網路的理論模型。其中包括概念模型、知識模型、物理化學模型、數學模型等。

算法

在理論模型研究的基礎上構作具體的神經網路模型，以實現計算機模擬或準備製作硬體，包括網路學習算法的研究。這方面的工作也稱為技術模型研究。

神經網路用到的算法就是向量乘法，並且廣泛採用符號函式及其各種逼近。並行、容錯、可以硬體實現以及自我學習特性，是神經網路的幾個基本優點，也是神經網路計算方法與傳統方法的區別所在。

套用

在網路模型與算法研究的基礎上，利用人工神經網路組成實際的套用系統，例如，完成某種信號處理或模式識別的功能、構作專家系統、製成機器人、複雜系統控制等等。

縱觀當代新興科學技術的發展歷史，人類在征服宇宙空間、基本粒子，生命起源等科學技術領域的進程中歷經了崎嶇不平的道路。我們也會看到，探索人腦功能和神經網路的研究將伴隨著重重困難的克服而日新月異。

機器學習和相關領域：

在機器學習和相關領域，人工神經網路（人工神經網路）的計算模型靈感來自動物的中樞神經系統（尤其是腦），並且被用於估計或可以依賴於大量的輸入和一般的未知近似函式。人工神經網路通常呈現為相互連線的“神經元”，它可以從輸入的計算值，並且能夠機器學習以及模式識別由於它們的自適應性質的系統。

例如，用於手寫體識別的神經網路是由一組可能被輸入圖像的像素激活的輸入神經元來限定。後進過加權，並通過一個函式（由網路的設計者確定的）轉化，這些神經元的致動被上到其他神經元然後被傳遞。重複此過程，直到最後，一輸出神經元被激活。這決定了哪些字元被讀取。

像其他的從數據-神經網路認識到的機器學習系統方法已被用來解決各種各樣的很難用普通的以規則為基礎的編程解決的任務，包括計算機視覺和語音識別。

也許，人工神經網路的最大優勢是他們能夠被用作一個任意函式逼近的機制，那是從觀測到的數據“學習”。然而，使用起來也不是那么簡單的，一個比較好理解的基本理論是必不可少的。

分類：

選擇模式：這將取決於數據的表示和套用。過於複雜的模型往往會導致問題的學習。

學習算法：在學習算法之間有無數的權衡。幾乎所有的算法為了一個特定的數據集訓練將會很好地與正確的超參數合作。然而，選擇和調整的算法上看不見的數據訓練需要顯著量的實驗。

穩健性：如果該模型中，成本函式和學習算法，適當地選擇所得到的神經網路可以是非常健壯的。有了正確的實施，人工神經網路，可以自然地套用於線上學習和大型數據集的應用程式。其簡單的實現和表現在結構上主要依賴本地的存在，使得在硬體快速，並行實現。

工作原理

“人腦是如何工作的？”

“人類能否製作模擬人腦的人工神經元？”

多少年以來，人們從醫學、生物學、生理學、哲學、信息學、計算機科學、認知學、組織協同學等各個角度企圖認識並解答上述問題。在尋找上述問題答案的研究過程中，逐漸形成了一個新興的多學科交叉技術領域，稱之為“神經網路”。神經網路的研究涉及眾多學科領域，這些領域互相結合、相互滲透並相互推動。不同領域的科學家又從各自學科的興趣與特色出發，提出不同的問題，從不同的角度進行研究。

人工神經網路首先要以一定的學習準則進行學習，然後才能工作。現以人工神經網路對於寫“A”、“B”兩個字母的識別為例進行說明，規定當“A”輸入網路時，應該輸出“1”，而當輸入為“B”時，輸出為“0”。

所以網路學習的準則應該是：如果網路作出錯誤的判決，則通過網路的學習，應使得網路減少下次犯同樣錯誤的可能性。首先，給網路的各連線權值賦予(0，1)區間內的隨機值，將“A”所對應的圖象模式輸入給網路，網路將輸入模式加權求和、與門限比較、再進行非線性運算，得到網路的輸出。在此情況下，網路輸出為“1”和“0”的機率各為50%，也就是說是完全隨機的。這時如果輸出為“1”(結果正確)，則使連線權值增大，以便使網路再次遇到“A”模式輸入時，仍然能作出正確的判斷。

普通計算機的功能取決於程式中給出的知識和能力。顯然，對於智慧型活動要通過總結編製程序將十分困難。

人工神經網路也具有初步的自適應與自組織能力。在學習或訓練過程中改變突觸權重值，以適應周圍環境的要求。同一網路因學習方式及內容不同可具有不同的功能。人工神經網路是一個具有學習能力的系統，可以發展知識，以致超過設計者原有的知識水平。通常，它的學習訓練方式可分為兩種，一種是有監督或稱有導師的學習，這時利用給定的樣本標準進行分類或模仿；另一種是無監督學習或稱無為導師學習，這時，只規定學習方式或某些規則，則具體的學習內容隨系統所處環境（即輸入信號情況）而異，系統可以自動發現環境特徵和規律性，具有更近似人腦的功能。

神經網路就像是一個愛學習的孩子，您教她的知識她是不會忘記而且會學以致用的。我們把學習集（Learning Set）中的每個輸入加到神經網路中，並告訴神經網路輸出應該是什麼分類。在全部學習集都運行完成之後，神經網路就根據這些例子總結出她自己的想法，到底她是怎么歸納的就是一個黑盒了。之後我們就可以把測試集（Testing Set）中的測試例子用神經網路來分別作測試，如果測試通過（比如80%或90%的正確率），那么神經網路就構建成功了。我們之後就可以用這個神經網路來判斷事務的分類了。

神經網路是通過對人腦的基本單元——神經元的建模和聯接，探索模擬人腦神經系統功能的模型，並研製一種具有學習、聯想、記憶和模式識別等智慧型信息處理功能的人工系統。神經網路的一個重要特性是它能夠從環境中學習，並把學習的結果分布存儲於網路的突觸連線中。神經網路的學習是一個過程，在其所處環境的激勵下，相繼給網路輸入一些樣本模式，並按照一定的規則（學習算法）調整網路各層的權值矩陣，待網路各層權值都收斂到一定值，學習過程結束。然後我們就可以用生成的神經網路來對真實數據做分類。

人工神經網路早期的研究工作應追溯至20世紀40年代。下面以時間順序，以著名的人物或某一方面突出的研究成果為線索，簡要介紹

發展歷史

1943年，心理學家W·Mcculloch和數理邏輯學家W·Pitts在分析、總結神經元基本特性的基礎上首先提出神經元的數學模型。此模型沿用至今，並且直接影響著這一領域研究的進展。因而，他們兩人可稱為人工神經網路研究的先驅。

1945年馮·諾依曼領導的設計小組試製成功存儲程式式電子計算機，標誌著電子計算機時代的開始。1948年，他在研究工作中比較了人腦結構與存儲程式式計算機的根本區別，提出了以簡單神經元構成的再生自動機網路結構。但是，由於指令存儲式計算機技術的發展非常迅速，迫使他放棄了神經網路研究的新途徑，繼續投身於指令存儲式計算機技術的研究，並在此領域作出了巨大貢獻。雖然，馮·諾依曼的名字是與普通計算機聯繫在一起的，但他也是人工神經網路研究的先驅之一。

50年代末，F·Rosenblatt設計製作了“感知機”，它是一種多層的神經網路。這項工作首次把人工神經網路的研究從理論探討付諸工程實踐。當時，世界上許多實驗室仿效製作感知機，分別套用於文字識別、聲音識別、聲納信號識別以及學習記憶問題的研究。然而，這次人工神經網路的研究高潮未能持續很久，許多人陸續放棄了這方面的研究工作，這是因為當時數字計算機的發展處於全盛時期，許多人誤以為數字計算機可以解決人工智慧、模式識別、專家系統等方面的一切問題，使感知機的工作得不到重視；其次，當時的電子技術工藝水平比較落後，主要的元件是電子管或電晶體，利用它們製作的神經網路體積龐大，價格昂貴，要製作在規模上與真實的神經網路相似是完全不可能的；另外，在1968年一本名為《感知機》的著作中指出線性感知機功能是有限的，它不能解決如異或這樣的基本問題，而且多層網路還不能找到有效的計算方法，這些論點促使大批研究人員對於人工神經網路的前景失去信心。60年代末期，人工神經網路的研究進入了低潮。

另外，在60年代初期，Widrow提出了自適應線性元件網路，這是一種連續取值的線性加權求和閾值網路。後來，在此基礎上發展了非線性多層自適應網路。當時，這些工作雖未標出神經網路的名稱，而實際上就是一種人工神經網路模型。

隨著人們對感知機興趣的衰退，神經網路的研究沉寂了相當長的時間。80年代初期，模擬與數字混合的超大規模積體電路製作技術提高到新的水平，完全付諸實用化，此外，數字計算機的發展在若干套用領域遇到困難。這一背景預示，向人工神經網路尋求出路的時機已經成熟。美國的物理學家Hopfield於1982年和1984年在美國科學院院刊上發表了兩篇關於人工神經網路研究的論文，引起了巨大的反響。人們重新認識到神經網路的威力以及付諸套用的現實性。隨即，一大批學者和研究人員圍繞著 Hopfield提出的方法展開了進一步的工作，形成了80年代中期以來人工神經網路的研究熱潮。

常見的工具

在眾多的神經網路工具中，NeuroSolutions始終處於業界領先位置。它是一個可用於windows XP/7高度圖形化的神經網路開發工具。其將模組化，基於圖示的網路設計界面，先進的學習程式和遺傳最佳化進行了結合。該款可用於研究和解決現實世界的複雜問題的神經網路設計工具在使用上幾乎無限制。

研究方向

神經網路的研究可以分為理論研究和套用研究兩大方面。

理論研究可分為以下兩類：

1、利用神經生理與認知科學研究人類思維以及智慧型機理。

2、利用神經基礎理論的研究成果，用數理方法探索功能更加完善、性能更加優越的神經網路模型，深入研究網路算法和性能，如：穩定性、收斂性、容錯性、魯棒性等；開發新的網路數理理論，如：神經網路動力學、非線性神經場等。

套用研究可分為以下兩類：

1、神經網路的軟體模擬和硬體實現的研究。

2、神經網路在各個領域中套用的研究。這些領域主要包括：

模式識別、信號處理、知識工程、專家系統、最佳化組合、機器人控制等。隨著神經網路理論本身以及相關理論、相關技術的不斷發展，神經網路的套用定將更加深入。

內容簡介

神經網路是智慧型控制技術的主要分支之一。本書的主要內容有：神經網路的概念，神經網路的分類與學習方法，前向神經網路模型及其算法，改進的BP網路及其控制、辨識建模，基於遺傳算法的神經網路，基於模糊理論的神經網路，RBF網路及其在混沌背景下對微弱信號的測量與控制，反饋網路，Hopfield網路及其在字元識別中的套用，支持向量機及其故障診斷，小波神經網路及其在控制與辨識中的套用。

本書內容全面，重點突出，以講明基本概念和方法為主，儘量減少繁瑣的數學推導，並給出一些結合工程套用的例題。本書附有光碟，其中包括結合各章節內容所開發的30多個源程式，可直接在MATLAB界面下運行，此外，還包括用Authorware和Flash軟體製作的動畫課件。

本書既可作為自動化和電氣自動化專業及相關專業的研究生教材，也可供機電類工程技術人員選用，還可作為有興趣的讀者自學與套用的參考書。

作者簡介

侯媛彬，教授，女，博士生導師，1997年獲西安交通大學系統工程（Ⅰ）博士學位。西安科技大學礦山機電博士點學科帶頭人，西安科技大學省重點學科“控制理論與控制工程”學科帶頭人，中國自動化學會電氣專業委員會委員，陝西省自動化協會常務理事兼教育委員會主任。一直從事自動化、安全技術與工程方面的教學和研究工作。講授過博士、碩士和本科各層面的專業課程10多門。在國內外公開發表學術論文110餘篇，其中被EI和ISTP檢索30餘篇。出版專著、教材8部：承擔省部級科研項目及橫向項目10餘項；獲實用新型專利2項；獲省級科技進步獎3項：獲科研、教學方面的各種獎10多項；2006年獲省級師德標兵。

目錄總覽

前言

第1章智慧型控制技術基礎

第2章神經網路控制的基本概念

第3章前向神經網路模型及其仿真算法

第4章改進的BP網路訓練算法

第5章小腦模型神經網路及其套用

第6章遺傳算法及其神經網路

第7章模糊神經網路

第8章徑向基函式網路

第9章反饋型神經網路

第10章支持向量機

第11章小波神經網路及套用

參考文獻

神經網路(書籍)