前饋網路

前饋網路一般指前饋神經網路或前饋型神經網路。它是一種最簡單的神經網路，各神經元分層排列。每個神經元只與前一層的神經元相連。接收前一層的輸出，並輸出給下一層．各層間沒有反饋。

前饋網路是目前套用最廣泛、發展最迅速的人工神經網路之一。

基本介紹

• 中文名：前饋網路
• 外文名：Feedforward network
• 別稱：前饋神經網路
• 歸屬學科：機器學習
• 是：人工神經網路
• 領域：人工智慧

簡介

前饋網路，又稱前饋神經網路（feedforward neural network），是人工神經網路的一種。在該類神經網路中，各神經元從輸入層開始，接收前一級輸入，並輸出到下一級，直至輸出層。整個網路中無反饋，可用一個有向無環圖表示。

前饋網路採用一種單向多層結構。其中每一層包含若干個神經元，同一層的神經元之間沒有互相連線，層間信息的傳送只沿一個方向進行。其中，第一層稱為輸入層；最後一層為輸出層；中間為隱含層，簡稱隱層，隱層可以是一層，也可以是多層。

結構設計

對於前饋網路結構設計，通常採用的方法有3類：直接定型法、修剪法和生長法。

直接定型法設計一個實際網路對修剪法設定初始網路有很好的指導意義；

修剪法由於要求從一個足夠大的初始網路開始，注定了修剪過程將是漫長而複雜的，更為不幸的是，BP訓練只是最速下降最佳化過程，它不能保證對於超大初始網路一定能收斂到全局最小或是足夠好的局部椎小。因此，修剪法並不總是有效的。

生長法似乎更符合人的認識事物、積累知識的過程，具有自組織的特點，則生長法可能更有前途，更有發展潛力。

分類

前饋網路可分為單層前饋神經網路和多層前饋神經網路。

單層前饋網路是最簡單的一種人工神經網路，其只包含一個輸出層，輸出層上節點的值（輸出值）通過輸入值乘以權重值直接得到。

多層前饋神經網路有一個輸入層，中間有一個或多個隱含層，有一個輸出層。

特點

前饋網路結構簡單，套用廣泛，能夠以任意精度逼近任意連續函式及平方可積函式．而且可以精確實現任意有限訓練樣本集。從系統的觀點看，前饋網路是一種靜態非線性映射．通過簡單非線性處理單元的複合映射，可獲得複雜的非線性處理能力。從計算的觀點看．缺乏豐富的動力學行為。大部分前饋網路都是學習網路，其分類能力和模式識別能力一般都強於反饋網路。

常見前饋神經網路

感知器網路

感知器（又叫感知機）是最簡單的前饋網路，它主要用於模式分類，也可用在基於模式分類的學習控制和多模態控制中。感知器網路可分為單層感知器網路和多層感知器網路。

單層感知器（Single Layer Perceptron）是最簡單的神經網路。它包含輸入層和輸出層，而輸入層和輸出層是直接相連的，如圖1。

圖1 單層感知機

多層感知器（Multi-Layer Perceptrons），包含多層計算。相對於單層感知器，輸出端從一個變到了多個；輸入端和輸出端之間也不只有一層，現在有兩層：輸出層和隱藏層，如圖2。

圖2 多層感知機

BP網路

BP網路是指連線權調整採用了反向傳播（Back Propagation）學習算法的前饋網路。與感知器不同之處在於，BP網路的神經元變換函式採用了S形函式（Sigmoid函式），因此輸出量是0~1之間的連續量，可實現從輸入到輸出的任意的非線性映射。

BP神經網路的計算過程由信息正向傳播和誤差反向傳播過程組成。正向傳播過程，輸入模式從輸入層經隱單元層逐層處理，並轉向輸出層，每一層神經元的狀態只影響下一層神經元的狀態。如果在輸出層不能得到期望的輸出，則轉入誤差反向傳播，將誤差信號沿原來的連線通路返回，通過修改各神經元的權值，使得誤差函式最小。

RBF網路

RBF網路是指隱含層神經元由RBF神經元組成的前饋網路。RBF神經元是指神經元的變換函式為RBF（Radial Basis Function，徑向基函式）的神經元。典型的RBF網路由三層組成：一個輸入層，一個或多個由RBF神經元組成的RBF層（隱含層），一個由線性神經元組成的輸出層。