單隱藏層神經網路

單隱藏層神經網路就是輸入和輸出中間有一個隱層，即輸入層的輸出是隱層的輸入，隱層的輸出和對應權重的乘積是輸出層的輸入，輸出層的輸出才是最終的輸出。

基本介紹

• 中文名：單隱藏層神經網路
• 套用領域：深度學習

原理

一層隱層網路就是一層特徵層次，每一個神經元可以類似看作一個特徵屬性。

二層分類網路介紹：

• 輸入為n維空間下的X；
  
• 在n+1維的空間中的Z=0的超平面上生成m條超折線，進行m次摺疊 (m為第一層ReLU神經元的數目)；
  
• 摺疊後的圖形進行線性相加組合(改變了各個摺疊的角度和整體在Z軸上的位置)後和Z=0的超平面比較大小；
  
• 在n+1維空間中, 其圖形在Z=0的超平面的投影就是原始n維空間中的二元分類分界線。
  

構建步驟

1、構建神經網路框架 ；

2、初始化各參數 ；

3、疊代最佳化 ；

4、計算損失 ；

5、反向傳播 ；

6、更新參數。

簡介及其描述

輸入層的輸入 就是 N個樣本的Hog特徵維度(A) : 記做X0。

輸入層的輸出(隱層的輸入) 就是X0和W0的乘積: 記做y0。

通過隱層的激勵函式 tanh(),隱層的輸出 為 tanh(y0) : 記做X1。

輸出層的輸入 就是 隱層的輸出和對應權重的乘積,即X1*W1: 記做y1。

通過對輸出層的輸入進行擠壓後即為輸出層的輸出 tanh(y1) : 記做Y。

總計下就是:

y0 = X0 * W0

X1 =tanh(y0)

y1 = X1 * W1

Y =tanh(y1)

損失函式公式不變。