LMS算法

LMS算法是指 Least mean square 算法的意思。

基本介紹

• 中文名：LMS算法
• 外文名：LMS algorithm
• 全稱：Least mean square
• 中文全稱：最小均方算法

簡介

全稱 Least mean square 算法。中文是最小均方算法。

感知器和自適應線性元件在歷史上幾乎是同時提出的，並且兩者在對權值的調整的算法非常相似。它們都是基於糾錯學習規則的學習算法。感知器算法存在如下問題：不能推廣到一般的前向網路中；函式不是線性可分時，得不出任何結果。而由美國史丹福大學的Widrow和Hopf在研究自適應理論時提出的LMS算法，由於其容易實現而很快得到了廣泛套用，成為自適應濾波的標準算法。

算法

LMS算法步驟：

1,、設定變數和參量：

X(n)為輸入向量，或稱為訓練樣本

W(n)為權值向量

e(n)為偏差

d(n)為期望輸出

y(n)為實際輸出

η為學習速率

n為疊代次數

2、初始化，賦給w(0)各一個較小的隨機非零值，令n=0

3、對於一組輸入樣本x(n)和對應的期望輸出d，計算

e(n)=d(n)-y(n)

W(n+1)=W(n)+ηX(n)e(n)

4、判斷是否滿足條件，若滿足算法結束，若否n增加1，轉入第3步繼續執行。