參量估計

參量估計(parameter estimation )用統計學中的估計理論,對接收端收到的混有噪聲和干擾的信號樣本,估計出有用信號參量(如振幅、頻率、相位、到達時間等)的方法。

基本介紹

  • 中文名:參量估計
  • 外文名:parameter estimation
  • 套用學科:通信
簡介,貝葉斯估計,極大似然估計,實例,

簡介

常用的參量估計方法有最小平方誤差估計、極大似然估計和貝葉斯估計。最小平方誤差估計對信號和噪聲的統計知識可以不作任何要求。極大似然估計是以似然函式的概念為基礎。貝葉斯估計首先要給定隨機參量θ的機率密度函式和因估計誤差而帶來的代價 函式。貝葉斯估計是使平均風險為最小的估計(見估計理論)。
參量估計的目的是在有限個信號觀測量值中,以最佳方式估計該參量。

貝葉斯估計

準則:對不同的估計結果給出不同的代價,並使估計代價最小。
貝葉斯估計是將貝葉斯判決理論,推廣到對隨機參量估計的貝葉斯估計理論。
有關定義如下:
代價函式C:
若s是一參量,可在參量空間Ω中取值;
是估計量,可在判決空間A中取值。
稱C(
,S)是代價函式,它是
和s的實值函式,且滿足下列兩個條件:
⑴ C(s,
)≥0,對所有的
,S
Ω
⑵ 對應於每個S
Ω和C(s,
)=0,在A中有一個最小的
風險函式(Risk function)
定義為代價函式的均值,即:
△ 貝葉斯估計-使風險函式最小的估計。
由於估計誤差
決定估計問題中估計質量的好壞,所以,通常僅對估計值與真實值之差
感興趣。若考慮誤差函式的代價,這時C可定義為(S-
)的單變數函式,有下列三種情況:
(a) 平方誤差
(b) 絕對值誤差
(c) 均勻代價函式如圖1。
圖1圖1
貝葉斯判據:平均代價最小,即 E(c)=min。
由於c是
的函式,而
又是觀察值x的函式,所以c就是x和s的聯合函式,所以有:
用後驗機率函式表示為:
令:
,R稱為條件風險函式。
下面針對三種代價函式分三種情況探討估計準則:
圖2圖2
情況(a): 平方誤差情況下,風險函式最小的估計量稱為最小均方估計(minimum mean square estimation)
其風險函式為:
圖3圖3
由於:p(s,x)=p(s|x)p(x)
則風險函式為:
圖4圖4
∵p(x)≥0故RMS最小即等效為上式括弧[ ]內項最小。
上式內項對求導,故有
則有:
圖5圖5
由於
此即為最小均方估值
,表示已知x時,s的條件均值。
圖6圖6
情況(b):
絕對值誤差情況下,風險函式如圖2:
上式括弧[ ]內項如圖3:
故RMS最小即等效為上式括弧[ ]內項最小。於是,可令上式對
的導數為零,則有如圖4:
圖7圖7
ABS估計應取在後驗機率密度函式面積的平分線上,即估值為條件機率密度函式的中值(median)。
——稱為後驗中值估計如圖5
情況(c):
均勻代價函式
上式[ ]號中的後面一項如圖6:
當此式最大,即p(s|x)最大時,平均代價Runf最小。此時稱為最大後驗估值(Maximum a Posteriori)。
圖8圖8
取對數,則有如圖7,既滿足圖8的條件。
最後,將三種情況估計式中後驗機率密度函式藉助於貝葉斯公式
用先驗機率代替得到:
ABS估計如圖9:
圖9圖9
MAP估計如圖10:
MS估計如圖11:
圖10圖10
圖11圖11

極大似然估計

設x1, x2,..., xN為隨機變數x的獨立同分布的N個觀測樣值,p(x|θ)為x的依賴參量θ分布密度函式,參量θ為待估計的量。則似然函式如圖12:
圖12圖12
估計準則:選取使似然函式L(θ)為最大的
作為θ的估計量,稱為θ的最大似然估計。
L (θ)最大等效ln L(θ)最大。要求θ的最大似然估計
,必需解似然方程:
由於對數函式的單調性,取對數似然函式進行估計,則有:
此式為必要條件,而不是充分條件。
例5.1 在假設H1和H0下,接收信號為:
H1:Zk=m+vK, k=1,2,...N
H0:Zk= vK, k=1,2,...N
當常數m為未知時,求m的最大似然估計。
圖13圖13
解:用前面的檢測理論是判決那個假設為真。
本節的估計理論,H1假設為真,vK為高斯噪聲。、本例中,參量估計=,其均值為m,接下來的步驟如圖13。

實例

以雷達系統為例,接收端收到的混有噪聲和干擾的信號樣本就是雷達目標的回波,通常可寫成Acos[2πf(t-tr)+φ0],A是回波幅度;f是回波頻率;tr是雷達波發射時間和回波收到時間之差(通常稱為時延)。這些都是待估計的參量,包含著目標的散射待性、空間距離和運動速度等信息。雷達接收端的任務就是要按照數學規則,採用適當技術措施把這些混合信號變換成具有一定機率模型的信號,然後再按照設定的規則得到估計量。假設待估計的參量之一是θ,從對n個觀測數據的處理所得的估計量為
一般也是一個隨機變數。估計量的好壞可用它的統計特性來表示。當θ為實際參量時,稱
與其真值θ之差為估計誤差,用
表示,即
=θ-
。如果
的期望值為零。即
表示估計量的期望值等於真值,稱為無偏估計。如果對同一參量用不同估計方法得出不同的無偏估計
如其中之一
的方差是所有估計量方差中最小的,並達到相應的下限時,則稱
為有效估計。如果對任一小的正數ε有下列機率的極限關係
稱為一致估計量。

相關詞條

熱門詞條

聯絡我們