對數似然方程

對數似然方程(log-likelihood equation)，簡稱“似然方程”。對數似然方程與原似然方程同解，由於獨立同分布的樣本的似然函式上具有連乘積，對似然方程取對數更方便計算。

基本介紹

• 中文名：對數似然方程
• 外文名：log-likelihood equation
• 所屬學科：數學
• 簡稱：似然方程
• 所屬問題：統計學(估計方法)

基本概念

當總體X為連續型隨機變數時，設其分布密度為，其中為未知參數。又設為總體的一個樣本，稱

為樣本的似然函式，簡記為。

當總體X為離散型隨機變數時，設其分布律為，則稱

為樣本的似然函式。

若似然函式在處取到最大值，則稱分別為的最大似然估計值，相應的統計量稱為最大似然估計量。

若為的極大似然估計，g(x)為單調函式，則為的極大似然估計。

若似然函式為的連續函式，且關於的各分量的偏導數存在。設是m維變數，且為開區域，則由極值的一階必要條件，得到

通常稱為似然方程，由於獨立同分布的樣本的似然函式上具有連乘積的形式，故對取對數後再求偏導數是方便的，因此實用上常採用與似然方程等價的形式：

稱為對數似然方程。

值得注意的是：由極值的必要條件知，極大似然估計一定是似然方程或對數似然方程的解，但似然方程或對數似然方程的解未必都是極大似然估計，嚴格地講，似然函式或對數似然函式對於參數的二階Hesse矩陣或負定(若是一元變數，或)，則似然方程或對數似然方程的解才是極大似然估計。

例題解析

設總體X服從常態分配，其中為未知參數，是來自總體X的一個樣本，試用極大似然法估計參數。

常態分配的似然函式為

相應的對數似然函式為

令

解此似然方程組得到：

進一步驗證，對於對數似然函式的二階Hesse矩陣

是負定矩陣，故是的極大值。故的極大似然估計是