對數似然方程

對數似然方程

對數似然方程(log-likelihood equation),簡稱“似然方程”。對數似然方程與原似然方程同解,由於獨立同分布的樣本的似然函式上具有連乘積,對似然方程取對數更方便計算。

基本介紹

  • 中文名:對數似然方程
  • 外文名:log-likelihood equation
  • 所屬學科:數學
  • 簡稱:似然方程
  • 所屬問題:統計學(估計方法)
基本概念,例題解析,

基本概念

當總體X為連續型隨機變數時,設其分布密度
,其中
為未知參數。又設
為總體的一個樣本,稱
為樣本的似然函式,簡記為
當總體X為離散型隨機變數時,設其分布律為
,則稱
為樣本的似然函式
若似然函式
處取到最大值,則稱
分別為
的最大似然估計值,相應的統計量稱為最大似然估計量。
極大似然估計,g(x)為單調函式,則
的極大似然估計。
若似然函式
的連續函式,且關於
的各分量的偏導數存在。設
是m維變數,且
為開區域,則由極值的一階必要條件,得到
通常稱為似然方程,由於獨立同分布的樣本的似然函式上
具有連乘積的形式,故對
取對數後再求偏導數是方便的,因此實用上常採用與似然方程等價的形式:
稱為對數似然方程
值得注意的是:由極值的必要條件知,極大似然估計一定是似然方程或對數似然方程的解,但似然方程或對數似然方程的解未必都是極大似然估計,嚴格地講,似然函式
或對數似然函式
對於參數
的二階Hesse矩陣
負定(若
是一元變數,
),則似然方程或對數似然方程的解才是極大似然估計。

例題解析

設總體X服從常態分配
,其中
為未知參數,
是來自總體X的一個樣本,試用極大似然法估計參數
常態分配的似然函式為
相應的對數似然函式為
解此似然方程組得到:
進一步驗證,對於對數似然函式
的二階Hesse矩陣
是負定矩陣,故
的極大值。故
極大似然估計

相關詞條

熱門詞條

聯絡我們