多元線性模型

多元線性模型(multiple linear model)是數理統計的一個重要分支，在一元線性模型中研究的指標Y是一元隨機變數，影響指標Y的因素可以有多個因素，這些因素中可以有定性因子，也可以有定量因子，如果我們研究的指標Y是P元隨機變數，影響指標y的因素有多個因素，這就是多元模型的問題。

基本介紹

• 中文名：多元線性模型
• 外文名：multiple linear model
• 所屬學科：數學
• 所屬領域：數理統計
• 相關概念：一元線性模型、隨機變數等

基本介紹

在一元線性模型中，我們研究的指標Y是一元隨機變數，影響這個指標的因素卻可以有多個，如果我們研究的指標Y是q元隨機向量，影響這個指標向量的因素卻有p個，並且指標的條件數學期望與這些因素之間滿足線性關係，這時就可以用下面將要介紹的多元線性模型來描述指標向量Y和這些因素之間的關係。

假設對應於因素 的指標向量Y的觀測值為

則指標向量Y的觀測值與這些因素之間的關係就可以用矩陣的形式寫為

記 則可以把上面的式子簡寫為

其 為指標向量Y的笫i次觀測誤差，通常假設不同的觀測之間是不相關的，並且 的均值為0．療差矩陣為V，這樣可以把指標向量的觀測值和相應的各個因素之間的關係表達為

其中e的各行不相關且有相同的協方差矩陣，這裡Y的第i行 記錄了研究對象Y的第i次觀測結果，x的第i行 記錄了各個因素在第i次觀測中所取的值，而e的第i行表示用 的分量的線性組合來近似 所產生的誤差，我們稱模型(1)為多元線性模型，顯然當q=1時，多元線性模型就成為一元線性模型。

為了方便，我們稱n×(q+p)矩陣(Y，x)為資料矩陣；稱Y為觀測矩陣；稱x為設計矩陣：稱e為觀測誤差或模型誤差：稱 為模型參數矩陣，簡稱為參數矩陣或參數：稱V為方差矩陣，在多元線性模型(1)中，模型的參數矩陣和方差矩陣V是需要估計的參數矩陣、人們最感興趣的是模型的參數估計問題和有關參數矩陣的一些假設檢驗問題。

多元線性模型的參數估計

以下只研究多元正態線性模型。

β的最小二乘估計

類似於一元線性模型中σ²的估計，我們可以用下面的統計量作為多元線性模型中方差矩陣V的估計：

其中p為(列滿秩)設計矩陣x的秩，而

為殘差矩陣，可以驗證估計量是方差矩陣V的無偏估計量。