特徵根回歸

當自變數之間存線上性關係時，最小二乘法回歸得出的預測結果很不可靠，特徵根回歸(Characteristic Root Regression，CRR)是R.L.Mason和J.T.Webster等人於1974年提出的另一種改進最小二乘估計的線性有偏估計方法。

基本介紹

• 中文名：特徵根回歸
• 外文名：Characteristic Root Regression，CRR
• 所屬學科：數學（數理統計）
• 提出者：J.T.Webster，R.L.Mason等
• 簡介：改進最小二乘估計的估計方法

基本介紹

主成分回歸僅從原自變數的樣本數據中提取主成分，沒有考慮自變數與因變數y的關係。作為主成分回歸的推廣形式，Webster等(1974)提出了特徵根回歸(Latent Root Regression，LRR)，將因變數也考慮進去了。同樣，也是從原有數據中提取相互正交的主成分，從而在消去原自變數復共線性的同時，也使所建立的回歸方程能夠表征自變數與因變數之間的相關關係。

回歸係數的特徵根估計

假設X是由因變數y和自變數標準化處理後的數據矩陣。可以證明，由X^TX的特徵根可以將回歸係數的最小二乘估計表示為

式中

現在假設。那么，就將它們略去，這樣方程(1)就由剩下的項來表示，即

式中

計算步驟

建立特徵根回歸方程的計算步驟如下：

(1)對給定的因變數y和自變數進行標準化處理。將處理後的因變數放在前面，自變數放在後面，構成一個數據矩陣，記為X。

(2)計算協方差矩陣X^TX，得到增廣相關矩陣。

(3)求出增廣相關矩陣的特徵及對應的特徵向量。

(4)將同時都非常接近於0的去掉。在實際操作時，限定就認為它們近似等於0。

(5)套用方程(4)和(5)計算回歸係數的特徵根估計。

(6)建立特徵根回歸方程。