最常用的異方差方法

『壹』 ols，gls，fgls和wls的區別

ols，gls，fgls和wls的區別有計算方法、概念、回歸模型等的區別。

一、方法上的區別

GLS是(廣義最小二乘估計量)是一種常見的消除異方差的方法.它的主要思想是為解釋變數加上一個權重,從而使得加上權重後的回歸方程方差是相同的.

因此在GLS方法下我們可以得到估計量的無偏和一致估計,並可以對其進行OLS下的t檢驗和F檢驗。

二、概念上的區別

OLS是最小二乘法，用於一元或多元回歸，其基本思想是minQ=∑（Yi-β0-β1Xi）；

FGLS又稱可行的GLS，用於解決當異方差函數未知的情況下採用的方法；

WLS是加權最小估計量，當方差函數已知的情況下用於矯正異方差性的GLS估計量，其思想是，對誤差方差越大的觀測賦予越小的權數，而在OLS中每個觀測的權數一樣。；

在線性條件下，OLS是GLS的一種特殊形式。具體說，GLS修正了線性模型隨機項的異方差和序列相關問題！在沒有異方差和序列相關情形下，GLS=OLS。

三、回歸模型上的區別

在高-馬經典假設下，回歸模型叫ordinaryregressionmodel,我們知道，在此條件下，得到的OLS是BLUE的，但這個假定更現實的是如二樓所說的放寬同方差的假定，此時的回歸模型是generalizedregressionmodel在這種模型里，如果varience-covariencematrix是已知的，則GLS可行，這就是我們書上常看到的FGLS。

但如果varience-covariencematrix是不知道的，則我們需要估計出varience-covariencematrix，進而得到FGLS，但此時的估計量是一致的漸近有效的估計量。另外，我們常看到的WLS實際就是FGLS，因而是blue的，但是並不是所有的FGLS都是blue的。

以上就是ols，gls，fgls和wls計算方法、概念、回歸模型的區別。

(1)最常用的異方差方法擴展閱讀

最小二乘法歷史與發展過程：1801年，義大利天文學家朱賽普·皮亞齊發現了第一顆小行星穀神星。經過40天的跟蹤觀測後，由於穀神星運行至太陽背後，使得皮亞齊失去了穀神星的位置。隨後全世界的科學家利用皮亞齊的觀測數據開始尋找穀神星，但是根據大多數人計算的結果來尋找穀神星都沒有結果。時年24歲的高斯也計算了穀神星的軌道。奧地利天文學家海因里希·奧爾伯斯根據高斯計算出來的軌道重新發現了穀神星。

高斯使用的最小二乘法的方法與1809年他的著作《天體運動論》中，勒讓德於1806年獨立發明「最小二乘法」，但因不為世人所知而默默無聞。勒讓德曾與高斯為誰最早創立最小二乘法原理發生爭執。1829年，高斯提供了最小二乘法的優化效果強於其他方法的證明，因此被稱為高斯-馬爾可夫定理。

『貳』 異方差的解決方法

異方差性的檢測方法
1、殘差圖

通過繪制殘差圖，將殘差項分別與模型的自變數X或者因變數Y，作散點圖，查看散點是否有明顯的規律性。

殘差圖
通常存在異方差時，散點圖會呈現出自變數X值越大，殘差項越大/越小的分布規律。如上圖中散點圖呈現出這樣的規律性，說明模型具有異方差性。

2、white檢驗

懷特檢驗是最常用於檢驗異方差的方法。SPSSAU中會自動輸出懷特檢驗結果。

3、BP檢驗

除此之外，也可用BP檢驗結果判斷，SPSSAU中會自動輸出此結果。如果BP結果與white檢驗結果出現矛盾，建議以懷特檢驗結果為准。

通過案例也許能夠能清楚地說明，以下是關於工資的影響因素的OLS回歸分析。共涉及四個因素分別是起始工資、性別、受雇月數和受教育年限。採用OLS回歸，得到如下結果：

SPSSAU分析界面

SPSSAU-OLS回歸分析結果
由上圖可得到起始工資、受雇時間、受教育時間對當前工有顯著的正向影響關系。

但根據異方差檢驗結果顯示，White檢驗和BP檢驗均拒絕原假設（P<0.05）（原假設為模型沒有異方差），說明模型存在異方差問題，因此需要進一步處理。

異方差性處理方法
解決異方差問題一般有三種辦法，分別是數據處理（取對數）、Robust穩健標准誤回歸和FGLS法；三種辦法可以同時使用去解決異方差問題。

1. 對原數據做對數處理

針對連續且大於0的原始自變數X和因變數Y，進行取自然對數（或10為底對數）操作，如果是定類數據則不處理。

取對數可以將原始數據的大小進行『壓縮』，這樣會減少異方差問題。事實上多數研究時默認就進行此步驟處理。負數不能直接取對數，如果數據中有負數，研究人員可考慮先對小於0的負數，先取其絕對值再求對數，然後加上負數符號。