① 多重共線性問題的幾種解決方法
多重共線性問題的幾種解決方法
在多元線性回歸模型經典假設中，其重要假定之一是回歸模型的解釋變數之間不存在線性關系，也就是說，解釋變數X1，X2，……，Xk中的任何一個都不能是其他解釋變數的線性組合。如果違背這一假定，即線性回歸模型中某一個解釋變數與其他解釋變數間存在線性關系，就稱線性回歸模型中存在多重共線性。多重共線性違背了解釋變數間不相關的古典假設，將給普通最小二乘法帶來嚴重後果。
這里，我們總結了8個處理多重共線性問題的可用方法，大家在遇到多重共線性問題時可作參考：
1、保留重要解釋變數，去掉次要或可替代解釋變數
2、用相對數變數替代絕對數變數
3、差分法
4、逐步回歸分析
5、主成份分析
6、偏最小二乘回歸
7、嶺回歸
8、增加樣本容量
這次我們主要研究逐步回歸分析方法是如何處理多重共線性問題的。
逐步回歸分析方法的基本思想是通過相關系數r 、擬合優度R2 和標准誤差三個方面綜合判斷一系列回歸方程的優劣，從而得到最優回歸方程。具體方法分為兩步：
第一步，先將被解釋變數y對每個解釋變數作簡單回歸:
對每一個回歸方程進行統計檢驗分析（相關系數r 、擬合優度R2 和標准誤差），並結合經濟理論分析選出最優回歸方程，也稱為基本回歸方程。
第二步，將其他解釋變數逐一引入到基本回歸方程中，建立一系列回歸方程，根據每個新加的解釋變數的標准差和復相關系數來考察其對每個回歸系數的影響，一般根據如下標准進行分類判別：
1.如果新引進的解釋變數使R2 得到提高,而其他參數回歸系數在統計上和經濟理論上仍然合理，則認為這個新引入的變數對回歸模型是有利的，可以作為解釋變數予以保留。
2.如果新引進的解釋變數對R2 改進不明顯，對其他回歸系數也沒有多大影響，則不必保留在回歸模型中。
3.如果新引進的解釋變數不僅改變了R2 ，而且對其他回歸系數的數值或符號具有明顯影響，則認為該解釋變數為不利變數，引進後會使回歸模型出現多重共線性問題。不利變數未必是多餘的，如果它可能對被解釋變數是不可缺少的，則不能簡單舍棄，而是應研究改善模型的形式，尋找更符合實際的模型，重新進行估計。如果通過檢驗證明回歸模型存在明顯線性相關的兩個解釋變數中的其中一個可以被另一個很好地解釋，則可略去其中對被解釋變數影響較小的那個變數，模型中保留影響較大的那個變數。
下邊我們通過實例來說明逐步回歸分析方法在解決多重共線性問題上的具體應用過程。
具體實例
例1 設某地10年間有關服裝消費、可支配收入、流動資產、服裝類物價指數、總物價指數的調查數據如表1，請建立需求函數模型。
表1 服裝消費及相關變數調查數據
年份
服裝開支
C
（百萬元）
可支配收入
Y
（百萬元）
流動資產
L
（百萬元）
服裝類物價指數Pc
1992年=100
總物價指數
P0
1992年=100
1988
8.4
82.9
17.1
92
94
1989
9.6
88.0
21.3
93
96
1990
10.4
99.9
25.1
96
97
1991
11.4
105.3
29.0
94
97
1992
12.2
117.7
34.0
100
100
1993
14.2
131.0
40.0
101
101
1994
15.8
148.2
44.0
105
104
1995
17.9
161.8
49.0
112
109
1996
19.3
174.2
51.0
112
111
1997
20.8
184.7
53.0
112
111
（1）設對服裝的需求函數為
用最小二乘法估計得估計模型：
模型的檢驗量得分，R2=0.998，D·W=3.383，F=626.4634
R2接近1，說明該回歸模型與原始數據擬合得很好。由得出拒絕零假設，認為服裝支出與解釋變數間存在顯著關系。
（2）求各解釋變數的基本相關系數
上述基本相關系數表明解釋變數間高度相關，也就是存在較嚴重的多重共線性。
（3）為檢驗多重共線性的影響，作如下簡單回歸：
各方程下邊括弧內的數字分別表示的是對應解釋變數系數的t檢驗值。
觀察以上四個方程，根據經濟理論和統計檢驗（t檢驗值=41.937最大，擬合優度也最高），收入Y是最重要的解釋變數，從而得出最優簡單回歸方程。
（4）將其餘變數逐個引入，計算結果如下表2：
表2服裝消費模型的估計
結果分析：
①在最優簡單回歸方程中引入變數Pc，使R2由0.9955提高到0.9957；根據經濟理論分析，正號，負號是合理的。然而t檢驗不顯著（），而從經濟理論分析，Pc應該是重要因素。雖然Y與Pc高度相關，但並不影響收入Y回歸系數的顯著性和穩定性。依照第1條判別標准，Pc可能是「有利變數」，暫時給予保留。
②模型中引入變數L ，R2 由0.9957提高到0.9959， 值略有提高。一方面，雖然Y 與L ，Pc與L 均高度相關，但是L 的引入對回歸系數、的影響不大（其中的值由0.1257變為0.1387，值由-0.0361變為-0.0345，變化很小）；另一方面，根據經濟理論的分析，L與服裝支出C之間應該是正相關關系，即的符號應該為正號而非負號，依照第2條判別標准，解釋變數L不必保留在模型中。
③捨去變數L ，加入變數P0 ，使R2 由0.9957提高到0.9980，R2 值改進較大。、、均顯著（這三個回歸系數的t檢驗值絕對值均大於），從經濟意義上看也是合理的（服裝支出C與Y,P0之間呈正相關，而與服裝價格Pc之間呈負相關關系）。根據判別標准第1條，可以認為Pc、P0皆為「有利變數」，給予保留。
④最後再引入變數L ，此時R2 ＝0.9980沒有增加（或幾乎沒有增加），新引入變數對其他三個解釋變數的參數系數也沒有產生多大影響，可以確定L 是多餘變數，根據判別標准第2條，解釋變數L 不必保留在模型中。
因此我們得到如下結論：回歸模型為最優模型。
通過以上案例的分析，我們從理論和實際問題兩方面具體了解了逐步回歸分析是如何對多重共線性問題進行處理的。事實上，一般統計軟體如SPSS，在回歸模型的窗口中都會提供變數逐步進入的選項，勾選後實際上就是選擇了運用逐步回歸的思想來構建回歸模型。運用SPSS軟體不需要我們懂得其背後的運行規律，然而作為分析師，了解並理解模型背後的理論知識，將更有助於我們理解模型、解釋結論背後的內在含義，從而達到更好地分析問題的目的。
② TRIZ方法體系解決問題有哪些流程
TRIZ解決問題的模式是將初始問題轉化為標准問題模型，通過對標准問題運用TRIZ工具，得到解決方案模型，然後轉化為工程方案。
TRIZ提供了四種問題模型以及相應工具和方案模型：
①技術矛盾， 將待解決的具體問題轉化為用39個通用工程參數描述的技術矛盾，通過查找矛盾矩陣，找到針對問題的創新原理，即解決方案模型；
②物理矛盾， 將待解決的問題准確描逗余述和定義為物理矛盾，解決物理矛盾的核心思想是實現矛盾雙方的分離，運用分離原理作為工具來解決物山尺滾理矛盾，得到解決方案模型；
③功能模型， 通過分析待解決問題系統中組件及組件間的相互作用關系，建立功能模型，運用知識效應庫，產生解決方案模型；
④物場模型， 將待解決的具體問題轉化為利用困改物質和場來描述的標准物場模型，分析物場模型中不足、過度、有害的作用，查找對應的76種標准解法，得到解決方案模型。