回歸分析中的加權估計方法

① 什麼是加權最小二乘法，它的基本思想是什麼

加權最小二乘法是對原模型進行加權，使之成為一個新的不存在異方差性的模型，然後採用普通最小二乘法估計其參數的一種數學優化技術。

線性回歸的假設條件之一為方差齊性，若不滿足方差齊性（即因變數的變異程度會隨著自身的預測值或者其它自變數的變化而變化）這個假設條件時，就需要用加權最小二乘法（WLS）來進行模型估計。

加權最小二乘法（WLS）會根據變異程度的大小賦予不同的權重，使其加權後回歸直線的殘差平方和最小，從而保證了模型有更好的預測價值。

(1)回歸分析中的加權估計方法擴展閱讀

在多重線性回歸中，我們採用的是普通最小二乘法(OLS)估計參數，對模型中每個觀測點是同等看待的。但是在有些研究問題中，例如調查某種疾病的發病率，以地區為觀測單位，地區的人數越多，得到的發病率就越穩定，因變數的變異程度就越小，而地區人數越少，得到的發病率就越大。

在這種情況下，因變數的變異程度會隨著自身數值或者其他變數的變化而變化，從而不滿足殘差方差齊性的條件。

為了解決這個問題，我們採用加權最小二乘法(WLS)的方法來估計模型參數，即在模型擬合時，根據數據變異程度的大小賦予不用的權重，

對於變異程度較小，測量更准確的數據賦予較大的權重，對於變異程度較大，測量不穩定的數據則賦予較小的權重，從而使加權後回歸直線的殘差平方和最小，確保模型有更好的預測價值。

② 回歸分析法和加權平均法的異同比較及舉例

所謂回歸分析法，是在掌握大量觀察數據的基礎上，利用數理統計方法建立因變數與自變數之間的回歸關系函數表達式（稱回歸方程式）。回歸分析中，當研究的因果關系只涉及因變數和一個自變數時，叫做一元回歸分析；當研究的因果關系涉及因變數和兩個或兩個以上自變數時，叫做多元回歸分析。此外，回歸分析中，又依據描述自變數與因變數之間因果關系的函數表達式是線性的還是非線性的，分為線性回歸分析和非線性回歸分析。通常線性回歸分析法是最基本的分析方法，遇到非線性回歸問題可以藉助數學手段化為線性回歸問題處理
在物流的計算中，回歸分析法的公式如下：
y=a+bx
b=n·∑xy－∑x∑y／n·∑x²－(∑x)²
a=∑y－b·∑x／n
加權平均法：是指在月末，將某種材料期初結存數量和本月收入數量為權數，用來計算出該材料的平均單位成本的一種方法。具體地說，這種方法是將某材料的月初庫存金額與本月購入的金額之和除以月初庫存數量與本月購進數量之和，所求得的該種材料月末平均單價，即作為本月發出材料成本的單價，其計算公式如下：

月末平均單價＝（月初庫存材料金額＋本月購進各批材料金額）/（月出庫存材料數量＋本月購進各批材料數量）

③ 什麼是分布滯後模型參數估計的經驗加權法

是分布滯後模型參數估計的經驗加權法是：

分布滯後模型，是要將當期數據減去前期數據，得到新數據為新變數的當期數據，而初期數據沒得減，就損失掉了，自由度就是樣本觀測值的數量，所以損失了自由度。一般情況下，樣本觀測值的減少會降低估計精度。

含義

在涉及時間序列數據的回歸分析中，如果回歸模型中不僅包含有解釋變數的當前值，還含有它們的滯後值，就把它稱為分布滯後模型（distributed-lag model）。如果模型在它的解釋變數中包含有因變數的一個或多個滯後值，就稱它為自回歸模型（autoregressive model）。如果模型中的解釋變數中既包含有解釋變數的滯後值又含有被解釋變數的滯後值，就將其稱為自回歸分布滯後模型。

④ 多元線性回歸分析模型中估計系數的方法是什麼

多元線性回歸分析模型中估計系數的方法是：多元線性回歸分析預測法

多元線性回歸分析預測法：是指通過對兩個或兩個以上的自變數與一個因變數的相關分析，建立預測模型進行預測的方法。當自變數與因變數之間存在線性關系時，稱為多元線性回歸分析。

多元線性回歸預測模型一般公式為： 多元線性回歸模型中最簡單的是只有兩個自變數（n=2）的二元線性回歸模型，其一般形式為：
下面以二元線性回歸分析預測法為例，說明多元線性回歸分析預測法的應用。
二元線性回歸分析預測法，是根據兩個自變數與一個因變數相關關系進行預測的方法。二元線性回歸方程的公式為：式中：：因變數；
x1,x2：兩個不同自變數，即與因變數有緊密聯系的影響因素。
a,b1,b2：是線性回歸方程的參數。
a,b1,b2是通過解下列的方程組來得到。
二元線性回歸預測法基本原理和步驟同一元線性回歸預測法沒有原則的區別，大體相同。

「多元線性回歸分析預測法」網路鏈接：http://ke..com/view/1338395.htm

⑤ 常見的回歸分析方法有哪些

1/6分步閱讀
1.線性回歸方法：通常因變數和一個（或者多個）自變數之間擬合出來是一條直線（回歸線），通常可以用一個普遍的公式來表示：Y（因變數）=a*X（自變數）+b+c，其中b表示截距，a表示直線的斜率，c是誤差項。如下圖所示。

2/6
2.邏輯回歸方法：通常是用來計算「一個事件成功或者失敗」的概率，此時的因變數一般是屬於二元型的（1 或0，真或假，有或無等）變數。以樣本極大似然估計值來選取參數，而不採用最小化平方和誤差來選擇參數，所以通常要用log等對數函數去擬合。如下圖。

3/6
3.多項式回歸方法：通常指自變數的指數存在超過1的項，這時候最佳擬合的結果不再是一條直線而是一條曲線。比如：拋物線擬合函數Y=a+b*X^2，如下圖所示。

4/6
4.嶺回歸方法：通常用於自變數數據具有高度相關性的擬合中，這種回歸方法可以在原來的偏差基礎上再增加一個偏差度來減小總體的標准偏差。如下圖是其收縮參數的最小誤差公式。

5/6
5.套索回歸方法：通常也是用來二次修正回歸系數的大小，能夠減小參量變化程度以提高線性回歸模型的精度。如下圖是其懲罰函數，注意這里的懲罰函數用的是絕對值，而不是絕對值的平方。

6/6
6.ElasticNet回歸方法：是Lasso和Ridge回歸方法的融合體，使用L1來訓練，使用L2優先作為正則化矩陣。當相關的特徵有很多個時，ElasticNet不同於Lasso，會選擇兩個。如下圖是其常用的理論公式。

⑥ spss 多元線性回歸分析 幫忙分析一下下圖，F、P、t、p和r方各代表什麼謝謝~

F是對回歸模型整體的方差檢驗，所以對應下面的p就是判斷F檢驗是否顯著的標准，你的p說明回歸模型顯著。

R方和調整的R方是對模型擬合效果的闡述，以調整後的R方更准確一些，也就是自變數對因變數的解釋率為27.8%。

t就是對每個自變數是否有顯著作用的檢驗，具體是否顯著 仍然看後面的p值，若p值＜0.05，說明該自變數的影響顯著。

(6)回歸分析中的加權估計方法擴展閱讀：

多元線性回歸的基本原理和基本計算過程與一元線性回歸相同，但由於自變數個數多，計算相當麻煩，一般在實際中應用時都要藉助統計軟體。這里只介紹多元線性回歸的一些基本問題。

但由於各個自變數的單位可能不一樣，比如說一個消費水平的關系式中，工資水平、受教育程度、職業、地區、家庭負擔等等因素都會影響到消費水平，而這些影響因素（自變數）的單位顯然是不同的，因此自變數前系數的大小並不能說明該因素的重要程度。

更簡單地來說，同樣工資收入，如果用元為單位就比用百元為單位所得的回歸系數要小，但是工資水平對消費的影響程度並沒有變，所以得想辦法將各個自變數化到統一的單位上來。前面學到的標准分就有這個功能。

具體到這里來說，就是將所有變數包括因變數都先轉化為標准分，再進行線性回歸，此時得到的回歸系數就能反映對應自變數的重要程度。這時的回歸方程稱為標准回歸方程，回歸系數稱為標准回歸系數。

SPSS for Windows是一個組合式軟體包，它集數據整理、分析功能於一身。用戶可以根據實際需要和計算機的功能選擇模塊，以降低對系統硬碟容量的要求，有利於該軟體的推廣應用。SPSS的基本功能包括數據管理、統計分析、圖表分析、輸出管理等等。

SPSS統計分析過程包括描述性統計、均值比較、一般線性模型、相關分析、回歸分析、對數線性模型、聚類分析、數據簡化、生存分析、時間序列分析、多重響應等幾大類，每類中又分好幾個統計過程。

比如回歸分析中又分線性回歸分析、曲線估計、Logistic回歸、Probit回歸、加權估計、兩階段最小二乘法、非線性回歸等多個統計過程，而且每個過程中又允許用戶選擇不同的方法及參數。SPSS也有專門的繪圖系統，可以根據數據繪制各種圖形。

參考資料：多元線性回歸_網路

⑦ spss中怎麼求加權最小二乘估計，詳細操作步驟

這個只能在回歸分析里用，在分析里找線性回歸，最下面有WLS Weight，這就是加權最小二乘估計。

⑧ 如何運用Matlab進行地理加權回歸分析

地理加權回歸，由英國Newcastle大學地理統計學家A.S Fortheringham及其同事基於空間變系數回歸模型並利用局部多項式光滑的思想提出的模型。模型公式如下：
其中(yi;xi1,xi2,…,xip)為在地理位置(ui,vi)處的因變數y和自變數x1,x2,…,xp的觀測值(i=1,2,…,n).βj(ui,vi)(j=0,1,…,p)為觀測點(ui,vi)處的未知參數,它是(ui,vi)的未知函,εi(i=1,2,…,n)為獨立同分布的隨機誤差,通常假定其服從N(0,σ2).