回歸模型的參數(shù)估計(jì).ppt

《回歸模型的參數(shù)估計(jì).ppt》由會(huì)員分享，可在線閱讀，更多相關(guān)《回歸模型的參數(shù)估計(jì).ppt（33頁珍藏版）》請(qǐng)?jiān)谘b配圖網(wǎng)上搜索。

第二節(jié)回歸模型的參數(shù)估計(jì),,一、最小二乘估計(jì)（OLS）,⒈選擇最佳擬合曲線的標(biāo)準(zhǔn)從幾何意義上說，樣本回歸曲線應(yīng)盡可能靠近樣本數(shù)據(jù)點(diǎn)。選擇最佳擬合曲線的標(biāo)準(zhǔn)可以確定為：使總的擬合誤差（即總殘差）達(dá)到最小。用最小二乘法描述就是：所選擇的回歸模型應(yīng)該使所有觀察值的殘差平方和達(dá)到最小。,⒉OLS的基本思路,不同的估計(jì)方法可得到不同的樣本回歸參數(shù)和，所估計(jì)的也不同。理想的估計(jì)方法應(yīng)使和的差即殘差越小越好。因?yàn)榭烧韶?fù)，所以可以取最小，（選擇平方的原因：介紹）即：,⒊估計(jì)過程,在離差平方和的表達(dá)式中，被解釋變量的觀測(cè)值和解釋變量都是已知的，因此可以將看作是未知參數(shù)的函數(shù)。計(jì)算此函數(shù)對(duì)的一階偏導(dǎo)數(shù)，可得：,得到：此方程組為正規(guī)方程組，解此方程組得：其中，,案例2.1⒉無偏性;⒊最小方差性⒋一致性證明過程參見p30~32,也可從精品課程網(wǎng)站下載。結(jié)論：OLS估計(jì)式是BLUE。,㈢系數(shù)的估計(jì)誤差與置信區(qū)間,可以證明,：總體方差,的,無偏估計(jì)量,為,,,在總體方差,的無偏估計(jì)量,求出后，,估計(jì)的參數(shù),和,的方差和標(biāo)準(zhǔn)差的估計(jì)量,分別是：,的樣本方差：,,S2XX,的樣本標(biāo)準(zhǔn)差：,,,,,的樣本方差：,,的樣本標(biāo)準(zhǔn)差：,,,S2XX,S2XX,S2XX,⒊系數(shù)的置信區(qū)間,見p34,四、多元線性回歸模型的參數(shù)估計(jì),方法相同，只是通過矩陣表示，參見p35~37,※五、極大似然法ML,極大似然法（MaximumLikelihood,ML），也稱最大似然法，是不同于最小二乘法的另一種參數(shù)估計(jì)方法，是從最大或然原理出發(fā)發(fā)展起來的其它估計(jì)方法的基礎(chǔ)。基本原理：對(duì)于最小二乘法，當(dāng)從模型總體隨機(jī)抽取n組樣本觀測(cè)值后，最合理的參數(shù)估計(jì)量應(yīng)該使得模型能最好地?cái)M合樣本數(shù)據(jù)。對(duì)于極大似然法，當(dāng)從模型總體隨機(jī)抽取n組樣本觀測(cè)值后，最合理的參數(shù)估計(jì)量應(yīng)該使得從模型中抽取該n組樣本觀測(cè)值的概率最大。,將該或然函數(shù)極大化，即可求得到模型參數(shù)的極大或然估計(jì)量。,復(fù)習(xí)：,掌握ols方法的原理，掌握一元線性回歸參數(shù)形式。明確優(yōu)良的參數(shù)估計(jì)應(yīng)具有的性質(zhì)，尤其明確OLS方法是BLUE。掌握EVIEWS建立模型的方法及命令。了解OLS估計(jì)參數(shù)的概率分布。,