相關性、平均值、標準差、相關系數(shù)、回歸線及最小二乘法概念

《相關性、平均值、標準差、相關系數(shù)、回歸線及最小二乘法概念》由會員分享，可在線閱讀，更多相關《相關性、平均值、標準差、相關系數(shù)、回歸線及最小二乘法概念（7頁珍藏版）》請在裝配圖網(wǎng)上搜索。

. 平均值、標準差、相關系數(shù)、回歸線及最小二乘法 相關性 線性相關 數(shù)據(jù)在一條直線附近波動，則變量間是線性相關 非線性相關 數(shù)據(jù)在一條曲線附近波動，則變量間是非線性相關 不相關 數(shù)據(jù)在圖中沒有顯示任何關系，則不相關 平均值 N個數(shù)據(jù) 的平均值計算公式： 標準差 標準差表示了所有數(shù)據(jù)與平均值的平均距離，表示了數(shù)據(jù)的散度，如果標準差小，表示數(shù)據(jù)集中在平均值附近，如果標準差大則表示數(shù)據(jù)離標準差比較遠，比較分散。標準差計算公式： x、y兩個變量組成了笛卡爾坐標系中的一個坐標(x,y)，這個坐標標識了一個點的位置。 各包含n個常量的X,Y兩組數(shù)據(jù)在笛卡爾坐標系中以n個點來進行表示。 相關系數(shù) 相關系數(shù)用字母r來表示，表示兩組數(shù)據(jù)線性相關的程度（同時增大或減小的程度），從另一方面度量了點相對于標準差的散布情況，它沒有單位。包含n個數(shù)值的X、Y兩組數(shù)據(jù)的相關系數(shù)r的計算方法： 簡單的說，就是r=[(以標準單位表示的 x )X(以標準單位表示的 y )]的平均數(shù) 根據(jù)上面點的定義，將X、Y兩組數(shù)據(jù)的關系以點的形式在笛卡爾坐標系中畫出，SD線表示了經(jīng)過中心點（以數(shù)據(jù)組X、Y平均值為坐標的點），當r>0時，斜率=X的標準差/Y的標準差；當r<0時，斜率=-X的標準差/Y的標準差；的直線。通常用SD線來直觀的表示數(shù)據(jù)的走向： 1、當r<0時,SD線的斜率小于0時，則說明數(shù)據(jù)負相關，即當x增大時y減少。 2、當r>0時，SD線的斜率大于0時，則說明數(shù)據(jù)正相關，此時當x增大時y增大。 3、相關系數(shù)r的范圍在[-1,1]之間，當r=0時表示數(shù)據(jù)相關系數(shù)為0(不相關)。當r=正負1時，表示數(shù)據(jù)負相關，此(x,y)點數(shù)據(jù)都在SD線上。 4、r的值越接近正負1說明(x,y)越靠攏SD線，說明數(shù)據(jù)相關性越強，r的值越接近0說明(x,y)點到SD線的散度越大（越分散），數(shù)據(jù)相關性越小。 回歸方法主要描述一個變量如何依賴于另一個變量。y對應于x的回歸線描述了在不同的x值下y的平均值情況，它是這些平均值的光滑形式，如果這些平均值剛好在一條直線上，則這些平均值剛好和回歸線重合。通過回歸線，我們可以通過x值來預測y值（已知x值下y值的平均值）。下面是y對應于x的回歸線方程： 簡單的說，就是當x每增加1個SD，平均而言，相應的y增加r個SD。 從方程可以看出： 1、回歸線是一條經(jīng)過點 ，斜率為 的直線。 2、回歸線的斜率比SD線小，當r=1或-1時，回歸線和SD線重合。 當用回歸線從x預測y時，實際值與預測值之間的差異叫預測誤差。而均方根誤差就是預測誤差的均方根。它度量回歸預測的精確程度。y關于x的回歸線的均方根誤差用下面的公式進行計算: 由公式可以看出，當r越接近1或-1時，點越聚集在回歸線附近，均方根誤差越?。环粗畆越接近0時，點越分散，均方根誤差越大。 最小二乘法尋找一條直線來擬合所有的點，使得這條直線到所有的點之間的均方根誤差最小?？梢钥吹剑斍髢蓚€變量之間的關系時，最小二乘法求出的直線實際上就是回歸線。只不過表述的側重點不同： 1、最小二乘法強調(diào)求出所有點的最佳擬合直線。 2、回歸線則是在SD線的基礎上求出的線，表示了樣本中已知變量x的情況下變量y的平均值。 由以上可知，一個散點圖可以用五個統(tǒng)計量來描述： 1、所有點x值的平均數(shù)，描述了所有點在x軸上的中心點。 2、所有點x值的SD,描述了所有點距離x中心點的散度。 3、所有點y值的平均數(shù)，描述了所有點在y軸上的中心點。 4、所有點y值的SD,描述了所有點距離y中心點的散度。 5、相關系數(shù)r，基于標準單位，描述了所有點x值和y值之間的關系。 相關系數(shù)r將平均值、標準差、回歸線這幾個概念聯(lián)系起來： 1、r描述了相對于標準差，點沿SD線的群集程度。 2、r說明了y的平均數(shù)如何的依賴于x --- x每增加1個x標準差，平均來說，y將只增加r個y標準差。 3、r通過均方根誤差公式，確定了回歸預測的精確度。 注意：以上相關系數(shù)、回歸線、最小二乘法的計算要在以下兩個條件下才能成立： 1、x、y兩組樣本數(shù)據(jù)是線性的，如果不是線性的先要做轉換。 2、被研究的兩組樣本數(shù)據(jù)之間的關系必須有意義。 R平方值=回歸平方和/總平方和 其中： 回歸平方和=總平方和-殘差平方和 總平方和=y的實際值的平方和 假設，實際測的值是yi，擬合曲線計算出的值分別是Yi 殘差平方和: 總平方和： 相關系數(shù)的平方為判定系數(shù) 分布區(qū)間(0, 1)，越小說明擬合得越差，越大說明擬合得越好， 取對數(shù)： .