《統(tǒng)計(jì)學(xué)相關(guān)與回歸分析課件》由會(huì)員分享，可在線閱讀，更多相關(guān)《統(tǒng)計(jì)學(xué)相關(guān)與回歸分析課件（92頁(yè)珍藏版）》請(qǐng)?jiān)谘b配圖網(wǎng)上搜索。

1、單擊此處編輯母版標(biāo)題樣式,單擊此處編輯母版文本樣式,第二級(jí),第三級(jí),第四級(jí),第五級(jí),,,0,,2024/12/13,1,第八章 相關(guān)與回歸分析,第一節(jié),相關(guān)與回歸分析的基本概念,,第三節(jié),,一元線性回歸分析,,第四節(jié),,多元線性回歸分析,,,【,學(xué)習(xí)目標(biāo),】,通過(guò)對(duì)本章的學(xué)習(xí)，重點(diǎn)掌握回歸分析的估計(jì)和檢驗(yàn)方法；掌握相關(guān)分析的種類(lèi)及三種相關(guān)系數(shù)的計(jì)算方法；在此基礎(chǔ)上能夠運(yùn)用相關(guān)分析和回歸分析的基本方法解釋實(shí)際社會(huì)經(jīng)濟(jì)問(wèn)題。重點(diǎn)與難點(diǎn)：相關(guān)系數(shù)的計(jì)算及其檢驗(yàn)；多元線性回歸分析。,第五節(jié),,非線性回歸分析,,第二節(jié),,相關(guān)分析,,第1頁(yè)/共92頁(yè),2023/9/241第八章 相關(guān)與回歸分析第一節(jié)

2、相關(guān)與回,2024/12/13,2,第一節(jié) 相關(guān)與回歸分析的基本概念,,（一）函數(shù)關(guān)系,,一、,相關(guān)關(guān)系與函數(shù)關(guān)系,,第八章 相關(guān)與回歸分析,,函數(shù)關(guān)系是指現(xiàn)象之間存在著嚴(yán)格的依存關(guān)系，亦即當(dāng)其它條件不變時(shí)，對(duì)于某一自變量或幾個(gè)自變量的每一數(shù)值，都有因變量的一個(gè)的確定值與之相對(duì)應(yīng)，并且這種關(guān)系可以用一個(gè)確定的數(shù)學(xué)表達(dá)式反映出來(lái)。,第2頁(yè)/共92頁(yè),2023/9/242第一節(jié) 相關(guān)與回歸分析的基本概念,2024/12/13,3,第一節(jié) 相關(guān)與回歸分析的基本概念,,（二）統(tǒng)計(jì)關(guān)系,,一、,相關(guān)關(guān)系與函數(shù)關(guān)系,,第八章 相關(guān)與回歸分析,統(tǒng)計(jì)關(guān)系不同于函數(shù)關(guān)系，當(dāng)重復(fù)觀測(cè)時(shí)，觀測(cè)點(diǎn)不是完全落在統(tǒng)計(jì)關(guān)系

3、曲線上，而是圍繞統(tǒng)計(jì)關(guān)系曲線散布。統(tǒng)計(jì)關(guān)系可以表示為確定部分和隨機(jī)性部分二者之和，這是回歸分析的基礎(chǔ)。,相關(guān)關(guān)系,,因果關(guān)系,,第3頁(yè)/共92頁(yè),2023/9/243第一節(jié) 相關(guān)與回歸分析的基本概念,2024/12/13,4,案例分析,相關(guān)關(guān)系與因果關(guān)系,一家研究機(jī)構(gòu)有一項(xiàng)驚人的發(fā)現(xiàn)：統(tǒng)計(jì)數(shù)據(jù)顯示，腳長(zhǎng)的兒童拼寫(xiě)能力比腳短的兒童強(qiáng)。,原來(lái)他們調(diào)查的是一群年齡不同的兒童，腳長(zhǎng)的兒童比腳短的兒童年齡大！,趕快回去量一下兒子的腳長(zhǎng),我要把腳拉長(zhǎng)一點(diǎn)！,第4頁(yè)/共92頁(yè),2023/9/244案例分析相關(guān)關(guān)系與因果關(guān)系一家研究機(jī)構(gòu)有,2024/12/13,5,⒈,按涉及變量的多少分為,相關(guān)關(guān)系的種類(lèi),⒉

4、,按照表現(xiàn)形式不同分為,⒊,按照變化方向不同分為,,直線相關(guān),曲線相關(guān),,負(fù)相關(guān),正相關(guān),,二、相關(guān)分析的種類(lèi),復(fù)相關(guān),單相關(guān),,偏相關(guān),第八章 相關(guān)與回歸分析,第5頁(yè)/共92頁(yè),2023/9/245⒈按涉及變量的多少分為相關(guān)關(guān)系的種類(lèi)⒉按,2024/12/13,6,4.,按相關(guān)的程度分為,相關(guān)關(guān)系的種類(lèi),5.,按變量之間因果,關(guān)系的方向分為,,完全相關(guān),不完全相關(guān),,不相關(guān),雙向因果相關(guān),單向因果相關(guān),,虛假相關(guān),第八章 相關(guān)與回歸分析,第6頁(yè)/共92頁(yè),2023/9/2464. 按相關(guān)的程度分為相關(guān)關(guān)系的種類(lèi)5.,2024/12/13,7,第一節(jié),相關(guān)與回歸分析的基本概念,,第八章 相關(guān)與

5、回歸分析,三、相關(guān)分析與回歸分析,,回歸分析是關(guān)于研究一個(gè)叫做因變量的變量對(duì)另一個(gè)或多個(gè)叫做解釋變量的依賴(lài)關(guān)系。,,相關(guān)分析是測(cè)度兩個(gè)變量之間的線性關(guān)聯(lián)度的，并用一些指數(shù),(,相關(guān)系數(shù),),表示相關(guān)程度。,,第7頁(yè)/共92頁(yè),2023/9/247第一節(jié) 相關(guān)與回歸分析的基本概念 第八章,2024/12/13,8,第一節(jié),相關(guān)與回歸分析的基本概念,,第八章 相關(guān)與回歸分析,三、相關(guān)分析與回歸分析,,相關(guān)分析中,x,與,y,對(duì)等，回歸分析中,x,與,y,要確定自變量和因變量；,相關(guān)分析中,x,、,y,均為隨機(jī)變量，回歸分析中只有,y,為隨機(jī)變量；,相關(guān)分析測(cè)定相關(guān)程度和方向，回歸分析用回歸模型進(jìn)行

6、預(yù)測(cè)和控制。,區(qū)別：,第8頁(yè)/共92頁(yè),2023/9/248第一節(jié) 相關(guān)與回歸分析的基本概念 第八章,2024/12/13,9,第一節(jié),相關(guān)與回歸分析的基本概念,,第八章 相關(guān)與回歸分析,三、相關(guān)分析與回歸分析,聯(lián)系：,,相關(guān)分析是回歸分析的基礎(chǔ)和前提。,回歸分析是相關(guān)分析的深入和繼續(xù)。,第9頁(yè)/共92頁(yè),2023/9/249第一節(jié) 相關(guān)與回歸分析的基本概念 第八章,2024/12/13,10,第一節(jié),相關(guān)與回歸分析的基本概念,,第八章 相關(guān)與回歸分析,四、相關(guān)表與相關(guān)圖,(,一,),簡(jiǎn)單相關(guān)表,,將某一變量按其取值的大小排列，然后再將與其相關(guān)的另一變量的對(duì)應(yīng)值平行排列，便得到簡(jiǎn)單的相關(guān)表。,

7、,第10頁(yè)/共92頁(yè),2023/9/2410第一節(jié) 相關(guān)與回歸分析的基本概念 第八,2024/12/13,11,第一節(jié),相關(guān)與回歸分析的基本概念,,第八章 相關(guān)與回歸分析,,,,,,企業(yè)編號(hào),月產(chǎn)量（千噸）,X,生產(chǎn)費(fèi)用,(,萬(wàn)元,)Y,1,2,3,4,5,6,7,8,1.2,2.0,3.1,3.8,5.0,6.1,7.2,8.0,62,86,80,110,115,132,135,160,八個(gè)同類(lèi)工業(yè)企業(yè)的月產(chǎn)量與生產(chǎn)費(fèi)用,第11頁(yè)/共92頁(yè),2023/9/2411第一節(jié) 相關(guān)與回歸分析的基本概念 第八,2024/12/13,12,第一節(jié),相關(guān)與回歸分析的基本概念,,第八章 相關(guān)與回歸分析,四

8、、相關(guān)表與相關(guān)圖,,(,二,),分組相關(guān)表,,,,,單變量分組表,雙變量分組表,三變量分組表。,第12頁(yè)/共92頁(yè),2023/9/2412第一節(jié) 相關(guān)與回歸分析的基本概念 第八,2024/12/13,13,第一節(jié),相關(guān)與回歸分析的基本概念,,第八章 相關(guān)與回歸分析,,1.,單變量分組表,,,,表 某紡織廠工人看管織機(jī)臺(tái)數(shù)和時(shí)勞動(dòng)生產(chǎn)率相關(guān)表,,第13頁(yè)/共92頁(yè),2023/9/2413第一節(jié) 相關(guān)與回歸分析的基本概念 第八,2024/12/13,14,第一節(jié),相關(guān)與回歸分析的基本概念,,第八章 相關(guān)與回歸分析,,2.,雙變量分組表,,,,表　居住時(shí)間與對(duì)百貨商場(chǎng)的熟悉程度的雙變量分組表,,

9、第14頁(yè)/共92頁(yè),2023/9/2414第一節(jié) 相關(guān)與回歸分析的基本概念 第八,2024/12/13,15,第一節(jié),相關(guān)與回歸分析的基本概念,,第八章 相關(guān)與回歸分析,,3.,三變量分組表,,,,假定對(duì)于某項(xiàng)私家車(chē)購(gòu)買(mǎi)意向的調(diào)查，最初以教育水平和私家車(chē)擁有情況進(jìn)行分析，對(duì),1000,人調(diào)查的結(jié)果用二維列聯(lián)表表示如：,第15頁(yè)/共92頁(yè),2023/9/2415第一節(jié) 相關(guān)與回歸分析的基本概念 第八,2024/12/13,16,第一節(jié),相關(guān)與回歸分析的基本概念,,第八章 相關(guān)與回歸分析,,3.,三變量分組表,,,,表　　教育程度和私家車(chē)擁有狀況的雙變量分析,第16頁(yè)/共92頁(yè),2023/9/24

10、16第一節(jié) 相關(guān)與回歸分析的基本概念 第八,2024/12/13,17,第八章 相關(guān)與回歸分析,,,從上表中可以看出，文化程度越高的人擁有私家車(chē)的比例越高，這和實(shí)際情況不太相符，于是我們引入收入變量，作三變量的交叉列表分析：,教育程度、收入與私家車(chē)擁有狀況的三變量分析,,,,,,,,私家車(chē)擁有狀況,收入水平,低收入,高收入,教育程度,教育程度,本科及以上,本科以下,本科及以上,本科以下,有,沒(méi)有,20%,（,20,）,80%,（,80,）,20%,（,140,）,80%,（,560,）,40%,（,60,）,60%,（,90,）,40%,（,20,）,60%,（,30,）,列合計(jì),100%,1

11、00%,100%,100%,被調(diào)查者人數(shù),100,700,150,50,第17頁(yè)/共92頁(yè),2023/9/2417第八章 相關(guān)與回歸分析,2024/12/13,18,正 相 關(guān),負(fù) 相 關(guān),曲線相關(guān),不 相 關(guān),,,x,y,,,,,,,,,,,,,x,y,,,,,,,,,,,,,,x,y,,,,,,,,,,,,,,,,x,y,,,,,,,,,,,,第八章 相關(guān)與回歸分析,（三）相關(guān)圖,第18頁(yè)/共92頁(yè),2023/9/2418正 相 關(guān)負(fù) 相 關(guān)曲線相關(guān)不 相 關(guān),2024/12/13,19,第八章 相關(guān)與回歸分析,,,,,,,,,,,,,,第二節(jié) 相關(guān)分析,一、簡(jiǎn)單相關(guān)系數(shù)及其檢驗(yàn),,,,

12、,,,,,,,,,,,,,,(,一,),簡(jiǎn)單相關(guān)系數(shù)的定義,,簡(jiǎn)單相關(guān)系數(shù)簡(jiǎn)稱(chēng)相關(guān)系數(shù)，是測(cè)量?jī)蓚€(gè)變量之間線性相關(guān)的方向和程度的指標(biāo)。,,,總體相關(guān)系數(shù)的表達(dá)式為：,,式中：,,,為變量,X,與變量,Y,的協(xié)方差,,,,為變量,Y,的方差,為變量,X,的方差,第19頁(yè)/共92頁(yè),2023/9/2419第八章 相關(guān)與回歸分析,2024/12/13,20,第八章 相關(guān)與回歸分析,,,,,,,,,,,,,,第五節(jié) 相關(guān)分析,一、簡(jiǎn)單相關(guān)系數(shù)及其檢驗(yàn),,,,,,,,,,,,,,,,,,,(,一,),簡(jiǎn)單相關(guān)系數(shù)的定義,,,,,,,,,樣本相關(guān)系數(shù),是總體相關(guān)系數(shù),的估計(jì)值。,,,簡(jiǎn)單相關(guān)系數(shù)通常采用

13、下面的計(jì)算公式：,,第20頁(yè)/共92頁(yè),2023/9/2420第八章 相關(guān)與回歸分析,2024/12/13,21,相關(guān)系數(shù),r,的取值范圍：,-1≤r≤1,r>0,為,正相關(guān),，,r < 0,為,負(fù)相關(guān),；,|r|=0,表示不存在,線性,關(guān)系；,|r|,＝,1,表示,完全,線性,相關(guān),；,0<|r|<1,表示存在,不同程度線性相關(guān),：,,|r|,,<,,0.4,為低度線性相關(guān)；,,0.4,≤,|r|,＜,0.7,為顯著性線性相關(guān)；,,0.7,≤,|r|,＜,1.0,為,高度,顯著性線性相關(guān)。,,第八章 相關(guān)與回歸分析,第21頁(yè)/共92頁(yè),2023/9/2421相關(guān)系數(shù)r的取值范圍：-1≤r≤1

14、r>,2024/12/13,22,第八章 相關(guān)與回歸分析,,,,,,,,,,,,,第五節(jié) 相關(guān)分析,一、簡(jiǎn)單相關(guān)系數(shù)及其檢驗(yàn),,,,,,,,,,,,,,,,,,,(,二,),簡(jiǎn)單相關(guān)系數(shù)的檢驗(yàn),,,樣本相關(guān)系數(shù)的檢驗(yàn)有兩種方法：,直接檢驗(yàn)法，,檢驗(yàn)法。,,,,,,,,,第22頁(yè)/共92頁(yè),2023/9/2422第八章 相關(guān)與回歸分析,2024/12/13,23,相關(guān)系數(shù)的顯著性檢驗(yàn)（,t,檢驗(yàn)法）,⒈,提出假設(shè)：,目的,檢驗(yàn),總體,兩變量間線性相關(guān)性是否顯著,步,驟,⒉,構(gòu)造檢驗(yàn)統(tǒng)計(jì)量：,第八章 相關(guān)與回歸分析,第23頁(yè)/共92頁(yè),2023/9/2423相關(guān)系數(shù)的顯著性檢驗(yàn)（t檢驗(yàn)法）⒈提出

15、,2024/12/13,24,相關(guān)系數(shù)的顯著性檢驗(yàn)（,t,檢驗(yàn)法）,⒊,根據(jù)給定的顯著性水平,?，,確定臨界值 ；,⒌,計(jì)算檢驗(yàn)統(tǒng)計(jì)量并做出決策。,⒋,確定原假設(shè)的拒絕規(guī)則,:,若 ，則接受,H,0,,,表示總體兩變量間線性相關(guān)性不顯著,;,若 ，則拒絕,H,0,,,表示總體兩變量間線性相關(guān)性顯著,步,驟,第八章 相關(guān)與回歸分析,第24頁(yè)/共92頁(yè),2023/9/2424相關(guān)系數(shù)的顯著性檢驗(yàn)（t檢驗(yàn)法）⒊ 根,2024/12/13,25,第八章 相關(guān)與回歸分析,【,例,】,檢驗(yàn)生產(chǎn)量與生產(chǎn)費(fèi)用之間的線性相關(guān)性是否顯著。,

16、當(dāng) 成立時(shí)，則統(tǒng)計(jì)量,,第25頁(yè)/共92頁(yè),2023/9/2425第八章 相關(guān)與回歸分析【例】檢驗(yàn)生產(chǎn)量,2024/12/13,26,第八章 相關(guān)與回歸分析,,,,,,,,,,,第五節(jié) 相關(guān)分析,二、復(fù)相關(guān)系數(shù),,,,,,,,,,,,,,,,,,,復(fù)相關(guān)系數(shù)是測(cè)量一個(gè)變量與其它多個(gè)變量之間線性相關(guān)程度的指標(biāo)。,,,,,,,,,為了測(cè)定一個(gè)變量,y,與其它多個(gè)變量 之間的相關(guān)系數(shù)，可以考慮構(gòu)造一個(gè)關(guān)于的線性組合，通過(guò)計(jì)算該線性組合與之間的簡(jiǎn)單相關(guān)系數(shù)作為變量與之間的復(fù)相關(guān)系數(shù)。具體計(jì)算過(guò)程如下：,,第一步，用,y,對(duì),作

17、回歸，得,,第26頁(yè)/共92頁(yè),2023/9/2426第八章 相關(guān)與回歸分析,2024/12/13,27,第八章 相關(guān)與回歸分析,,,,,,,,,,第五節(jié) 相關(guān)分析,,,,,,,,,,,,,,,,,,,,,,,,,；,,,,第二步，計(jì)算,y,和,的簡(jiǎn)單相關(guān)系數(shù)，此簡(jiǎn)單相關(guān)系數(shù)即為,y,與,,之間的復(fù)相關(guān)系數(shù)。,,,,復(fù)相關(guān)系數(shù)的計(jì)算公式為：,第27頁(yè)/共92頁(yè),2023/9/2427第八章 相關(guān)與回歸分析,2024/12/13,28,第八章 相關(guān)與回歸分析,,,,,,,,,,,第五節(jié) 相關(guān)分析,二、復(fù)相關(guān)系數(shù),,,,,,,,,,,,,,,,,,,,,,,,,,；,,,,,,,,復(fù)相關(guān)系數(shù)與

18、簡(jiǎn)單相關(guān)系數(shù)的區(qū)別是簡(jiǎn)單相關(guān)系數(shù)的取值范圍是,[-1,1],，而復(fù)相關(guān)系數(shù)的取值范圍是,[0,1],。這是因?yàn)?，在兩個(gè)變量的情況下，回歸系數(shù)有正負(fù)之分，所以在研究相關(guān)時(shí)，也有正相關(guān)和負(fù)相關(guān)之分；但在多個(gè)變量時(shí)，偏回歸系數(shù)有兩個(gè)或兩個(gè)以上，其符號(hào)有正有負(fù)，不能按正負(fù)來(lái)區(qū)別，所以復(fù)相關(guān)系數(shù)也就只取正值。,第28頁(yè)/共92頁(yè),2023/9/2428第八章 相關(guān)與回歸分析,2024/12/13,29,第八章 相關(guān)與回歸分析,,,,,,當(dāng)兩個(gè)變量同時(shí)受其它變量影響時(shí)，有必要研究當(dāng)控制其它變量不變時(shí)，該兩個(gè)變量之間的相關(guān)關(guān)系。這種相關(guān)關(guān)系被稱(chēng)為偏相關(guān)關(guān)系。,,,,,,第五節(jié) 相關(guān)分析,三、偏相關(guān)系數(shù),,

19、,,,,,,,,,,,,,,,,,,,,,,,；,,,,,,,,,計(jì)算偏相關(guān)系數(shù)的原因在于任何兩個(gè)變量這間的相關(guān)關(guān)系都可能受其余變量的影響。要考察兩個(gè)變量之間的純相關(guān)關(guān)系，必須排除其余變量的影響，或者說(shuō)必須使其余變量保持不變。,第29頁(yè)/共92頁(yè),2023/9/2429第八章 相關(guān)與回歸分析,2024/12/13,30,第八章 相關(guān)與回歸分析,,,,,,,,第五節(jié) 相關(guān)分析,三、偏相關(guān)系數(shù),,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,偏相關(guān)系數(shù)的計(jì)算是以回歸分析為基礎(chǔ)的。以三個(gè)變量的情形為例，此種情況下，的偏相關(guān)系數(shù)有三個(gè)，分別記作,,,,,,為,與,之間的相關(guān)系數(shù)；,,保

20、持不變時(shí)，,,、 和 之間的相關(guān)系數(shù)；,,,,,與,為,保持不變時(shí)，,之間的相關(guān)系數(shù)；,為,與,保持不變時(shí)，,之間的相關(guān)系數(shù)；,第30頁(yè)/共92頁(yè),2023/9/2430第八章 相關(guān)與回歸分析,2024/12/13,31,第八章 相關(guān)與回歸分析,,,,,,,,第五節(jié) 相關(guān)分析,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,計(jì)算殘差,此時(shí),中不再含有,對(duì),的影響。,第二步，求,對(duì),的回歸估計(jì)式,計(jì)算殘差,此時(shí),中不再含有,對(duì),的影響。,第一步，求,對(duì),的回歸估計(jì)式,第31頁(yè)/共92頁(yè),2023/9/2431第八章 相關(guān)與回歸分

21、析,2024/12/13,32,第八章 相關(guān)與回歸分析,,,,,,,,,第五節(jié) 相關(guān)分析,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,第三步，計(jì)算,和,的簡(jiǎn)單相關(guān)系數(shù),由于,和,中都不再包含,的影響，因此,和,的簡(jiǎn)單相關(guān)系數(shù)就是,保持不變時(shí)，,與,之間的相關(guān)系數(shù)。,所以偏相關(guān)系數(shù),第32頁(yè)/共92頁(yè),2023/9/2432第八章 相關(guān)與回歸分析,2024/12/13,33,第八章 相關(guān)與回歸分析,,,,,,,第五節(jié) 相關(guān)分析,三、偏相關(guān)系數(shù),,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,可以證明，,第33頁(yè)

22、/共92頁(yè),2023/9/2433第八章 相關(guān)與回歸分析,2024/12/13,34,第八章 相關(guān)與回歸分析,,,,,,,,,,第五節(jié) 相關(guān)分析,三、偏相關(guān)系數(shù),,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,類(lèi)似的,,,,當(dāng)變量個(gè)數(shù)多于,3,個(gè)時(shí)，求偏相關(guān)系數(shù)的原則不變，即應(yīng)先排除其余變量對(duì)所考察兩個(gè)變量的影響，然后求這兩個(gè)變量之間的簡(jiǎn)單相關(guān)系數(shù)。只是變量越多，數(shù)學(xué)處理以及偏相關(guān)系數(shù)的表達(dá)式就越復(fù)雜。,第34頁(yè)/共92頁(yè),2023/9/2434第八章 相關(guān)與回歸分析,2024/12/13,35,第二節(jié) 一元線性回歸分析,第八章 相關(guān)與回歸分析,一、一元線性回歸分析隨機(jī)誤差項(xiàng)的

23、基本假定,,,,,,,,在回歸分析中，最簡(jiǎn)單最基本的單方程模型為一元線性回歸模型。,一元線性回歸分析的總體回歸模型為：,,,,,,為常數(shù)項(xiàng)或截距項(xiàng)， 為斜率系數(shù),,,是隨機(jī)誤差,項(xiàng),,,又稱(chēng)隨機(jī)干擾項(xiàng) 。,,第35頁(yè)/共92頁(yè),2023/9/2435第二節(jié) 一元線性回歸分析第八章 相關(guān),2024/12/13,36,第二節(jié) 一元線性回歸分析,第八章 相關(guān)與回歸分析,一、一元線性回歸分析隨機(jī)誤差項(xiàng)的基本假定,,,,第二，模型的設(shè)定誤差。,,在線性回歸模型中加入隨機(jī)誤差項(xiàng)是基于以下原因：,,,,,,第一，模型不可能包含所有的解釋變量。,,第三，測(cè)量誤差的影響。,第四，其他隨機(jī)因素的影響。,第

24、36頁(yè)/共92頁(yè),2023/9/2436第二節(jié) 一元線性回歸分析第八章 相關(guān),2024/12/13,37,第二節(jié) 一元線性回歸分析,第八章 相關(guān)與回歸分析,一、一元線性回歸分析隨機(jī)誤差項(xiàng)的基本假定,,,,,,,,,,,線性回歸模型由兩部分構(gòu)成，確定性部分和隨機(jī)性部分， 為確定性部分，稱(chēng)為對(duì)于給定值的期望值，可以寫(xiě)為：,,,,上式被稱(chēng)為總體線性回歸方程。,,第37頁(yè)/共92頁(yè),2023/9/2437第二節(jié) 一元線性回歸分析第八章 相關(guān),2024/12/13,38,第二節(jié) 一元線性回歸分析,第八章 相關(guān)與回歸分析,一、一元線性回歸分析隨機(jī)誤差項(xiàng)的基本假定

25、,,,,,,,滿(mǎn)足以下假定的線性回歸模型稱(chēng)為,古典（或經(jīng)典）線性回歸模型,,,,,,,,,,,假定,1,：回歸模型是正確設(shè)定的,假定,2,：解釋變量是非隨機(jī)的,假定,3,：隨機(jī)誤差項(xiàng)的均值為零,假定,4,：隨機(jī)誤差項(xiàng)的方差為一個(gè)不變的常數(shù)（等方差假定）,假定,5,：隨機(jī)誤差項(xiàng)的觀測(cè)值互不相關(guān)（非序列相關(guān)假定）,假定,6,：解釋變量與隨機(jī)誤差項(xiàng)不相關(guān),假定,7,：隨機(jī)誤差項(xiàng)服從正態(tài)分布,假定,8,：沒(méi)有一個(gè)解釋變量是其他任何解釋變量的完全線性組合（無(wú)多重共線性假定，只適用于多元線性回歸模型）,第38頁(yè)/共92頁(yè),2023/9/2438第二節(jié) 一元線性回歸分析第八章 相關(guān),2024/12/13,

26、39,第二節(jié) 一元線性回歸分析,第八章 相關(guān)與回歸分析,二、一元線性回歸模型的估計(jì),,,最小二乘法的意義在于使,為了得到這些估計(jì)值而最為廣泛使用的方法就是普通最小二乘法,,,,,,,,,,,為樣本回歸方程。,達(dá)到最小來(lái)確定,、,,,一般用,、,分別表 分別表示參數(shù)的估計(jì),,稱(chēng),為回歸殘差,第39頁(yè)/共92頁(yè),2023/9/2439第二節(jié) 一元線性回歸分析第八章 相關(guān),2024/12/13,40,,,,,,,,,殘差,(,Residual,):,,,,,,第40頁(yè)/共92頁(yè),2023/9/2440殘差(Residual):第40頁(yè)/共,2024/12/13,41,第二節(jié) 一元線性回歸分析,

27、第八章 相關(guān)與回歸分析,二、一元線性回歸模型的估計(jì),,,,,,,,,,,,,,,,根據(jù)微積分的極值定理，對(duì) 求相應(yīng)于 、 的偏導(dǎo)數(shù)，并令其等于,0,，即可求得 ：,,,,,,,,第41頁(yè)/共92頁(yè),2023/9/2441第二節(jié) 一元線性回歸分析第八章 相關(guān),2024/12/13,42,b,與,r,的關(guān)系：,r,＞,0 r,＜,0 r=0,b,＞,0 b,＜,0 b=0,,,,第八章 相關(guān)與回歸分析,第42頁(yè)/共92頁(yè),2023/9/2442b與r的關(guān)系： r＞0 r,2024/12/13,43,第二節(jié) 一元線性

28、回歸分析,第八章 相關(guān)與回歸分析,二、一元線性回歸模型的估計(jì),,,,,,,,,,,,,,,,樣本回歸直線具有下述性質(zhì)：,第一、它通過(guò),y,和,x,的樣本平均數(shù) 和 確定的那一點(diǎn)；,第二、 的平均值和 的平均值相等；,第三、殘差的平均值是零；,第四、殘差和 不相關(guān)；,第五、殘差與,x,不相關(guān)。,,,,第43頁(yè)/共92頁(yè),2023/9/2443第二節(jié) 一元線性回歸分析第八章 相關(guān),2024/12/13,44,【,分析,】,因?yàn)楣I(yè)總產(chǎn)值與能源消耗量之間存在高度正相關(guān)關(guān)系（ ），所以可以擬合工業(yè)總產(chǎn)值對(duì)能源消耗量的線性

29、回歸方程。,【,例,】,建立工業(yè)總產(chǎn)值對(duì)能源消耗量的線性回歸方程,。,解：設(shè),線性回歸方程為,,第八章 相關(guān)與回歸分析,第44頁(yè)/共92頁(yè),2023/9/2444【分析】因?yàn)楣I(yè)總產(chǎn)值與能源消耗量之間,2024/12/13,45,序號(hào),能源消耗量（十萬(wàn)噸）,x,工業(yè)總產(chǎn)值（億元）,y,x,2,y,2,xy,1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,16,35,38,40,42,49,52,54,59,62,64,65,68,69,71,72,76,24,25,24,28,32,31,37,40,41,40,47,50,49,51,48,58,1225,1444,1

30、600,1764,2401,2704,2916,3481,3844,4096,4225,4624,4761,5041,5184,5776,576,625,576,784,1024,961,1369,1600,1681,1600,2209,2500,2401,2601,2304,3364,840,950,960,1176,1568,1612,1998,2360,2542,2560,3055,3400,3381,3621,3456,4408,合計(jì),916,625,55086,26175,37887,,第45頁(yè)/共92頁(yè),2023/9/2445序號(hào)能源消耗量（十萬(wàn)噸）x工業(yè)總產(chǎn)值（,2024/12/

31、13,46,第八章 相關(guān)與回歸分析,即,線性回歸方程為：,計(jì)算結(jié)果表明，在其他條件不變時(shí)，能源消耗量每增加一個(gè)單位（十萬(wàn)噸），工業(yè)總產(chǎn)值將增加,0.7961,個(gè)單位（億元）。,,第46頁(yè)/共92頁(yè),2023/9/2446第八章 相關(guān)與回歸分析即線性回歸方程為,2024/12/13,47,第二,節(jié) 一元線性回歸分析,第八章 相關(guān)與回歸分析,二、一元線性回歸模型的估計(jì),,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,在回歸分析中，不要試著對(duì)常數(shù)項(xiàng)進(jìn)行解釋?zhuān)蛴袃牲c(diǎn)：,,,首先，隨機(jī)誤差項(xiàng)部分地是由于忽略了許多邊緣自變量而生成的，這些變量的平均效應(yīng)被置于常數(shù)項(xiàng)中。,,其次，常數(shù)項(xiàng)

32、是當(dāng)所有自變量與誤差項(xiàng)為,0,時(shí)，因變量的值，但是自變量與隨機(jī)誤差項(xiàng)的值幾乎從不等于,0,，因?yàn)橛米鹘?jīng)濟(jì)分析的變量通常是正的。,第47頁(yè)/共92頁(yè),2023/9/2447第二節(jié) 一元線性回歸分析第八章 相關(guān),2024/12/13,48,第二節(jié) 一元線性回歸分析,第八章 相關(guān)與回歸分析,二、一元線性回歸模型的估計(jì),,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,2.,大樣本性質(zhì),,無(wú)偏性,(,二,),一元線性回歸模型最小二乘估計(jì)量的性質(zhì),1.,小樣本性質(zhì),線性,,有效性,,漸近無(wú)偏性,一致性,第48頁(yè)/共92頁(yè),2023/9/2448第二節(jié) 一元線性回歸分析第八章 相關(guān),

33、2024/12/13,49,第二節(jié) 一元線性回歸分析,第八章 相關(guān)與回歸分析,三、一元線性回歸模型的擬合程度分析,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,(,一,),一元線性回歸模型的判定系數(shù),第49頁(yè)/共92頁(yè),2023/9/2449第二節(jié) 一元線性回歸分析第八章 相關(guān),2024/12/13,50,第八章 相關(guān)與回歸分析,,,,,,,,,,剩余離差平方和,回歸離差平方和,總離差平方和,第50頁(yè)/共92頁(yè),2023/9/2450第八章 相關(guān)與回歸分析剩余離差平方和回,2024/12/13,51,第二節(jié) 一元線性回歸分析,第八章 相關(guān)與回歸分析,三、一元線性回歸模型的擬合

34、程度分析,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,可以證明，對(duì)上式兩邊分別平方加總后等式仍然成立，即：,(,一,),一元線性回歸模型的判定系數(shù),,,,,,可簡(jiǎn)寫(xiě)為：,TSS,＝,ESS,＋,RSS,第51頁(yè)/共92頁(yè),2023/9/2451第二節(jié) 一元線性回歸分析第八章 相關(guān),2024/12/13,52,第二節(jié) 一元線性回歸分析,第八章 相關(guān)與回歸分析,三、一元線性回歸模型的擬合程度分析,,,,,,,,,,,判定系數(shù)測(cè)度了回歸直線對(duì)觀測(cè)數(shù)據(jù)的擬合程度,,,記為,,,,,,,,,,,,,,,,,(,一,),一元線性回歸模型的判定系數(shù),,,,,,,,,第52頁(yè)/共92頁(yè),2

35、023/9/2452第二節(jié) 一元線性回歸分析第八章 相關(guān),2024/12/13,53,判定系數(shù)與相關(guān)系數(shù)的關(guān)系,第八章 相關(guān)與回歸分析,第53頁(yè)/共92頁(yè),2023/9/2453判定系數(shù)與相關(guān)系數(shù)的關(guān)系第八章 相關(guān)與,2024/12/13,54,判定系數(shù)與相關(guān)系數(shù)的區(qū)別：,判定系數(shù)無(wú)方向性，相關(guān)系數(shù)則有方向，其方向與樣本回歸系數(shù),b,相同；,判定系數(shù)說(shuō)明變量值的總離差平方和中可以用回歸線來(lái)解釋的比例，相關(guān)系數(shù)只說(shuō)明兩變量間關(guān)聯(lián)程度及方向；,第八章 相關(guān)與回歸分析,第54頁(yè)/共92頁(yè),2023/9/2454判定系數(shù)與相關(guān)系數(shù)的區(qū)別：判定系數(shù)無(wú)方,2024/12/13,55,第二節(jié) 一元線性回

36、歸分析,第八章 相關(guān)與回歸分析,三、一元線性回歸模型的擬合程度分析,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,估計(jì)標(biāo)準(zhǔn)誤差是指實(shí)際值與估計(jì)值的平均離差。,其定義公式如下：,,(,二,),一元線性回歸模型的估計(jì)標(biāo)準(zhǔn)誤,,,,,,估計(jì)標(biāo)準(zhǔn)差越小，則變量間相關(guān)程度越高，回歸線對(duì),Y,的解釋程度越高。,第55頁(yè)/共92頁(yè),2023/9/2455第二節(jié) 一元線性回歸分析第八章 相關(guān),2024/12/13,56,第二節(jié),一元線性回歸分析,第八章 相關(guān)與回歸分析,四、一元線性回歸模型的顯著性檢驗(yàn),,,,,,,,,,,,,,,,,,,,,,,,,,,,,根據(jù)正態(tài)分布下最小二乘估計(jì)量的性質(zhì)

37、，可求出的抽樣分布為：,,,,(,一,),回歸系數(shù)的顯著性檢驗(yàn),,,,,回歸系數(shù)的顯著性檢驗(yàn)就是要檢驗(yàn)自變量對(duì)因變量的影響程度是否顯著的問(wèn)題。若總體回歸系數(shù),，,則總體回歸線就是一條水平線，說(shuō)明兩個(gè)變量之間沒(méi)有線性關(guān)系，即自變量的變化對(duì)因變量沒(méi)有影響。,第56頁(yè)/共92頁(yè),2023/9/2456第二節(jié) 一元線性回歸分析第八章 相關(guān),2024/12/13,57,第二節(jié) 一元線性回歸分析,第八章 相關(guān)與回歸分析,四、一元線性回歸模型的顯著性檢驗(yàn),,,,,,,,,（,1,）建立原假設(shè),假設(shè)樣本從一個(gè)沒(méi)有線性關(guān)系的總體中選出，即,,,,,,,,,,,,,,,,,,,,,,,(,一,),回歸系數(shù)的顯

38、著性檢驗(yàn),,（,2,）計(jì)算檢驗(yàn)統(tǒng)計(jì)量,t,值,,其中，,,,．,第57頁(yè)/共92頁(yè),2023/9/2457第二節(jié) 一元線性回歸分析第八章 相關(guān),2024/12/13,58,第二節(jié) 一元線性回歸分析,第八章 相關(guān)與回歸分析,四、一元線性回歸模型的顯著性檢驗(yàn),,,,,,（,4,）得出檢驗(yàn)結(jié)果,,,,,,,,,,,,,,,,,,,,,,,(,一,),回歸系數(shù)的顯著性檢驗(yàn),,,,（,3,）確定顯著性水平,α,(,一般取,α,＝,0.05),，并根據(jù)自由度 查 分布表，找出相應(yīng)的臨界值,,,表明自變量,x,對(duì)因變量,y,的影響是顯著的。,,，拒絕,若,,,表明自變量,x,對(duì)

39、因變量,y,的影響是顯著的。,,,拒絕,若,第58頁(yè)/共92頁(yè),2023/9/2458第二節(jié) 一元線性回歸分析第八章 相關(guān),2024/12/13,59,第二節(jié) 一元線性回歸分析,第八章 相關(guān)與回歸分析,四、一元線性回歸模型的顯著性檢驗(yàn),,,,,,,,,,,,,,,,,,,,,,,,,,,,,(,二,),回歸方程總體顯著性的,F,檢驗(yàn),,,,F,檢驗(yàn)的基本步驟為：,,（,1,）建立原假設(shè)備擇假設(shè),,由于備擇假設(shè)和原假設(shè)是對(duì)立的，所以備擇假設(shè)為：,至少有一個(gè),不為,0,。,,（,2,）計(jì)算,F,統(tǒng)計(jì)量,,,第59頁(yè)/共92頁(yè),2023/9/2459第二節(jié) 一元線性回歸分析第八章 相關(guān),202

40、4/12/13,60,第二節(jié) 一元線性回歸分析,第八章 相關(guān)與回歸分析,四、一元線性回歸模型的顯著性檢驗(yàn),,,,在原假設(shè)成立的條件下，,F,統(tǒng)計(jì)量服從第一個(gè)自由度為 ，第二個(gè)自由度為 的,F,分布。,,,,,,,,,,,,,,,,,,,,,,在一元回歸下，,F,統(tǒng)計(jì)量簡(jiǎn)化為：,第60頁(yè)/共92頁(yè),2023/9/2460第二節(jié) 一元線性回歸分析第八章 相關(guān),2024/12/13,61,第二節(jié) 一元線性回歸分析,第八章 相關(guān)與回歸分析,四、一元線性回歸模型的顯著性檢驗(yàn),,,,,,,（,3,）確定顯著性水平,a (,一般取,a=0.05 ),，并根據(jù)兩個(gè)自由度查

41、,F,分布表，得到相應(yīng)的臨界值 。,,,,，則接受原假設(shè)，說(shuō)明回歸方程在整體上不顯著。,,,,,,,,,,,,,,,,,,,,（,4,）得出檢驗(yàn)結(jié)果,若,,,則拒絕,，說(shuō)明回歸方程在整體上是顯著的；,若,,第61頁(yè)/共92頁(yè),2023/9/2461第二節(jié) 一元線性回歸分析第八章 相關(guān),2024/12/13,62,第八章 相關(guān)與回歸分析,,,,,,,,,,,,,,,多元線性回歸模型的一般表示式為：,與多元線性回歸模型相對(duì)應(yīng)的總體回歸方程為：,樣本回歸模型為：,,第三節(jié) 多元線性回歸分析,一、多元線性回歸模型,(,一,),多元線性回歸模型的矩陣表示,,,樣本回歸方程為：,第62頁(yè)/共

42、92頁(yè),2023/9/2462第八章 相關(guān)與回歸分析,2024/12/13,63,第八章 相關(guān)與回歸分析,,,,,,,,,,,,,,,第三節(jié) 多元線性回歸分析,,,,假設(shè)為了得到未知參數(shù)的估計(jì)值，我們對(duì)被解釋變量和解釋變量進(jìn)行了,n,次觀測(cè)，代入多元線性回歸模型，可得,n,個(gè)隨機(jī)模型：,一、多元線性回歸模型,(,一,),多元線性回歸模型的矩陣表示,第63頁(yè)/共92頁(yè),2023/9/2463第八章 相關(guān)與回歸分析,2024/12/13,64,第八章 相關(guān)與回歸分析,,,,為了使多元線性回歸分析和計(jì)算更方便、更簡(jiǎn)潔，可以用矩陣形式表示：,,,,,,,,,,,,第三節(jié) 多元線性回歸分析,,,,,

43、一、多元線性回歸模型,(,一,),多元線性回歸模型的矩陣表示,第64頁(yè)/共92頁(yè),2023/9/2464第八章 相關(guān)與回歸分析,2024/12/13,65,第八章 相關(guān)與回歸分析,,,,,,,,,,,,第三節(jié) 多元線性回歸分析,,,,,,,定義,,依照矩陣運(yùn)算法則，上式可表示為：,類(lèi)似的，定義,第65頁(yè)/共92頁(yè),2023/9/2465第八章 相關(guān)與回歸分析,2024/12/13,66,第八章 相關(guān)與回歸分析,,,,,,,,,,,,,我們把基本假定用矩陣的形式表示出來(lái)：,,第三節(jié) 多元線性回歸分析,一、多元線性回歸模型,(,二,),多元線性回歸模型的基本假定,,,,,,,1.,零均值假定可

44、以表示為：,,,,第66頁(yè)/共92頁(yè),2023/9/2466第八章 相關(guān)與回歸分析,2024/12/13,67,第八章 相關(guān)與回歸分析,,,,,,,,,,,,,,,第三節(jié) 多元線性回歸分析,,,,,,,,2.,同方差和無(wú)序列相關(guān)可以表示為：,,,第67頁(yè)/共92頁(yè),2023/9/2467第八章 相關(guān)與回歸分析,2024/12/13,68,第八章 相關(guān)與回歸分析,4.,解釋變量與隨機(jī)誤差項(xiàng)不相關(guān)假定可表示為：,,或,,,,,第三節(jié) 多元線性回歸分析,,,,,,3.,,隨機(jī)誤差項(xiàng)服從正態(tài)分布可以表示為,：,,,,解釋變量之間不存在多重共線性可表示為：,,,如果上成立，,至少有,k+1,階子式不

45、為零，表明解釋變量之間,也就是要求系數(shù)行列式,,不存在線性相關(guān)關(guān)系。 等價(jià)于,第68頁(yè)/共92頁(yè),2023/9/2468第八章 相關(guān)與回歸分析4.解釋變量與隨,2024/12/13,69,第八章 相關(guān)與回歸分析,,,由樣本回歸模型 和樣本回歸方程 ，可得殘差向量為：,,,,,,第三節(jié) 多元線性回歸分析,,二、多元線性回歸模型的估計(jì),,(,一,),參數(shù)的普通最小二乘估計(jì),,,,,,,,對(duì)上式兩邊分別對(duì),求一階導(dǎo)數(shù)，并令一階偏導(dǎo)數(shù)為零，得,,,由假定,，可以得到參數(shù)估計(jì)量為：,,

46、第69頁(yè)/共92頁(yè),2023/9/2469第八章 相關(guān)與回歸分析,2024/12/13,70,第八章 相關(guān)與回歸分析,,,,,,,,,第三節(jié) 多元線性回歸分析,,二、多元線性回歸模型的估計(jì),,(,一,),參數(shù)的普通最小二乘估計(jì),,,,,,,,對(duì)上式兩邊分別對(duì),求一階導(dǎo)數(shù)，并令一階偏導(dǎo)數(shù)為零，得,,,由假定,，可以得到參數(shù)估計(jì)量為：,,第70頁(yè)/共92頁(yè),2023/9/2470第八章 相關(guān)與回歸分析,2024/12/13,71,第八章 相關(guān)與回歸分析,,,,,,,,,,,,,,,第三節(jié) 多元線性回歸分析,二、多元線性回歸模型的估計(jì),(,二,),參數(shù)普通最小二乘估計(jì)量的性質(zhì)和分布,,,,,,,

47、在多元線性回歸條件下，參數(shù)的最小二乘估計(jì)仍然具有線性、,無(wú)偏性和最小方差性。,由于,,,,,可以,看出,具有線性特性，,稍加變換，它還是,的線性組合。,,,,,,由此可見(jiàn),是無(wú)偏的。,第71頁(yè)/共92頁(yè),2023/9/2471第八章 相關(guān)與回歸分析,2024/12/13,72,第八章 相關(guān)與回歸分析,,,,,,,,,在無(wú)偏性的基礎(chǔ)上，我們可以得到 的方差,-,協(xié)方差矩陣：,,,,第三節(jié) 多元線性回歸分析,二、多元線性回歸模型的估計(jì),(,二,),參數(shù)普通最小二乘估計(jì)量的性質(zhì)和分布,,,,,,,,,,第72頁(yè)/共92頁(yè),2023/9/2472第八章 相關(guān)與回歸分析,2024/12/13,

48、73,第八章 相關(guān)與回歸分析,,,,,,,,,,,,,,第三節(jié) 多元線性回歸分析,二、多元線性回歸模型的估計(jì),(,二,),參數(shù)普通最小二乘估計(jì)量的性質(zhì)和分布,,,,,,,,,,,,,,,,,由于,的線性組合，而,假定是服從正態(tài)分布的，所以,也是服從正態(tài)分布的，即,由于,是不可觀測(cè)的，所以其方差,沒(méi)有辦法計(jì)算出來(lái)，,,,,,因此,的方差,-,協(xié)方差矩陣的估計(jì)值為：,是,只能進(jìn)行估計(jì)?？梢宰C明：,第73頁(yè)/共92頁(yè),2023/9/2473第八章 相關(guān)與回歸分析,2024/12/13,74,第八章 相關(guān)與回歸分析,,,在多元線性回歸模型中，總平方和仍可分解為回歸平方和和殘差平方和,,.,,,,,,

49、,,,,,第三節(jié) 多元線性回歸分析,,三、多元線性回歸模型的檢驗(yàn),(,一,),擬合優(yōu)度檢驗(yàn),,,,,,,,,,,,,,,三個(gè)平方和的矩陣表示分別為：,,,,第74頁(yè)/共92頁(yè),2023/9/2474第八章 相關(guān)與回歸分析,2024/12/13,75,第八章 相關(guān)與回歸分析,,,,,,,,,,,,,多元線性回歸判定系數(shù)仍表示為回歸平方和與總平方和之比，即,,第三節(jié) 多元線性回歸分析,,三、多元線性回歸模型的檢驗(yàn),(,一,),擬合優(yōu)度檢驗(yàn),,,,,,,,,,,,,,,,調(diào)整的判定系數(shù),,定義為：,第75頁(yè)/共92頁(yè),2023/9/2475第八章 相關(guān)與回歸分析,2024/12/13,76,第八

50、章 相關(guān)與回歸分析,,,,,,,,在一元線性回歸中，總體回歸方程的顯著性檢驗(yàn)和斜率參數(shù)的顯著性檢驗(yàn)是等價(jià)的，這可以從兩類(lèi)檢驗(yàn)的原假設(shè)上得到說(shuō)明。但在多元線性回歸中，由于存在多個(gè)解釋變量，參數(shù)的顯著性檢驗(yàn)不再等價(jià)于總體回歸方程的顯著性檢驗(yàn)。,,,,,,,,,第三節(jié) 多元線性回歸分析,,三、多元線性回歸模型的檢驗(yàn),(,二,),總體回歸方程的顯著性檢驗(yàn),,,,,,,,,,,,,,,,,第76頁(yè)/共92頁(yè),2023/9/2476第八章 相關(guān)與回歸分析,2024/12/13,77,第八章 相關(guān)與回歸分析,,,,第一步，計(jì)算檢驗(yàn)統(tǒng)計(jì)量,,,,,,,,,,,,第三節(jié) 多元線性回歸分析,,三、多元線性回歸

51、模型的檢驗(yàn),(,三,),參數(shù)的顯著性檢驗(yàn),,,,,,,,,,,,,,,,,,,,具體作法是：,,將,進(jìn)行標(biāo)準(zhǔn)化，標(biāo)準(zhǔn)化后的變量服從標(biāo)準(zhǔn)正態(tài)分布：,,第77頁(yè)/共92頁(yè),2023/9/2477第八章 相關(guān)與回歸分析,2024/12/13,78,第八章 相關(guān)與回歸分析,,,,,，則拒絕原假設(shè)，認(rèn)為解釋變量,,,若,,,,,,,,第三節(jié) 多元線性回歸分析,,三、多元線性回歸模型的檢驗(yàn),(,三,),參數(shù)的顯著性檢驗(yàn),,,,,,第二步，確定顯著性水平，查表確定臨界值,,,,,,,,,,,,對(duì)應(yīng)變量的影響是顯著的。,在原假設(shè)成立的情況下，該統(tǒng)計(jì)量服從,個(gè)自由度的,分布。,由于,未知，可用其估計(jì)量,代替，

52、由此可得到,統(tǒng)計(jì)量：,第78頁(yè)/共92頁(yè),2023/9/2478第八章 相關(guān)與回歸分析,2024/12/13,79,第八章 相關(guān)與回歸分析,,,,,,,,,,,,,,,第四節(jié) 非線性回歸分析,一、非線性回歸模型的定義,,,,,,,,,,,,,,,,,,,非線性回歸分析模型的本質(zhì)，取決于可否通過(guò)某種數(shù)量變換或數(shù)學(xué)變換化成線性回歸模型，并從而可進(jìn)行,OLS,估計(jì)。,,非線性回歸模型可以表示為：,,其中,是期望函數(shù)，,是第,t,個(gè)自變量向量,,第79頁(yè)/共92頁(yè),2023/9/2479第八章 相關(guān)與回歸分析,2024/12/13,80,第八章 相關(guān)與回歸分析,,,,,,,,,,,4. S,型曲線模

53、型,,,,,第四節(jié) 非線性回歸分析,二、可線性化的非線性回歸模型的估計(jì),,,,,,,,,,,,,,,,,,1.,雙曲線模型,,,2.,二次多項(xiàng)式模型,,3.,半對(duì)數(shù)和雙對(duì)數(shù)模型,,,,,5.,其它非線性模型,,第80頁(yè)/共92頁(yè),2023/9/2480第八章 相關(guān)與回歸分析,2024/12/13,81,第八章 相關(guān)與回歸分析,,,,對(duì)于不可線性化的非線性回歸模型，可采用非線性最小二乘法或非線性極大似然法進(jìn)行估計(jì)。,,,,,,,,,,第四節(jié) 非線性回歸分析,三、不可線性化的非線性回歸模型的估計(jì),,,,,,,,,,,,,,,,,,,,如果只包含一個(gè)未知參數(shù)，則可寫(xiě)成下面的形式,對(duì)于,相對(duì)應(yīng)的殘

54、差平方和為,使上式達(dá)到最小的,即為非線性最小二乘估計(jì)量，,第81頁(yè)/共92頁(yè),2023/9/2481第八章 相關(guān)與回歸分析,2024/12/13,82,第八章 相關(guān)與回歸分析,,,,,,,第四節(jié) 非線性回歸分析,三、不可線性化的非線性回歸模型的估計(jì),,,,,,,,,,,,,,,,,,應(yīng)該滿(mǎn)足以下條件：,即,根據(jù)極值理論，,第82頁(yè)/共92頁(yè),2023/9/2482第八章 相關(guān)與回歸分析,2024/12/13,83,第八章 相關(guān)與回歸分析,,,,,,高斯,-,牛頓法的計(jì)算步驟如下：,,,,,,,,,第四節(jié) 非線性回歸分析,,,,,,,,,,,,,,,,,,取一階近似值,第一步：將,在某個(gè)初值

55、,處進(jìn)行泰勒級(jí)數(shù)展開(kāi)，,,第二步：令,,,將第二步代入第一步得,,,第83頁(yè)/共92頁(yè),2023/9/2483第八章 相關(guān)與回歸分析,2024/12/13,84,第八章 相關(guān)與回歸分析,,,,,,,,,,,,,,,第四節(jié) 非線性回歸分析,三、不可線性化的非線性回歸模型的估計(jì),,,,,,,,,,,,,,,,,,,,,,第三步：對(duì)上面模型進(jìn)行最小二乘估計(jì)，得到,的第一步估計(jì)值,(,第一次迭代值,),第四步：用,,代替第一步中的,直到收收斂為止。,,，重復(fù)一至四步，,第84頁(yè)/共92頁(yè),2023/9/2484第八章 相關(guān)與回歸分析,2024/12/13,85,第八章 相關(guān)與回歸分析,,,,,,,,

56、,,,,,,,,,,,,,,,,,,,,,,,,,,,；,,,,,,,,,,,本 章 小 結(jié),,,本章介紹了相關(guān)與回歸分析的各種理論和方法，并對(duì)大多數(shù)問(wèn)題給出了實(shí)例。相關(guān)分析與回歸分析的概念是這一章的基礎(chǔ)，相關(guān)分析與回歸分析既有區(qū)別又有聯(lián)系，相關(guān)表和相關(guān)圖是了解相關(guān)關(guān)系的重要工具。,一元線性回歸分析是回歸分析的核心，回歸分析都是在經(jīng)典假設(shè)的基礎(chǔ)上進(jìn)行的，在經(jīng)典回歸下，最小二乘估計(jì)量具有線性、無(wú)偏性和有效性。在這些性質(zhì)的基礎(chǔ)上，可以得到最小二乘估計(jì)量的分布，由此可以對(duì)參數(shù)進(jìn)行區(qū)間估計(jì)和假設(shè)檢驗(yàn)。另外需要對(duì)回歸方程的擬合程度進(jìn)行檢驗(yàn)。預(yù)測(cè)是一元線性回歸的基本目的之一。,第85頁(yè)/共92頁(yè),2023

57、/9/2485第八章 相關(guān)與回歸分析,2024/12/13,86,第八章 相關(guān)與回歸分析,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,；,,,,,,,,,,,本 章 小 結(jié),,,多元線性回歸的基本原理和一元線性回歸是類(lèi)似的，主要區(qū)別在于解釋變量的多少。為了運(yùn)算的方便，多元線性回歸采用矩陣方法進(jìn)行表示。,非線性回歸的概念存在一定誤區(qū)，本章闡明了非線性回歸分析的概念，并對(duì)可線性化的非線性回歸模型和不可線性化的回歸模型分別展開(kāi)了討論。,相關(guān)分析包括簡(jiǎn)單相關(guān)系數(shù)的計(jì)算、復(fù)相關(guān)系數(shù)的計(jì)算和偏相關(guān)系數(shù)的計(jì)算。由于復(fù)相關(guān)系數(shù)和偏相關(guān)系數(shù)的計(jì)算方法依賴(lài)于回歸分析，所以相關(guān)分析放在了最

58、后一節(jié)。由于多元線性回歸、非線性回歸、復(fù)相關(guān)系數(shù)、偏相關(guān)系數(shù)的計(jì)算比較煩瑣，且大部分統(tǒng)計(jì)軟件均可完成操作，故本章的例題主要針對(duì)于一元線性回歸分析和簡(jiǎn)單相關(guān)系數(shù)。,第86頁(yè)/共92頁(yè),2023/9/2486第八章 相關(guān)與回歸分析,2024/12/13,87,第八章 相關(guān)與回歸分析,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,；,,,,,,,,,,,思考與練習(xí),,,,1.,簡(jiǎn)述相關(guān)關(guān)系的種類(lèi)。,,2.,什么是相關(guān)分析？什么是回歸分析？二者有什么區(qū)別與聯(lián)系？,,3.,簡(jiǎn)述相關(guān)表的種類(lèi)。,,4.,說(shuō)明經(jīng)典線性回歸模型的基本假定。,,5.,多元線性回歸模型系數(shù)向量的普通最小二乘

59、估計(jì)有哪些性質(zhì)？,,6.,多元線性回歸模型檢驗(yàn)的內(nèi)容都有哪些？,,第87頁(yè)/共92頁(yè),2023/9/2487第八章 相關(guān)與回歸分析,2024/12/13,88,第八章 相關(guān)與回歸分析,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,；,,,,,,,,,,,思考與練習(xí),,,年份,1999,2000,2001,2002,2003,2004,2005,產(chǎn)量,(,萬(wàn)件,),34,44,49,58,67,76,85,利潤(rùn),(,萬(wàn)元,),25,28,34,36,40,42,46,表,8-10 1999-2005,年產(chǎn)量與利潤(rùn)表,7.,已知某廠,1999~2005,年產(chǎn)量和利

60、潤(rùn)的數(shù)據(jù)如表,8-10,：,第88頁(yè)/共92頁(yè),2023/9/2488第八章 相關(guān)與回歸分析,2024/12/13,89,第八章 相關(guān)與回歸分析,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,；,,,,,,要求：,,(1),畫(huà)出利潤(rùn)隨產(chǎn)量變化的散點(diǎn)圖；,,(2),建立利潤(rùn)對(duì)產(chǎn)量的一元線性回歸方程；,,(3),對(duì)斜率的經(jīng)濟(jì)意義加以解釋?zhuān)?,(4),對(duì)建立的回歸方程進(jìn)行檢驗(yàn)。,,,8.,設(shè)某種商品銷(xiāo)售量,Y,、價(jià)格,X,和廣告費(fèi)用,Z,有下述關(guān)系：,,,,,,,思考與練習(xí),,,,,,第89頁(yè)/共92頁(yè),2023/9/2489第八章 相關(guān)與回歸分析,2024/12/13,90

61、,第八章 相關(guān)與回歸分析,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,；,,,,,,,,,思考與練習(xí),,,月份,銷(xiāo)售量,(,公斤,),價(jià)格,(,元,/,公斤,),廣告費(fèi)用,(,元,),1,2,3,4,5,6,7,8,9,10,11,12,55,70,90,100,90,105,80,110,125,115,130,130,100,90,80,70,70,70,70,65,60,60,55,50,5.50,6.30,7.20,7.00,6.30,7.35,5.60,7.15,7.50,6.90,7.15,6.50,表,8-11,商品銷(xiāo)售量、價(jià)格與廣告費(fèi)用數(shù)據(jù),第90頁(yè)/

62、共92頁(yè),2023/9/2490第八章 相關(guān)與回歸分析,2024/12/13,91,第八章 相關(guān)與回歸分析,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,；,,,,,,,,,,思考與練習(xí),,,要求：,(1),估計(jì)樣本回歸方程,(2),對(duì)回歸方程進(jìn)行顯著性檢驗(yàn),(3),計(jì)算復(fù)相關(guān)系數(shù),(4),計(jì)算,X,和,Z,的偏相關(guān)系數(shù),(5),假如某月商品價(jià)格為,80(,元,/,公斤,),，廣告費(fèi)用為,7(,元,),，預(yù)測(cè)該商品的銷(xiāo)售量，并建立,95%,的預(yù)測(cè)區(qū)間。,第91頁(yè)/共92頁(yè),2023/9/2491第八章 相關(guān)與回歸分析,2024/12/13,課件,92,謝謝您的觀看！,第92頁(yè)/共92頁(yè),2023/9/24課件92謝謝您的觀看！第92頁(yè)/共92頁(yè),