《概率論與數(shù)理統(tǒng)計(jì)》第八章.ppt》由會(huì)員分享，可在線閱讀，更多相關(guān)《概率論與數(shù)理統(tǒng)計(jì)》第八章.ppt（57頁珍藏版）》請(qǐng)?jiān)谘b配圖網(wǎng)上搜索。

1、第八章 參數(shù)估計(jì),8.1 估計(jì)量的優(yōu)劣標(biāo)準(zhǔn) 8.2 獲得估計(jì)量的方法點(diǎn)估計(jì) 8.3 區(qū)間估計(jì),研究參數(shù)估計(jì)，要解決兩個(gè)方面的問題： 1.怎樣估計(jì)參數(shù)，即用什么樣的辦法對(duì)參數(shù)進(jìn)行估計(jì)； 2.對(duì)估計(jì)出的參數(shù)值用什么標(biāo)準(zhǔn)衡量其優(yōu)劣程度。,參數(shù)估計(jì)的概念,定義 設(shè)總體X的分布函數(shù)F(x; )的形式為已知, 。其中為未知參數(shù), 為參數(shù)空間, X1， ， Xn是總體X的一個(gè)樣本，若統(tǒng)計(jì)量 f(X1， ， Xn)可作為的一個(gè)估計(jì),則稱其為的 一個(gè)估計(jì)量，記為,注：X的分布函數(shù)F(x;)也可用分布律或密度函數(shù)代替.,若x1， ， xn是樣本的一個(gè)觀測(cè)值。,在不致混淆的情況下統(tǒng)稱估計(jì)量與估計(jì)值為估計(jì),8.1 估

2、計(jì)量的優(yōu)劣標(biāo)準(zhǔn),（一） 一致估計(jì),定義8.1,一致性是對(duì)于極限性質(zhì)而言的，它只在樣本容量較大時(shí)才起作用。,（二）無偏估計(jì),例1 從總體中 取一樣本（ X1, ,Xn ），E = , D = 2 , 試證樣本平均數(shù),分別是及2的無偏估計(jì)。,證,樣本均值X是的無偏估計(jì)。,怎樣證明？,S2是2的無偏估計(jì),如果從總體中隨機(jī)取出兩個(gè)相互獨(dú)立的樣本（ X11 , ,X1n1 ）及（X21 , ,X2n2），則可以證明,分別是總體中和2的無偏估計(jì)量。其中，,對(duì)總體的某一參數(shù)的無偏估計(jì)量往往不止一個(gè)，而且無偏性僅僅表明所有可能取的值按概率平均等于，可能它取的值大部分與相差很大。為保證的取值能集中與附近，自然要

3、求的方差越小越好。,（三）有效估計(jì),由定義可知，一個(gè)無偏估計(jì)量取的值是在可能范圍內(nèi)最密集與未知參數(shù)的真值 附近擺動(dòng)。,定義8.3 設(shè)和都是的無偏估計(jì)，若樣本容量為 n, 的方差小于的方差，則稱是比有效的估計(jì)量。如果在的一切無偏估計(jì)量中, 的方差達(dá)到最小，則稱為的有效估計(jì)量。,實(shí)際上，樣本平均數(shù)X是總體期望值的有效估計(jì)量。,例2 比較總體期望值的兩個(gè)無偏估計(jì)的有效性。,解：,利用不等式,8.2 獲得估計(jì)量的方法點(diǎn)估計(jì),點(diǎn)估計(jì)就是以樣本的某一函數(shù)值作為 總體中未知參數(shù)的估計(jì)值的一種估計(jì)方法,若x1， ， xn是樣本的一個(gè)觀測(cè)值。,由于f (x1， ， xn) 是實(shí)數(shù)域上的一個(gè)點(diǎn)，現(xiàn)用它來估計(jì)， 故

4、稱這種估計(jì)為點(diǎn)估計(jì)。 點(diǎn)估計(jì)的經(jīng)典方法是矩估計(jì)法與極大似然估計(jì)法。,(一）矩估計(jì)法（簡稱“矩法”）,關(guān)鍵點(diǎn)：1.用樣本矩作為總體同階矩的估計(jì)，即,2.約定：若 是未知參數(shù)的矩估計(jì)，則f()的矩估計(jì)為f( ),矩法是求估計(jì)量的最古老的方法。 具體的做法是：以樣本矩作為相應(yīng)的總體矩的估計(jì)， 以樣本矩的函數(shù)作為相應(yīng)的總體矩的同一函數(shù)的估計(jì)。 常用的是用樣本平均數(shù) 估計(jì)總體期望值 。,例1 某燈泡廠某天生產(chǎn)了一大批燈泡，從中抽取了10個(gè)進(jìn)行壽命實(shí)驗(yàn)，得數(shù)據(jù)如下（單位：小時(shí)）問該天生產(chǎn)的燈泡平均壽命是多少？,矩法比較直觀，求估計(jì)量有時(shí)也比較直接，但它產(chǎn)生的估計(jì)量往往不夠理想。,解 計(jì)算出X1147，以此

5、作為總體期望值的估計(jì)。,（二）最大似然估計(jì)法,1、最大似然思想 有兩個(gè)射手，一人的命中率為0.9,另一人的命中率為0.2,現(xiàn)在他們中的一個(gè)向目標(biāo)射擊了一發(fā)，結(jié)果命中了，估計(jì)是誰射擊的？,一般說，事件A發(fā)生的概率與參數(shù)有關(guān)，取值不同，則P(A)也不同。因而應(yīng)記事件A發(fā)生的概率為P(A|).若A發(fā)生了，則認(rèn)為此時(shí)的值應(yīng)是在中使P(A|) 達(dá)到最大的那一個(gè)。這就是最大似然思想,最大似然法是要選取這樣的，當(dāng)它作為 的估計(jì)值時(shí)，使觀察結(jié)果出現(xiàn)的可能性最大。,設(shè)為連續(xù)性隨機(jī)變量，它的分布函數(shù)是F(x;),概率密度是 其中是未知參數(shù)，可以是一個(gè)值，也可以是一個(gè)向量。由于樣本的獨(dú)立性，則樣本,對(duì)于連續(xù)型的隨機(jī)

6、變量就是估計(jì)概率密度中的。,對(duì)于離散型的隨機(jī)變量就是估計(jì)概率函數(shù)中的參數(shù)；,的聯(lián)合概率密度是,對(duì)每一個(gè)取定的樣本值 是常數(shù)，L是參數(shù) 的函數(shù)，稱L為樣本的似然函數(shù)（如果 是一個(gè)向量，則L 是多元函數(shù)）。,設(shè)為離散型隨機(jī)變量，有概率函數(shù) 則似然函數(shù),定義8.4 如果 在 處達(dá)到最大值，則稱是 的最大似然估計(jì)。,式子右邊的表示函數(shù)關(guān)系。問題是如何把的最大似然估計(jì)求出來，由于 L與L同時(shí)達(dá)到最大值，故只需求 L的最大值點(diǎn)即可。,與樣本有關(guān)，它是樣本的函數(shù)，即,如果是一個(gè)向量，即,一般情況下， L在最大值點(diǎn) 的一階偏導(dǎo)數(shù)等于0，即 是上面方程組的解。要求最大似然估計(jì)，首先要解這個(gè)似然方程組。,考慮方程

7、組：,1.設(shè)總體X為離散型隨機(jī)變量，它的分布律為,現(xiàn)有樣本觀察值x1,x2,xn,其中xi取值于xi, i=1,2 問：根據(jù)極大似然思想，如何用x1,x2,xn估計(jì)q?,例5.設(shè)X1， ， Xn為取自參數(shù)為的泊松分布總體的樣本，求的極大似然估計(jì),2.設(shè)總體X為連續(xù)型隨機(jī)變量，概率密度(x; ) 現(xiàn)有樣本觀察值x1,x2,，xn, 問：根據(jù)極大似然思想，如何用x1,x2,xn估計(jì)q?,2、似然函數(shù)與極大似然估計(jì),為該總體的似然函數(shù)。,定義：若有,使得,則稱 為的極大似然估計(jì).記為,3、求極大似然估計(jì)的步驟,(1) 做似然函數(shù),(2) 做對(duì)數(shù)似然函數(shù),(3) 求導(dǎo)數(shù)，列似然方程,若該方程有解，則其

8、解就是的最大似然估計(jì)。,(4) 解似然方程,注1：若概率函數(shù)中含有多個(gè)未知參數(shù)，則可解方程組,例6：設(shè)X1， ， Xn為取自 N(,2 ) 總體的樣本，求參數(shù) ,2 的極大似然估計(jì)。,注2：極大似然估計(jì)具有下述性質(zhì)： 若 是未知參數(shù)的極大似然估計(jì)， g()是的嚴(yán)格單調(diào)函數(shù)，則g()的矩極大似然估計(jì)為g( ),例7：設(shè)X1， ， Xn為取自參數(shù)為的指數(shù)分布 總體的樣本，a0為一給定實(shí)數(shù)。 求p=PXa的極大似然估計(jì),注3：由似然方程解不出的似然估計(jì)時(shí)，可由定義通過分析直接推求。事實(shí)上 滿足,例8：設(shè)X1， ， Xn為取自 U(0,) 總體的樣本， 0未知，求參數(shù) 的極大似然估計(jì)。,例2 已知,為

9、 的一組樣本觀察值，求的最大似然估計(jì)。,解 似然函數(shù),解似然方程,x 就是 的最大似然估計(jì)。,例3 某電子管的使用壽命（從開始使用到初次失效為止）服從指數(shù)分布（概率密度見例2），今抽取一組樣本，其具體數(shù)據(jù)如下；問如何估計(jì) ？,解 根據(jù)例2的結(jié)果，參數(shù)用樣本平均數(shù)估計(jì),為的估計(jì)值。,為的一組樣本觀察值，用最大似然估計(jì)法估計(jì) 的值。,解,例4 已知服從正態(tài)分布,解似然方程組,解似然方程組,EX,P164 2、3、4 7、8、11、15、16、19,8.3 區(qū)間估計(jì) P157 一、概念,定義： 設(shè)總體X的分布函數(shù)F(x；)含有未知參數(shù)，對(duì)于給定值（0 1),若由樣本X1, , Xn確定的兩個(gè)統(tǒng)計(jì)量

10、使,則稱隨機(jī)區(qū)間 為的置信度為1的置信區(qū)間,注：F(x;)也可換成概率密度或分布律。,估計(jì)未知參數(shù)所在的范圍 的方法稱為區(qū)間估計(jì),單正態(tài)總體參數(shù)的區(qū)間估計(jì),1、2已知，估計(jì),/2,/2,1-,可取,(1-),1-,的置信度為1的置信區(qū)間為,注：的1置信區(qū)間不唯一。,都是的1置信區(qū)間.但可以證明=1/2時(shí)區(qū)間長最短.,(1)根據(jù)實(shí)際問題構(gòu)造樣本的函數(shù)，要求僅含待估參數(shù)且分布已知； (2)令該函數(shù)落在由分位點(diǎn)確定的區(qū)間里的概率為給定的置信度1，要求區(qū)間按幾何對(duì)稱或概率對(duì)稱； (3)解不等式得隨機(jī)的置信區(qū)間； (4)由觀測(cè)值及值查表計(jì)算得所求置信區(qū)間。,求正態(tài)總體參數(shù)置信區(qū)間的解題步驟：,例2 若燈

11、泡壽命服從正態(tài)分布N( ,8),從中抽取了10個(gè)進(jìn)行壽命實(shí)驗(yàn)，得數(shù)據(jù)如下（單位：小時(shí)）試估計(jì)平均壽命所在范圍（a=0.05）.,解：已知總體方差2，估計(jì)總體期望,對(duì)于給定的，查表確定,解：已知總體方差2，估計(jì)總體期望,對(duì)于給定的0.05，查表確定,根據(jù)樣本值計(jì)算,的置信度為1- 0.95的置信區(qū)間是 （1145.25，1148.75）,例3 已知某煉鐵廠的鐵水中含碳量在正常情況下服從 正態(tài)分布，其方差2 = 0.1082 .現(xiàn)在測(cè)定了9爐鐵水，其 平均含碳量為4.484.按此資料計(jì)算該廠鐵水平均含碳量 的置信區(qū)間，并要求有95% 的可靠性。,解：已知總體方差2，估計(jì)總體期望,對(duì)于給定的置信系數(shù)

12、1-0.95，查表確定,根據(jù)樣本值計(jì)算,的置信系數(shù)為1- 0.95的置信區(qū)間是（4.413，4.555）,2、總體方差2未知，估計(jì)期望,m的1-a置信區(qū)間為,1-,即得,/2,/2,例4 假定初生嬰兒（男孩）的體重服從正態(tài)分布，隨機(jī)抽取12名嬰兒，測(cè)其體重為3100，2520，3000，3600，3160，3560，3320，2880，2600，3400，2540。試以0.95的置信系數(shù)估計(jì)新生嬰兒的平均體重（單位：g）,解: 方差 2未知，估計(jì) 的置信區(qū)間,對(duì)于給定的，查表確定,的置信度為0.95置信區(qū)間是,根據(jù)樣本值計(jì)算：,對(duì)于給定的置信系數(shù)1-0.95，查表確定,3、單正態(tài)總體方差的置信區(qū)間,假定m未知，估計(jì)2,s2的置信度為1的置信區(qū)間為,例5 根據(jù)例4測(cè)的數(shù)據(jù)對(duì)新生男嬰兒體重的方差進(jìn)行區(qū)間估計(jì)（=0.05）.,解: 未知，估計(jì)方差 2的置信區(qū)間,對(duì)于給定的0.05，查表確定,則s2的置信度為1的置信區(qū)間為（70752，405620）,4、雙正態(tài)總體均值差的置信區(qū)間,可解得1- 2 的置信區(qū)間,5、雙正態(tài)總體方差比的置信區(qū)間,假定1，2未知,一、點(diǎn)估計(jì)：,1.矩法估計(jì) 2.最大似然估計(jì),二、區(qū)間估計(jì),1.已知總體方差2 ，估計(jì)期望,2.未知總體方差2 ，估計(jì)期望,3.未知總體期望，估計(jì)方差2,4、雙正態(tài)總體均值差的置信區(qū)間,5、雙正態(tài)總體方差比的置信區(qū)間,總結(jié)：,小結(jié),