方差分析與協(xié)方差分析.ppt

方差分析和協(xié)方差分析,第5組,在針對(duì)連續(xù)變量的統(tǒng)計(jì)推斷方法中，最常用的有t檢驗(yàn)和方差分析兩種四種不同的顏色包裝對(duì)飲料銷(xiāo)售量的影響（四個(gè)水平，分類(lèi)變量）兩兩t檢驗(yàn)？,不能做t檢驗(yàn),如果有K(K3)個(gè)平均數(shù)，若用兩兩比較的方法來(lái)檢驗(yàn)，則需作K(K-1)/2次檢驗(yàn)，不但程序繁瑣，而且相當(dāng)于從t分布中隨機(jī)抽取多個(gè)t值，其落在大于臨界值的范圍內(nèi)的概率大大增加，犯類(lèi)錯(cuò)誤的概率大大增加：如6次檢驗(yàn)H0的概率是0.95時(shí)的誤差為：1-0.956=0.265。,方差分析概念,第一類(lèi)因素：可以控制的控制因素第二類(lèi)因素：不能控制的隨機(jī)因素受前兩類(lèi)因素影響的事物為觀察變量方差分析目的：分析控制變量的不同水平是否對(duì)觀察變量產(chǎn)生了顯著影響，檢驗(yàn)各個(gè)水平下觀察變量的均值是否相等,方差分析分類(lèi)之一,單變量方差分析：一個(gè)觀察變量單因方差分析中的控制變量只有一個(gè)多因素方差分析中的控制變量有多個(gè)多變量方差分析：多個(gè)觀察變量,方差分析分類(lèi)之二,一般方差分析：因變量是定量變量，自變量是定類(lèi)數(shù)據(jù)協(xié)方差分析：將很難控制的因素作為協(xié)變量，在排除協(xié)變量影響的條件下，分析控制變量對(duì)觀察變量的影響，從而更加準(zhǔn)確地對(duì)控制變量進(jìn)行評(píng)價(jià)。協(xié)變量一定要是連續(xù)數(shù)值型。非定量方差分析：因變量為定序變量,統(tǒng)計(jì)技術(shù)分類(lèi)圖,方差分析原理,目的：通過(guò)方差的比較來(lái)檢驗(yàn)各個(gè)水平下的觀察值的均值是否相等觀察值差異：觀察值存在差異，差異的產(chǎn)生來(lái)自兩個(gè)方面。系統(tǒng)性差異：由控制變量的不同水平造成的，例如飲料的不同顏色帶來(lái)不同的銷(xiāo)售量隨機(jī)性差異：由于抽選樣本的隨機(jī)性而產(chǎn)生的差異，例如，相同顏色的飲料在不同的商場(chǎng)銷(xiāo)售量也不相同。,方差分析的基本思想(單因素),9,組間變異,總變異,組內(nèi)變異,組內(nèi)只包含隨機(jī)誤差組間既包括隨機(jī)誤差，也包括系統(tǒng)誤差,組間變異組內(nèi)變異,A,B,組間變異組內(nèi)變異,A,B,單因素方差分析邏輯與步驟(One-WayANOVA),前提假設(shè)模型與假設(shè)平方和的分解與F檢驗(yàn)多重比較(事后檢驗(yàn))關(guān)聯(lián)強(qiáng)度與效應(yīng)值,方差分析的前提條件,(1)每個(gè)水平下的因變量應(yīng)當(dāng)服從正態(tài)分布。方差分析對(duì)分布假設(shè)有穩(wěn)健性(robust)，即正態(tài)性不滿足時(shí)，統(tǒng)計(jì)結(jié)果變化不大，因此一般并不要求檢驗(yàn)總體的正態(tài)性。(2)變異可加性。各因素對(duì)離差平方和的影響可以分割成幾個(gè)可以加在一起的部分。（多因素）(3)獨(dú)立性。觀察對(duì)象是來(lái)自所研究因素的各個(gè)水平之下的獨(dú)立隨機(jī)抽樣,(4)方差齊性(homogeneityofvariance)，也稱(chēng)變異的同質(zhì)性，各個(gè)水平下的總體具有相同的方差。這是方差分析一個(gè)很重要的前提，因此在進(jìn)行方差分析之前，應(yīng)當(dāng)進(jìn)行方差齊性檢驗(yàn)。Bartlett檢驗(yàn)法LeveneF檢驗(yàn)最大方差與最小方差之比<3，初步認(rèn)為方差齊同。,方差不齊,若方差齊性的假定不滿足，可考慮如下策略：a.檢查某些表現(xiàn)“特殊”的觀測(cè)值，看能否將其剔除，用剩下的數(shù)據(jù)進(jìn)行方差分析。b.使用無(wú)方差齊性假設(shè)的多重比較方法。c.數(shù)據(jù)變換，用變換(平方根變換、對(duì)數(shù)變換等)后的數(shù)據(jù)進(jìn)行方差分析。正態(tài)性轉(zhuǎn)換。d.非參數(shù)檢驗(yàn),模型與假設(shè),模型表達(dá)式（單因素）Y=+a+e建立假設(shè)，確定檢驗(yàn)水準(zhǔn),k組總體均數(shù)不全相等。,方差分析表組間變異體現(xiàn)了因素A的效應(yīng)，組內(nèi)變異則被視作誤差。,確定P值，做出統(tǒng)計(jì)推斷,如果均值相等，F(xiàn)=MSA/MSE1,事后比較(posteriori/posthoccomparison),F檢驗(yàn)顯著說(shuō)明各組均值并不相同(至少兩組不同)，但不能回答到底哪幾組不同。通過(guò)對(duì)各組均值之間的配對(duì)比較來(lái)進(jìn)一步檢驗(yàn)到底哪些均值之間存在差異。方法眾多，不下20種。,LSD法：最靈敏，會(huì)犯假陽(yáng)性錯(cuò)誤；Sidak法：比LSD法保守；Bonferroni法：比Sidak法更為保守一些；常用Scheffe法：多用于進(jìn)行比較的兩組間樣本含量不等時(shí)；Dunnet法：常用于多個(gè)試驗(yàn)組與一個(gè)對(duì)照組的比較；S-N-K法：尋找同質(zhì)亞組的方法；Turkey法：最遲鈍，要求各組樣本含量相同；Duncan法：與Sidak法類(lèi)似。,均數(shù)兩兩比較方法,關(guān)聯(lián)強(qiáng)度(strengthofassociation)與效應(yīng)值(effectsize)的度量,實(shí)驗(yàn)處理引致的效應(yīng)的大小或者數(shù)據(jù)的變異有多少部分是由實(shí)驗(yàn)處理造成的。Eta平方凈(偏)Eta平方Omega平方Cohensf（具體內(nèi)容見(jiàn)附錄）,雙因素（無(wú)交互作用）試驗(yàn)的方差分析表,注意,各因素離差平方和的自由度為水平數(shù)減一，總平方和的自由度為試驗(yàn)總次數(shù)減一。,雙因素（有重復(fù)）試驗(yàn)方差分析表,這里,方差分析的應(yīng)用范圍：,（一）單因素多個(gè)樣本均數(shù)的比較:1.完全隨機(jī)設(shè)計(jì)：只安排一種處理因素，不安排任何配伍因素。2.隨機(jī)化區(qū)組設(shè)計(jì)：只安排一種處理因素，安排一種配伍因素。3.拉丁方設(shè)計(jì)：只安排一種處理因素，安排兩種配伍因素。,（二）多因素樣本均數(shù)間的比較：1.析因設(shè)計(jì)：安排兩種或兩種以上處理因素，分析處理因素間的交互作用2.裂區(qū)設(shè)計(jì)：安排兩種或兩種以上處理因素，分析處理因素間的交互作用3.交叉設(shè)計(jì)：安排兩種或兩種以上處理因素，分析處理因素間的交互作用（三）多個(gè)樣本均數(shù)向量間的比較多元方差分析：結(jié)果變量有兩個(gè)以上，需要綜合評(píng)價(jià)。（四）回歸方程的假設(shè)檢驗(yàn),協(xié)方差分析,概念：將方差分析和回歸分析結(jié)合起來(lái)的一種統(tǒng)計(jì)分析方法,27,當(dāng)試驗(yàn)指標(biāo)（Y）的變異既受一個(gè)或幾個(gè)分類(lèi)變量，也受一個(gè)或幾個(gè)連續(xù)變量的影響，可采用協(xié)方差分析,方差分析：一個(gè)或幾個(gè)因子（分類(lèi)變量）對(duì)變量Y（連續(xù)變量）的影響回歸分析：一個(gè)或幾個(gè)變量（連續(xù)變量）對(duì)變量Y（連續(xù)變量）的影響,目的消除連續(xù)變量對(duì)Y的影響，使方差分析的檢驗(yàn)功效更高，結(jié)果更可靠連續(xù)變量可能會(huì)增大Y的組間差異，導(dǎo)致錯(cuò)誤結(jié)論連續(xù)變量可能會(huì)增大Y的組內(nèi)變異，降低檢驗(yàn)功效消除分類(lèi)變量的影響，使回歸分析的結(jié)果更可靠,28,20名男性籃球運(yùn)動(dòng)員和20名大學(xué)生的肺活量（cm3）比較,協(xié)方差分析基本思想,協(xié)方差分析基本思想,20名男性籃球運(yùn)動(dòng)員和20名大學(xué)生的肺活量（cm3）比較,協(xié)變量,協(xié)方差分析基本思想,比較肺活量時(shí)，要消除身高的影響。方法1：抽樣時(shí)，選身高相近的。方法2：從統(tǒng)計(jì)分析技巧上平衡數(shù)據(jù)。校正了身高的影響后（回歸分析），再比較兩組肺活量的均數(shù)有無(wú)差異（方差分析）。,協(xié)方差分析基本思想,在方差分析中，用來(lái)校正因變量的數(shù)值型變量稱(chēng)為協(xié)變量（covariable）。含有協(xié)變量的方差分析稱(chēng)為協(xié)方差分析。協(xié)方差分析可提高方差分析的準(zhǔn)確度。觀察指標(biāo)（Y）的總變異：SS總SS協(xié)變量SS處理SS誤差,協(xié)方差分析的基本思想,其實(shí)質(zhì)就是從Y的總離均差平方和中扣除協(xié)變量X對(duì)Y的回歸平方和，對(duì)剩余（殘差）平方和作進(jìn)一步分解后再進(jìn)行方差分析，以更好的評(píng)價(jià)處理的效應(yīng)。,33,SS總SS回SS殘,SS總SS協(xié)變量SS處理SS誤差,SS修正SS組內(nèi)殘差,大學(xué)生籃球運(yùn)動(dòng)員,圖1協(xié)方差分析示意圖,調(diào)整均數(shù),協(xié)方差分析步驟,完全隨機(jī)設(shè)計(jì)的協(xié)方差分析應(yīng)用條件檢驗(yàn)回歸分析求調(diào)整均數(shù)對(duì)調(diào)整均數(shù)作方差分析,協(xié)方差分析的假設(shè),協(xié)方差分析的基本假設(shè)與方差分析相同，包括變量的正態(tài)性、觀測(cè)值獨(dú)立、方差齊性等，此外還有三個(gè)重要的假設(shè)：因變量與協(xié)方差之間線性關(guān)系；所測(cè)量的協(xié)變量不應(yīng)有誤差，如果選用的是多項(xiàng)的量表，應(yīng)有高的內(nèi)部一致性信度或重測(cè)信度，系數(shù)最好大于0.80。這一假設(shè)若被違反會(huì)造成犯一類(lèi)錯(cuò)誤的概率上升，降低統(tǒng)計(jì)檢驗(yàn)力。“組內(nèi)回歸系數(shù)同質(zhì)性”（homogeneityofwithinrgression），各實(shí)驗(yàn)處理組中一舉協(xié)變量（X）預(yù)測(cè)因變量（Y）的回歸線的回歸系數(shù)要相等，即斜率相等，各條回歸線平行。如果斜率不等則不宜直接進(jìn)行協(xié)方差分析。,協(xié)方差分析的模型和假定,37,回歸分析：,協(xié)方差分析：,模型,方差分析：,Thanks!,問(wèn)題：為什么一個(gè)比較均數(shù)差異的方法竟稱(chēng)為方差分析？,這種命名是因?yàn)樵跈z驗(yàn)均數(shù)間差異是否具有統(tǒng)計(jì)學(xué)意義的過(guò)程中，我們實(shí)際上是通過(guò)比較方差而得到的。與t檢驗(yàn)直接比較兩組的平均數(shù)的做法不同，方差分析把“平均數(shù)之間差異是否顯著”的問(wèn)題轉(zhuǎn)化為“平均數(shù)組間變異是否顯著”的問(wèn)題，通過(guò)“組間變異”與“組內(nèi)變異”的對(duì)比，進(jìn)行F檢驗(yàn)，從整體上同時(shí)比較多組的平均數(shù)之間是否存在顯著差異。,LSD(費(fèi)舍最小顯著差異法,Fishersleastsignificantdifference)該方法是對(duì)檢驗(yàn)兩總體均值是否相等的t檢驗(yàn)方法的總體方差估計(jì)加以修正(用MSE代替)而得到的。,特點(diǎn)檢驗(yàn)敏感性高，即水平間的均值只要存在一定程度的微小差異就可能被檢驗(yàn)出來(lái)。但該方法沒(méi)有控制范第一類(lèi)錯(cuò)誤的概率。,S-N-K(Student-Newman-Keuls,q檢驗(yàn))首先把各組均值排序，用每一比較的兩個(gè)均值在排序序列種相差的等級(jí)數(shù)來(lái)確定不同的q臨界值。,兩均值的rank之差,是一種有效劃分相似性子集的方法，該方法適用于各水平下觀測(cè)值個(gè)數(shù)相等的情況。,Tukey法(honestysignificantdifferent,HSD)與SNK法類(lèi)似，不同之處在于不論各組均值的大小次序，均使用同一臨界值。,組數(shù),它采用q統(tǒng)計(jì)量，適用于各水平下觀測(cè)值個(gè)數(shù)相等的情況。與LSD方法比較，較好的控制了范第一類(lèi)錯(cuò)誤的概率。,Bonferroni校正(以t分布作為檢驗(yàn)分布,對(duì)檢驗(yàn)水準(zhǔn)進(jìn)行調(diào)整)與LSD方法基本相同。不同的是它控制了范第一類(lèi)錯(cuò)誤的概率。在每次兩兩組的檢驗(yàn)中，它將顯著水平除以兩兩檢驗(yàn)的總次數(shù)。在比較的次數(shù)較多時(shí)，該方法就不太適合。,Dunnett方法,是一種唯一用于多個(gè)處理組和一個(gè)對(duì)照組比較的方法。,SPSS提供的常用多重比較檢驗(yàn)方法,1、TambanesT2:基于t檢驗(yàn)的保守的多重比較方法。,不滿足方差齊性多重檢驗(yàn)方法,2、DunnettsT3:基于學(xué)生化極大模的多重比較方法。,3、Games-Howell:非參數(shù)多重比較方法。,4、DunnettsC:基于學(xué)生化極差的多重比較方法，是一種可信區(qū)間的方法。,Eta平方(Eta-Squared,2)，又稱(chēng)關(guān)聯(lián)強(qiáng)度(correlationratio)，因變量的變異被自變量解釋的百分比。凈Eta平方(partialEta-Squared,p2)，多因素ANOVA中，扣除了其他自變量后某自變量的效應(yīng)。判斷標(biāo)準(zhǔn)：0.01，?。?.06，中；0.14，大,Omega平方(Omegasquared,2)當(dāng)F顯著時(shí)，2將會(huì)是正值，若為負(fù)，則要解釋為0。當(dāng)樣本很大而使MSw變得很小，F(xiàn)很容易達(dá)到顯著，此時(shí)若2很小，即使在統(tǒng)計(jì)上有意義，實(shí)際應(yīng)用上仍然沒(méi)意義。判斷標(biāo)準(zhǔn)：0.01，小；0.06，中；0.14，大,Cohensfff0.25，中；f0.40，高,修正均數(shù)的計(jì)算：,修正均數(shù)間的多重比較：,S2y.x為組內(nèi)剩余方差,SS總SS回SS總殘,52,常用試驗(yàn)設(shè)計(jì),1.完全隨機(jī)設(shè)計(jì)(Completelyrandomdesign)單因素設(shè)計(jì).優(yōu)點(diǎn):簡(jiǎn)單易行,缺點(diǎn):只能分析一個(gè)因素2.配伍設(shè)計(jì)(Randomizedblockdesign)隨機(jī)區(qū)組或雙因素?zé)o重復(fù)試驗(yàn)設(shè)計(jì).交互作用和方差齊性無(wú)法考察(1)同一受試對(duì)象在同一處理不同水平間的比較復(fù)(2)將幾個(gè)受試對(duì)象按一定條件劃分成配伍組,再將每一配伍組的各受試者隨機(jī)分配到各處理組中,每個(gè)配伍組的例數(shù)等于處理組個(gè)數(shù).,3.交叉設(shè)計(jì)(Cross-overdesign)一種特殊的自身對(duì)照設(shè)計(jì).克服了試驗(yàn)前后自身對(duì)照由于觀察期間各種非試驗(yàn)因素對(duì)試驗(yàn)結(jié)果的影響造成的偏移.優(yōu)點(diǎn):節(jié)約樣本含量,能控制時(shí)間因素及個(gè)體差異對(duì)處理方式的影響,均等考慮受試者利益缺點(diǎn):不允許缺失數(shù)據(jù),不適用于短程效果對(duì)比4.析因設(shè)計(jì)(Factorialdesign)當(dāng)一種因素的質(zhì)和量改變時(shí)另一種現(xiàn)象的質(zhì)和量也隨之而改變,幾個(gè)因素間存在交互作用時(shí)使用.優(yōu)點(diǎn):節(jié)約樣本含量,5.拉丁方設(shè)計(jì)(Latinsquaredesign)各因素間無(wú)交互作用且水平數(shù)相等,三個(gè)因素按水平數(shù)r排列成一個(gè)r*r隨機(jī)方陣.縱橫兩向結(jié)尾皆為配伍組,可用較少的重復(fù)次數(shù),獲得較多的信息6.正交設(shè)計(jì)(Orthogonaldesign)三個(gè)及以上因素,存在交互作用.用正交表將各試驗(yàn)因素,各水平之間的組合進(jìn)行均勻搭配,從而可以用較少的,有代表性的處理組合,提供充分有用的信息.優(yōu)點(diǎn):高效,快速缺點(diǎn):基于線性模型的設(shè)計(jì),7.星點(diǎn)設(shè)計(jì)(Centralcompositedesign)在正交或析因設(shè)計(jì)的基礎(chǔ)上將自變量與因變量的關(guān)系擴(kuò)大到曲面效應(yīng)面的設(shè)計(jì),如二水平析因設(shè)計(jì)加上極值點(diǎn)和中心點(diǎn)構(gòu)成,采用二次以上多元非線性擬合.8.嵌套設(shè)計(jì)（Nesteddesign）各個(gè)試驗(yàn)因素的影響有主次之分,次要因素的各水平是嵌套在主要因素水平之下的,不能交互.9.裂區(qū)設(shè)計(jì)（Split-plotdesign）試驗(yàn)因素并非一次安排,而分二次甚至多次安排.先安排影響最重要的,而后再加入影響較小,或精確度要求高的次要因素到主要因素的不同水平中.,