《效應(yīng)的最小二乘估計》由會員分享，可在線閱讀，更多相關(guān)《效應(yīng)的最小二乘估計（18頁珍藏版）》請在裝配圖網(wǎng)上搜索。
1、效應(yīng)的最小二乘估計 最小二乘方差分析 簡要介紹 一、最小二乘分析法的原理和方法 這里主要討論次級樣本容量不等的最小二乘分析法 的基本內(nèi)容 與其他方法相比，最小二乘分析法至少有以下幾個 優(yōu)點： 1、最小二乘分析法適用于線性和非線性數(shù)學(xué)模型 2、最小二乘分析法與最重要的一個統(tǒng)計量 算術(shù) 平均數(shù)發(fā)生關(guān)系 3、適應(yīng)范圍廣 最小二乘分析法特別適合于以下幾種情況： 1、試驗條件復(fù)雜，成本太高、來源一致的大樣本資 料不容易獲得 2、來自各試驗單位的資料不平衡、需要進行校正 3、次要因素不容易控制 4、資料需要校正合并 5、資料次級樣本容量不等，而使得平方和的可加性 遭到破壞 目前，絕大多數(shù)統(tǒng)計軟件中的方差分
2、析均為最小二 乘方差分析法 設(shè)有一批觀測值 以下均以 代替以前的 根據(jù)最小二乘原理求出處理效應(yīng)的估計值，即取這 樣一個 y值 ,作為這批數(shù)據(jù) 的最佳值，它應(yīng)當(dāng)與各 個 的平方和最小，即 對 求微分，并令之為 0，則有 y即為算術(shù)平均數(shù) 1, 2 ,.,iy i n iy ix 2 2 2 12 2 . m in n i f y y y y y y y yy iy iy fy 20iyy 0iy ny 1 iyyn y 繼續(xù)求其二級微分，可知 為極小 即算術(shù)平均數(shù) 是一批觀測值的最小二乘估計值 在線性方程組 中，如果 ，即方程組非齊次 X的秩 =b的維數(shù)（即 X為非奇異陣） 增廣矩陣 |Xy|的
3、秩 =X的秩（即方程組相容 ） 則方程組有唯一解： 當(dāng) X不是方陣（即方程組中方程的個數(shù)與未知數(shù)的 個數(shù)不等）， 必為一非奇異陣，則方程組 的解可由 其中， 即為 b的最小二乘估計值 y fy Xb y 0y 1b X y XX 1 X X b X y b X X X y b 可以證明， 是唯一的、無偏的 任何數(shù)學(xué)模型均可用矩陣形式表示 如線性模型 的矩陣形式為 其中， y為 n維觀測值向量 X為固定效應(yīng)的結(jié)構(gòu)矩陣 b為固定效應(yīng)向量 e為隨機誤差向量，且 在 中，絕大多數(shù)情況下， X不會是方陣，即 方程個數(shù)與未知數(shù)個數(shù)不等，為使方程有解 ij i ijy y Xb e 20,E e V e I
4、 y Xb e 方程可改寫成 可以證明，該式必有解： 當(dāng) 滿秩時，必有 存在，且為唯一，即 其中， 是唯一的，且是 b的最小二乘估計值，是 b的 最佳線性無偏估計值 當(dāng) 不滿秩時， 有無窮多個解 為使方程有唯一解，可加入約束條件，從而使 為滿秩，得出唯一解 常用的約束條件有很多，如：和約束、相對約束 （ ）等，但約束條件不同，解也不同 X X b X y XX 1XX 1 b X X X y b 0i 0k X X b X yXX XX 二、單向分類資料的最小二乘分析法 例：設(shè)計了三種草本植物添加劑作飼養(yǎng)試驗，得數(shù)據(jù) 如下： 添加劑種類 增重效果 1.2 1.0 1.1 1.1 1.4 1.3
5、 1.0 0.9 1.2 本例中， ， ， 設(shè)三種添加劑的效應(yīng)值分別為 每一觀測值完整的數(shù)學(xué)模型為： 1 4n 2 2n 3 3n 1 2 3, 1 2 3ij ijy 請回顧一下，用 普通方差分析法 該如何分析之？ 當(dāng)有 k個組時，觀測值的一般通式為： 本例每一觀測值的數(shù)學(xué)模型： 第一組： 第二組： 第三組： 12 .ij k ijy 1 2 3 1 11 .2 1 0 0 1 2 3 2 11 . 4 0 1 0 1 2 3 3 11 . 0 0 0 1 其結(jié)構(gòu)矩陣 X為： X= 該結(jié)構(gòu)陣不是一個方陣，因此應(yīng)求 XX 1 1 0 0 1 1 0 0 1 1 0 0 1 1 0 0 1 0
6、1 0 1 0 1 0 1 0 0 1 1 0 0 1 1 0 0 1 1 2 3 XX= = XX的一般通式是： 111111111 1 1 1 1 0 0 0 0 0 0 0 0 0 1 1 0 0 0 0 0 0 0 0 0 1 1 1 1 1 0 0 1 1 0 0 1 1 0 0 1 1 0 0 1 0 1 0 1 0 1 0 1 0 0 1 1 0 0 1 1 0 0 1 9 4 2 3 4 4 0 0 2 0 2 0 3 0 0 3 1 11 . . k kk n n n nn nn 而 Xy= Xy= 上式中： 10.2 4.4 2.7 3.1 1 2 . k y y y y
7、12 1. 2. . . 1 . . i k k n i ij j n n n n y y y y yy 因此，矩陣方陣為： 其通式是： 可以看出， XX是不滿秩的，因此它無唯一解 1 2 3 9 4 2 3 10 .2 4 4 0 0 4. 4 2 0 2 0 2. 7 3 0 0 3 3. 1 12 1 1 1 1. 2 2 2 2. . . . . . k k k k k n n n n y n n y n n y n n y 由于 是其約束條件，因此可以將該方程組減 去一個 （習(xí)慣上總是減去最后一個 ） 首先作行相減，第一行是 方程，因此不減 從第二行逐行減去最后一個方程： 然后作列相
8、減，即除第一列外的各列均減去最后一 列： 0i k 1 2 9 4 2 3 1 0 .2 1 4 0 3 1 .3 1 0 2 3 0 .4 1 2 9 1 1 1 0 .2 1 7 3 1 .3 1 3 5 0 .4 這一過程稱為矩陣的降階，降階后的矩陣稱為降階矩 陣，降階矩陣與原矩陣相比，少了一行一列，即由 原來的（ k+1）行（ k+1）列降為 k行 k列 降階后的矩陣仍為對稱陣，且滿秩，因此有唯一解： 1 1 2 9 1 1 10. 2 1 7 3 1.3 1 3 5 0.4 0.1 204 0.0 370 0.0 463 10. 2 1.1 611 0.0 370 0.2 037 0
9、.1 296 1.3 0.0 611 0.0 463 0.1 296 0.2 870 0.4 0.1 889 即 （總體效應(yīng)值） =1.1611，此即為最小二乘均 值 LSM（ least square mean） （第一種中草藥添加劑效應(yīng)值） =-0.0611 （第二種中草藥添加劑效應(yīng)值） =0.1889 （第三種中草藥添加劑效應(yīng)值） = =-（ -0.0611+0.1889） =-0.1278 三種中草藥添加劑的最小二乘均值（ LSM）則分別 為： 1 2 3 11 22 33 1.16 11 0.06 11 1.1 1.16 11 0.18 89 1.35 1.16 11 0.12 78 1.03 3 y y y 數(shù)據(jù)比較簡單時，手工計算和統(tǒng)計軟件運算兩者差 別不大，但當(dāng)數(shù)據(jù)結(jié)構(gòu)比較復(fù)雜，或數(shù)據(jù)量很大 時，則必須借助于統(tǒng)計軟件 這里僅用單因素的數(shù)據(jù)結(jié)構(gòu)來說明最小二乘分析法 的原理和基本方法，以作為統(tǒng)計軟件中方差分析 方法的說明 兩因素、多因素的最小二乘分析法此處不再介紹， 其基本原理是一樣的，僅方法上更復(fù)雜一些 （ *） end
效應(yīng)的最小二乘估計
