《數據擬合與最小二乘法.ppt》由會員分享,可在線閱讀,更多相關《數據擬合與最小二乘法.ppt(15頁珍藏版)》請在裝配圖網上搜索。
1、1,5.6 數據擬合與最小二乘法,實例:考察某種纖維的強度與其拉伸倍數的關系,下表 是實際測定的24個纖維樣品的強度與相應的拉伸倍數 是記錄:,2,纖維強度隨拉伸 倍數增加而增加,,并且24個點大致分 布在一條直線附近,,---------(1),3,必須找到一種度量標準來衡量什么曲線最接近所有數據點,一、最小二乘法,考慮一般的線性超定方程:,寫成矩陣形式:,---------(2),4,其中,,---------(3),記,--(4),并稱向量 為超定方程組(2)的余向量,定義:稱n維向量 為線性超定方程組(2) 的最小二乘解,如果它使,達到最小值.,--(5
2、),5,要使(5)達到最小值,即求F的最小值,因此有:,即:,6,上式寫成矩陣形式為:,---------(6),將n元線性方程組(6)稱為超定方程組(2)的正規(guī)方程組 或法方程組,其解稱為超定方程組(2)的最小二乘解,定理:如果線性超定方程組(2)的系數矩陣A的列向量組 線性無關,則其正規(guī)方程組(6)存在唯一的解向量 , 而且 是式(2)的最小二乘解,即對任意的n維向量 , 當 時有,7,證:,因為A的列向量線性無關,所以由線性代數的知識 可以知道 是對稱正定矩陣,因此方程組(6)存在 唯一的解向量 . 設 記,8,9,二、數據擬和,已知n組實驗數據,求表達式 ,使它盡
3、可能地反映已知數據的變化 趨勢,也就是說要求誤差向量,按某種范數達到最小,這個問題稱為數據擬和(或曲線 擬和)問題,稱 為擬和曲線或經驗公式,如果擬和曲線是次數低于n-1的代數多項式,則稱其為 多項式擬和,以下討論多項式擬和的最小二乘法,--(7),10,-(8),將 分別代入多項式(7)的兩端,得 一個含有m+1個未知數的線性超定方程組:,11,寫成矩陣形式為:,其中,,----(9),12,的解,其中,13,例1. 回到本節(jié)開始的實例,從散點圖可以看出,纖維強度和拉伸倍數之間近似與線性關系,故可選取線性函數,為擬合函數, 的正規(guī)方程組,14,法方程組為,解得,15,擬合曲線與散點 的關系如右圖:,