《向量到子空間的距離最小二乘法.ppt》由會(huì)員分享,可在線閱讀,更多相關(guān)《向量到子空間的距離最小二乘法.ppt(16頁珍藏版)》請(qǐng)?jiān)谘b配圖網(wǎng)上搜索。
1、2 標(biāo)準(zhǔn)正交基,3 同構(gòu),4 正交變換,1 定義與基本性質(zhì),6 對(duì)稱矩陣的標(biāo)準(zhǔn)形,8酉空間介紹,7 向量到子空間的 距離最小二乘法,第九章 歐幾里得空間,5 子空間,一、向量到子空間的距離,9.7 向量到子空間的距離,二、最小二乘法,1、向量間的距離,長度 稱為向量 和 的距離,,基本性質(zhì),(i),(ii) 并且僅當(dāng) 的等號(hào)才成立;,(iii)(三角形不等式),一、向量到子空間的距離,定義,記為,2、向量到子空間的距離,(1) 設(shè) 為一固定向量 ,如果 與子空間 中,每個(gè)向量垂直, 稱 垂直于子空間 記作,如果 則,注意,(2) 向量到子空間中的各向量的距離以垂線為最短.,如
2、圖示意,對(duì)給定 ,設(shè) 是 中的滿足,的向量,,對(duì) 有,則,因 是子空間,,則,由勾股定理,證:,故,所以,二、最小二乘法,問題提出,實(shí)系數(shù)線性方程組,,即任意,,不等于零,可能無解,,都可能使,設(shè)法找實(shí)數(shù)組,這樣的,此問題叫最小二乘法問題.,使最小,,為方程組的最小二乘解,(least squares solution),,最小二乘法的表示,設(shè),,用距離的概念,就是,由, 設(shè)則,要找 使最小,等價(jià)于找子空間,中向量 使 到它的距離 比到,中其它向量的距離都短.,設(shè),這等價(jià)于,,即,這樣等價(jià)于,,為此必,或,這就是最小二乘解所滿足的代數(shù)方程.,已知某種材料在生產(chǎn)過程中的廢品率 與某種,化學(xué)成份 有關(guān)下列表中記載了某工廠生產(chǎn)中,與相應(yīng)的 的幾次數(shù)值:,找出 對(duì) 的一個(gè)近似公式.,例1,把表中數(shù)值畫出圖來看,發(fā)現(xiàn)它的變化趨勢(shì),近于一條直線因此我們決定選取 的一次式,來表達(dá)當(dāng)然最好能選到適當(dāng)?shù)?使得下面的等式,解:,都成立.,實(shí)際上是不可能的任何 代入上面各式都發(fā)生,些誤差.于是想找到 使得上面各式的誤差的平方,和最小,即找 使,最小.,最小二乘解 所滿足的方程就是,易知,解得,即為,