盧正新《隨機(jī)過程》第一章介紹

1 隨 機(jī) 過 程v盧 正 新 （ 副 教 授 ）v13995545240 vEmail: 2 教 材 或 參 考 書v An Introduction to Stochastic Processes 隨 機(jī) 過 程 引 論 （ 英 文 版 ） Edward P.C. Kaov Basic Stochastic Processes 隨 機(jī) 過 程 基 礎(chǔ) Zdzisilaw Brzeniak; Tomasz Zastawniakv 隨 機(jī) 過 程劉 次 華 編華 中 科 技 大 學(xué) 出 版 社 v 應(yīng) 用 隨 機(jī) 過 程林 元 烈清 華 大 學(xué) 出 版 社 3 課 程 大 綱v 第 一 章 ： 概 率 論 與 隨 機(jī) 過 程 介 紹v 第 二 章 ： 泊 松 過 程v 第 三 章 ： 馬 爾 柯 夫 鏈v 第 四 章 ： 連 續(xù) 時(shí) 間 的 馬 爾 柯 夫 鏈v 第 五 章 ： 布 朗 運(yùn) 動(dòng) 與 鞅 4 第 一 章 ： 介 紹v簡(jiǎn) 要 回 顧 一 下 概 率 論 中 與 本 課 程 有 關(guān) 的 基 本概 念 ： 隨 機(jī) 試 驗(yàn) 、 樣 本 空 間 、 事 件 、 概 率 、隨 機(jī) 變 量 等v隨 機(jī) 過 程 的 概 念 、 分 類 5 隨 機(jī) 試 驗(yàn)v 試 驗(yàn) 結(jié) 果 事 先 不 能 準(zhǔn) 確 預(yù) 言 ， 三 個(gè) 特 征 :可 以 在 相 同 條 件 下 重 復(fù) 進(jìn) 行 ；每 次 試 驗(yàn) 結(jié) 果 不 止 一 個(gè) ， 可 預(yù) 先 知 道 試 驗(yàn) 所 有 可 能結(jié) 果 ；每 次 試 驗(yàn) 前 不 能 確 定 那 個(gè) 結(jié) 果 會(huì) 出 現(xiàn) 。樣 本 空 間隨 機(jī) 試 驗(yàn) 所 有 可 能 結(jié) 果 組 成 的 集 合 ， 記 為 事 件樣 本 空 間 的 子 集 A稱 為 事 件 集 合 運(yùn) 算 6 古 典 概 率v 隨 機(jī) 試 驗(yàn) 中 一 切 可 能 結(jié) 果 是 有 限 多 個(gè) ；v 每 個(gè) 結(jié) 果 出 現(xiàn) 的 可 能 性 是 相 等 的 ；v 則 事 件 A發(fā) 生 的 概 率 可 表 示 為 個(gè) 數(shù)樣 本 空 間 中 所 含 樣 本 點(diǎn)所 包 含 的 樣 本 點(diǎn) 個(gè) 數(shù)事 件 A)( AP 7 幾 何 概 率v 計(jì) 算 無 窮 個(gè) 基 本 事 件 的 情 形 ；v 樣 本 點(diǎn) 具 有 均 勻 分 布 的 性 質(zhì) ；v 設(shè) 用 L() 作 為 區(qū) 域 大 小 的 量 度 ， 而 區(qū) 域 中 任意 可 能 出 現(xiàn) 的 小 區(qū) 域 A的 量 度 用 L(A)表 示 ；v 則 事 件 A（ 或 某 一 區(qū) 域 ） 發(fā) 生 的 概 率 表 示 為 )( )()( L ALAP 8 統(tǒng) 計(jì) 概 率v 用 于 計(jì) 算 前 兩 種 隨 機(jī) 概 率 概 括 不 了 的 隨 機(jī) 事 件 概 率 ；v 用 事 件 的 頻 率 近 似 地 去 表 達(dá) 事 件 的 概 率 ；v 若 在 同 樣 的 條 件 下 ， 將 隨 機(jī) 試 驗(yàn) 獨(dú) 立 的 重 復(fù) 做 n次 ， 事 件 A出 現(xiàn) 了 nA次 ， 則 事 件 A的 頻 率 是nnf AA v 當(dāng) 試 驗(yàn) 次 數(shù) n增 大 時(shí) ， 其 中 大 量 的 頻 率 聚 集 在 一 個(gè) 常 數(shù) 周 圍 ;v 這 個(gè) 常 數(shù) 是 客 觀 存 在 的 ， 反 映 了 事 件 A出 現(xiàn) 可 能 性 的 大 小 ，我 們 認(rèn) 為 這 個(gè) 常 數(shù) 就 是 事 件 的 概 率 。 )(APfA 9 v 規(guī) 定 一 個(gè) 隨 機(jī) 試 驗(yàn) ， 所 有 樣 本 點(diǎn) 之 集 合 構(gòu) 成 樣 本 空 間 ， 在樣 本 空 間 中 一 個(gè) 樣 本 點(diǎn) 或 若 干 個(gè) 樣 本 點(diǎn) 之 適 當(dāng) 集 合 F稱 為 集合 類 或 域 ， F中 的 每 一 個(gè) 集 合 稱 為 事 件 。v 并 不 是 所 有 的 的 子 集 都 能 方 便 地 定 義 概 率 ， 要 有 限 制 。v 例 如 ： 擲 骰 子 ， =1,2,3,4,5,6 F=,1, , 6,1,2, , 6,6,1,2,3, , F=, 小 點(diǎn) ,大 點(diǎn) ， 小 點(diǎn) =1,2,3； 大 點(diǎn) =4,5,6 但 在 F=,1 , 大 點(diǎn) 上 定 義 概 率 就 有 問 題 。 10F DeMorgan FFF注 ： 設(shè) 若 為 域 ， 根 據(jù) 法 則 ， 對(duì) 可 數(shù) 次交 、 并 、 差 運(yùn) 算 封 閉 ， 即 中 的 任 何 元 素 經(jīng) 可 數(shù) 次 集合 運(yùn) 算 后 仍 屬 于 。 F 定 義 ： 設(shè) 是 由 的 某 些 子 集 構(gòu) 成 的 非 空 集 類 ， 若 滿 足 ：1 F ）2 CA F A F ） 若 ， 則3 n nA F n N A F n=1） 若 ， ， 則F F 則 稱 為 域 （ 代 數(shù) ） ， 稱 （ ， ） 為 可 測(cè) 空 間 。 11 0 ,F 例 ： ， 平 凡 域 1 , , ,CF A A 2 :F A A 3 , ,F A ( ) ( ) A 定 義 ： 是 由 的 子 集 構(gòu) 成 的 集 類 ， 一 切 包 含 的 域 的 交記 為 ， 稱 為 由 生 成 的 域 （ 包 含 的 最 小 域 ） 。 3F例 ： 求 （ ） ( , ): , )Borel B a b a b R 例 ： 域 ， ( , : ) ( , : ) ( , : )B a b a b Rb b Rb b Q Q 可 以 驗(yàn) 證 ： ， 表 示 有 理 數(shù) 12 定 義 ： 設(shè) （ ,F） 為 可 測(cè) 空 間 ， P是 定 義 在 F上 的 集 函數(shù) ， 若 滿 足 ：1. 0P(A) 1， ;2. P()=1;3. 若 A1,A2,.,Ak兩 兩 互 斥 ， 則 11 )()( k kk k APAP稱 P為 可 測(cè) 空 間 （ ,F） 的 一 個(gè) 概 率 測(cè) 度 ， 簡(jiǎn) 稱 概 率 ； 稱（ ,F,P） 為 一 個(gè) 概 率 空 間 ； F為 事 件 域 ， A為 事 件 ， P(A)為 事 件 A的 概 率 。 A F 13 例 ： U0,10,1區(qū) 間 上 的 均 勻 分 布 ： =0,1 ，F(xiàn)=B0,10,1區(qū) 間 上 的 Borel域 ， U0,1的 概 率 P定 義為 ： 令 A為 0,1上 全 體 有 理 數(shù) ， AC為 0,1上 全 體 無 理 數(shù) 。 1） 證 明 2） 證 明 P(A)=0， P(AC)=1( , ) 0,1 ( )A a b B P A b a ，0,1 0,1CA B A B ， 14 條 件 概 率v 在 事 件 B已 發(fā) 生 這 一 條 件 下 ， 事 件 A發(fā) 生 的 概 率 。)( )()|( BP BAPBAP 全 概 率 公 式 ：v 若 有 N個(gè) 互 斥 事 件 Bn（ n=1,2,N） ， 它 的 并 集 等于 整 個(gè) 樣 本 空 間 ， 則 Ni ii BPBAPAP 1 )()|()( 15 v 設(shè) 事 件 A1， A2， ， An構(gòu) 成 一 個(gè) 完 備 事 件 組 ， 概 率P(Ai)0,i=1,2,n,對(duì) 于 任 何 一 個(gè) 事 件 B， 若 P(B)0, 有 Ni ii iii ABPAP ABPAPBAP 1 )|()( )|()()|(貝 葉 斯 公 式獨(dú) 立 事 件 ( ) ( ) ( )P AB P A P Bv 獨(dú) 立 的 等 價(jià) 命 題 ： 1） A， B獨(dú) 立 ； 2） A， BC獨(dú) 立 ； 3） P(A/B)=P(A)； 4） P(A/BC)=P(A)v 思 考 ： 獨(dú) 立 與 互 斥 的 關(guān) 系 16 v 事 件 A1， A2， ， An看 作 是 導(dǎo) 致 事 件 B發(fā) 生 的 “ 因 素 ”， P(Ai )是 在 事 件 B已 經(jīng) 出 現(xiàn) 這 一 信 息 得 知 前 Ai出 現(xiàn) 的 概 率， 通 常 稱 為 先 驗(yàn) 概 率 。v 在 試 驗(yàn) 中 事 件 B的 出 現(xiàn) ， 有 助 于 對(duì) 導(dǎo) 致 事 件 B出 現(xiàn) 的 各 種 “因 素 ” 發(fā) 生 的 概 率 作 進(jìn) 一 步 探 討 ， 公 式 給 出 的 P(Ai B)是在 經(jīng) 過 試 驗(yàn) 獲 得 事 件 B已 經(jīng) 發(fā) 生 這 個(gè) 信 息 之 后 ， 事 件 Ai發(fā) 生的 概 率 ， 稱 為 后 驗(yàn) 概 率 。v 后 驗(yàn) 概 率 依 賴 于 試 驗(yàn) 中 得 到 的 新 信 息 的 具 體 情 況 （ 比 如 事件 B發(fā) 生 還 是 事 件 B補(bǔ) 發(fā) 生 ） ， 并 且 給 出 在 獲 得 新 信 息 之 后， 導(dǎo) 致 B出 現(xiàn) 的 各 種 因 素 Ai發(fā) 生 情 況 的 新 知 識(shí) ， 因 此 貝 葉 斯公 式 又 稱 為 后 驗(yàn) 概 率 公 式 或 逆 概 率 公 式 。 先 驗(yàn) 概 率 與 后 驗(yàn) 概 率 17 隨 機(jī) 變 量定 義 ：設(shè) （ ， F， P） 是 概 率 空 間 ， X=X(e)是 定 義 在 上 的 實(shí) 函 數(shù) ，如 果 對(duì) 任 意 實(shí) 數(shù) x， e:X(e) x F， 則 稱 X(e)是 F上 的 隨 機(jī)變 量 （ X也 稱 為 F可 測(cè) 的 ） 。 18 事 件 隨 機(jī) 變 量離 散 型 隨 機(jī) 變 量 ：只 取 有 限 個(gè) 數(shù) 值 或 可 列 無 窮 多 個(gè) 值 。連 續(xù) 型 隨 機(jī) 變 量 ：從 原 樣 本 空 間 到 新 樣 本 空 間 的 映 射 是某 一 個(gè) 范 圍 ， 是 一 段 （ 或 幾 段 ） 實(shí) 線（ 也 可 能 是 整 個(gè) 坐 標(biāo) 軸 ） ， 隨 機(jī) 變 量可 以 取 值 于 某 一 區(qū) 間 中 的 任 一 數(shù) 。 19 分 布 函 數(shù) （ 一 個(gè) 描 述 隨 機(jī) 變 量 取 值 的 概率 分 布 情 況 的 統(tǒng) 一 方 法 ） xxeXePxF ),)(:()(性 質(zhì) ：1.F(x)是 非 降 函 數(shù) ；2.0F(x) 1；3.Px1Xx2=F(x2)-F(x1)4.F(x)是 右 連 續(xù) 。 20 概 率 密 度 函 數(shù) ： 分 布 函 數(shù) 的 導(dǎo) 數(shù)( )( ) dF xf x dx性 質(zhì) ：1. ；2. ；3. ( ) 1f x dx 211 2 2 1 ( ) ( ) ( )xxP x X x F x F x f x dx ( ) 0f x 對(duì) 離 散 型 隨 機(jī) 變 量 ， 其 概 率 密 度 可 以 用 函 數(shù) 來 表 示 ： 1 )()()( k kkX xxxXPxf 21 離 散 型 隨 機(jī) 變 量 的 概 率 分 布 用 分 布 列 描 述0 1分 布二 項(xiàng) 分 布泊 松 分 布 qXPpXP )0(,)1( knkkn qpCkXP )( ekkXP k!)(連 續(xù) 型 隨 機(jī) 變 量 的 概 率 分 布 用 概 率 密 度 描 述均 勻 分 布 正 態(tài) 分 布指 數(shù) 分 布 其 它,0 ,1)( bxaabxf 2 22 )(21)( axexf 0,0 0,)( xxexf x 22 隨 機(jī) 變 量 函 數(shù) 的 分 布在 給 定 某 任 意 的 隨 機(jī) 變 量 X， 以 及 它 的 概 率 分 布 函 數(shù)FX(x)， 希 望 進(jìn) 一 步 求 出 給 定 的 隨 機(jī) 變 量 的 某 些 可 測(cè) 函 數(shù)（ 如 Y=g(X)） 的 概 率 分 布 函 數(shù) 。Y的 概 率 分 布 函 數(shù) 公 式 為 ),)(:()( XY xyxgxPyF 如 果 上 式 右 端 概 率 的 導(dǎo) 數(shù) 對(duì) 于 y處 處 存 在 ， 那 么 這 個(gè) 導(dǎo) 數(shù)就 給 出 了 隨 機(jī) 變 量 Y的 概 率 密 度 ),)(:()( XY xyxgxPdydyf 23 （ 一 ） g(x)是 可 導(dǎo) 的 單 調(diào) 函 數(shù) ， 其 反 函 數(shù) 為 x=g-1(y)。若 g(x)是 單 調(diào) 上 升 函 數(shù) ， 則 有 ： 1 1( ) ( ) ( : ( ) , ) ( : ( ) ( ( )Y X XF y PY y P x g x y x P x x g y F g y 111 ( )( )( ) ( ( ) ( )Y X X x g ydg y dxf y f g y f xdy dy 1 111 ( ) ( )( )( ) ( ( ) ( ) ( )Y X X Xx g y x g ydg y dx dxf y f g y f x f xdy dy dy 兩 邊 求 導(dǎo) 得 ：同 理 ， 若 g(x)是 單 調(diào) 下 降 函 數(shù) ， 則 有 ：綜 合 兩 種 情 況 ， 對(duì) 任 意 的 單 調(diào) 可 導(dǎo) 函 數(shù) g(x)， 有 ：1( )( ) ( ) ( )Y X x g y dxf y f x J J dy ： 雅 可 比 1 1( ) ( ) ( : ( ) ) 1 ( : ( ) 1 ( ( )Y XF y PY y P x g x y P x x g y F g y 24 （ 二 ） 若 g(x)是 不 是 單 調(diào) 函 數(shù) ， 其 反 函 數(shù) 有 多 個(gè) 值 ， 即 對(duì) 一個(gè) y， 有 多 個(gè) x與 之 對(duì) 應(yīng) 。若 一 個(gè) y值 有 兩 個(gè) x值 ， x1=h1(y)和 x2=h2(y)與 之 對(duì) 應(yīng) ， 可 證 ：1 21 2 1 1 2 2( ) ( ) + ( ) = ( ) + ( )Y X X X Xdx dxf y f x f x f x J f x Jdy dy同 理 ， 若 一 個(gè) y值 有 n個(gè) x值 ， x1=h1(y)， ， xn=hn(y)與 之 對(duì)應(yīng) ， 則 有 ： 1 1( ) = ( ) + + ( )Y X X n nf y f x J f x J 例 ： X為 0,2上 的 均 勻 分 布 ， 求 Y=cos(X)的 概 率 密 度 。 25 n維 隨 機(jī) 變 量 及 其 分 布 函 數(shù)設(shè) （ ， F， P） 是 概 率 空 間 ， X=X(e) （ X1(e),Xn(e)）是 定 義 在 上 的 n維 空 間 Rn中 取 值 的 向 量 函 數(shù) 。 如 果 對(duì) 于任 意 X=(X1,Xn) Rn， e:X1(e) x1,Xn(e) xn F，則 稱 X=X(e)為 n維 隨 機(jī) 變 量 。 稱 )(,)(:(),()( 111 nnn xeXxeXePxxFxF 為 X=(X1,X2,Xn)的 聯(lián) 合 分 布 函 數(shù) 26 邊 際 分 布若 二 維 聯(lián) 合 分 布 函 數(shù) 中 有 一 個(gè) 變 元 趨 于 無 窮 ， 則 其 極 限 函 數(shù) 便 是 一 維分 布 函 數(shù) ， 對(duì) 于 這 種 特 殊 性 質(zhì) ， 我 們 稱 其 為 邊 際 分 布 。對(duì) 于 任 意 兩 個(gè) 隨 機(jī) 變 量 X,Y， 其 聯(lián) 合 分 布 函 數(shù) 為 FXY(x,y)， 則),()( ),()(21 yFyF xFxF 分 別 稱 F1(x)和 F2(y)為 FXY(x,y)關(guān) 于 X和 關(guān) 于 Y的 邊 際 分 布 函 數(shù) 。 )(),(),(lim),()( 1 xXPYxXPyxFxFxF XYy y dudvvufyFyF ),(,)(2離 散 型 隨 機(jī) 變 量 （ X， Y） 邊 際 分 布 函 數(shù) 計(jì) 算 如 下連 續(xù) 型 隨 機(jī) 變 量 （ X， Y） 邊 際 分 布 函 數(shù) 計(jì) 算 如 下 27 相 互 獨(dú) 立 的 隨 機(jī) 變 量設(shè) X， Y是 兩 個(gè) 隨 機(jī) 變 量 ， 若 對(duì) 任 意 實(shí) 數(shù) x， y有 )()()()(),( yYPxXPyYxXPyYxXP 則 稱 X， Y為 相 互 獨(dú) 立 的 隨 機(jī) 變 量 。若 X， Y為 相 互 獨(dú) 立 隨 機(jī) 變 量 ， 則 有 )()(),( )()(),( yfxfyxf yFxFyxF YXXY YXXY 聯(lián) 合 密 度 邊 際 密 度邊 際 密 度聯(lián) 合 密 度 28 條 件 分 布 )( )()|( BP BAPBAP )( )()|()|(| BP BxXPBxXPBxF BX )( ),()|( | yf duyufyYxF Yx XYYX 條 件 概 率 條 件 分 布 函 數(shù)兩 邊 對(duì) x微 分 )( ),()|(| yf yxfyxf YXYYX x YXYX duyufyYxF )|()|( | 29 全 概 率 公 式 （ 續(xù) ）設(shè) A1, A2, An是 樣 本 空 間 的 一 個(gè) 劃 分 ， 事 件 B=Xx， 根 據(jù) 全 概 率公 式 ， 有 ： 1( ) ( | ) ( )n k kkP X x P X x A P A 即 ： 1( ) ( | ) ( )n k kkF x F X x A P A 兩 邊 求 導(dǎo) 得 ： 1( ) ( | ) ( )n k kkf x f X x A P A 這 兩 個(gè) 公 式 稱 為 分 布 函 數(shù) 和 概 率 密 度 的 全 概 率 公 式 。 30 隨 機(jī) 變 量 的 數(shù) 字 特 征v統(tǒng) 計(jì) 平 均 與 隨 機(jī) 變 量 的 數(shù) 學(xué) 期 望v隨 機(jī) 變 量 函 數(shù) 的 期 望 值v方 差v協(xié) 方 差v相 關(guān) 系 數(shù)v獨(dú) 立 與 不 相 關(guān) 31 統(tǒng) 計(jì) 平 均 與 數(shù) 學(xué) 期 望設(shè) 離 散 隨 機(jī) 變 量 X， 它 可 能 取 4個(gè) 值 x1， x2， x3， x4， 做 試 驗(yàn) n次 ， 計(jì) 算 X的算 術(shù) 平 均 可 得 ： 41 4144332211 1)(1 k k kkkk nnxnxnnxnxnxnxnX P(X=xk) 1 )()( k kk xXPxXEX對(duì) 于 離 散 型 隨 機(jī) 變 量 可 以 用 函 數(shù) 來 表 示 其 概 率 密 度 1 )()()( k kkX xxxXPxf 隨 機(jī) 變 量 數(shù) 學(xué) 期 望 定 義 dxxxfXE X )()( 32 隨 機(jī) 變 量 函 數(shù) 的 期 望 值已 知 隨 機(jī) 變 量 X的 數(shù) 學(xué) 期 望 值 ， 求 隨 機(jī) 變 量 函 數(shù) Y=g(X)的 數(shù) 學(xué) 期 望 ， dxxfxgdyyyfXgEYE XY )()()()()(對(duì) 于 多 維 隨 機(jī) 變 量 nXXX21X )( XY g( ) ( ) ( )XE g f d Y X X X 33 設(shè) X1,X2, ,Xn為 隨 機(jī) 變 量 ， 求 隨 機(jī) 變 量 函 數(shù) Y=a1X1+a2X2+anXn的 數(shù) 學(xué)期 望 。 N維 隨 機(jī) 變 量 的 數(shù) 學(xué) 期 望 )()()( )()()( )()( 2211 2211 2211 nn nnnn XEaXEaXEa XaEXaEXaE XaXaXaEYE 34 已 知 隨 機(jī) 變 量 X1和 X2， 求 隨 機(jī) 變 量 函 數(shù) Y aX1+bX2的 數(shù) 學(xué) 期 望)()( ),(),( ),()()( 21 2121221211 212121 2121 21XbEXaE dxdxxxfxbdxdxxxfxa dxdxxxfbxaxYE XXXX XX 加 權(quán) 和 的 期 望 等 于 加 權(quán) 期 望 的 和求 數(shù) 學(xué) 期 望 是 線 性 運(yùn) 算數(shù) 學(xué) 期 望 的 線 性 運(yùn) 算 不 受 獨(dú) 立 條 件 限 制 35 已 知 隨 機(jī) 變 量 X1和 X2， 求 隨 機(jī) 變 量 函 數(shù) Y g1(X1)g2(X2)的 數(shù) 學(xué) 期 望 21212211 ),()()( 21 dxdxxxfxgxgYE xx假 設(shè) 兩 個(gè) 隨 機(jī) 變 量 X1和 X2相 互 獨(dú) 立 ， 則 有 )()(),( 2121 1121 xfxfxxf xxxx 1 21 21 1 2 2 1 2 1 21 1 1 1 2 2 2 21 1 2 2 ( ) ( ) ( ) ( )( ) ( ) ( ) ( ) ( ) ( ) x xx xE Y g x g x f x f x dxdxg x f x dx g x f x dxE g X E g X 36 K階 原 點(diǎn) 矩 （ moments） ， k階 中 心 矩隨 機(jī) 變 量 X， 若 E|X|k， 稱 EXk為 k階 原 點(diǎn) 矩 。 ni Xkikik dxxfxxXPxXE 1 )()( 離 散 隨 機(jī) 變 量 連 續(xù) 隨 機(jī) 變 量又 若 EX存 在 ， 且 E|X-EX|k ， 稱 )( kXEXE 為 X的 k階 中 心 矩 。 ni Xkikik dxxfXExxXPXExXEXE 1 )()()()()( 離 散 隨 機(jī) 變 量 連 續(xù) 隨 機(jī) 變 量 37 一 階 原 點(diǎn) 矩 就 是 隨 機(jī) 變 量 的 數(shù) 學(xué) 期 望 ， )( xxdFEX數(shù) 學(xué) 期 望 大 致 的 描 述 了 概 率 分 布 的 中 心 。 說 明 ： E|X|， 即 是 要 求 xk的 出 現(xiàn) 順 序 對(duì) 隨 機(jī) 變 量 的 統(tǒng) 計(jì) 特性 沒 有 影 響 。注 意 ： 數(shù) 學(xué) 期 望 要 求 E|X|。例 ： 設(shè) 隨 機(jī) 變 量 X的 分 布 律 為 ：2 1( 1) , 1,2,2kkk kP x kk 可 以 求 得 ， E|X|=， 其 期 望 值 不 存 在 （ 如 果 沒 有 此條 件 ， EX=-ln2 ） 。 38 中 心 化 的 兩 個(gè) 隨 機(jī) 變 量 X-EX， Y-EY的 互 相 關(guān) 矩 稱 為 隨 機(jī) 變 量 X和 Y的協(xié) 方 差 ， ( , ) ( )( )( ) ( ) ( )XYB Cov X Y E X EX Y EYE XY E X E Y 協(xié) 方 差 是 描 述 隨 機(jī) 現(xiàn) 象 中 ， 隨 機(jī) 變 量 X和 Y概 率 相 關(guān) 的 程 度 。引 入 一 個(gè) 描 述 兩 個(gè) 隨 機(jī) 變 量 相 關(guān) 程 度 的 系 數(shù)DYDX YXCov defXY ),( XY稱 為 歸 一 化 的 協(xié) 方 差 系 數(shù) 或 相 關(guān) 系 數(shù) 。11 XY 39若 XY 0， 則 稱 隨 機(jī) 變 量 X和 Y不 相 關(guān) 。若 兩 個(gè) 隨 機(jī) 變 量 X和 Y的 聯(lián) 合 矩 滿 足 jiji YEXEYXE 則 稱 隨 機(jī) 變 量 X和 Y統(tǒng) 計(jì) 獨(dú) 立 40 統(tǒng) 計(jì) 獨(dú) 立 不 相 關(guān)0 )(),( YEXEXYE EYYEXXEYXCov統(tǒng) 計(jì) 獨(dú) 立 不 相 關(guān)設(shè) Z是 一 個(gè) 隨 機(jī) 變 量 ， 具 有 均 勻 概 率 密 度 其 它,0 20,21)( zzfZ令 X=sinZ， Y=cosZ， 求 隨 機(jī) 變 量 X和 Y是 否 相 關(guān) ， 是 否 獨(dú) 立 ？ 41 條 件 期 望v 示 性 函 數(shù) （ Indicator function）v 離 散 隨 機(jī) 變 量 的 條 件 期 望設(shè) （ X,Y） 為 兩 個(gè) 離 散 型 隨 機(jī) 變 量 ， 稱P(X=x i|Y=yj)= P(X=xi,Y=yj)/ P(Y=yj)為 給 定 Y=yj時(shí) ， X的 條 件 分 布 律 。 稱為 給 定 Y=yj時(shí) ， X的 條 件 數(shù) 學(xué) 期 望1 ( ) 0 ( ) ( ) ( / ) ( / )AA A Ae AI e Ae AE I I dP P A E I B P A B 稱 為 的 示 性 函 數(shù) ， 有( | ) ( | )j i i jiE X Y y xP X x Y y 42 條 件 期 望 （ 續(xù) ）v 定 義 ： 記稱 E(X|Y)為 X關(guān) 于 Y的 條 件 期 望 。 思 考 ： E(X|Y)是 一 個(gè) 隨 機(jī) 變 量 ， 其 概 率 分 布 如 何 求 ？v 連 續(xù) 隨 機(jī) 變 量 的 條 件 期 望設(shè) （ X,Y） 的 條 件 密 度 函 數(shù) 為其 條 件 期 望 為 ( )( | ) ( ) ( | )jY y jjE X Y I e E X Y y )( ),()|( | yf yxfyxf YXYYX |( | ) ( | )XYE X Y y xf x y dx 43 條 件 期 望 （ 續(xù) ）v 定 義 ： 兩 個(gè) 隨 機(jī) 變 量 X,Y， 如 果 P(X=Y)=1， 稱 X,Y幾 乎 處 處 相 等 ， 記為 X=Y a.s.（ almost surely)。v 條 件 期 望 的 基 本 性 質(zhì) ： 1 1, , (1 ) ( ), ( ) , 1 )( ) ( ) ( ) 1 ( ( / ) ( / ) ( ) 2 ( | ) ( | ) . . (1 ) 3 ( ( ) ( )| ) ( ) ( ( )i iYn ni i i i ii iX Y X i n g x h y E X E X i nE g X hY E g XE E X Y E X Y y dF y EXE X Y E X Y as i nE g X hY Y hY E g X 設(shè) 為 隨 機(jī) 變 量 ， 為 一 般 函 數(shù) ， 且 （ ， ， 則 有 ：） 其 中 為 常 數(shù) 。） | ) . . ( / ) . . 4 , ( / ) Y asE X X X asX Y E X Y EX （ 已 知 的 拿 出 ） 特 別 地 ） 如 果 相 互 獨(dú) 立 ， 則 （ 獨(dú) 立 的 拿 掉 ） 44 條 件 期 望 （ 續(xù) ）v 由 性 質(zhì) 1， 令 X=IA， 則 有 ：( ) ( / ) ( ) ( / ) ( )Y YP A P A Y y dF y P A Y y f y dy 此 公 式 也 稱 為 全 概 率 公 式 。v 設(shè) X與 Y為 相 互 獨(dú) 立 的 隨 機(jī) 變 量 ， 其 分 布 分 別 為 FX(x)和 FY(y)， 證 明Z=X+Y的 分 布 FZ(z) = FX(x)*FY(y)（ 卷 積 ） 。v N個(gè) 相 互 獨(dú) 立 的 隨 機(jī) 變 量 序 列 的 和 的 分 布 （ 或 概 率 密 度 ） ， 為 這 N個(gè)隨 機(jī) 變 量 的 分 布 （ 或 概 率 密 度 ） 的 N重 卷 積 。 45 生 成 函 數(shù)v 定 義 ： 設(shè) an為 數(shù) 字 序 列 ， 稱 該 序 列 的 Z-變 換 為 an的 生 成 函 數(shù) ， 記為 ： 1= , 0,1, ( ) 1 | |1n gna n a z zz 例 ： ， 則其 中 ， ， 收 斂 域 v 定 義 ： 設(shè) X為 離 散 隨 機(jī) 變 量 ， 令 an =PX=n ， 稱 PX(z)=ag(z)=E(zX)為 X的 生 成 函 數(shù) ， |z|1。0 ( ) ( )n g gm n mm a b a z b z （ 卷 積 ）v 卷 積 性 質(zhì) 0( )g nnna z a z 46 生 成 函 數(shù) 2(1) (1) (1) (1)34 , ( ) ( ( )( ) N kk=1EX P DX P P PX X , NX X Y= XH z G P zG z P 性 質(zhì) ：1） 非 負(fù) 整 數(shù) 值 隨 機(jī) 變 量 的 分 布 列 由 其 生 成 函 數(shù) 唯 一 確 定 ，2） 獨(dú) 立 隨 機(jī) 變 量 之 和 的 生 成 函 數(shù) 等 于 各 隨 機(jī) 變 量 生 成 函 數(shù) 之 積 ，） 若 ， 是 相 互 獨(dú) 立 且 同 分 布 的 非 負(fù) 整 數(shù) 值 隨 機(jī) 變 量 ， 是 與， 獨(dú) 立 的 非 負(fù) 整 數(shù) 值 隨 機(jī) 變 量 ， 則 的 生 成 函 數(shù) 其 中 和 ( )z N X分 別 是 ， 的 生 成 函 數(shù) 特 征 函 數(shù)( )( ) ( ) ( )1( ) ( )2 itx itxitx f xg t E e e f x dxXf x e g t dt 定 義 ： 設(shè) 隨 機(jī) 變 量 的 概 率 密 度 為 ， 稱 其 傅 氏 逆 變 換 為 的 特 征 函 數(shù) 。而 (0) 1 ( ) 1, ( ) ( ) 2 ( ) ( , )g g t g t g tg t 性 質(zhì) ： 1) ，） 在 上 一 致 連 續(xù)2 2 cos sinixx a ibx a b x a ib e x i x 復(fù) 數(shù) 運(yùn) 算 ，模 運(yùn) 算 共 軛 運(yùn) 算 歐 拉 公 式 ： 特 征 函 數(shù)( )1 2 1 2 1 23 ( )(0)4 ( )5 , , ,( ) ( ) ( ) ( )6 nk k kn nnX n EX X g t nk n g i EXg tX X X X X X Xg t g t g t g t 特 征 函 數(shù) 性 質(zhì) （ 續(xù) ） ：） 若 隨 機(jī) 變 量 的 階 距 存 在 ， 則 的 特 征 函 數(shù) 可 微 分 次 ， 且 當(dāng) 時(shí) ， 有） 是 非 負(fù) 定 函 數(shù)） 若 是 相 互 獨(dú) 立 的 隨 機(jī) 變 量 ， 則 的 特 征 函 數(shù) ） 隨 機(jī) 變 量 的 分 布 函 數(shù) 由 其 特 征 函 數(shù) 唯 一 確 定 49 拉 氏 變 換( )( ) ( )l sxf tf s e f t dts i 定 義 ： 設(shè) 為 定 義 在 0, )上 的 實(shí) 值 函 數(shù) ， 其 拉 氏 變 換 為 ： 0 ( ) ( ) ( ) ( ) 2 ( )( 0) ( ) 3 ( ) ( ) ( ) ( ) l ls ll lf t g t f s g sf t e f sf g t d f s g s 性 質(zhì) ： 1) 線 性 運(yùn) 算） 延 時(shí)） 卷 積 對(duì) 應(yīng) 于 乘 積0 1 4 ( ) ( ) lf d f ss ） 積 分 傅 里 葉 變 換 要 求 函 數(shù) 在 (- , )絕 對(duì) 可 積 ， 對(duì) 不 滿 足 這 一 性 質(zhì) 的 函 數(shù) ，可 以 用 拉 氏 變 換 ， 拉 氏 變 換 的 性 質(zhì) 和 傅 氏 變 換 類 似 。 50 隨 機(jī) 變 量 與 隨 機(jī) 過 程在 每 次 試 驗(yàn) 的 結(jié) 果 中 ， 以 一 定 的 概 率 取 某 個(gè) 事 先 未 知 ， 但 未 確 定 的 數(shù) 值 。在 實(shí) 際 應(yīng) 用 中 ， 我 們 經(jīng) 常 要 涉 及 到 在 試 驗(yàn) 過 程 中 隨 時(shí) 間 t而 改 變 的 隨 機(jī) 變 量 。例 如 ， 接 收 機(jī) 的 噪 聲 電 壓 ，此 外 ， 還 包 括 生 物 群 體 的 增 長(zhǎng) 問 題 ； 電 話 交 換 機(jī) 在 一 定 時(shí) 間 段 內(nèi) 的 呼 叫 次 數(shù) ；一 定 時(shí) 期 內(nèi) 的 天 氣 預(yù) 報(bào) ；固 定 點(diǎn) 處 海 平 面 的 垂 直 振 動(dòng) ； 等 等 51 在 第 Wi次 試 驗(yàn) 中 測(cè) 量 獲 得 的 噪 聲 電 壓 Xt是 一個(gè) 樣 本 函 數(shù) 52 )(1 tXw )(2 tXw )(3 tXw )(tXkw )(tX nw 1t 2t 53 定 義設(shè) （ ,F,P） 是 概 率 空 間 ， T是 給 定 的 參 數(shù) 集 ， 若 對(duì) 每 個(gè) t T，由 一 個(gè) 隨 機(jī) 變 量 X(t,e)與 之 對(duì) 應(yīng) ， 則 稱 隨 機(jī) 變 量 族 X(t,e),t T是（ ,F,P） 上 的 隨 機(jī) 過 程 。隨 機(jī) 過 程 X(t,e),t T可 以 認(rèn) 為 是 一 個(gè) 二 元 函 數(shù) 。對(duì) 固 定 的 t， X(t,e)是 （ ,F,P） 上 的 隨 機(jī) 變 量 ；對(duì) 固 定 的 e， X(t,e)是 隨 機(jī) 過 程 X(t,e),t T的 一 個(gè) 樣 本 函 數(shù) 。 54 有 限 個(gè) 隨 機(jī) 變 量 統(tǒng) 計(jì) 規(guī) 律聯(lián) 合 分 布 函 數(shù)隨 機(jī) 過 程 統(tǒng) 計(jì) 規(guī) 律有 限 維 分 布 函 數(shù) 族設(shè) XT=X(t),t T是 隨 機(jī) 過 程 ， 對(duì) 任 意 n1和 t1,t2, ,tn T， 隨 機(jī) 向 量(X(t1),X(t2), ,X(tn)的 聯(lián) 合 分 布 函 數(shù) 為 )(,)(),( 1121,1 nnntt xtXxtXPxxxF n 這 些 分 布 函 數(shù) 的 全 體 1,),( 2121,1 nTtttxxxFF nntt n 稱 為 XT=Xt,t T的 有 限 維 分 布 函 數(shù) 。 55 設(shè) XT=X(t),t T是 隨 機(jī) 過 程 ， 如 果 對(duì) 任 意 t T， EX(t)存 在 ， 則 稱 函 數(shù)TttEXtm defx ),()(為 XT的 均 值 函 數(shù) ， 反 映 隨 機(jī) 過 程 在 時(shí) 刻 t的 平 均 值 。若 對(duì) 任 意 t T， E(X(t)2存 在 ， 則 稱 XT為 二 階 矩 過 程 ， 而 稱 TtstmtXsmsXEtsB XXdefX ,),()()()(),(為 X T的 協(xié) 方 差 函 數(shù) ， 反 映 隨 機(jī) 過 程 在 時(shí) 刻 t和 s時(shí) 的 線 性 相 關(guān) 程 度 。 TttmtXEttBtD XXX ,)()(),()( 2為 XT的 方 差 函 數(shù) ， 反 映 隨 機(jī) 過 程 在 時(shí) 刻 t對(duì) 均 值 的 偏 離 程 度 。TtstXsXEtsR X ,),()(),(為 XT的 相 關(guān) 函 數(shù) ， 反 映 隨 機(jī) 過 程 在 時(shí) 刻 t和 s時(shí) 的 線 性 相 關(guān) 程 度 。 數(shù) 字 特 征 56 對(duì) 于 二 階 矩 隨 機(jī) 過 程 ， 其 協(xié) 方 差 函 數(shù) 和 相 關(guān) 函 數(shù) 一 定 存 在 ， 且 有 如 下關(guān) 系 ： )()(),(),( tmsmtsRtsB XXXX 例 題設(shè) 隨 機(jī) 過 程 0),sin()cos()( ttZtYtX 其 中 ， Y和 Z是 相 互 獨(dú) 立 的 隨 機(jī) 變 量 ， 且 EY=EZ 0， DY=DZ=2，求 X(t)的 均 值 函 數(shù) 和 協(xié) 方 差 函 數(shù) 。 1 2 2 32 ,( ) 1,2,.,( ) ( ; ): 1;( ) (1,2; , );nX n nnX n F n x nX n F x x 例 設(shè) 盒 子 中 有 個(gè) 紅 球 ， 個(gè) 白 球 ， 每 次 從 盒 子 中 取 出 一 球 后 放 回 ， 定 義 隨 機(jī) 過 程 第 n次 取 出 的 是 紅 球 第 n次 取 出 的 是 白 球求 ： (1) 的 一 維 分 布 函 數(shù) 族 (1) 的 二 維 分 布 函 數(shù) 族 57 兩 個(gè) 隨 機(jī) 過 程 之 間 的 關(guān) 系 互 協(xié) 方 差 函 數(shù)互 相 關(guān) 函 數(shù)定 義 ：設(shè) X(t),t T， Y(t), t T是 兩 個(gè) 二 階 矩 過 程 ， 則 稱 TtstmtYsmsXEtsB YXXY ,),()()()(),(為 X(t),t T與 Y(t), t T的 互 協(xié) 方 差 函 數(shù) ， 稱)()(),( tYsXEtsR XY 為 X(t),t T與 Y(t), t T的 互 相 關(guān) 函 數(shù) 。 58 兩 個(gè) 隨 機(jī) 過 程 X(t),t T與 Y(t), t T的 互 不 相 關(guān) 定 義0),( tsBXY互 協(xié) 方 差 函 數(shù) 與 互 相 關(guān) 函 數(shù) 之 間 的 關(guān) 系 )()(),(),( tmsmtsRtsB YXXYXY 例 題 2.8：設(shè) X(t)為 信 號(hào) 過 程 ， Y(t)為 噪 聲 過 程 ， 令 W(t)=X(t)+Y(t)， 求 W(t)的 均 值函 數(shù) 和 相 關(guān) 函 數(shù) 。例 題 2.7設(shè) 有 兩 個(gè) 隨 機(jī) 過 程 X(t)=g1(t+)和 Y(t)=g2(t+)， 其 中 g1(t)和 g2(t)都 是 周 期為 L的 周 期 方 波 ， 是 在 (0,L)上 服 從 均 勻 分 布 的 隨 機(jī) 變 量 ， 求 互 相 關(guān) 函數(shù) RXY(t,t+ )的 表 達(dá) 式 。 59 復(fù) 隨 機(jī) 過 程定 義 ：設(shè) Xt, t T， Yt, t T是 取 實(shí) 數(shù) 值 的 兩 個(gè) 隨 機(jī) 過 程 ， 若 對(duì) 任 意 t Tttt iYXZ 其 中 ， 則 稱 Zt, t T為 復(fù) 隨 機(jī) 過 程 。1i復(fù) 隨 機(jī) 過 程 的 數(shù) 字 特 征 函 數(shù)均 值 函 數(shù)方 差 函 數(shù)相 關(guān) 函 數(shù) 協(xié) 方 差 函 數(shù) tttZ iEYEXZEtm )()( 2( ) | ( )| ( ( )( ( )Z t Z t Z t ZD t E Z m t E Z m t Z m t ),( tsZ ZZEtsR ( , ) ( ( )( ( )Z s Z t ZB s t E Z m s Z m t ( , ) ( , ) ( ) ( )Z Z Z ZB s t R s t m s m t 相 互 之 間 的 關(guān) 系 60 復(fù) 隨 機(jī) 過 程 的 性 質(zhì)復(fù) 隨 機(jī) 過 程 XT,t T的 協(xié) 方 差 函 數(shù) B(s,t)具 有 性 質(zhì) ：（ 1） 對(duì) 稱 性 （ 埃 米 特 性 ） ：（ 2） 非 負(fù) 定 性 ， 對(duì) 任 意 ti T及 復(fù) 數(shù) ai， i=1,2, ,n， n1， 有( , ) (, )B st Bt s nji jiji aattB1, 0),(說 明 ：1. 如 果 函 數(shù) f(s,t)具 有 非 負(fù) 定 性 ， 那 么 它 必 具 有 埃 米 特 性 。2. 若 f(s,t)為 一 非 負(fù) 定 函 數(shù) ， 則 必 存 在 一 個(gè) 二 階 矩 過 程 （ 并 可 要求 它 為 正 態(tài) 過 程 ） 以 給 定 的 f(s,t)為 協(xié) 方 差 函 數(shù) 。 61 兩 個(gè) 復(fù) 隨 機(jī) 過 程 Xt， Yt的 互 相 關(guān) 函 數(shù) 定 義 為)(),( tsXY YXEtsR 互 協(xié) 方 差 函 數(shù) 定 義 為( , ) ( ) ( )XY s X t YB s t E X m s Y m t 例 題 2.9設(shè) 隨 機(jī) 過 程 ， 其 中 X 1,X2, ,Xn是 相 互 獨(dú) 立 的 ， 且服 從 N(0,k2)的 隨 機(jī) 變 量 ， w1,w2, ,wn是 常 數(shù) ， 求 Zt,t0的 均 值 函 數(shù)m(t)和 相 關(guān) 函 數(shù) R(s,t)。1 , 0kn i tt kkZ Xe t 62 隨 機(jī) 過 程 的 幾 種 基 本 類 型二 階 矩 過 程正 交 增 量 過 程獨(dú) 立 增 量 過 程馬 爾 可 夫 過 程正 態(tài) 過 程維 納 過 程平 穩(wěn) 過 程鞅 63 二 階 矩 過 程 2 ( ), ( ) ( )X X t t Tt T E X t X t 定 義 ： 設(shè) 已 給 定 隨 機(jī) 過 程 ， 如 果 對(duì) 于 一 切 ， 均 有 ， 則 稱 為 二 階 矩 過 程 。 2 2 2( ) ( ) 2 ( ) ( ) ( ) ( ) xm t EX tEX s X t EX s EX t 性 質(zhì) ： 1 二 階 矩 過 程 必 存 在 均 值 （ 常 設(shè) 為 0） 。 由 Schwartz不 等 式 知 其 相 關(guān) 函 數(shù) 和 協(xié) 方 差 都 存 在 。三 個(gè) 分 支 ： 正 態(tài) （ 高 斯 ） 過 程 ， 寬 平 穩(wěn) 過 程 和 正 交 增 量 過 程 。 64 定 義 ：設(shè) X(t),t T是 零 均 值 的 二 階 矩 過 程 ， 若 對(duì) 任 意 的 t1t2t3t4 T， 有2 1 4 3( ( ) ( )( ( ) ( ) 0E X t X t X t X t 則 稱 X(t)是 正 交 增 量 過 程 。例 題設(shè) X(t),t T是 正 交 增 量 過 程 ， T=a,b為 有 限 區(qū) 間 ， 且 規(guī) 定 X(a)=0，當(dāng) astb時(shí) ， 求 其 協(xié) 方 差 函 數(shù) 。正 交 增 量 過 程 65 定 義 ：設(shè) X(t),t T是 隨 機(jī) 過 程 ， 若 對(duì) 任 意 的 正 整 數(shù) n和 t1t2tn T， 隨 機(jī)變 量 X(t2)-X(t1),X(t3)-X(t2), ,X(tn)-X(tn-1)是 互 相 獨(dú) 立 的 ， 則 稱 X(t),t T是 獨(dú) 立 增 量 過 程 。特 點(diǎn) ：獨(dú) 立 增 量 過 程 在 任 一 個(gè) 時(shí) 間 間 隔 上 過 程 狀 態(tài) 的 改 變 ， 不 影 響 任 一 個(gè) 與它 不 相 重 疊 的 時(shí) 間 間 隔 上 狀 態(tài) 的 改 變 。獨(dú) 立 增 量 過 程 66 正 交 增 量 過 程獨(dú) 立 增 量 過 程 定 義 依 據(jù) ：不 相 重 疊 的 時(shí) 間 區(qū) 間 上 增 量 的統(tǒng) 計(jì) 相 依 性 互 不 相 關(guān)相 互 獨(dú) 立正 交 增 量 過 程 獨(dú) 立 增 量 過 程正 交 增 量 過 程 獨(dú) 立 增 量 過 程二 階 矩 存 在 ， 均 值 函 數(shù) 恒 為 零 67 定 義 ：設(shè) X(t),t T是 獨(dú) 立 增 量 過 程 ， 若 對(duì) 任 意 st， 隨 機(jī) 變 量 X(t)-X(s)的 分布 僅 依 賴 于 t-s， 則 稱 X(t),t T是 平 穩(wěn) 獨(dú) 立 增 量 過 程 。例 題 ： 考 慮 一 種 設(shè) 備 一 直 使 用 到 損 壞 為 止 ， 然 后 換 上 同 類 型 的 設(shè) 備 。假 設(shè) 設(shè) 備 的 使 用 壽 命 是 隨 機(jī) 變 量 ， 令 N(t)為 在 時(shí) 間 段 0,t內(nèi) 更 換 設(shè) 備的 件 數(shù) ， 通 常 可 以 認(rèn) 為 N(t)， t0是 平 穩(wěn) 獨(dú) 立 增 量 過 程 。平 穩(wěn) （ stationary） 獨(dú) 立 增 量 過 程 68 定 義 ：設(shè) X(t),t T是 隨 機(jī) 過 程 ， 若 對(duì) 任 意 正 整 數(shù) n及 t1,t2, ,tn T，(X(t1),X(t2), ,X(tn)是 n維 正 態(tài) 隨 機(jī) 變 量 ， 則 稱 X(t),t T是 正 態(tài) 過 程 或高 斯 過 程 。特 點(diǎn) ：1. 正 態(tài) 過 程 只 要 知 道 其 均 值 函 數(shù) 和 協(xié) 方 差 函 數(shù) ， 即 可 確 定 其 有 限 維分 布 。2. 獨(dú) 立 和 不 相 關(guān) 是 等 價(jià) 的 。正 態(tài) 過 程 二 維 正 態(tài) 隨 機(jī) 變 量 ：討 論 隨 機(jī) 變 量 X1,X2的 聯(lián) 合 概 率 密 度 函 數(shù) 2 21 1 1 1 2 2 2 21 2 22 1 1 2 21 2 ( )( )1 1( , ) exp ( ) 2 ( ) 2(1 )2 1 x a x a x a x af x x 稱 X1,X2為 二 維 正 態(tài) 隨 機(jī) 變 量 。 其 中 為 X1和 X2的 相 關(guān) 函 數(shù) 。對(duì) 于 上 述 二 維 隨 機(jī) 變 量 ， 其 邊 際 密 度 可 表 示 為 21 1211 ( )211( ) 2 x aXf x e 22 2222 ( )221( ) 2 x aXf x e 邊 際 分 布 為 一 維 正 態(tài) 分 布 ，),( 2111 aNX ),( 2222 aNX 二 維 正 態(tài) 分 布 的 協(xié) 方 差 矩 陣 ： 2221 2121 C二 維 正 態(tài) 分 布 的 協(xié) 方 差 矩 陣 的 性 質(zhì) ： )1( 1)1( )1()1( 1 222212 2122211 C二 維 正 態(tài) 隨 機(jī) 變 量 的 聯(lián) 合 密 度 的 矩 陣 表 示 )()(21exp|2 1),( 121 21 axCaxCxxf 其 中 ),(),( 2121 aaaxxx 1、 實(shí) 對(duì) 稱 ；2、 正 定 陣3、 其 逆 矩 陣 可 表 示 為 n維 正 態(tài) 隨 機(jī) 變 量 的 定 義 ：若 n維 隨 機(jī) 變 量 的 聯(lián) 合 密 度 函 數(shù) 為 )()(21exp|)2( 1)( 1212 axCaxCxf nX 則 稱 為 n維 正 態(tài) 隨 機(jī) 變 量 ， 其 中 C為 n維 實(shí) 對(duì) 稱 正 定 陣 。 記 為X ),( CaNX 協(xié) 方 差 矩 陣11 12 121 22 21 2 nnn n nnC C CC C CC C C C ( )( )ik i i k kC E x Ex x Ex i k ， ： 協(xié) 方 差 2( ) ii i iC E x Ex ： 方 差0 Cik i kC i k x x n ， ， 即 ， 不 相 關(guān) 時(shí) ， 此 時(shí) 矩 陣 為 對(duì) 角 陣 ，聯(lián) 合 密 度 函 數(shù) 為 各 邊 緣 密 度 函 數(shù) 乘 積 ， 即 維 隨 機(jī) 變 量相 互 獨(dú) 立 協(xié) 方 差 矩 陣 的 性 質(zhì)1、 實(shí) 對(duì) 稱 ；2、 正 定 陣 ： 1 1 = , , , n iEx i證 ： 令 （ ） 2 1 11 ( ) ( , , ) 0n i i i x n nid x f x x dx dx 2 1 1 1( ) ( ) ( )n n ni i i i i i j j ji i jd E x E x x 1 1 ( )( )n n i j i i j ji j E x x 0TC C 非 負(fù) 定 當(dāng) C正 定 時(shí) ， 可 顯 式 得 到 ；當(dāng) C非 負(fù) 定 時(shí) ， |C|可 以 等 于 0， C-1不 存 在 ， 稱 為 退 化 的 正 態(tài) 分 布 。 不 能 顯 式 得 到 ， 但 特 征 函 數(shù) 存 在 。1( , , )x nf x x1( , , )x nf x x n維 隨 機(jī) 變 量 的 性 質(zhì)1. 若 ， 則 存 在 n階 正 交 矩 陣 A， 使 得 向 量 中 的 分量 Y1,Y2, ,Yn是 獨(dú) 立 的 隨 機(jī) 變 量 ， 且 Yi為 一 維 正 態(tài) 分 布 N(0,di)。),( CaNX ( )Y X a A 2、 的 特 征 函 數(shù) 為),( CaNX tCt21tie)t( Xg3、 n元 正 態(tài) 分 布 中 任 意 m維 向 量 亦 為 正 態(tài) 分 布 4、 n元 正 態(tài) 隨 機(jī) 變 量 的 線 性 變 換 也 為 正 態(tài) 隨 機(jī) 變 量 。 即 若 為 正 態(tài) ， 則 ， 亦 為 正 態(tài) 隨 機(jī) 變 量 。X bXAY 5、 若 為 n維 正 態(tài) 隨 機(jī) 變 量 ， 那 么 X1,X2, ,Xn相 互 獨(dú) 立 的 充 要 條 件是 兩 兩 互 不 相 關(guān) 。 X 例 題 ：設(shè) 平 穩(wěn) 正 態(tài) 過 程 X(t)均 值 為 0， 相 關(guān) 函 數(shù) RX( )=(e-2| |)/4， 求 對(duì) 給 定 時(shí)刻 t1， X(t1)的 值 在 0.5和 1之 間 的 概 率 。例 題 ：X(t)=Acosw 0t+Bsinw0t， 其 中 A與 B為 兩 個(gè) 獨(dú) 立 的 正 態(tài) 隨 機(jī) 變 量 ， 且EA=EB=0， EA2=EB2=2， w0為 常 數(shù) ， 求 X(t)的 一 維 ， 二 維 密 度 函 數(shù) 。 78 定 義 ：設(shè) X(t),t T是 隨 機(jī) 過 程 ， 如 果 對(duì) 任 意 常 數(shù) 和 正 整 數(shù) n， t1,t2, ,tn T，t1+,t2+, ,tn+ T， (X(t1),X(t2), ,X(tn)與 (X(t1+),X(t2+), ,X(tn+)有相 同 的 聯(lián) 合 分 布 ， 則 稱 X(t),t T為 嚴(yán) 平 穩(wěn) 過 程 或 俠 義 平 穩(wěn) 過 程 。定 義 ：設(shè) X(t),t T是 隨 機(jī) 過 程 ， 如 果1. X(t),t T是 二 階 矩 過 程 ；2. 對(duì) 任 意 t T， m X(t)=EX(t)=常 數(shù) ；3. 對(duì) 任 意 s,t T， RX(s,t)=EX(s)X(t)=RX(s-t)則 稱 X(t),t T為 廣 義 平穩(wěn) 過 程 ， 簡(jiǎn) 稱 為 平 穩(wěn) 過 程 。 平 穩(wěn) 過 程 廣 義 平 穩(wěn) 過 程 嚴(yán) 平 穩(wěn) 過 程廣 義 平 穩(wěn) 過 程 嚴(yán) 平 穩(wěn) 過 程二 階 矩 存 在對(duì) 于 正 態(tài) 過 程 ， 廣 義 平 穩(wěn) 過 程 和 嚴(yán) 平 穩(wěn) 過 程 是 等 價(jià) 的 。例 題設(shè) 隨 機(jī) 過 程 X(t)=acos(wt+ )， a和 w都 是 常 數(shù) ， 是 在 (0,2 )上 均 勻分 布 的 隨 機(jī) 變 量 ， Y(t)=tX(t)， 試 分 別 討 論 X(t)和 Y(t)的 平 穩(wěn) 性 。 80 作 業(yè) 2.2 2.3 2.14