平穩(wěn)時(shí)間序列分析授課課件
本章結(jié)構(gòu)方法性工具ARMA模型平穩(wěn)序列建模序列預(yù)測(cè)
2.1方法性工具差分運(yùn)算延遲算子線性差分方程
差分運(yùn)算一階差分階差分步差分
延遲算子延遲算子類似于一個(gè)時(shí)間指針,當(dāng)前序列值乘以一個(gè)延遲算子,就相當(dāng)于把當(dāng)前序列值的時(shí)間向過去撥了一個(gè)時(shí)刻記B為延遲算子,有
延遲算子的性質(zhì),其中
2.2ARMA模型的性質(zhì)AR模型(AutoRegressionModel)MA模型(MovingAverageModel)ARMA模型(AutoRegressionMovingAveragemodel)
AR模型的定義具有如下結(jié)構(gòu)的模型稱為階自回歸模型,簡(jiǎn)記為特別當(dāng)時(shí),稱為中心化模型
AR(P)序列中心化變換稱為的中心化序列,令
自回歸系數(shù)多項(xiàng)式引進(jìn)延遲算子,中心化模型又可以簡(jiǎn)記為自回歸系數(shù)多項(xiàng)式
AR模型平穩(wěn)性判別判別原因AR模型是常用的平穩(wěn)序列的擬合模型之一,但并非所有的AR模型都是平穩(wěn)的判別方法單位根判別法平穩(wěn)域判別法
平穩(wěn)AR模型的統(tǒng)計(jì)性質(zhì)均值方差協(xié)方差自相關(guān)系數(shù)偏自相關(guān)系數(shù)
均值如果AR(p)模型滿足平穩(wěn)性條件,則有根據(jù)平穩(wěn)序列均值為常數(shù),且為白噪聲序列,有推導(dǎo)出
AR模型自相關(guān)系數(shù)的性質(zhì)拖尾性呈復(fù)指數(shù)衰減
例2.5:考察如下AR模型的自相關(guān)圖
例2.5—自相關(guān)系數(shù)按復(fù)指數(shù)單調(diào)收斂到零
例2.5:—
例2.5:—自相關(guān)系數(shù)呈現(xiàn)出“偽周期”性
例2.5:—自相關(guān)系數(shù)不規(guī)則衰減
偏自相關(guān)系數(shù)定義對(duì)于平穩(wěn)AR(p)序列,所謂滯后k偏自相關(guān)系數(shù)就是指在給定中間k-1個(gè)隨機(jī)變量的條件下,或者說,在剔除了中間k-1個(gè)隨機(jī)變量的干擾之后,對(duì)影響的相關(guān)度量。用數(shù)學(xué)語言描述就是
偏自相關(guān)系數(shù)的計(jì)算滯后k偏自相關(guān)系數(shù)實(shí)際上就等于k階自回歸模型第個(gè)k回歸系數(shù)的值。
偏自相關(guān)系數(shù)的截尾性AR(p)模型偏自相關(guān)系數(shù)P階截尾
例2.5續(xù):考察如下AR模型的偏自相關(guān)圖
例2.5—理論偏自相關(guān)系數(shù)樣本偏自相關(guān)圖
例2.5:—理論偏自相關(guān)系數(shù)樣本偏自相關(guān)圖
例2.5:—理論偏自相關(guān)系數(shù)樣本偏自相關(guān)圖
例2.5:—理論偏自相關(guān)系數(shù)樣本偏自相關(guān)系數(shù)圖
MA模型的定義具有如下結(jié)構(gòu)的模型稱為階自回歸模型,簡(jiǎn)記為特別當(dāng)時(shí),稱為中心化模型
移動(dòng)平均系數(shù)多項(xiàng)式引進(jìn)延遲算子,中心化模型又可以簡(jiǎn)記為階移動(dòng)平均系數(shù)多項(xiàng)式
MA模型的統(tǒng)計(jì)性質(zhì)常數(shù)均值常數(shù)方差
MA模型的統(tǒng)計(jì)性質(zhì)偏自相關(guān)系數(shù)拖尾
例2.6:考察如下MA模型的相關(guān)性質(zhì)
MA模型的自相關(guān)系數(shù)截尾
MA模型的自相關(guān)系數(shù)截尾
MA模型的偏自相關(guān)系數(shù)拖尾
MA模型的偏自相關(guān)系數(shù)拖尾
MA模型的可逆性MA模型自相關(guān)系數(shù)的不唯一性例2.6中不同的MA模型具有完全相同的自相關(guān)系數(shù)和偏自相關(guān)系數(shù)
可逆的定義可逆MA模型定義若一個(gè)MA模型能夠表示稱為收斂的AR模型形式,那么該MA模型稱為可逆MA模型可逆概念的重要性一個(gè)自相關(guān)系數(shù)列唯一對(duì)應(yīng)一個(gè)可逆MA模型。
可逆MA(1)模型
MA模型的可逆條件MA(q)模型的可逆條件是:MA(q)模型的特征根都在單位圓內(nèi)等價(jià)條件是移動(dòng)平滑系數(shù)多項(xiàng)式的根都在單位圓外
ARMA模型的定義具有如下結(jié)構(gòu)的模型稱為自回歸移動(dòng)平均模型,簡(jiǎn)記為特別當(dāng)時(shí),稱為中心化模型
系數(shù)多項(xiàng)式引進(jìn)延遲算子,中心化模型又可以簡(jiǎn)記為階自回歸系數(shù)多項(xiàng)式階移動(dòng)平均系數(shù)多項(xiàng)式
平穩(wěn)條件與可逆條件ARMA(p,q)模型的平穩(wěn)條件P階自回歸系數(shù)多項(xiàng)式的根都在單位圓外即ARMA(p,q)模型的平穩(wěn)性完全由其自回歸部分的平穩(wěn)性決定ARMA(p,q)模型的可逆條件q階移動(dòng)平均系數(shù)多項(xiàng)式的根都在單位圓外即ARMA(p,q)模型的可逆性完全由其移動(dòng)平滑部分的可逆性決定
ARMA(p,q)模型的統(tǒng)計(jì)性質(zhì)均值協(xié)方差自相關(guān)系數(shù)
ARMA模型的相關(guān)性自相關(guān)系數(shù)拖尾偏自相關(guān)系數(shù)拖尾
例2.7:考察ARMA模型的相關(guān)性擬合模型ARMA(1,1):并直觀地考察該模型自相關(guān)系數(shù)和偏自相關(guān)系數(shù)的性質(zhì)。
自相關(guān)系數(shù)和偏自相關(guān)系數(shù)拖尾性樣本自相關(guān)圖樣本偏自相關(guān)圖
ARMA模型相關(guān)性特征模型自相關(guān)系數(shù)偏自相關(guān)系數(shù)AR(P)拖尾P階截尾MA(q)q階截尾拖尾ARMA(p,q)拖尾拖尾
2.3平穩(wěn)序列建模建模步驟模型識(shí)別參數(shù)估計(jì)模型檢驗(yàn)?zāi)P蛢?yōu)化序列預(yù)測(cè)
建模步驟平穩(wěn)非白噪聲序列計(jì)算樣本相關(guān)系數(shù)模型識(shí)別參數(shù)估計(jì)模型檢驗(yàn)?zāi)P蛢?yōu)化序列預(yù)測(cè)YN
計(jì)算樣本相關(guān)系數(shù)樣本自相關(guān)系數(shù)樣本偏自相關(guān)系數(shù)
模型識(shí)別基本原則選擇模型拖尾P階截尾AR(P)q階截尾拖尾MA(q)拖尾拖尾ARMA(p,q)
模型定階的困難因?yàn)橛捎跇颖镜碾S機(jī)性,樣本的相關(guān)系數(shù)不會(huì)呈現(xiàn)出理論截尾的完美情況,本應(yīng)截尾的或仍會(huì)呈現(xiàn)出小值振蕩的情況由于平穩(wěn)時(shí)間序列通常都具有短期相關(guān)性,隨著延遲階數(shù),與都會(huì)衰減至零值附近作小值波動(dòng)?當(dāng)或在延遲若干階之后衰減為小值波動(dòng)時(shí),什么情況下該看作為相關(guān)系數(shù)截尾,什么情況下該看作為相關(guān)系數(shù)在延遲若干階之后正常衰減到零值附近作拖尾波動(dòng)呢?
樣本相關(guān)系數(shù)的近似分布BarlettQuenouille
模型定階經(jīng)驗(yàn)方法95%的置信區(qū)間模型定階的經(jīng)驗(yàn)方法如果樣本(偏)自相關(guān)系數(shù)在最初的d階明顯大于兩倍標(biāo)準(zhǔn)差范圍,而后幾乎95%的自相關(guān)系數(shù)都落在2倍標(biāo)準(zhǔn)差的范圍以內(nèi),而且通常由非零自相關(guān)系數(shù)衰減為小值波動(dòng)的過程非常突然。這時(shí),通常視為(偏)自相關(guān)系數(shù)截尾。截尾階數(shù)為d。
例2.5續(xù)選擇合適的模型ARMA擬合1950年——1998年北京市城鄉(xiāng)居民定期儲(chǔ)蓄比例序列。
序列自相關(guān)圖
序列偏自相關(guān)圖
擬合模型識(shí)別自相關(guān)圖顯示延遲3階之后,自相關(guān)系數(shù)全部衰減到2倍標(biāo)準(zhǔn)差范圍內(nèi)波動(dòng),這表明序列明顯地短期相關(guān)。但序列由顯著非零的相關(guān)系數(shù)衰減為小值波動(dòng)的過程相當(dāng)連續(xù),相當(dāng)緩慢,該自相關(guān)系數(shù)可視為不截尾偏自相關(guān)圖顯示除了延遲1階的偏自相關(guān)系數(shù)顯著大于2倍標(biāo)準(zhǔn)差之外,其它的偏自相關(guān)系數(shù)都在2倍標(biāo)準(zhǔn)差范圍內(nèi)作小值隨機(jī)波動(dòng),而且由非零相關(guān)系數(shù)衰減為小值波動(dòng)的過程非常突然,所以該偏自相關(guān)系數(shù)可視為一階截尾所以可以考慮擬合模型為AR(1)
例2.8美國(guó)科羅拉多州某一加油站連續(xù)57天的OVERSHORT序列
序列自相關(guān)圖
序列偏自相關(guān)圖
擬合模型識(shí)別自相關(guān)圖顯示除了延遲1階的自相關(guān)系數(shù)在2倍標(biāo)準(zhǔn)差范圍之外,其它階數(shù)的自相關(guān)系數(shù)都在2倍標(biāo)準(zhǔn)差范圍內(nèi)波動(dòng)。根據(jù)這個(gè)特點(diǎn)可以判斷該序列具有短期相關(guān)性,進(jìn)一步確定序列平穩(wěn)。同時(shí),可以認(rèn)為該序列自相關(guān)系數(shù)1階截尾偏自相關(guān)系數(shù)顯示出典型非截尾的性質(zhì)。綜合該序列自相關(guān)系數(shù)和偏自相關(guān)系數(shù)的性質(zhì),為擬合模型定階為MA(1)
例2.91880-1985全球氣表平均溫度改變值差分序列
序列自相關(guān)圖
序列偏自相關(guān)圖
擬合模型識(shí)別自相關(guān)系數(shù)顯示出不截尾的性質(zhì)偏自相關(guān)系數(shù)也顯示出不截尾的性質(zhì)綜合該序列自相關(guān)系數(shù)和偏自相關(guān)系數(shù)的性質(zhì),可以嘗試使用ARMA(1,1)模型擬合該序列
參數(shù)估計(jì)待估參數(shù)個(gè)未知參數(shù)常用估計(jì)方法矩估計(jì)極大似然估計(jì)最小二乘估計(jì)
例2.5續(xù)確定1950年——1998年北京市城鄉(xiāng)居民定期儲(chǔ)蓄比例序列擬合模型的口徑擬合模型:AR(1)估計(jì)方法:極大似然估計(jì)模型口徑
例2.8續(xù)確定美國(guó)科羅拉多州某一加油站連續(xù)57天的OVERSHORTS序列擬合模型的口徑擬合模型:MA(1)估計(jì)方法:條件最小二乘估計(jì)模型口徑
例2.9續(xù)確定1880-1985全球氣表平均溫度改變值差分序列擬合模型的口徑擬合模型:ARMA(1,1)估計(jì)方法:條件最小二乘估計(jì)模型口徑
模型檢驗(yàn)?zāi)P偷娘@著性檢驗(yàn)整個(gè)模型對(duì)信息的提取是否充分參數(shù)的顯著性檢驗(yàn)?zāi)P徒Y(jié)構(gòu)是否最簡(jiǎn)
模型的顯著性檢驗(yàn)?zāi)康臋z驗(yàn)?zāi)P偷挠行裕▽?duì)信息的提取是否充分)檢驗(yàn)對(duì)象殘差序列判定原則一個(gè)好的擬合模型應(yīng)該能夠提取觀察值序列中幾乎所有的樣本相關(guān)信息,即殘差序列應(yīng)該為白噪聲序列反之,如果殘差序列為非白噪聲序列,那就意味著殘差序列中還殘留著相關(guān)信息未被提取,這就說明擬合模型不夠有效
假設(shè)條件原假設(shè):殘差序列為白噪聲序列備擇假設(shè):殘差序列為非白噪聲序列
檢驗(yàn)統(tǒng)計(jì)量LB統(tǒng)計(jì)量
例2.5續(xù)檢驗(yàn)1950年——1998年北京市城鄉(xiāng)居民定期儲(chǔ)蓄比例序列擬合模型的顯著性殘差白噪聲序列檢驗(yàn)結(jié)果延遲階數(shù)LB統(tǒng)計(jì)量P值檢驗(yàn)結(jié)論65.830.3229擬合模型顯著有效1210.280.50501811.380.8361
參數(shù)顯著性檢驗(yàn)?zāi)康臋z驗(yàn)每一個(gè)未知參數(shù)是否顯著非零。刪除不顯著參數(shù)使模型結(jié)構(gòu)最精簡(jiǎn)假設(shè)條件檢驗(yàn)統(tǒng)計(jì)量
例2.5續(xù)檢驗(yàn)1950年——1998年北京市城鄉(xiāng)居民定期儲(chǔ)蓄比例序列極大似然估計(jì)模型的參數(shù)是否顯著參數(shù)檢驗(yàn)結(jié)果檢驗(yàn)參數(shù)t統(tǒng)計(jì)量P值結(jié)論均值46.12<0.0001顯著6.72<0.0001顯著
例2.8續(xù):對(duì)OVERSHORTS序列的擬合模型進(jìn)行檢驗(yàn)殘差白噪聲檢驗(yàn)參數(shù)顯著性檢驗(yàn)檢驗(yàn)參數(shù)t統(tǒng)計(jì)量P值結(jié)論均值-2.75<0.0004顯著10.60<0.0001顯著延遲階數(shù)LB統(tǒng)計(jì)量P值結(jié)論62.150.6772模型顯著有效129.050.6171
例2.9續(xù):對(duì)1880-1985全球氣表平均溫度改變值差分序列擬合模型進(jìn)行檢驗(yàn)殘差白噪聲檢驗(yàn)參數(shù)顯著性檢驗(yàn)檢驗(yàn)參數(shù)t統(tǒng)計(jì)量P值結(jié)論16.34<0.0001顯著2.50.0007顯著延遲階數(shù)LB統(tǒng)計(jì)量P值結(jié)論65.280.2595模型顯著有效1210.300.4247
模型優(yōu)化問題提出當(dāng)一個(gè)擬合模型通過了檢驗(yàn),說明在一定的置信水平下,該模型能有效地?cái)M合觀察值序列的波動(dòng),但這種有效模型并不是唯一的。優(yōu)化的目的選擇相對(duì)最優(yōu)模型
例2.13:擬合某一化學(xué)序列
序列自相關(guān)圖
序列偏自相關(guān)圖
擬合模型一根據(jù)自相關(guān)系數(shù)2階截尾,擬合MA(2)模型參數(shù)估計(jì)模型檢驗(yàn)?zāi)P惋@著有效三參數(shù)均顯著
擬合模型二根據(jù)偏自相關(guān)系數(shù)1階截尾,擬合MA(1)模型參數(shù)估計(jì)模型檢驗(yàn)?zāi)P惋@著有效兩參數(shù)均顯著
問題同一個(gè)序列可以構(gòu)造兩個(gè)擬合模型,兩個(gè)模型都顯著有效,那么到底該選擇哪個(gè)模型用于統(tǒng)計(jì)推斷呢?解決辦法確定適當(dāng)?shù)谋容^準(zhǔn)則,構(gòu)造適當(dāng)?shù)慕y(tǒng)計(jì)量,確定相對(duì)最優(yōu)
AIC準(zhǔn)則最小信息量準(zhǔn)則(AnInformationCriterion)指導(dǎo)思想似然函數(shù)值越大越好未知參數(shù)的個(gè)數(shù)越少越好AIC統(tǒng)計(jì)量
SBC準(zhǔn)則AIC準(zhǔn)則的缺陷在樣本容量趨于無窮大時(shí),由AIC準(zhǔn)則選擇的模型不收斂于真實(shí)模型,它通常比真實(shí)模型所含的未知參數(shù)個(gè)數(shù)要多SBC統(tǒng)計(jì)量
例2.13續(xù)用AIC準(zhǔn)則和SBC準(zhǔn)則評(píng)判例2.13中兩個(gè)擬合模型的相對(duì)優(yōu)劣結(jié)果AR(1)優(yōu)于MA(2)模型AICSBCMA(2)536.4556542.2011AR(1)535.7896540.2866
序列預(yù)測(cè)線性預(yù)測(cè)函數(shù)預(yù)測(cè)方差最小原則
例2.5:北京市城鄉(xiāng)居民定期儲(chǔ)蓄比例序列擬合與預(yù)測(cè)圖