Mozgóátlag folyamatok
3.1. De níció. Legyen ε(t) független érték¶ zaj, vagy fehér zaj - gyakran Gauss fehér zaj (GWN, Gaussian white noise). Ekkor az
X(t) = β0 · ε(t) + β1 · ε(t − 1) + . . . + βq · ε(t − q)
folyamatot q -rend¶
mozgóátlag folyamatnak
nevezzük. Jelölés: M A(q).
3.2. Megjegyzés. Az M A(q) folyamatok mindig er®sen/gyengén stacionáriusak. 3.3. Megjegyzés. Vegyük észre, hogy ha βi =
minden i-re, akkor a folyamat jelenlegi értéke a zaj jelenének és q -lépésig visszatekint® múltjának átlaga. 1 q+1
3.4. Megjegyzés. A lineáris folyamatok ∞-rend¶ mozgóátlag folyamatok. Az X(t) mozgóátlag folyamat autokovariancia-függvénye Eε(t) = 0, D2 ε(t) = 1 mellett
R(τ ) = E (X(t)X(t + τ )) = β0 E (ε(t)X(t + τ ))+β1 E (ε(t − 1)X(t + τ ))+. . .+βq E (ε(t − q)X(t + τ )) = β0 · Eε(t) · βτ · ε(t + τ − τ ) +0 + β1 · Eε(t − 1) · βτ +1 ε(t + τ − (τ + 1)) + 0 + . . . | {z } csak ett®l nem független
. . . + βq−τ · ε(t − q + τ ) · βq · ε(t + τ − q) = β0 βτ + β1 βτ +1 + . . . + βq−τ βq , amely alakot Wold-felbontásnak hívunk.
3.5. Megjegyzés. R(τ ) valóban nem függ t-t®l (eltolásinvariáns), tehát X(t) másodrendben (azaz gyengén) stacionárius. Ezért ha ε(t) fehér zaj, akkor gyengén stacionárius; független érték¶re 1 er®sen is stacionárius.
3.6. Megjegyzés. Az autokorreláció függvénynek pontosan az els® q tagja nem 0. 3.7. Tétel (Wold, 1954.).
1. Ha az R(τ ) függvényre a Wold-felbontás teljesül, akkor létezik olyan M A(q) folyamat, amelynek autokovariancia függvénye R(τ ), és együtthatói pont a Wold-felbontás β -i.
2. Ha X(t) stacionárius Gauss-folyamat, EX(t) = 0 és R(τ ) = 0 (τ > q ), akkor X(t) M A(q) folyamat.
3.8. Megjegyzés. %(t) általában végtelen sok tagból áll, és nehezen számolható (Box-Jenkins, 1976.).
Igaz, hogy %(t) exponenciális sebességgel tart 0-hoz. A parciális autokorreláció és autokorreláció egymás duálisai a mozgóátlag, illetve az autoregressziós modellben. X(t) karakterisztikus polinomja Q(x) = β0 + β1 x + . . . + βq xq . Ezzel az MA egyenlet X(t) = Q(B)ε(t),
ahol BX(t) = X(t − 1) a már látott backshift operátor. Így ha az −1
konvergens, akkor (Q(B))
=
∞ P
δj B j , és ezzel pedig ε(t) felírható
j=0
1 Q(x)
∞ P
=
∞ P
δj xj végtelen sor
j=0
δj X(t − j) alakban 2 , azaz
j=0
X(t)-nek van AR(∞) el®állítása. 1 fehér
zaj de níciójában benne van, hogy azonos eloszlású végtelen sokáig visszanyúlhatunk a múltba. A folyamatot saját múltjából el®állítani jó, hiszen a folyamat múltja meg gyelhet®, míg a zajé nem. 2 Elvileg
17
3.9. Tétel. A mozgóátlag folyamat pontosan akkor invertálható, azaz pontosan akkor van AR(∞)
el®állítása, ha karakterisztikus polinomjának gyökei az egységkörön kívül vannak. Másképp fogalmazva ∞ P pontosan ekkor konvergens δj X(t − j). j=0
3.10. Megjegyzés. Ebben is tetten érhet® az AR(p) es az M A(q) folyamatok közötti dualitás. 3.11. Állítás. Az M A(q) folyamat spektrál-s¶r¶ségfüggvénye létezik, és ϕ(λ) =
σε2 2π
2 · Q eiλ .
3.12. Megjegyzés. A mozgóátlag simít. Ide kell stacionárius folyamatok Wold felbontása a kézzel írottból.
ARM A(p, q)
folyamatok
3.13. De níció. Legyen ε(t) független érték¶ zaj, vagy fehér zaj - gyakran Gauss fehér zaj, GWN. Ekkor a
p X
q X
α ˜ k X(t − k) =
βm ε(t − m)
m=0
k=0
egyenlet megoldása az ARM A(p, q) folyamat. Az autoregressziós illetve a mozgóátlag tagok karakterisztikus polinomjait jelölje rendre P (x) illetve Q(x).
3.14. Tétel. Ha a P (x) gyökei az egységkörön belül helyezkednek el, akkor létezik X(t) stacionárius
ARM A folyamat, és ennek létezik M A(∞) el®állítása. Ha továbbá Q(x) gyökei az egységkörön kívül helyezkednek el, akkor X(t)-nek létezik AR(∞) el®állítása is.
A stacionárius ARM A(p, q) folyamat autokovariancia függvénye szintén karakterizálható és e szerint gyorsan lecseng®, vagyis az ARM A(p, q) rövid emlékezet¶. Az M A(∞) el®állításhoz a ∆(z) = Q(z) P (z) racionális törtfüggvényt kell sorbafejteni , míg a
P (z) Q(z)
sorbafejtése az AR(∞) el®állítást adja.
3.15. Állítás. Az ARM A(p, q) folyamat spektrál-s¶r¶ségfüggvénye: ϕ(λ) =
ARIM A
σε2 2π
2
|Q(eiλ )| · 2 |P (eiλ )|
folyamatok
Nem mindig van stacionárius folyamatunk, azonban gyakran dierenciálással azt kaphatunk bel®le.
3.16. De níció. Az X(t) folyamatot ARIM A(p, 1, q)
folyamatnak nevezzük, ha az Y (t) = X(t) − X(t − 1) = (1 − B)X(t) ARM A folyamat. (Egyszeres dierenciálással lineáris trend tüntethet® el.) Az X(t) folyamat ARIM A(p, d, q), ha a d-szeres dierenciáltja, (1 − B)d X(t) ARM A folyamat. (d-szeres dierenciálással d-edfokú trend tüntethet® el.) 3
3d
szót.
lehet nem egész szám is, ami nem egészrend¶ dierenciálást eredményez. Err®l csak a következ® félévben ejtünk
18
Nemlineáris folyamatok
Mostantól nemlineáris modelleket fogunk vizsgálni. Ezek els® ránézésre lineárisnak is t¶nhetnek, mert el®fordulhat, hogy az els® két momentum egyezik egy lineáriséval, így ha csak autokovariancia erejéig tekintjük ®ket, akkor nem vehetjük észre a különbséget. A következ® példa is egy furcsaságot mutat be: fehér zaj, mely nem független érték¶.
3.17. Állítás. Legyen e(t) i.i.d. sorozat 0 várható értékkel és véges negyedik momentummal. Ezzel
legyen
ε(t) = e(t) + β · e(t − 1) · e(t − 2).
Jel.: W N (β) Ekkor ε(t) fehér zaj, de nem i.i.d. (e(t − 1) helyett ε(t − 1) kellene, hogy bilineáris legyen). Bizonyítás.
Eε(t) = Ee(t) + β · Ee(t − 1) · Ee(t − 2) = 0 2
R(0) = D ε(t) = D2 e(t) + β 2 D2 (e(t − 1) · e(t − 2)) = σe2 + β 2 · σe4 R(1) = Eε(t)ε(t + 1) − 0 = E [e(t) + βe(t − 1)e(t − 2)] [e(t + 1) + βe(t)e(t − 1)] = 0, mert beszorzás után minden összeadandóban lesz els®fokú, a többit®l független és 0 várható érték¶ tag. Továbbá R(2) = 0 + βEe(t − 1) · e(t − 2)2 = 0 ugyanúgy, mint fenn, és R(τ ) = 0 τ ≥ 3 esetén. Ez utóbbi nyilvánvaló, mert nincs azonos id®höz tartozó tag, azaz minden els®fokon szerepel. Tehát ε(t) fehér zaj, de nem független, azonos eloszlású, mert a hármas szorzatnak nem 0 a várható értéke, azaz Eε(t − 1) · ε(t) · ε(t + 1) 6= 0. Ugyanis ez egyenl®
E ([e(t − 1) + βe(t − 2)e(t − 3)] · [e(t) + βe(t − 1)e(t − 2)] · [e(t + 1) + βe(t)e(t − 1)]) = = β · E e2 (t) · e2 (t − 1) = β · σe4 . Tehát a harmadik vegyes momentum (és mellesleg a 3. kumuláns) nem 0, így W N (β) nem független érték¶ fehér zaj. Legyen e(t) ∼ N (0, 1). ε(t) eloszlása nyilván ugyanaz, mint a független standard normális X, Y, Z változókból el®állított X + B · Y · Z eloszlása. Ha viszont ε(t) és ε(t − 1) együttes eloszlását nézzük, az már különbözik az U = X + B · Y · Z és V = X 0 + B 0 · Y 0 · Z 0 együttes eloszlásától, ahol X, Y, Z, X 0 , Y 0 , Z 0 teljesen függetlenek. Tekintsük azt a folyamatot, amelynek dierenciája éppen az el®z® W N (β), azaz
Y (t) − Y (t − 1) = ε(t) = e(t) + βe(t − 1)e(t − 2). Erre EY (t) = 0, a szórásnégyzet pedig ! t X D2 Y (t) = D2 Y (i) − Y (i − 1) = t · D2 (Y (k) − Y (k − 1)) = t · D2 ε(t) = t · σe2 (1 + β 2 σe2 ). i=1
(Ehhez Y (0) = c-nek (c = 0) teljesülnie kell 1 valószín¶séggel, mert így a teleszkópösszeg után Y (t) − Y (0) marad.) Ezért t → ∞ esetén D2 Y (t) tart végtelenbe O(t) nagyságrendben, így Y (t) egy Wiener folyamat diszkretizáltjára hasonlít (de nem az, mert nem független növekmény¶ a folyamat).
3.18. De níció.
Általános bilineáris modell:
X(t) +
p X
|i=0
BL(p, q, P, Q),
q X
bj · ε(t − j) + ai X(t − i) = ε(t) + |{z} j=0 zaj {z } | {z }
AR komponens
Q P X X
cij X(t − i)ε(t − j),
i=1 j=1
M A komponens
ahol ε(t) i.i.d. 0 várható értékkel, és vegyük észre, hogy az utolsó (nem lineáris) tagban a folyamat és a zaj múltbéli értékei vannak összeszorozva. 19
A stacionárius megoldás létezésére Liu és Brockwell adtak feltételt 1988-ban 4 . Most vizsgáljuk a BL(1, 0, 1, 1)-et a c1,1 = b jelölés mellett:
X(t) − aX(t − 1) = ε(t) + bX(t − 1)ε(t − 1). A bilineáris folyamat paraméterbecslése nagyon bonyolult. Ld.SubbaRao-Gabr. Meg lehet mutatni, hogy
b · σε2 konstans, 1−a σ 2 (1 + 2bσε2 + 4abµ) m2 = EX 2 (t) = ε . 1 − a2 b2 σε2 µ = EX(t) =
Nyilván R(0) = m2 − µ2 , továbbá
S(1) = E(X(t)X(t + 1)) = am2 + 2bσε2 µ, és
S(s) = E(X(t)X(t + s)) = aS(s − 1) + bσε2 µ, azaz S(s) nem függ t-t®l, így másodrendben stacionárius. Innen pedig
R(s) = S(s) − µ2 , S(s − 1) = R(s − 1) + µ2 , tehát felírhatjuk, hogy R(s) = a R(s − 1) + µ2 + bσε2 µ −µ2 = aR(s − 1) + aµ2 + (1 − a)µ2 − µ2 = aR(s − 1). |{z} (1−a)µ2
Ezzel azt kaptuk, hogy R(s) = const · as alakban írható, vagyis ugyanolyan, mint egy els®rend¶ autoregresszió kovariancia struktúrája, így csak az els® két momentum - és annak becslése - alapján nem elkülöníthet® egy AR(1)-t®l, ARM A(1, 1)-t®l 5 . Kell a kumuláns, illetve az annak megfelel® bispektrum 6 7 . A stacionaritás, más szóval a stacionárius megoldás létének elégséges feltétele, hogy a2 +b2 ≤ 1. X(t) s¶r¶ségfüggvénye ekkor létezik és folytonos, kivéve − ab -t, ugyanis erre f (− ab ) = +∞, és határértékben b→0
is végtelenbe tart. Minden a 6= 0-ra és minden pozitív A-ra fb (x) −→ f0 (x) egyenletesen is |x| < A-n. Egy ismert sejtés szerint ha X(t) BL(p, q, P, Q), akkor stacionárius eloszlása egycsúcsú.
Egyszer¶ bilineáris modell X(t) = β · X(t − k) · ε(t − l) + ε(t) diagonális, ha k=l, szuperdiagonális, ha k>l, illetve szubdiagonális, ha k
modellezésére jó, mert néha kiugrik, majd lassan lecseng, ráadásul hosszú távon stacionárius. a spektrumot tekintenénk, az sem segítene, hisz az is csak az autokovariancia Fourier-transzformáltja. 6 A karakterisztikus függvény logaritmusát kumulánsgeneráló függvénynek is nevezik, értelemszer¶en a sorfejtésének együtthatóit kumulánsoknak nevezzük. A név arra a fontos tulajdonságra utal, hogy független valószín¶ségi változók összegének kumulánsa a valószín¶ségi változók kumulánsainak összege (persze: függetlenek összegénél a karakterisztikus függvények szorzódnak, és a logaritmus hatására ebb®l összeg lesz). Emiatt szokták még szemiinvariánsoknak is hívni ®ket. 7 A harmadik kumuláns (stacionaritás miatt csak két változós függvény) Fourier-transzformáltját bispektrumnak hívjuk. Gauss folyamatra 0. Gyakran használják linearitás tesztekre. 5 Ha
20
Szuperdiagonális modell:
EX(t) = β · E [X(t − k + l)E (ε(t) | ε(t − l))] + E E(ε(t) | ε(t − l)) = 0. EX(t) · X(t − j) = 0
hasonló számolás.
Diagonális modell:
EX(t) = β · µ2 , ahol µ2 = E ε(t)2 | ε(t − 1)
µ2 = σε2 , ha ε(t) i.i.d. cov (X(t), X(t − j)) = 0, ha j 6= k és
cov (X(t), X(t − k)) = β · µ22 Tegyük fel még, hogy ε(t) i.i.d. és Eε2p−1 = 0, p = 1, . . . , 4, β 4 µ4 < 1, ahol µ4 = Eε4 . Ekkor: cov X 2 (t), X 2 (t − j) = 0 1 ≤ j ≤ k − 1 Szuperiagonális modell:
cov X 2 (t), X 2 (t − j) = 0,
ha j = 1, . . . , l − 1, l + 1, . . . , k − 1 és j 6= k − l.
β 4 · µ2 (µ4 − µ22 ) EX(t) egyébként. cov X 2 (t), X 2 (t − j) = 1 − β 4 µ22 Legyen Y (t) − Y (t − 1) = X(t), ahol X(t) ∼ BL(1, 0, 1, 1). Behelyettesítve X(t) formuláját kapjuk, hogy Y (t) − (1 + a)Y (t − 1) + aY (t − 2) = bY (t − 1)ε(t − 1) − bY (t − 2)ε(t − 1) + ε(t), azaz Y (t) ∼ BL(2, 0, 2, 1) lesz. De míg az el®z® modellben |a| < 1-re stacionárius a folyamat, az itt lév® AR(2) "tagot" egy olyan gerjesztéssel hajtjuk meg, amely a folyamat múltjától is függ - jogos az AR(2) karakterisztikus polinomját nézni (bal oldal). Ez pedig a z 2 − (1 + a)z + a, aminek a z = 1 tetsz®leges a mellett gyöke, így nem lesz stacionárius a folyamat.
ARCH
folyamatok
A most következ® folyamatok a pénzügyekben sokkal népszer¶bbek, mint az eddigiek. Az ARCH(1)et Engle vezette be 1982-ben, és az Autoregressive Conditional Heteroscedasticity rövidítése. 8 Legyen ε(t) GWN, ε(t) ∼ N (0, 1) és i.i.d. Az X(t) folyamatot az
X(t) = σ(t)ε(t) egyenlettel adjuk meg, azaz egy (nemkonstans) valószín¶ségi változószor egy fehér zaj. A valószín¶ségi változóra id®t®l függ® szórásként gondolhatunk. Err®l a szórásról azt feltételezzük, hogy a folyamat megel®z® értékét®l (értékeit®l) függ. Ezért feltételes szórásként is értelmezhetjük, feltéve, hogy a folyamat múltját ismerjük. E szórást a
σ 2 (t) = α0 + α1 X 2 (t − 1) 8 Ez azt takarja,
maradjon).
hogy a jelenlegi hiba varianciája függ a múltbeli értékekt®l (általában úgy, hogy a folyamat stacionárius
21
egyenlet 9 határozza meg. Az egyenletben α0 , α1 nemnegatív valós konstansok. A feltételes szórásnégyzet D2 X(t)|X(t − 1) = x = α0 + α1 x2 az el®z® érték kvadratikus függvénye. A négyzet helyett más hatvány is szóba jöhet itt, de ez persze már általánosítás Power ARCH -nak szokás hívni. A fentebbi két egyenletb®l kapjuk, hogy X 2 (t) = α0 + α1 X 2 (t − 1) ε2 (t), de ez nem ekvivalens velük, mert pl. Gauss zajjal történ® generálás mellett az egyesített egyenletnek akár nemnegatív X(t) megoldása is lehet, míg az eredeti két egyenlet megoldása biztos, hogy negatív értékeket is felvesz. Keressük a stacionárius megoldást. Ehhez tegyük fel, hogy létezik ilyen, és iteráljuk az egyenletet:
X 2 (t) = α0 · ε2 (t) + α1 α0 · ε2 (t) · ε2 (t − 1) + α12 · X 2 (t − 2) · ε2 (t) · ε2 (t − 1) 2
X (t) = α0 ·
∞ X
α1j · ε2 (t) · . . . · ε2 (t − j)
j=0
Ez utóbbi akkor írható fel így, ha α1 < 1, mert a maradéktagokban α1 egyre nagyobb hatványai jelennek meg, amik így nullához tartanak, miközben X(t) stacionaritása és ε(t) függetlensége, 1 szórása miatt a valváltozók szorzata korlátos a maradéktagokban (pl. L2 norma szerint). Ha az összegzés és a várható érték felcserélhet®, akkor 2
EX (t) = α0 ·
∞ X
α1j · Eε2 (t) · . . . · Eε2 (t − j) =
j=0
α0 , 1 − α1
ugyanis az ε(t)-k várható értéke 0, így második momentumuk a szórásnégyzetükkel egyenl®, ami 1, tehát egy egyszer¶ mértani sort kellett összegeznünk. Ebb®l látjuk, hogy α0 = 0 esetén X(t) az azonosan 0 folyamat, ami nem túl érdekes. Ha az v ! u ∞ X u X(t) = ε(t) · tα0 1 + α1k+1 · ε2 (t − 1) · . . . · ε2 (t − k − 1) (∗) k=0
felírásban a szumma konvergál, akkor stacionárius folyamatot állít el®, hiszen az η(t) = ε(t + h) zaj véges dimenziós eloszlásai megegyeznek, és (X(t1 + h), . . . , X(tm + h))-t ugyanúgy állíthatjuk el® η -ból, mint (X(t1 ), . . . , X(tm ))-et ε-ból, tehát az eloszlásaik megegyeznek.
3.19. Tétel. Ha |α1 | < 1, akkor (∗) konvergál, és az ARCH(1) egyenlet egyértelm¶, véges szórású, stacionárius megoldását adja. stacionárius megoldás. Bizonyítás.
10
Ha nem követeljük meg a véges szórást, akkor |α1 | > 1-re is van
Nem bizonyítjuk.
3.20. Megjegyzés. Ez a 2.2 állítás általánosítása. 3.21. Következmény. Az ε(t) és
√
· tagok függetlensége miatt √ EX(t) = Eε(t) · E · = 0,
9 Ebb®l
10 Ez
látszik, hogy a variancia függ a múlttól, azaz feltételes. a megoldás véges szórásának megkövetelése mellett szükséges, egyébként csak elégséges feltétel.
22
továbbá
D2 X(t) =
α0 . 1 − α1
Az autokovariancia pedig √ E X(t + h)X(t) = Eε(t + h) · E |
.
· ε(t) · {z
√ · = 0, }
t+h múltja mind
azaz az ARCH(1) korrelálatlan, stacionárius, 0 várható érték¶, tehát fehér zaj. Az ARCH(1) azonban nem független érték¶: E X 2 (t)|X(t − 1) = α0 + α1 X 2 (t − 1) · E ε2 (t)|X(t − 1) ,
ahol ε2 (t) és X(t − 1) függetlenek és Eε2 (t) = 1, tehát E X 2 (t)|X(t − 1) = α0 + α1 X 2 (t − 1).
Ez pedig nem konstans valószín¶ségi változó, mint ahogy azt a függetlent®l várnánk. Tehát az ARCH(1) nem is Gauss-eloszlású, hiszen akkor a korrelálatlanságából már a függetlenség is következne. Ezen kívül alakú, szimmetrikus zajból generálva az ARCH(1) szimmetrikus eloszlású, hiszen ε(t) · √ |{z}
|{z}
szimm. X nemneg. Y
ami szimmetrikus eloszlású: (Biz.:) Z = X · Y mellett
{Z > z} = {ω : Y (ω) = y > 0, X(ω) > yz } és {X < −x} = {ω : Y (ω) = −y (y > 0), X(ω) > yz }, így P (Z > z) = P (Z < −z).
3.22. Állítás. Minden α1 ∈ (0, 1)-re létezik β , hogy EX 2β (t) = ∞. 3.23. Állítás. EX 4 (t) pontosan akkor véges, ha 3α12 < 1. 3.24. Állítás. Ha EX 4 (t) < ∞, akkor az X 2 (t) autokorrelált és ACF-je ugyanaz, mint az AR(1)-nek α1 -gyel.
3.25. De níció. Kicsit általánosabban ARCH(p) az az X(t) = σ(t)ε(t) folyamat, ahol 2
σ (t) = α0 +
p X
αi X 2 (t − i).
i=1
3.26. Megjegyzés. Az el®z® állítás AR(p)-vel igaz ARCH(p)-re. Innen a névben (ARCH) az AR. 3.27. Állítás. Az ARCH(p) feltételesen Gauss-eloszlású, ha adott X(t − 1), . . . , X(t − p). Tehát könny¶ feltételes likelihood-ot számolni és a maximumhelyével paraméter becslést adni - de ez nem az igazi max likelihood ezért kvázi ML-nek hívják.
3.28. De níció. További általánosításként bevezetjük a GARCH(p, q)11 folyamat fogalmát, amely
Bollerslev (1986) nevéhez f¶z®dik, és X(t) = σ(t) · ε(t) alakban de niálható, ahol ε(t) i.i.d. 0 várható értékkel és véges negyedik momentummal12 , és 2
σ (t) = α0 +
p X
2
αi X (t − i) +
i=1
q X
βj σ 2 (t − j)
j=1
11 Generalized AutoRegressive Conditional
Heteroscedasticity; a konkrét alkalmazásokban igen nagy p kellett az ARCHban. 12 ez utóbbit nem muszáj feltenni, de így lesz jó a Bollerslev-tételben
23
3.29. Állítás. A GARCH(p, q) is WN. (a bizonyítás nem nehéz)
3.30. Megjegyzés. ε(t) általában N (0, 1), de stabilis is lehet. Az αi , βj konstansok pedig pozitívak (mert a bal oldalon egy szám négyzete van). Továbbá látható a σ 2 (t) el®állításából, hogy a korábbi szórásokra és állapotokra feltételes.
3.31. Tétel (Bollerslev, 1986.). A fenti GARCH(p, q) gyengén, azaz másodrendben stacionárius, ha
p X
αi +
q X
βj < 1.
j=1
i=1
És ekkor EX(t) = 0, X(t) ∼ W N , azaz R(τ ) = 0 pozitív τ -ra, továbbá α0
R(0) = D2 X(t) = 1−
p P
αi +
i=1
q P
! <∞ βj
j=1
. Ha megköveteljük D2 X(t) végességét, akkor az együtthatók fenti összegére vonatkozó < 1 feltétel szükséges is. A bizonyítás ugyanolyan folyamatos behelyettesítéssel történik, mint az ARCH(1) esetben. Legyen Ft = σ{X(s) : s ≤ t} ltráció. Ez megegyezik Ftε = σ{ε(s) : s ≤ t}-vel. Bizonyítás.
3.32. Állítás. Ha valamely t0 -ra σ(t0 ) Ft0 -mérhet®, akkor σ(t0 +1) Ft0 -mérhet® 13 , így minden t ≥ t0 -ra
σ 2 (t) Ft−1 -mérhet®. Ezzel az ε(t)-t®l való függetlenség miatt a szorzatuk várható értéke Eσ(t)ε(t) = 0, és Eσ 2 (t) · σ 2 (t + τ ) · ε(t) · ε(t + τ ) = 0. Ez adja az R(τ ) = 0-ra vonatkozó állítást.
3.33. De níció. Az X(t) = A(t)X(t − 1) + B(t) egyenletet sztochasztikus rekurziós egyenletnek
hívjuk (SRE), ahol A(t) véletlen d × d-s mátrix, B(t) véletlen d-dimenziós vektor, továbbá (A(t), B(t)) i.i.d. Szokásos módon jelölje | · | az euklideszi normát Rd -ben, k · k pedig az operátornormát, azaz kAk = sup |Ax|. A > 0 azt jelenti, hogy A minden eleme pozitív. Kérdés a stacionárius megoldás létezése. |x|=1
3.34. De níció. γ = inf
1 n
· E log kA1 · . . . · An k -t
Ljapunov-exponensnek
nisztikus esetben a Ljapunov-exponens inf log kA1 · . . . · An k musának in muma.
1 n
nevezzük. Determi, azaz a "geometriai közép" logarit-
3.35. Megjegyzés. Fürstenberg és Kesten egy, a nagy számok törvényéhez hasonló tétele szerint (szubadditív ergodtétel) γ = lim n1 log kA1 · . . . An k 1 valószín¶séggel, tehát "kiválthatjuk" a várható n→∞ értéket 1 valószín¶ség¶ konvergenciára.
3.36. Tétel. At és Bt független, azonos eloszlású, azaz i.i.d. Tegyük fel, hogy E log+ kA1 k < ∞, E log+ |B1 | < ∞ és γ < 0. Ekkor az
Xn = Bn +
∞ X
An · . . . · An−k+1 Bn−k
k=1 13 Ez
teljesül, ha adaptált megoldását nézzük a GARCH egyenletnek.
24
sorozat 1 valószín¶séggel konvergens, és ez az egyértelm¶, er®sen stacionárius, oksági megoldása a sztochasztikus rekurziós egyenletnek. Ha d = 1, a γ -ra tett feltétel
1 1 E log kA1 · . . . · An k = E log (|A1 · . . . · An |) = E log |A1 | < 0 n n .
3.37. De níció.
Reguláris változás:
Az X d-dimenziós véletlen vektort reguláris változásúnak mondjuk α ≥ 0 index-szel, ha van olyan (an ) számsorozat, hogy n · P (|X| > t · an , eX ∈ BS ) −→ t−α Q(BS )
n→∞
ahol eX jelöli az X irányú egységvektort és BS a d dimenziós tér egységgömbjét14 . [ÁBRA]
3.38. Megjegyzés. Egydimenzióban BS 1 pont15 , és n·P (|X| > t·an ) −→ const·t−α . Legyen például an = n, ekkor
P (|X| > t · n) ∼
const −α ·t . n
Tehát ez azt mondja meg, hogy elég nagy n mellett, ha elég messzir®l indulunk16 , akkor a farokviselkedés t−α nagyságrend¶, azaz hiperbolikus lecsengés¶. Explicite úgy fogalmazhatunk, hogy léteznek c+ és c− konstansok úgy, hogy t → +∞ esetén P (X > t) ∼ c+ t−α és P (X < −t) ∼ c− t−α .
3.39. Tétel (Kesten, 1973 - Vervaat, 1979 - Goldie, 1991). Legyen (At , Bt ) i.i.d., At nemnegatív
elemekkel van kitöltve, Bt szintén és nem nulla. Tegyük fel, hogy 1. EkA1 kε < 1, valamilyen pozitív ε-ra 2. A1 nem degenerált 3. létezik olyan pozitív κ0 , hogy E
min
d P
!κ0 (A1 )i,j
i=1,...,d j=1
≥ dκ0 /2
4. E (kA1 kκ0 ln+ kA1 k) véges 5. valamilyen s¶r¶ csoport feltétel (Az {lnkan . . . a1 k : n ≥ 1, an . . . a1 > 0 and an , . . . , a1 ∈ suppPA1 } halmaz egy R-ben s¶r¶ csoportot generál.) Ekkor a következ®k teljesülnek: 1. Létezik κ1 ∈ (0, κ0 ] egyértelm¶ megoldása a 0 = lim n1 · log EkAn · . . . · A1 kκ1 egyenletnek. 2. Létezik egyértelm¶ (er®sen) stacionárius oksági megoldása az SRE-nek. 3. Ha E|B|κ1 véges, akkor X(t) reguláris változású κ1 = α-val.
3.40. Megjegyzés. 1 dimenzióban 0 = log E|A1 |κ1 pontosan az 1 = E|A1 |κ1 egyenlettel ekvivalens,
tehát azt az abszolút momentumot keressük, amelyre éppen 1 az értéke, és ez lesz a regularitási index. Felhasználtuk, hogy a függetlenség miatt log EkAn · . . . · A1 kκ1 = n · log E|A1 |κ1 . 14 itt
az egyéggömbre, mint Borel-halmazra kell gondolnunk 2 pont, de nyilván csak a pozitív oldalon lev®vel foglalkozunk, mert |X|-et nézzük 16 tehát t még n-nél is nagyobb 15 mármint
25
Vizsgáljuk most az els®rend¶ bilineáris modellt:
X(t) = aX(t − 1) + bX(t − 1)ε(t − 1) + ε(t), ahol ε(t) i.i.d., a, b pedig valós konstansok. Tegyük fel, hogy ε(t) ∼ N (0, 1). Ekkor az egyenlet átírható a következ® alakba: X(t) = Y (t − 1) + ε(t), ahol
Y (t) = (a+b·ε(t))X(t) = (a+b·ε(t))(Y (t−1)+ε(t)) = (a+bε(t))·Y (t−1)+(aε(t)+bε2 (t)) = At ·Y (t−1)+Bt . Megjegyezzük, hogy az At , Bt pár független az At−1 , Bt−1 pártól. Ez kielégít egy sztochasztikus rekurziós egyenletet (SRE), mivel At -k és Bt -k független, azonos eloszlású sorozatok (minden egydimenziós). Ha ε(t) ∼ N (0, 1), akkor At ∼ N (a, b2 ). Ekkor vajon mi lesz a stacionárius megoldás? Az, hogy E log |At | < 0 - azaz a Ljapunov-exponens negatív -, átírható az ekvivalens Z ∞ (x−a)2 1 √ · log |x| · e− 2b2 dx < 0 2πb −∞ alakba. Kesten tételéb®l azt kapjuk, hogy ha κ1 kielégíti az
E|a + b · ε(t)|κ1 = 1 egyenletet, akkor létezik stacionárius megoldás, és az reguláris változású κ1 -gyel. (Ezt a κ1 -et persze nem könny¶ kiszámolni.) A feltételb®l
1 √ 2πb
Z∞
κ1
|x|
·e
−
(x−a)2 2b2
−∞
2 dx = √ · 2π
Z∞ y2 (by + a)κ1 · e− 2 dy = 1, 0
ahol fontos feltételezésünk az a = 0, hiszen a 6= 0 esetén nem végezhet® el ilyen formában a helyettesítéses integrálás, f®ként az integrálandó függvény nem páros (és az x = a egyenesre sem szimmetrikus) volta miatt. Viszont ha a = 0, akkor már páros a függvény, így els® lépésben a 0-tól végtelenig való in1 dt tegráljának a kétszerese írható, majd erre az x = by helyettesítés. Ezután az y 2 = t, dy = 2√ t helyettesítéssel
r 1=
2 κ1 ·b π
Z∞ t
κ1 2
·e
− 2t
1 bκ1 · √ dt = √ 2 t 2π
0
Z∞ t
κ1 −1 2
− 2t
·e
κ1 +1 bκ1 dt = √ · 2 2 2π
0
Z∞ z
κ1 −1 2
· e−z dz,
0
ahol ez utóbbi lépésben a 2t = z , dt = 2dz áttérést alkalmaztuk. Itt az intergrál éppen a Γ függvény alakját öltötte a κ12+1 helyen. Azaz
√ ( 2b)κ1 κ1 + 1 √ =1 ·Γ 2 π √ . Ebb®l pedig, felhasználva a Γ 12 = π azonosságot kapjuk, hogy Γ
κ1 +1 2 Γ 12
!− κ11 =
.
√
2b
Például b = √12 -re Γ κ12+1 = Γ 12 , így κ1 = 0. Ekkor pedig nem lesz reguláris változású a megoldás, azaz a stacionárius megoldás a polinomiálisnál gyorsabban lecseng® eloszlású. 26
− 12
√ = 2, tehát κ1 = 2. Most b = 1-re nézve Γ = felhasználva kapjuk, hogy Γ 1 (2) √ pπ p 4 3 π b = 2 -re κ1 = 1; b = 2 -re κ1 = 4; b = 6 32 -re κ1 = 3. Ez utóbbinál érdemes megjegyezni, hogy q p p p 6 1 6 π 6 π = = √12 6 π4 < √12 . Tehát a b = √12 nem határa a "reguláris változásúságnak". 32 8 4 3 2
√
π -t 2
Γ( 32 )
Ha a 6= 0, akkor igencsak reménytelennek látszik az integrálás elvégzése. Ha X(t) GARCH folyamat, akkor (a de nícióban szerepl®) X 2 (t) és σ 2 (t) beágyazható egy sztochasztikus rekurziós egyenletbe, azaz az X(t) = At X(t − 1) + Bt vektorérték¶ folyamatokra vonatkozó egyenletbe. > 2 2 2 X(t) = σt+1 , . . . , σt−q+2 , Xt2 , . . . , Xt−p+2
α1 ε2 (t) + β1 β2 1 0 0 1 .. .. . . At = 0 0 ε2 (t) 0 0 0 . .. .. . 0 0
. . . βq−1 βq α2 α3 ... 0 0 0 0 .. . 0 0 0 0 .. .. .. .. .. . . . . . ... 1 0 0 0 ... 0 0 0 0 ... 0 0 1 0 .. .. .. .. .. . . . . . ... 0 0 0 ...
. . . αp ... 0 ... 0 . .. . .. ... 0 , ... 0 ... 0 .. .. . . 1 0
Bt = (α0 , 0, . . . , 0)>
3.41. Tétel. Tegyük fel, hogy az SRE Ljapunov-exponense γ < 0, valamint α0 > 0. a) Tegyük fel, hogy E log+ |ε(1)| véges. Ekkor létezik egyértelm¶, oksági, er®sen stacionárius megoldása a GARCH egyenletnek. b) Tegyük fel, hogy ε(1) abszolút folytonos eloszlású, mindenütt pozitív s¶r¶ségfüggvénnyel, valamint E|ε(1)|h < ∞ minden h < h0 -ra, de E|ε(1)|h0 = ∞ valamely 0 < h0 ≤ ∞-re. Ezen kívül nem t¶nik el az összes αi , βi . Ekkor létezik olyan pozitív κ1 , és w(x) véges érték¶ függvény, hogy minden x ∈ Rd \{0}-ra lim uκ1 P (hx, X1 i > u) = w(x) létezik, azaz hx, X1 i reguláris változású κ1 indexszel. u→∞ Továbbá ha κ1 nem páros, akkor X1 reguláris változású κ1 indexszel. c) Ha az ε(1) s¶r¶ségfüggvénye a 0 egy környezetében pozitív, akkor X(t) er®sen kever® geometriai sebességgel (gyakorlatilag geometrikusan ergodikus lesz).
3.42. Megjegyzés. Nehéz formulát kapni a Ljapunov-exponensre, így feltételt a stacionaritásra is. Tegyük fel, hogy α0 > 0, Eε(1) = 0 és Eε2 (t) = 1. Ekkor
i) γ < 0 szükséges és elégséges feltétel az egyértelm¶, er®sen stacionárius, oksági megoldás létezéséhez. ii) iii)
q P j=1 p P i=1
βj < 1 szükséges γ < 0-hoz αi +
q P j=1
βj < 1 elégséges γ < 0-hoz (ez egy nagyon er®s feltétel)
iv) ha ε(t) véges tartójú, nincs atomja 0-ban, αi , βj > 0, akkor
27
p P i=1
αi +
q P j=1
βj = 1 elégséges γ < 0-hoz.
Nézzük az ARCH(1) esetét! Láttuk, hogy X(t) = σ(t) · ε(t), négyzetre emelve pedig X 2 (t) = σ (t) · ε2 (t), ahol σ 2 (t) = α0 + α1 X 2 (t − 1). Ezt behelyettesítve X 2 (t) = α0 + α1 X 2 (t − 1) · ε2 (t) = At · X 2 (t − 1) + Bt , 2
ahol At = α1 ε2 (t) és Bt = α0 ε2 (t), tehát (At , Bt ) i.i.d. Összehasonlítva, az ARCH(1)-et
X 2 (t) = α1 X 2 (t − 1) · ε2 (t) + α0 ε2 (t), és a bilineáris modellt
X(t) = bX(t − 1) · ε(t − 1) + ε(t) + aX(t − 1), láthatjuk, hogy lényeges különbség van a kett® között17 . A γ Ljapunov-exponens negativitásához az kell, hogy E log |A1 | = E log |α1 · ε2 (t)| = log |α1 | + E log(ε2 (t)) < 0 legyen. Mivel ε(t) standard normális eloszlású, így
Z
2
E log(ε (t)) = E2 log(ε(t)) = 2
ε2 (t) 1 log(ε(t)) √ e− 2 dε(t), 2π
√ ahonnan ε(t) = 2X helyettesítéssel kapjuk, hogy Z Z Z 1 1 −x 1 −1 1 1 −x √ 1 − 1 2 x 2 dx = log(2) 1 e x 2 dx + log(x) 1 e−x x 2 −1 dx 2 log(2x) √ e 2 Γ 2 Γ 2 2π ahol felhasználtuk, hogy
√
π=Γ
1 2
. Vegyük észre, hogy
1 1 e−x x 2 −1 Γ( 21 )
éppen a Γ 1 ,1 eloszlás s¶r¶ség2
függvénye, tehát X ilyen eloszlású. Így az el®z® tovább egyenl® Z 1 1 log(x)e−x x 2 −1 dx-szel. log 2 + 1 Γ 2 Felhasználva, hogy
Γ0 (y) =
Z∞
e−x (xy−1 )0 dx =
0
kapjuk, hogy log 2 +
1 Γ0 ( 12 ). Γ( 12 )
Z∞
e−x log(x)xy−1 dx
0
Γ0 (z) Γ(z)
pedig de níció szerint a digamma függvény, ami az
1 2
helyen
−C − 2 log(2), ahol C az Euler-konstans18 . Így végül E log(ε2 (t)) = log(2) − C − 2 log(2) = − log(2) − C. Innen α1 > 0-ra E log |A1 | = log α1 − log 2 − C < 0, ami pontosan akkor teljesül, ha 0 < α1 < 2 · eC ≈ 3, 5686. Tehát ezen tartományban a Ljapunov-exponens negatív. Nyilván E log+ |A1 | < ∞, továbbá belátható, hogy minden pozitív α0 -ra E log+ |B1 | is véges. Nézzük a regularitás kérdését 0 < α1 < 2eC mellett. Keressük azt a κ-t, amely kielégíti az E|At |κ = 1 egyenletet. 2
κ
E|α1 ε (t)| =
α1κ
2κ
· Eε
19
1 = α1κ √
2π
Z∞ 2
x2
x2κ · e− 2 dx =
0 17 X(t − 1) 18 C
= lim
az egyikben t-t®l függ®vel van szorozva, másikban meg (t − 1)-t®l függ®vel
n→∞
n P
k=1
1 k
− log n
=
R∞ 1
1 [x]
−
1 x
dx
28
Most helyettesítsünk a következ®képpen: legyen t = a következ®képpen folytatható
x2 , 2
ezzel dx =
1 √ 2 2t
· 2dt =
√1 dt, 2t
így az egyenl®ség
√ Z ∞ Z∞ 2 1 1 1 1 κ κ κ −t κ (κ+ 21 )−1 −t κ = α1 √ 2 · t · e · √ dt = (2α1 ) √ t · e dt = (2α1 ) · √ · Γ κ + = h(κ) = 1. 2 π 0 π π 2t 0
Ezzel (2α1 )κ · Γ κ +
1 2
=
√
π . Speciálisan α1 = 1-re κ = 1 jó választás, mert
√
π 2
=Γ
2 3
.
3.43. Állítás. h(κ) szigorúan konvex függvény, így létezik egyértelm¶ megoldása h(κ) = 1-nek. Továbbá erre a megoldásra
• κ > 1, ha α1 ∈ (0, 1) • κ = 1, ha α1 = 1 • κ < 1, ha α1 ∈ (1, 2eC )
3.44. Megjegyzés. X 2 -es egyenletb®l indultunk ki, tehát pontosan akkor nincs κ-adik momentum, ha X -nek nincs 2κ-adik momentuma. Ezen kívül az egyenlet explicite nem oldható meg, de a következ®ket ismerjük: α1 0,1 0,3 0,5 0,7 0,9 1,0 1,5 2,0 2,5 3 3,5 κ 13,24 4,18 2,37 1,59 1,15 1,0 0,54 0,31 0,17 0,075 0,007
3.45. Tétel. Ha α0 > 0, 0 < α1 < 2eC , és ε(t) ∼ N (0, 1) Gauss-féle fehér zaj, akkor az ARCH(1)
egyenletnek létezik er®sen stacionárius megoldása, amelynek négyzete regulárisan változó eloszlású κ indexszel. Legyen p a κ-nál szigorúan kisebb legnagyobb egész szám. Ekkor m = 1, . . . , p-re az EX(t)2m momentumok végesek. Továbbá, ha X(t) stacionárius ARCH(1) folyamat, ε(t) GWN, és α0 > 0, 0 < α1 < 1, akkor egyrészt α0 X második momentuma 1−α , másrészt α12 < 31 esetén a negyedik momentum is véges, méghozzá 1 EX 4 =
innen a lapultság (kurtosis).
20
3α02 1 + α1 , 1 − 3α12 1 − α1
. rX 2 (t) = corr(Xt2 , X02 ) = α1t minden t-re.
Tehát az ARCH(1)
• α1 = 0-ra GWN. • 0 < α1 < 1-re stacionárius véges szórással. • 1 ≤ α1 < 2eC -re stacionárius végtelen szórással.
3.46. Tétel. Legyen X(t) ARCH(1), α0 > 0, 0 < α1 < 2eC , ε(t) GWN és κ a h(κ) = 1 egyenlet megoldása. Ekkor P (X(t) > x) ∼ d2 · x−2κ , ha x → ∞.
21
Az ARCH -GARCH folyamat néhány jellemz®je:
• Az adatok nem korreláltak, és a szórás változik az id®vel. • Az eloszlás vastag farkú. 19 páros
függvényt integrálunk
20 Kurt
X=
21 d
E (X(t)4 ) (E(X(t)2 ))2
=3·
1−α21 1−3α21
>3
kiszámolható pozitív konstans
29
• A négyzetek és az abszolútértékek er®sen korreláltak. • A nagy értékek meghaladása klaszterekben történik (a kiugró értékek klaszterekben jelennek meg).
További nemlineáris modellek 3.47. De níció. Véletlen együtthatós AR(p) modellt de niál a következ®: X(t) =
p X
Ai X(t − i) + ε(t),
i=1
ahol Ai -k valószín¶ségi változók.
3.48. Példa. Els®rend¶ véletlen együtthatós autoregressziós modell: X(t) = (α + At )X(t − 1) + ε(t),
ahol A(t) i.i.d. 0 várható értékkel és σA2 szórásnégyzettel, továbbá At és ε(t) függetlenek, ε(t) ∼ N (0, σε2 ) i.i.d., α pedig valós konstans. A stacionárius (ergodikus) oksági megoldás létezéséhez elégséges feltétel, hogy α2 + σA2 < 1.
3.49. De níció. Küszöb modellek: osszuk fel Rp -t k db diszjunkt részre, azaz hozzunk létre egy partíciót, így
Sk ?
i=1
Ri = Rp . Ha X(t − 1), . . . , X(t − p) ∈ Ri akkor az i-edik autoregressziós AR(p) modell
legyen érvényes rá. Ilyen például a SETAR (Self Exciting Threshold AR) modell, ahol a partíciót különböz®, a megoldás folyamat által elért küszöbszintek hozzák létre.
3.50. Példa. SETAR(2,1,1): ( α1 X(t − 1) + ε(t) ha X(t − 1) > 0 X(t) = α2 X(t − 1) + ε(t) ha X(t − 1) ≤ 0
Erre X(t) geometrikusan ergodikus, ha α1 < 1, α2 < 1 és α1 · α2 < 1. Petrucelli és Woolford 1984-ben megmutatták, hogy az ergodicitásnak ez szükséges és elégséges feltétele.
3.51. De níció. EXPAR: X(t) =
p h P
αj + βj · e−δX
2 (t−1)
i
X(t − j) + ε(t)
j=1
Ezt pl. vibrációs jelenségek leírására használták.
3.52. De níció. Product AR(p): X(t) = ε(t) ·
p Y i=1
ahol ε(t) i.i.d. Pl. viharkárok modellezésére bizonyult hasznosnak. 30
µi · X(t − i),
3.53. De níció. Nemlineáris AR(p): X(t) = f (X(t − 1), . . . , X(t − p)) + ε(t)
3.54. Megjegyzés. A bilineáris modellnél spektrálsugár-feltétel van a stacionaritásra, méghozzá egy bonyolult operátor spektrálsugarának kell 1-nél kisebbnek lennie.
3.55. De níció. Nemlineáris Wold-felbontás. X(t) = f (ε(t), ε(t − 1), . . .)
végtelen mozgóátlag helyett egy tetsz®leges, akár végtelen sok változós függvény van (végtelen sok ε-os taggal).
3.56. Tétel (Herglotz). Az R(τ ) (τ ∈ Z) sorozat pontosan akkor lesz egy stacionárius Gaussfolyamat kovarianciafüggvénye, ha létezik szimmetrikus véges F mérték [−π, π]-n, amelyre π
Z
eiτ λ dF (λ).
(i) R(τ ) = −π
Ha még F abszolút folytonos is a Λ Lebesgue-mértékre, akkor π
Z
eiτ λ ϕ(λ)dλ
(ii) R(τ ) = −π
alakban írható, ahol (i) a kovariancia spektrálel®állítása, F a spektrálmérték, ϕ(λ) pedig a spektráls¶r¶ségfüggvény. (ii)-nek megfelel®en létezik olyan φ(dλ) véletlen spektrálmérték, hogy Z
π
eitλ φ(dλ).
X(t) = −π
3.57. Tétel. A stacionárius AR(p) folyamatnak létezik spektrál-s¶r¶ségfüggvénye, és az ϕ(λ) =
σ2 σ2 = . 2π|P (eiλ )|2 2π · P (eiλ ) · P (e−iλ )
3.58. Állítás. A fehér zaj spektráls¶r¶sége ϕ =
1 2π
, azaz konstans a [−π, π] intervallumon.
3.59. Tétel. A stacionárius M A(q) folyamat spektráls¶r¶sége ϕ(λ) = 3.60. Tétel. Az ARM A folyamat spektráls¶r¶sége
1 2π
1 |Q(eiλ )|2 2π
.
iλ 2 ) · Q(e . P (eiλ )
2 Speciálisan AR(1)-re R(0) = σX , a spektráls¶r¶ség pedig ∞ o X R(0) n ϕ(λ) = 1+ r(k) · eikλ = 2π k=−∞
Itt a szimmetria miatt eikλ -ban és ei(−k)λ -ban a szinuszos tagok kiesnek, így ez tovább ! ! ∞ ∞ 2 2 2 X X σX σ σX α · eiλ X k iλ k = · 1+2· α cos(kλ) = · Re 1 + 2 · (αe ) = · 1 + 2Re 2π 2π 2π 1 − α · eiλ k=1
k=1
σε2 σε2 = = . 2π(1 − 2α cos λ + α2 ) 2π|1 − αeiλ |2 31
