Nem-paraméteres predikció, Lasso közelítés

Nem-paraméteres predikció, Lasso közelítés ˝ Szabó Zoltán, Lorincz András

Problémamegoldó Szeminárium

2009. nov. 12

˝ Szabó Zoltán, Lorincz András

Nem-paraméteres predikció, Lasso közelítés

Motiváció

˝ Pénzügyi idosorok elemzése (Morgan-Stanley): Fedezési eljárások optimalizációja ↔ Lasso,

Opció árazás: nem-paraméteres úton ↔ kernel regresszió.

Funkcionális AR folyamat analízis („koktél parti” probléma) ↔ identifikáció: kernel regresszió, ˝ Nadaraya-Watson becslo.



Lasso: motiváció

Befektetési bankok (pl. MS) központi célja: állományuk folyamatos fedezése (hedge-elése), azaz illiquid termékeik értékének becslése, piacon elérheto˝ (liquid) termékekhez való lekötése, a folyamatosan fennálló kockázatok ellenére (incomplete piac).

a hozzájuk befutó „ügyfél faramuci termék kívánságainak” kielégítése: Cél: olyan portfolio kialakítása, ami a kívánt termékkel azonos kifizetést ad.



Lasso: regularizáció, ritkaság

˝ ˝ Gyakorlatban a közelíto˝ idosorok erosen kollineáris rendszert alkotnak ⇒ rosszul kondícionált rendszerek, instabil megoldás. Ötlet: regularizációs technikák alkalmazása: simaságot/egyértelmuséget ˝ biztosít.

ritka reprezentáció: tranzakciós költség által is motivált, stabil Markowitz portfoliok elmélete.



Lasso: modell

Lasso modell (lineáris egyenletrendszer ritkasági kényszerekkel): J1 (x) = kAx − bk2 + λ kxk1

(λ > 0) → min, x

(1)

ahol: A: közelíto˝ termékek (portfolio), b: közelített termék, λ kxk1 : regularizációs tag, tranzakciós költség (λ: bid-ask spread),



Lasso: portfolio újraalakítás

Portfolio újra alakításakor: kevés fedezo˝ változó (súlyát) szeretnénk változtatni, Lasso megfogalmazásban:

2 J2 (∆x) = A′ (x + ∆x) − b′ + λ k∆xk1 → min, ∆x

ahol ˝ A′ , b′ : új idoszakhoz tartozó értékek, x′ = x + ∆x: módosított súlyok.



(2)

Nem-paraméteres módszerek: Motiváció Regressziós megfogalmazás: x ∈ Rd1 7→ y ∈ Rd2

(3)

közt fennálló relációt szeretnénk megtanulni {(xi , yi )}i=1,...,n minták alapján. Példák: Különbözo˝ típusú házak mennyit érnek: (NO2 , bunözési ˝ ráta, szobák száma,. . . ) 7→ érték. muhold ˝ képek (spektrális sur ˝ uségfüggvény ˝ integrálja kül. sávokban) 7→ egységnyi területre eso˝ búza/kukorica termés, opció árazás, koktél parti feladatok.



(4)

Nem-paraméteres módszerek: Opció árazás

Call (put) opció: jog arra, hogy T ido˝ múlva K áron vehetek (eladhatok) adott terméket. Kérdés: mennyit ér ez az opció? Azaz C(t, T , St , K , rt,T , dt,T ) =?, ahol St : a mögöttes termék aktuális ára, rt,T : kockázatmentes hozam, dt,T : osztalék.



(5)

Nem-paraméteres módszerek: Black-Scholes

Speciális paraméteres modell feltevések esetén: C explicite számolható, pl Black-Scholes esetben CBS (·) = St e−dt,T (T −t) φ(b1 ) − Ke−rt,T (T −t) φ(b2 ),

ln(St /K ) + (rt,T − dt,T + σ 2 /2)(T − t) √ , σ T −t √ b2 = b1 − σ T − t,

b1 =

ahol φ a standard normális eloszlás eloszlásfüggvénye. Gond: amennyiben nem teljesül a modell feltevésük, ˝ erosen félreáraznak. ⇒ ˆ nem-parametrikus becslése/közelítése. Motivált: C



(6) (7) (8)

Nem-paraméteres módszerek: ISA–szemlélet Koktél parti probléma: ˝ Szereplok: ˝ (rejtett források)–független csoportokba beszélok tömörülhetnek, mikrofonok (szenzorok).

Feladat (ISA, Independent Subspace Analysis): kevert ˝ az eredeti források becslése. jelekbol



Nem-paraméteres módszerek: ISA modell

ISA modell: xt = Aet , ahol e = [e1 ; . . . ; eM ] forrás: ˝ em ∈ Rdm komponensei nem-Gaussok és idoben i.i.d.-k, függetlenek: I(e1 , . . . , eM ) = 0.

˝ az A ∈ RD×D keveromátrix invertálható.

ˆ. ˝ W = A−1 becslése, e Cél: x-bol

Alkalmazások: orvosi adatok (EEG, fMRI, ECG) elemzése, arcirány felismerés, gén analízis,



(9)

Nem-paraméteres módszerek: AR-ISA, fAR-ISA Valóságosabb modell: s forrásnak van dinamikája, pl AR: xt = Ast , X Ls Fi st−i + et , st = i=1

(10) (11)

ahol e mint ISA-ban. Spec.: Ls = 0-ra ISA. Kiterjesztés (dinamika családja is ismeretlen), funkcionális AR-ISA (fAR-ISA): xt = Ast ,

(12)

st = f(st−1 ) + et ,

(13)

ahol f: ismeretlen függvény; e = [e1 ; . . . ; eM ], mint ISA-ban. ˆ, e ˆ. ˝ W = A−1 becslése, s Cél: x-bol ˝ Szabó Zoltán, Lorincz András


Nem-paraméteres módszerek: fAR-ISA megoldás

Megoldási stratégia: st funkcionális AR, xt = Ast ⇒ xt is funkcionális AR xt = Af(A−1 xt−1 ) + Aet , Ae meghajtó zajjal és f(·) → Af(A−1 ·). ˝ d-függo˝ CHT ⇒ Ae közelítoleg Gauss, e komponenseinek fgtlenek, így egy fAR fittelo˝ adta Ae-becslésen ISA-zással kész lennénk.

˝ Kerestetik: fAR becslo.



(14)

Nem-paraméteres módszerek: fAR becslo˝ ˝ o˝ diáról: x funkcionális AR Eloz xt = Af(A−1 xt−1 ) + Aet .

(15)

Ötlet: tanuljuk meg ezt az xt−1 7→ xt összefüggést nem-parametrikus regresszióval, azaz yi = g(xi ) + ni

(i = 1, . . . , T ),

g(·) =?,

ahol y/x/n: válasz-/magyarázó változó; zaj g: ismeretlen feltételes várható érték fg, {(xi , yi )}Ti=1 : mintapontok.



(16)

Nem-paraméteres módszerek: kernel regresszió Nem-paraméteres regresszió kernelekkel = kernel ˝ regresszió, pl Nadaraya-Watson becslo: Ötlet: az g(X) = E [Y|X] ismeretlen várható érték fg-t a ˝ (x, y), x eloszlások kernel sur ˝ uségfg ˝ becslésébol közelítjük. Az adódó formula ˆ (x) = g

PT

x−xi i=1 yi K h , PT x−xi K i=1 h

ahol K : kernel (=sur ˝ uségfg; ˝ pl Gauss), h: szélesség paraméter.



(17)

Nem-paraméteres módszerek: rekurzív NW

Ismert: A rekurzív Nadaraya-Watson technika (igen ˝ általános feltételek mellett) erosen konzisztens becslést szolgáltat funkcionális AR folyamatokra Ref.: Nadine Hilgert, Bruno Portier: Strong uniform consistency and asymptotic normality of a kernel based error density estimator in functional autoregressive models, arXiv, 2009.

Megoldási út: 1

Funkcionális-AR fit (Nadaraya-Watson) a xt = g(xt−1 ) + Aet

2

megfigyelési folyamatra. ˆ ⇒s ˆ, W ˆ. Majd ISA x becsült innovációján ⇒ e



(18)

Jóságmérce ISA egyértelmuségek ˝ szerint a rejtett forráskomponensek permutáció, és és altéren belüli lineáris transzformáció

ˆ ˆ = Wx-ben erejéig állíthatóak vissza. Ideális esetben: s ˆ blokk-permutációs mtx G = WA

Blokk-permutációsságra mérce: Amari-index r (G) ∈ [0, 1]; 0–tökéletes becslés. Statisztikák ábrázolása boxplot-ok: kvartilisek: Q1 , Q2 , Q3 , kiugró értékek: 6∈ [Q1 − 1.5IQR, Q3 + 1.5IQR], IQR := Q3 − Q1 .



Illusztráció-1 e [∀dm = dim(em ) = 2; D = dim(e) ≤ 12]:

Funkcionális AR becslo˝ (rekurzív Nadaraya-Watson), x ∈ RD , β ∈ (0, 1/D): PT −1 βD K [t β (Xt − x)]Xt+1 t=1 t ˆ T (x) = P g (19) T −1 βD β (X − x)] t K [t t t=1 Kernel: Gauss, szélesség (β = 1/Dβc ): βc = 1./[2, 4, 8, 16, 32, 64]. f(u) = ‘tanh(Fu)′ : F = [Fij ] = [U(0, 1)], tanhi (·):



Illusztráció-2 Megfigyelés (x):




ˆ): Becslés (e




ˆ): Becslés (e

ˆ Hinton-diagram (G = WA):



Illusztráció-3: M = 3 (6-dimenziós feladat) 0

10

βc=1/2 β =1/4 c

Amari−index (r)

βc=1/8 β =1/16 c

−1

10

βc=1/32

−2

10

1

2

5 10 20 Mintaszám (T/1000)


50

100


Illusztráció-4: M = 6 (12-dimenziós feladat) 0

10

βc=1/8 Amari−index (r)

β =1/16 c

βc=1/32 −1

β =1/64

10

c

−2

10

1

2

5 10 20 Mintaszám (T/1000)


50

100


Köszönöm a figyelmet!



Nem-paraméteres predikció, Lasso közelítés

Recommend Documents