Comparing NN and ARMA models in artificial market

Comparing NN and ARMA models Jiˇrí Krtek Úvod Teorie NN

Comparing NN and ARMA models in artificial market Jiˇrí Krtek Matematicko–fyzikalní fakulta Univerzity Karlovy v Praze ˇ ÚTIA AV CR

26. listopadu 2009

ˇ trh Umelý Simulace

Motivace

Comparing NN and ARMA models Jiˇrí Krtek Úvod

Co je to neuronová sít’?

Teorie NN ˇ trh Umelý

I

ˇ pokus vytvoˇrit umelou inteligenci

I

inspirováno pˇrírodou – mozkem

I

ˇ schopnost uˇcit se a zobecnovat

Použití NN I

rozpoznávání vzoru˚ ˇR ˇ pˇredpovídání C

I

komprese

I

optimalizace

I

Simulace

ˇR ˇ Výhody a nevýhody pˇri pˇredpovídání C


Pro


I

mužeme ˚ aproximovat libovolnou funkci

I

ˇ schopnost zobecnovat ⇒ robustnost

Proti I

volba topologie

I

uˇcení síteˇ

I

ˇ cˇ erná skˇrínka

ˇ trh? Proˇc umelý

Comparing NN and ARMA models Jiˇrí Krtek Úvod Teorie NN ˇ trh Umelý

I

nekonvenˇcní

I

ˇ v obchodování, ne v "trefení" správné ceny soutež

Nevýhody 1. zdlouhavé 2. jen pro urˇcité modely

Simulace

Perceptron

Comparing NN and ARMA models Jiˇrí Krtek

Znaˇcení:

Úvod

I

vektor vstupu...x ˚ = (1, x1 , . . . , xn )T

I

výstup...y

ˇ trh Umelý

I

vektor vah...w = (w0 , . . . , wn )T

Simulace

I

práh...θ ≡ −w0

I

aktivaˇcní funkce...f n X ⇒ f( xi wi − θ) = f (xT .w) = y i=1

Teorie NN

Aktivaˇcní funkce

Comparing NN and ARMA models Jiˇrí Krtek Úvod Teorie NN ˇ trh Umelý Simulace

Obrázek: I{x≥1}

Obrázek: signum

Obrázek: sigmoida

Obrázek: tanh

Tˇrívrstvá dopˇredná neuronová sít’


Notation:

Teorie NN ˇ trh Umelý

I

vstupní vrstva...x

I

skrytá vrstva...wj , j = 1, . . . , h, u = (u1 , . . . , uh )T , f

I

výstupní vrstva...y , v

I

znaˇcení...η = (wT1 , . . . , wTh , vT )T

Simulace

Dynamika síteˇ 1. ui = f (xT wi ), i = 1, . . . , h 2. y = uT v = ψh (x, η)

Hornik, Stinchcombe, White


ˇ Veta Necht’ f : R → [0, 1] ryze rostoucí s limx→−∞ f (x) = 0 a limx→+∞ f (x) = 1. Necht’ J = {ψh (x, η); h ≥ 1, η ∈ R(n+1)h+h+1 }. Potom: ˇ ritelnou funkci g : Rn → R 1. Pro každou borelovsky meˇ existuje posloupnout ψk ∈ J, k ≥ 1, taková, že µ(x; |g(x) − ψk (x)| > ε) → 0 pro k → +∞, ε > 0, kde µ je libovolná pstní míra na B(Rn ). 2. Pro každou rostoucí funkci g : Rn → R existuje posloupnout ψk ∈ J, k ≥ 1, taková, že supx∈C |g(x) − ψk (x)| → 0 pro k → +∞, kde C je libovolná kompaktní podmnožina Rn .

Teorie NN ˇ trh Umelý Simulace

Motivace ˇ trh Umelý


I

Podstatou práce není zkoumat trh samotný

I

Podobnost se skuteˇcným trhem

ˇ trh Umelý

ˇ – jeden agent = jedna strategie "Hrací hˇrište"

Simulace

I

Agenti I

pˇredpovídání – jedna ze strategií FNN, SRN, VAR, VARMA

I

ruzný ˚ poˇcet vstupu˚

I

ˇ dva výstupy – dividenda a zmena ceny akcie

I

poˇcáteˇcní peníze

I

poˇcáteˇcní poˇcet akcií

I

snaha co nejvíce rozmnožit poˇcáteˇcní bohatství

I

všichni stejneˇ rizikoveˇ averzní

Teorie NN

Stavba trhu

Comparing NN and ARMA models

Prostˇredí trhu I I

Jiˇrí Krtek

Bezrizikové aktivum s pevnou mírou výnosnosti r Rizikové aktivum 1. cena v cˇ ase t...pt ¯ + εd,t 2. dividenda v cˇ ase t...dt = d¯ + ρ(dt−1 − d)

Agent i I

Poˇcet akcií, které drží v cˇ ase t ... hi,t

I

ˇ budoucí ceny rizikového aktiva Ei,t [pt+1 ] Pˇredpoved’ a budoucí dividendy Ei,t [dt+1 ] v cˇ ase t

I

∗ ˇ agent i držet v cˇ ase hi,t+1 poˇcet akcií, které by chtel t +1

I

Pˇredpoklad CARA užitkové funkce a normálního ˇ ˇ rozdelení pˇredpovedí ∗ ⇒ hi,t+1 =

Ei,t [pt+1 + dt+1 ] − (1 + r )pt 2

Úvod Teorie NN ˇ trh Umelý Simulace

2 σi,t


ˇ rozptyl pˇredpovedi ˇ (pro všechny Vzorec pro podmínený stejný):


2 2 σi,t = (1 − θ)σt−1|n + θ(pt + dt − Ei,t−1 [pt + dt ])2 ,

kde

Pn−1 2 σt|n

=

j=0

s

¯ t|n ]2 [Pt−j − P n−1

Pn−1 ¯ t|n = P

2 je historická volatilita. σt|n

j=0

n

Pt−j

.

(1)

(2)

Vývoj poˇctu akcií agentu˚ a ceny rizikového aktiva I


Znaˇcení:

Teorie NN

bi,t+1 = ai,t+1 =

∗ ∗ hi,t+1 − hi,t , hi,t+1 ≥ hi,t , 0, jinak. ∗ ∗ hi,t − hi,t+1 , hi,t+1 < hi,t , 0, jinak.

Bt+1 =

N X

bi,t+1

i=1

At+1 =

N X i=1

ai,t+1


Vývoj poˇctu akcií agentu˚ a ceny rizikového aktiva II


Kolik bude mít agent i v cˇ ase t + 1 akcií?  bi,t+1 − ai,t+1 , Bt+1 = At+1 ,   hi,t + At+1 h + b − a , B hi,t+1 = i,t i,t+1 t+1 > At+1 , Bt+1 i,t+1  Bt+1 h + b i,t i,t+1 − At+1 ai,t+1 , Bt+1 < At+1 . ˇ cena akcií? Jak se zmení pt+1 = pt (1 + β(Bt+1 − At+1 )) + εr ,t , kde β je napˇr. tanh a εr ,t má napˇr. N(0, σr2 ) – šum.


Vývoj bohatství agentu˚


Znaˇcení:

Simulace

I

Wi,t ...bohatství agenta i v cˇ ase t

I

Mi,t ...peníze agenta i v cˇ ase t

I

hi,t ...poˇcet akcií agenta i v cˇ ase t ⇒ Wi,t = Mi,t + hi,t · pt Wi,t = Mi,t−1 · (1 + r ) + hi,t−1 · (pt + dt )

Vývoj agentu˚ I.


Uˇcení agentu˚ jen na úrovni pˇrepoˇcítávání parametru˚ daných strategií. Jednou za k cˇ asových kroku. ˚ 1. porovnání bohatství všech agentu˚ nabitého od minulého kontrolního okamžiku...Wi,t − Wi,t−k , 2. utvoˇrení žebˇríˇcku agentu˚ – poˇradí agenta Ri,t , R

3. ⇒ ri,t = Ni,t je pst, že agent pˇrepoˇcítá parametry své strategie, protože nabyl v mezidobí malého bohatství.


Vývoj agentu˚ II.


Druhý krok Oznaˇcme χki,t =

Wi,t −Wi,t−k |Wi,t−k |

Teorie NN

míru rustu ˚ bohatství agenta i.


⇒ si,t =

1 1 + exp{χki,t }

je pst pˇrepoˇcítání parametru˚ ve 2. kroku – byl málo efektivní. ⇒ celková pst, že agent pˇrepoˇcítá parametry své strategie: ui,t = ri,t + (1 − ri,t )si,t =

Ri,t N − Ri,t 1 + · N N 1 + exp{χki,t }

ˇ Vlastnosti umelého trhu


ˇ trh mít? Jaké vlastnosti by mel ˇ 1. výnosy rt = log(pt ) − log(pt−1 ) mají rozdelení s ˇ težkými konci 2. cena rizikového aktiva odpovídá náhodné procházce I I

{pt } má jednotkový koˇren rt jsou i.i.d.

Simulace

Vývoj ceny rizikového aktiva


ˇ Co bylo splneno? I

{pt } má jednotkový koˇren

I

rt jsou i.i.d.

ˇ Nelze zamítnout hypotézu, že rt mají normální rozdelení.

Výsledky


poˇradí 1 2 3 4 5 6 7 8

strategy VAR VARMA FNN SRN

strategie VARMA(3,2) VARMA(2,2) SRN(2,2) FNN(1,1) VARMA(1,2) VARMA(3,1) FNN(1,1) VAR(3)

bohatství 3385824 2623202 2234082 2225980 2223562 2220488 2219796 2201358

pr. koneˇcné bohatství 2171119 2226319 2064486 2047640

poˇcet uˇcení 36 38 40 27 34 37 36 36

pr. poˇcet uˇcení 43.6 47.3 50.7 54.3

Úvod Teorie NN ˇ trh Umelý Simulace

Nastavení simulace


Market parameters Initial amount of money Total amount of shares interest rate r price adjustment function price adjustment β1 price adjustment β2 Price process Initial mean µp Initial variance σp2 noise parameter σr2 Dividend process ρ d¯ σd Learning parameters k m Traders Number of traders in each group Total number of traders Risk aversion parameter λ parameter θ parameter n

Úvod 100 30 0.001 tanh 2 × 10−6 2 × 10−6 150 0.16 0.04 0.95 0.2 0.02 150 180 15 60 3 0.01333 10


Literatura


[1] Šíma, J., and Neruda, R.: Teoretické Otázky Neuronových Sítí. Matfyzpress, Praha, 1996. [2] Lütkepohl, H.: New Introduction to Multiple Time Series Analysis. Springer, 2005. [3] Chen, S., and Yeh, C.: Genetic Programming in Agent-Based Artificial Markets: Simulations and Analysis. [4] Reinsel, G. C.: Elements of Multivariate Time Series Analysis. Springer, 2003. [5] Matassini, L., and Franci, F.: On Financial Markets Trading, Physica A: Statistical Mechanics and its Applications 3–4 (2001), 526–542. [6] LeBaron, B.: Building the Santa Fe Artificial Stock Market. Brandeis University, 2002. [7] Saracoglu, R.: The Maximum Likelihood Estimation of Parameters in Mixed Autoregressive Moving-Average Multivariate Models. Federal Reserve Bank of Minneapolis, 1977. [8] Berndt, E. K., and Hall, B. H., and Hall, R. E., and Hausman, J. A.: Estimation and Inference in Nonlinear Structural Models, Annals of Economic and Social Measurement (1974), 653–665. [9] Dorffner, G.: Neural Networks for Time Series Processing, Neural Network World 6 (1996), 447–468. [10] Boden, M.: A Guide to Recurrent Neural Networks and Backpropagation. In the Dallas project, 2002. [11] Hamilton, J. D: Time Series Analysis. Princeton University Press, 1994. [12] Palmer, R. G., and Arthur, W. B., and Holland, J. H., and LeBaron, B., and Taylor, P.: Artificial Economic Life: A Simple Model of a Stockmarket, Physica D 75 (1994), 264–274. [13] Mcnelis, P. D.: Neural Networks in Finance: Gaining Predictive Edge in the Market. Elsevier Academic Press, 2005. [14] Franke, J., and Härdle, W. K., and Hafner, C. M.: Statistics of Financial Markets: An Introduction. Springer, 2008.



ˇ Dekuji za pozornost. Vaše dotazy.

Comparing NN and ARMA models in artificial market

Recommend Documents