Space-time Models. MA5282 Topik dalam Statistika II 21 April 2015 Utriweni Mukhaiyar

Space-time Models MA5282 Topik dalam Statistika II 21 April 2015 Utriweni Mukhaiyar

Analisis Statistik Data Analysis Non-parametric Analysis

Compound Poisson

Postulate General Class of Models

Resampling

Parameter Estimation

Multivariate Analysis

+

Spatial Analysis =

Space-Time Analysis

Maximum Likelihood Least Squares

Diagnostic Checking No

Time Series Analysis

ACF, PACF, diff

Identify Model

Hidden Markov

Stochastic Processes

Stationarity

Box&Jenkins Iteration

Yes

Forecasting

Variogram

Krigging

Estimation & Interpolation

Modelling

Adopted from Time Series Analysis

Weight matrix, STACF, STPACF, diff

Box&Jenkins Procedure/Iteration

Kovariansi dan Korelasi pada deret-waktu Suatu proses stokastik Z (t ), t T  • Fungsi Mean:

dengan

T  0,1,2,...

 (t )  E  Z (t )

• Fungsi Autokovariansi:  t1, t2   CovZ t1 , Z t2   EZ t1    t1 Z t2    t2  • Fungsi Autokorelasi:

 t1 , t 2   Corr Z t1 , Z t 2   untuk

t1 , t2  0,1,2,...

CovZ t1 , Z t 2 

Var Z t1  Var Z t 2 1 2



 t1 , t 2   t1 , t1  t 2 , t 2 1 2

Kovariansi dan Korelasi pada deret-waktu Kovariansi

Korelasi

1

 t1 , t1   Var Z t1 

2

 t1 , t 2    t 2 , t1 

 t1 , t1   1  t1 , t 2    t 2 , t1 

3

 t1 , t 2    t1 , t1  t 2 , t 2 

 t1 , t 2   1

Mean dan Kovariansi pada Analisis Spasial Untuk suatu proses stokastikZ (s), s  L dengan L  R, R 2 , R3  Fungsi Mean:  ( s)  E  Z ( s)    

Kovariansi spasial: Cov  Z  s  , Z  s  h    E  Z  s      Z  s  h       E  Z  s  Z  s  h     2  C  h 

Var  Z  s    Cov  Z  s  , Z  s    C  0  

Korelasi spasial:   h 

Cov  Z  s  , Z  s  h  

Var  Z  s  Var  Z  s  h  



C  h C  0

C h  C  0 C  0

Kestasioneran Kestasioneran

Deret-waktu Z(t) F  Z (t1 ), Z (t2 ),..., Z (tn ) 

Kuat

 F  Z (t1  k ), Z (t2  k ),..., Z (tn  k ) 

Lemah

Intrinsik

Spasial/Geostatistik Z(s) F  Z ( s1 ), Z ( s2 ),..., Z ( sn )   F  Z ( s1  h), Z ( s2  h),..., Z ( sn  h) 

untuk sebarang n dan k.

untuk sebarang n dan h.

1. Fungsi mean konstan untuk semua waktu 2.  t , t  k    0,k untuk semua t dan k.

1. E  Z ( s)  

-

1. E  Z  s  h   Z  s   0 1 2. Var  Z  s  h   Z  s      h  2





2. Cov Z  s  , Z  s  h   C  h 

Var  Z  s  h   Z  s    Var  Z  s  h    Var  Z  s    2Cov  Z  s  h   Z  s   2  h   C  0   C  0   2C  h 

  h   C  0  C  h 

Semivariogram lag-h

Aplikasi Pemodelan Space Time • • • • • • • • • • •

Ekonomi (Nurhayati 2012) Pertanian & Perkebunan (Borovkova 2008, Mukhaiyar 2012) Transportasi (Garrido; 2000, Kamarianakis and Prastacos; 2005) Kriminologi (Liu and Brown; 1998) Sosial (Hernandez-Murillo and Owyang; 2004) Perminyakan (Ruchjana; 2002) Geologi dan Ekologi (Kyriakidis and Journel; 1999) Pertambangan Kedokteran Genetika …

Analisis Space Time time 0

1

sN s0

s1 s2

sj

sN-1

…

sN s0

s1 s2

sj

sN-1

i-1

i

sN s0

s1 s2

sj

sN-1

…

sN s0

s1

s2

T

sN-1

sj

“Observasi di suatu lokasi pada satu waktu dipengaruhi oleh observasi-observasi di masa lampau di lokasi tersebut dan juga di lokasi sekitarnya.”

Model Space-Time STARMA (p,q) :

p

s

q mss

Z( t )   sk W( k )Z( t  s )  e( t )   sk W( k )e( t  s ) s 1 k  0

p

STAR (p1) :

p

Z(t )    s 0 Z(t  s)    s1 WZ (t  s)  e(t ) s 1

G-STAR ( p , ,..., ) : 1

2

p

s 1

q

q

s 1

s 1

Z(t )  e(t )   s 0 e(t  s)   s1 We (t  s) Syarat kestasioneran  wi(1k )Z1( t  s )  wi(2k )Z 2 ( t  s )  Zi ( t )     GSTAR(11)   ei ( t ) (k)   s 1 k  0 (Nurani, dkk )  ...  wiN Z N ( t  s )  p

s

(k) sk

p

s



Z i ( t )   (skk ) wi(1k )Z1( t  s )  wi(2k )Z 2 ( t  s )  ...  wiN( k )Z N ( t  s ) STARMAG ( p , ,..., , qm ,m ),...,m 1

2

p

1

2

s 1 k  0 q

p

1980 

STMA (q1) :

Pfeifer & Deutsch

s 1 k  0

ms





Di Giacinto

2006

Model GSTAR(1;1) untuk galat berkorelasi waktu (Borovkova, et al.)

2008



 (skk ) wi(1k )e1( t  s )  wi(2k )e2 ( t  s )  ...  wiN( k )eN ( t  s )  ei ( t ) s 1 k  0

Model GSTAR(1;1) untuk galat berkorelasi spasial (Nurhayati)

2002

Kestasioneran Model GSTAR dengan IMAk (Mukhaiyar)

2010 2012

Model VAR(1) • Jika banyaknya lokasi adalah N maka vektor observasi z(t) = (z1(t) z2(t) ... zN(t))t yang mengikuti model VAR(1) akan memiliki bentuk:

Z(t )  Z(t  1)  e(t )

• dengan e(t) adalah vektor galat acak. Dengan menggunakan operator backshift,

maka,

B j Z(t )  Z(t  j )

I  BZ(t )  e(t )

Kestasioneran Model VAR(1) • Wei (1990, 2006) menuliskan bahwa syarat kestasioneran untuk model VAR(1) adalah jika akar-akar dari B dari |I - B| = 0 berada di luar lingkaran satuan. • Hal ini ekivalen dengan mengatakan bahwa syarat kestasioneran model VAR(1) adalah nilai eigen dari  berada di dalam lingkaran satuan.

Operator Lag Spasial • Untuk mempermudah dalam mendeteksi lag spasial, diperlukan pendefinisian dari operator lag spasial orde-l (L(l) ) berikut:

L Zi (t )  Zi (t ) ( 0)

N

L Z i (t )   wij Z j (t ) (l )

(l )

j 1

(l )

• dengan wij merupakan kumpulan bobot-bobot yang merupakan elemen dari matriks berukuran yang memenuhi, N

w j 1

ij

(l )

1

Kekhasan model space-time

Matriks Bobot dan Orde Spasial  0 w12  0 w W  ( wij )   21    w  11 w11

Sistem radius

 w1N    w2 N       0 

1. Matriks Bobot Biner Memiliki nilai 0 dan 1 di elemen selain diagonal utama.

2. Matriks Bobot Uniform  1 , j adalah tet angga i pada orde ke - l  (l ) wij   ni (l )  , lainnya 0 3. Matriks Bobot non-uniform ct. matriks bobot euclidean wij

(l )

 1    1  d ij l 0 

, j adalah tet angga i pada orde ke - l , lainnya

Lag Spasial Sistem grid • Tetangga Terdekat pada Lag Spasial 1 sampai 5 untuk Lokasi s0 . • Angka-angka pada grid menunjukkan orde spasial titik tersebut yang ditentukan oleh jaraknya terhadap s0. Angka yang semakin kecil menunjukkan posisi yang semakin dekat terhadap s0.

5 4 3 4 5

4 3 4 5 2 1 2 4 1 s0 1 3 2 1 2 4 4 3 4 5

Model STARMA • Misalkan Z(t) merupakan vektor variabel acak dari suatu proses STARMA di berbagai lokasi pada suatu waktu t. • Model STARMA( p1 ,..., p , q m1 ,...,mq ) dinyatakan dalam: s mr   q   (k ) Z(t )   s 0 Z(t  s)  sk W Z(t  s)    r 0e(t  r )   rl W(l )e(t  r )  e(t s 1  k 1 l 1   r 1  p

• dengan Z(t) merupakan vektor pengamatan (N1) dari N lokasi pada waktu t atau (Zi(t) ), W adalah matriks bobot (NN) pada lag spasial l, t menyatakan waktu pengamatan ,1,2,...,T dan e(t) adalah vektor galat berdistribusi normal.

Model STARMA(1;1, 1;1) Z(t )  10 Z(t  1)  11WZ (t  1)  10e(t  1)  11We (t  1)  e(t )

Model STAR(1;1) • Model STAR(1;1) yang merupakan kasus khusus dari model STARMA(1;1, 1;1), yaitu tidak melibatkan unsur galat di lokasi sekitarnya (yang terdekat) pada waktu sebelumnya, dapat direalisasikan sebagai berikut: s

Z(t )  10 Z(t  1)   11WZ (t  1)  e(t ) k 1

• Model STAR(1;1) ini juga dapat dinyatakan dalam bentuk model VAR (1) yaitu: Z(t )  10I  11WZ(t  1)  e(t ) Z(t )  ΦZ(t  1)  e(t )

Identifikasi Model Space Time (Pfeifer and Deustch, 1980) Model space time diidentifikasi melalui fungsi space time autokorelasi (STACF) dan fungsi space time parsial autokorelasi (STPACF).

Matriks kovariansi antara lokasi dan waktu :

Γs   EZt Zt  s '

ˆΓ( s)   Z(t )Z(t  s)' T s t 1 T s





' 1 tr W (l ) W ( k ) Γ( s) N

Rata-rata kovariansi space time pd lag-s :

 lk ( s) 

Fungsi autokorelasi space time (STACF) :

lk ( s) 

 lk ( s)  ll (0) kk (0)1/ 2

… Fungsi parsial autokorelasi space time (STPACF),

lk :

solusi persamaan Yule Walker :   00 1   00 0   01 0    0  0   00  1  01  1   0   1   1    0   0    0    1   1    1 11 1 10 11 1  10   10                  0 1    0 0   1 0     0    0  1  1  1     1   00 2         10 2       1 0       0 2                 00  p        10  p        p  1  p  2       0  p  

  10      11  1  p         1    20       21  2  p        2            p 0       p1  0         p 

Pola Teoritis STACF dan STPACF

Contoh STACF plots

Spatial Time Autocorrelation Function (ST-ACF)- lag spatial 1

0.8

0.8

0.8

0.8

0.6

0.6

0.6

0.6

0.4 0.2 0 -0.2 -0.4

0.4 0.2 0 -0.2 -0.4

Spatial Time Autocorrelation

1

Spatial Time Autocorrelation

1

0.4 0.2 0 -0.2 -0.4

0.4 0.2 0 -0.2 -0.4

-0.6

-0.6

-0.6

-0.6

-0.8

-0.8

-0.8

-0.8

-1

-1

-1

0

2

4

6

8

10 12 Lag time

14

16

18

20

0

2

4

6

8

10 12 Lag time

14

16

18

20

-1

0

2

4

6

8

10 12 Lag time

14

16

18

20

Spatial Time Partial Autocorrelation Function (ST-PACF)- lag spatial 1

Spatial Time Partial Autocorrelation Function (ST-PACF)- lag spatial 2

0.8

0.8

0.8

0.8

0.6

0.6

0.6

0.6

0.2 0 -0.2 -0.4 -0.6 -0.8

0.4 0.2 0 -0.2 -0.4 -0.6 -0.8

0

2

4

6

8

10 12 Lag time

14

16

18

20

-1

Spatial Time Partial Autocorrelation

1

Spatial Time Partial Autocorrelation

1

Spatial Time Partial Autocorrelation

1

0.4

0.4 0.2 0 -0.2 -0.4 -0.6 -0.8

0

2

4

6

8

10 12 Lag time

14

16

18

20

-1

2

4

6

8

10 12 Lag time

14

16

18

20

Spatial Time Partial Autocorrelation Function (ST-PACF)- lag spatial 3

1

-1

0

STPACF plots

Spatial Time Partial Autocorrelation Function (ST-PACF)- lag spatial 0

Spatial Time Partial Autocorrelation

Spatial Time Autocorrelation Function (ST-ACF)- lag spatial 3

Spatial Time Autocorrelation Function (ST-ACF)- lag spatial 2

1

Spatial Time Autocorrelation

Spatial Time Autocorrelation

Spatial Time Autocorrelation Function (ST-ACF)- lag spatial 0 1

0.4 0.2 0 -0.2 -0.4 -0.6 -0.8

0

2

4

6

8

10 12 Lag time

14

16

18

20

• Model yang mungkin: GSTAR(1;1), ... ???

-1

0

2

4

6

8

10 12 Lag time

14

16

18

20

Model GSTAR Orde waktu = p



GSTAR p; 1 , 2 ,...,  p



Orde spasial = λ1, λ2,…, λp Generalized space time autoregressive

Pengamatan di lokasi i saat t Orde waktu = 1

GSTAR (1,1) Orde spasial =1 Generalized space time autoregressive

Nilai Zi (t) tergantung nilai satu periode sebelumnya yang terjadi di i dan di lokasi yang langsung terkait dengan i

Model GSTAR(1;1) • Model GSTAR(1;1) untuk setiap lokasi i = 1, 2, ..., N dan waktu t dinyatakan oleh: Zi (t )   Zi (t  1)   (i ) 10

(i ) 11

N

w Z (t  1)  e (t ) j 1

ij

j

i

• dan dalam notasi matriks dinyatakan sebagai:

Z(t )  Φ 0  Φ1 WZ(t  1)  e(t )

• dengan  Z 1 (t )     Z 2 (t )  Z(t )        Z (t )   N 

 e1 (t )     e2 (t )  e(t )        e (t )   N 

 0   w21 W   w  N1

w12 0  wN 2

 w1N    w2 N       0 

N

• dengan

 wij  1 j 1

dan



Φ  diag 1(1) , ,1( N )



• Proses Z(t) diasumsikan terpusat, yaitu E[Z(t)]=0 untuk semua t. • Perhatikan bahwa model STAR(1;1) merupakan kasus khusus dari model GSTAR(1;1) dengan Φ 0   0 I dan Φ1  1I .

GSTAR orde 1 Bentuk umum N

Zi (t )  10 Zi (t  1)  11  wij Z j (t  1)  ei (t ) (i )

(i )

j 1

observasi pada waktu t, untuk setiap lokasi-i

Notasi matriks, dalam bentuk VAR(1)

Z(t )  Φ 0  Φ1 WZ(t  1)  e(t )

Bentuk VAR (1) kestasioneran model GSTAR(11)

Struktur model liner

Y  Xβ  ε

Penaksir Kuadrat Terkecil βˆ T

kekonsistenan

Kestasioneran GSTAR orde 1 • Jika solusi rs memenuhi persamaan, rs I  Φ 0  Φ1 W  0 terletak di dalam lingkaran satuan ( rs  1 ), maka GSTAR(1;1) stasioner. (Wei, 1990, 2006)

• Syarat cukup kestasioneran GSTAR(1;1), jika

10(i )  11(i )  1 (Ruchjana, 2002)

dan

10(i )  11(i )  1

Kuadrat Terkecil GSTAR(1;1) • for time t = 1,2,…,T and spatial i = 1,2,…,N Yi  Xi i  εi

Y1 dan YN

V1 (0)  Z1 (1)   Z1 (0)    V1 (1)  Z1 (2)   Z1 (1)           Z1 (T )   Z1 (T  1) V1 (T  1)                   Z N (1)   0 0    0 0  Z N (2)            0 0  Z N (T )   N

with Vi (t )   wij Z j (t ) j 1

  e1 (1)     e ( 2 )   1         01      11   e1 (T )        02     11       X1dan X N            Z N (0) Z N (0)  0 N   eN (1)       Z N (1) Z N (1)  1N   eN (2)            Z N (T  1) Z N (T  1)  e ( T )  N   

0 0  0

0 0  0

ε1 dan εN

Kuadrat Terkecil GSTAR(11) Y  Xβ  ε Penaksir  :

ˆ  (01 , 11 ,..., 0 N , 1N ) ' memenuhi,

X ' X ˆ  X 'Y Akibatnya,

ˆ   X ' X 1 X ' Y dimana, X ' X harus non singulir.

Latihan • N=3 • Misalkan dipandang produksi perkebunan teh di 3 bulan berturut-turut di 3 lokasi sbb: Produksi (ribu ton) Tahun 1992 Kebun 1 Kebun 2 Kebun 3 Januari 275 317 302 Februari 178 252 176 Maret 255 312 260

• Misalkan proses mengikuti model GSTAR(1;1). Lakukan penaksiran parameter model dengan metode LS. Gunakan matriks bobot seragam. • Catatan: pusatkan data terlebih dahulu.

GSTAR Orde 2 Pengamatan di lokasi i saat t

Orde waktu = 2

Nilai Zi (t) tergantung nilai dalam dua periode sebelumnya yang terjadi di i dan di lokasi yang langsung terkait dengan i

Model GSTAR(2; 1 , 2 ) Orde spasial untuk lag waktu 2 : λ2 Orde spasial untuk lag waktu 1 : λ1

Generalized space time autoregressive

Lag spasial (λ1, λ2)

1

2

…

1

GSTAR(2;1,1)

GSTAR(2;1,2)

…

2

GSTAR(2;2,1)

GSTAR(2;2,2)

…

d0

d0 d0

1 2

l







Model GSTAR orde 2 observasi pada waktu t, untuk setiap lokasi-i • GSTAR(2;1,1)

N

N

Zi (t )  10 Zi (t  1)  11  wij Z j (t  1)  20 Z i (t  2)  21  wij  Z j (t  2)  ei (t ) i 

i 

1

i 

i 

j 1

1

j 1

• GSTAR(2;1,2) N

N

N

Zi (t )  10 Zi (t  1)  11  wij Z j (t  1)  20 Zi (t  2)  21  wij Z j (t  2)  22  wij  Z j (t  2)  ei (t ) i 

i 

1

i 

i 

j 1

• GSTAR(2;2,1)

N

1

i 

j 1

N

2

j 1

N

Zi (t )  10 Zi (t  1)  11  wij Z j (t  1)  12  wij Z j (t  1)  20 Z i (t  2)  21  wij  Z j (t  2)  ei (t ) i 

i 

i 

j 1

• GSTAR(2;2,2) N

1

 2

i 

i 

j 1

N

1

j 1

N

N

  Zi (t )  10 Zi (t  1)  11  wij  Z j (t  1)  12   wij  Z j (t  1)  20 Zi (t  2)  21  wij  Z j (t  2)  22  wij Z j (t  2)  ei (t ) i

i

j 1

1

i

j 1

2

i

i

j 1

1

i

j 1

2

Model GSTAR orde 2 notasi matriks, dalam bentuk VAR(1) • GSTAR(211) •

 Z (t )   10  11W   Z ( t  1) I GSTAR(212)   

• GSTAR(2 21Z) (t )

  10  11W   I  Z (t  1)  

 20   21W  Z (t  1)   e(t )     0 Z ( t  2)    0 

 20   21W   22W (2)   Z (t  1)   e(t )     0   Z (t  2)   0 

• GSTAR(222)

 Z (t )   10  11W  12W (2)   Z ( t  1) I   

 Z (t )   10  11W  12W (2)   Z ( t  1) I   

 20   21W   Z (t  1)   e(t )     Z ( t  2) 0 0     

 20   21W   22W (2)   Z (t  1)   e(t )     Z ( t  2) 0   0  

Model GSTAR orde 2 struktur model linier

Y  Xβ  ε

 Y1 '   X1 0    Y ' 2     0 X2       Y ' 0  N   0   Z1 1   Z1  2       Z1  2   Z1  3          Z1 T       Z1 T  1            0  Z N  2       Z N  3   0        Z N T        0  

N

 wij 1  Z j 1 

j 1 N

 w j 1

1  ij

Z j  2

 w

Z1 1

 w

N

 wij2  Z j T  1 Z1 T  2  j 1

0 0

0

N

Z1  0 

0 0

0

j 1 N

j 1

N

 w j 1

Z j 0

0

0

0

Z j 1

0

0

0

Z j T  2 

0

0

0

2  ij

2  ij

2  ij

0  1 '   ε1 '      0  2 '   ε 2 '           X N   ' ε '  N   N 

0 0

0

Z N 1

N

 w j 1 N

1  ij

Z N  2

 w

Z N T  1

 w

j 1

N

j 1

1  ij

1  ij

Z j 1

Z N 0

Z j 1

Z N 1

Z j 1 Z N T  2 

  1    10      1   e  2   0   11   1    1   e1  3     20           e1 T   0   1      22           N N    10    1   w Z 1  ij j       e 2 j 1 N       N    N    eN  3    1   wij Z j 1   11     j 1  N       20   eN T       N   1  wij Z j 1    N    j 1   22  0

Kuadrat Terkecil GSTAR(1;1) Y( NT1)  X ( NT2 N )  ( 2 N 1)  ε ( NT1)  X1   0 X    0 

0   0       X N 

0  X2   0

X i'  M i Z(0) Z(1)  Z(T  1) 0  0  M i    wi1  wi ,i 1

dapat ditulis,

X '  M  I  Z(0) Z(1)  Z(T  1)  dengan

1

0

0 wi ,i 1

0    wiN  

 M1   0 M    0 

0   0       M N 

0  M2   0

Y( NT1)  X ( NT2 N )  ( 2 N 1)  ε ( NT1) Penaksir

:

ˆT  (ˆ01, ˆ11,..., ˆ0 N , ˆ1N )' memenuhi, X' Xˆ  X' Y T



Akibatnya,

dimana,



X' X ˆT    X' ε X' Xharus non singulir. T   X X  M  I   Z(t  1)Z(t  1)' M' t 1   '

 T  X ε  M   vec Z(t  1)e(t )'  t 1  '

Kuadrat Terkecil GSTAR(2;λ1, λ2)

Y  X  ε





ˆ  ˆ1 ,...,ˆ1 ,ˆ1 ,...,ˆ1 ,...,ˆ N  ,...,ˆ N  ,ˆ N  ,...,ˆ N  ' Penaksir β :  T 10 11 20 22 10 11 20 22 memenuhi, Akibatnya,

X' XˆT  X' Y





X' X ˆT    X' ε

dimana, X' X harus non singulir. p ˆ    T

Kekonvergenan Penaksir Parameter ? ˆ T   

Menyelidiki sifat limit dari

ˆ

T



 dapat dilihat dari perilaku: T

T

 Z(t  1)Z(t  1)' t 1

dan

 Z( t 1) e( t )' t 1

Referensi • • • • • •

•

Borovkova, S.A., Lopuhaä, H.P., & Nurani, B., Consistency and Asymptotic Normality of Least Squares Estimators in Generalized Space-Time Models, Statistica Neerlandica, 62, pp. 482-508, 2008. Box, G.E.P., Jenkins, G.M. & Reinsel, G., Time Series Analysis, Forecasting and Control, 3rd ed., Prentice Hall, New Jersey, 1994. Mukhaiyar, U. Kestasioneran Model Generalized STAR Melalui Metode Invers Matriks Autokovariansi, PhD Dissertation, Mathematics, Institut Teknologi Bandung, 2012. Mukhaiyar, U. Kekonsistenan Lemah Penaksir Kuadrat Terkecil Model Space-Time GSTAR(1;1) Melalui Proses Beda Martingale: Studi Kasus pada Produksi Bulanan Perkebunan Teh di Wilayah Jawa Barat, Magister Thesis, Institut Teknologi Bandung, 2007. Pfeifer, P.E., & Deutsch, S.J., A Three-Stage Iterative Approach for Space-Time Modeling, Technometrics, 22(1), pp. 35-47, 1980. Ruchjana, B.N. Suatu Model Generalisasi Space-Time Autoregresi dan penerapannya pada Produksi Minyak Bumi. , PhD Dissertation, Mathematics, Institut Teknologi Bandung, 2002. Wei, W.W.S., Time Series Analysis: Univariate and Multivariate Methods 2nd. Ed., Pearson Addison Wesley, Boston, 2006.