Dr. Kusman Sadik Dept. Statistika IPB, 2015
Pendugaan Parameter Model Apabila nilai p, d, dan q sudah dapat diidentifikasi, maka selanjutnya dilakukan pendugaan terhadap parameter model, yaitu 1, 2, ..., p untuk model AR(p) dan 1, 2, ..., q untuk model MA(q) berdasarkan data terobservasi Y1, Y2, ..., Yn. Metode pendugaan parameter :
Metode momen,
Metode kuadrat terkecil (least-square),
Metode kemungkinan maksimum (maximum likelihood).
1. Metode Momen Metode ini didasarkan pada persamaan momen contoh dan momen teoritis, kemudian memecahkan persamaan-persamaan tersebut untuk mendapatkan penduga bagi parameter model. Misalnya, menduga rataan populasi (teoritis) dengan rataan contoh Y .
Model AR a. AR(1) : Yt = Yt-1 + et
k = k ; k = 1, 2, …
1 = ˆ1 ˆ r1 = ˆ
Jadi pada AR(1) penduga bagi parameter model, , adalah r1 yang dapat dihitung dari data.
1
Dr. Kusman Sadik Dept. Statistika IPB, 2015
b. AR(1) : Yt = + Yt-1 + et
Bagaimana menduga ?
Perhatikan model : (Yt - 𝑌)= (Yt-1 - 𝑌) + et ↔ (Yt - 𝑌)= (Yt-1 - 𝑌) + et ↔ Yt = (1 - )𝑌 + Yt-1 + et ↔ Yt = + Yt-1 + et Sehingga : α = (1 - )𝑌
c. AR(2) : Yt = 1Yt-1 + 2Yt-2 + et Berdasarkan persamaan Yule-Walker :
k = 1k-1 + 2k-2 + ... + pk-p maka diperoleh
1 = 1 + 21 dan 2 = 11 + 2 dengan metode momen diperoleh: r1 = ˆ1 + ˆ2 r1 dan r2 = r1 ˆ1 + ˆ2 penyelesaian terhadap dua persamaan ini diperoleh:
ˆ1
r1 (1 r2 ) 2 1 r1
r r dan ˆ2 2 12 1 r1
2
Model MA MA(1) : Yt = et - et-1
1
1 2
r1
ˆ 1 ˆ 2
1 1 4r1 sehingga diperoleh : ˆ 2r1
2
Sebagai catatan untuk persamaan ini, apabila | r1 | > 0.5 maka metode momen gagal untuk menduga parameter .
Untuk MA(2), MA(3), dst, metode momen menjadi sangat kompleks, sehingga harus menggunakan metode pendugaan lainnya.
2
Dr. Kusman Sadik Dept. Statistika IPB, 2015
Model ARMA ARMA(1, 1) : Yt = Yt-1 - et-1 + et
k
(1 )( ) k 1 1 2 2
2 r sehingga penduga bagi adalah : ˆ 2 1 r1 Untuk menduga dapat digunakan persamaan pertama dengan cara mengganti 1 dengan r1 dan dengan ˆ , yaitu
r1
(1 ˆˆ)(ˆ ˆ) 1 2ˆˆ ˆ 2
Contoh Kasus (Latihan): Misalnya diketahui model AR(2) : Yt = + 1Yt-1 + 2Yt-2 + et. Berdasarkan data diketahui bahwa r1 = 0.75, r2 = 0.61, dan Y = 4.5. Tentukan ˆ , ˆ1 , dan ˆ2 dengan metode momen.
Penduga bagi e2
Lakukan pendugaan pada parameter model
Lakukan pendugaan pada V(Yt) = 0, yaitu n
ˆ (Y ) S 2 ˆ0 V t
(Y Y ) t 1
2
t
n 1
Lakukan pendugaan untuk e2.
Misal untuk AR(p) :
e2 0 V(Yt ) (1 11 2 2 .... p p ) sehingga penduga bagi e2 adalah :
3
Dr. Kusman Sadik Dept. Statistika IPB, 2015
ˆ (Y ) ˆ e 2 (1 ˆ1r1 ˆ2 r2 ... ˆp rp ).V t n (Yt Y ) 2 (1 ˆ1r1 ˆ2 r2 ... ˆp rp ) t 1 n 1
2. Metode Kuadrat Terkecil Metode ini dilakukan dengan cara meminimumkan komponen n
pada galat, yaitu
e t 1
2
t
.
AR(1) : Yt = Yt-1 + et n
S() = et = 2
t 1
et = Yt - Yt-1
n
(Y Y t 1
t 1
t
)2
Penduga bagi parameter model, , dapat diperoleh dengan cara meminimumkan S(). MA(1) : Yt = et - et-1
et = Yt + et-1
et = Yt + ( Yt-1 + et-2) et = Yt + Yt-1 + 2Yt-2 + 3Yt-3 + ….
n
S() = et
2
t 1
Meminimumkan S() tidak dapat dilakukan secara analitik / kalkulus karena bersifat non-linear, sehingga harus diselesaikan secara numerik / iteratif, salah satunya melalui algoritma Gauss-Newton.
4
Dr. Kusman Sadik Dept. Statistika IPB, 2015
3. Metode Kemungkinan Maksimum Metode ini dilakukan dengan cara memaksimumkan fungsi kemungkinan (likelihood), berdasarkan fungsi sebaran galat (et).
bsi
AR(1) : Yt = Yt-1 + et, misal et ~ N(0, e2) f(e1, e2, …., en) = (2 e2 ) ( n1) / 2 . exp( L(, e2) = (2 e2 ) ( n 1) / 2 . exp(
1 2 e2
n
1 2
e
2 e t 1
2 t
)
n
(Y Y ) ) 2
t 1
t
t
Penduga dan e2 dapat diperoleh dengan cara memaksimumkan fungsi kemungkinan L(, e2).
MA(1) : Yt = et - et-1 Fungsi kemungkinannya, L(, e2), bersifat non-linear sehingga pemaksimumannya harus dilakukan secara numerik / iteratif.
Catatan : SAS dan Minitab menggunakan metode iterasi Gauss-Newton untuk menduga parameter AR(p), MA(q), dan ARIMA(p, d, q).
5
Dr. Kusman Sadik Dept. Statistika IPB, 2015
Studi Kasus : Tentukan model terbaik untuk data penjualan suatu produk (Zt) sebagai berikut: 10
Zt
0
-10 Index
10
20
30
40
Zt : Data Asal
2
Zt(lag1)
1 0 -1 -2 -3 Index
10
20
30
40
Zt : Data Setelah Differencing Ordo-1
3
Zt(lag2)
2 1 0 -1 -2 Index
10
20
30
40
Zt : Data Setelah Differencing Ordo-2
6
Dr. Kusman Sadik Dept. Statistika IPB, 2015
Autocorrelation
Autocorrelation Function for Zt(lag2) 1.0 0.8 0.6 0.4 0.2 0.0 -0.2 -0.4 -0.6 -0.8 -1.0
1
2
3
4
5
6
7
8
9
Lag
Corr
T
LBQ
Lag
Corr
T
LBQ
1 2 3 4 5 6 7
-0.44 0.13 -0.18 -0.04 0.02 0.08 0.07
-2.94 0.75 -1.02 -0.22 0.10 0.46 0.40
9.23 10.07 11.72 11.80 11.82 12.20 12.50
8 9 10 11
-0.12 0.06 -0.01 -0.02
-0.65 0.33 -0.05 -0.10
13.30 13.52 13.53 13.55
10
11
Partial Autocorrelation
Partial Autocorrelation Function for Zt(lag2) 1.0 0.8 0.6 0.4 0.2 0.0 -0.2 -0.4 -0.6 -0.8 -1.0
1
2
3
4
5
Lag PAC 1 2 3 4 5 6 7
-0.44 -0.08 -0.19 -0.24 -0.15 0.00 0.10
T -2.94 -0.51 -1.27 -1.64 -0.99 0.00 0.69
6
7
Lag PAC 8 9 10 11
-0.07 0.01 0.10 0.02
8
9
10
11
T -0.46 0.06 0.70 0.16
Kandidat Model : ARIMA(0,2,1)dan ARIMA(1,2,0)
MTB > ARIMA 0 2 1 'Yt'; SUBC> Constant; SUBC> Brief 2. ARIMA model for Yt Estimates at each iteration Iteration SSE Parameters 0 66.1073 0.100 0.031 1 57.5810 -0.050 -0.011 2 51.8387 -0.200 -0.048 3 48.8500 -0.350 -0.083 4 48.3704 -0.435 -0.099 5 48.3691 -0.439 -0.099 6 48.3691 -0.439 -0.099
7
Dr. Kusman Sadik Dept. Statistika IPB, 2015 Relative change in each estimate less than
0.0010
Final Estimates of Parameters Type Coef SE Coef MA 1 -0.4393 0.1371 Constant -0.0995 0.1581
P 0.003 0.533
T -3.20 -0.63
Differencing: 2 regular differences Number of observations: Original series 47, after differencing 45 Residuals: SS = 48.3592 (backforecasts excluded) MS = 1.1246 DF = 43 Modified Box-Pierce (Ljung-Box) Chi-Square statistic Lag 12 24 36 Chi-Square 7.6 12.3 24.4 DF 10 22 34 P-Value 0.667 0.952 0.887
MTB > ARIMA 1 2 0 'Yt'; SUBC> Constant; SUBC> Brief 2. ARIMA model for Yt Estimates at each iteration Iteration SSE Parameters 0 55.9021 0.100 0.035 1 50.7183 0.250 -0.022 2 47.5927 0.400 -0.056 3 46.1186 0.543 -0.069 4 45.9902 0.582 -0.067 5 45.9806 0.592 -0.067 6 45.9799 0.595 -0.067 7 45.9799 0.596 -0.067 8 45.9799 0.596 -0.067 Relative change in each estimate less than
0.0010
Final Estimates of Parameters Type Coef SE Coef AR 1 0.5958 0.1225 Constant -0.06673 0.06299
P 0.000 0.295
T 4.86 -1.06
Differencing: 2 regular differences Number of observations: Original series 47, after differencing 45 Residuals: SS = 45.9799 (backforecasts excluded) MS = 1.0693 DF = 43 Modified Box-Pierce (Ljung-Box) Chi-Square statistic Lag 12 24 36 Chi-Square 6.0 11.8 22.5 DF 10 22 34 P-Value 0.816 0.962 0.935
8
Dr. Kusman Sadik Dept. Statistika IPB, 2015
Pemilihan Model Terbaik Berdasarkan MSE Terkecil Berdasarkan hasil di atas: ARIMA(0, 2, 1) MSE : 1.1246 ARIMA(1, 2, 0) MSE : 1.0693 Sehingga model terbaik berdasarkan nilai MSE terkecil adalah ARIMA(1, 2, 0). Model terbaik yang diperoleh dapat digunakan untuk melakukan peramalan.
9
Dr. Kusman Sadik Dept. Statistika IPB, 2015 Program SAS data kita; input t Xt; cards; 1 2.65 2 3.14 . ; proc arima data=kita ; identify var=Xt(1) stationarity=(adf=(2,3,4)) nlag=15; estimate p=1; forecast out=ramalan lead=5 id=t; run; Augmented Dickey-Fuller Unit Root Tests Type Zero Mean Single Mean Trend
Lags
Rho
Pr < Rho
Tau
Pr < Tau
F
Pr > F
2 3 4 2 3 4 2 3 4
-17.1054 -29.5254 -22.9759 -22.0298 -40.9071 -34.8465 -30.2184 -62.7006 -60.5260
0.0031 <.0001 0.0004 0.0048 0.0009 0.0009 0.0046 0.0003 0.0003
-2.53 -3.02 -2.50 -2.88 -3.45 -2.97 -3.54 -4.27 -3.75
0.0119 0.0029 0.0127 0.0518 0.0117 0.0417 0.0409 0.0052 0.0239
4.18 5.97 4.49 6.54 9.40 7.21
0.0812 0.0165 0.0632 0.0487 0.0010 0.0311
Conditional Least Squares Estimation Parameter MU AR1,1
Estimate
Standard Error
t Value
Approx Pr > |t|
Lag
0.87404 0.77236
0.37673 0.06812
2.32 11.34
0.0224 <.0001
0 1
AIC SBC Number of Residuals
263.3572 268.5474 99
Model for variable Xt Estimated Mean Period(s) of Differencing
0.874041 1
Autoregressive Factors Factor 1:
1 - 0.77236 B**(1)
Forecasts for variable Xt Obs
Forecast
Std Error
101 102 103 104 105
21.3388 23.4883 25.3474 26.9823 28.4440
0.9059 1.8435 2.8290 3.8176 4.7855
95% Confidence Limits 19.5633 19.8751 19.8026 19.5000 19.0646
23.1143 27.1014 30.8922 34.4647 37.8234
10
Dr. Kusman Sadik Dept. Statistika IPB, 2015
Tugas 2 Dikumpulkan pada RABU minggu depan di TU STK sebelum jam 13.00 WIB 1. Misalnya diketahui data ekspor karet (juta ton) dalam semester terakhir tahun 2014, yaitu 20.1, 25.5, 19.2, 20.7, 24.5, dan 22.7.
Jika untuk data tersebut menggunakan
model AR(2) : Yt = + 1Yt-1 + 2Yt-1 + et (a). Tentukan penduga parameternya yaitu ˆ , ˆ1 , dan ˆ2 dengan metode momen. (b). Lakukan pendugaan parameter melalui Minitab dan SAS. Bandingkan hasilnya dengan jawaban Anda pada poin (a) di atas. Catatan : Untuk data 6 bulan tersebut ditransformasi dulu melalui data + 1.m, dimana m adalah 2 digit terakhir NIM.
2. Seperti pada soal nomor (1) di atas, hanya saja model yang digunakan adalah ARIMA(1, 1, 1).
3. Bangkitkan data untuk tiap model dibawah ini dengan galat et ~ N(0, 1.m), dimana m adalah 2 digit terakhir NIM, dan masing-masing-masing sebanyak (100 + m) data: (a). ARIMA(1, 0, 1) dengan = 2.0, = 0.7, dan = 0.75. (b). ARIMA(1, 1, 1) dengan = 1.5, = - 0.8, dan = 0.65. Lakukan identifikasi model dan pendugaan parameter pada data hasil bangkitan tersebut masing-masing melalui Minitab dan SAS. Bandingkan nilai dugaan parameternya dengan nilai yang sebenarnya.
11