ESTIMASI MAKSIMUM LIKELIHOOD PADA MODEL ARIMA
SKRIPSI
IRMA WAHNI SINAGA 080823040
DEPARTEMEN MATEMATIKA FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS SUMATERA UTARA MEDAN 2011
1 Universitas Sumatera Utara
ESTIMASI MAKSIMUM LIKELIHOOD PADA MODEL ARIMA
SKRIPSI
Diajukan untuk melengkapi tugas dan memenuhi syarat mencapai gelar Sarjana Sains
IRMA WAHNI SINAGA 080823040
DEPARTEMEN MATEMATIKA FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS SUMATERA UTARA MEDAN 2011
2 Universitas Sumatera Utara
PERSETUJUAN
Judul
: ESTIMASI MAKSIMUM LIKELIHOOD PADA MODEL ARIMA Kategori : SKRIPSI Nama : IRMA WAHNI SINAGA Nomor Induk Mahasiswa : 080823040 Program Studi : SARJANA (S1) MATEMATIKA Departemen : MATEMATIKA Fakultas : MATEMATIKA DAN ILMU PENGETAHUAN ALAM (FMIPA) UNIVERSITAS SUMATERA UTARA
Diluluskan di Medan, 05 Januari 2011
Komisi Pembimbing Pembimbing 2
: Pembimbing 1
Drs. H. Haluddin Panjaitan NIP 19460309 197902 1 001
Drs. Pangeran Sianipar, MS NIP 19470208 197403 1 001
Diketahui/Disetujui oleh Departemen Matematika FMIPA USU
Prof. Dr. Tulus, M.Si NIP 19620901 198803 1 002
3 Universitas Sumatera Utara
PERNYATAAN
ESTIMASI MAKSIMUM LIKELIHOOD PADA MODEL ARIMA
SKRIPSI
Saya mengakui bahwa skripsi ini adalah hasil kerja saya sendiri, kecuali beberapa kutipan dan ringkasan yang masing-masing disebutkan sumbernya.
Medan, 05 Januari 2011
IRMA WAHNI SINAGA 080823040
4 Universitas Sumatera Utara
PENGHARGAAN
Puji dan syukur penulis ucapkan kepada Bapa yang di Surga, Allah yang begitu baik yang memberikan pertolongan sehingga penulis dapat menyelesaikan Skripsi ini, Ucapan terima kasih saya sampaikan kepada Drs. Pangeran Sianipar, MS dan Drs. H. Haluddin Panjaitan selaku pembimbing pada penyelesaian skripsi ini yang telah memberikan panduan dan penuh kepercayaan kepada saya untuk menyempurnakan kajian ini. Ucapan terima kasih juga ditujukan kepada Ketua dan Sekretaris Departemen Prof. Dr. Tulus, M.Si. dan Drs. Henri rani Sitepu, M.Si., Dekan dan Pembantu Dekan Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Sumatera Utara, semua dosen pada Departemen Matematika FMIPA USU, pegawai di FMIPA USU, dan rekan-rekan kuliah.Terima kasih juga penulis ucapkan kepada seluruh keluarga, terkhusus ‘my Lovely Family’ Bapa B. Sinaga, Mama S. Saragih, Kel. Kakakku Ramen Wirawati, Adik-adikku May Friska Sol Marito, Selfi, Hartono yang telah mendukung penulis di dalam doa, memberikan bantuan dan dorongan yang saya perlukan, teman-teman sepelayanan di KMKS, Saudara PA-ku ‘Grace’ (b’Harles, B’David, B’ Sandro, K’Lina, Ucia, Sabeth), Adikadik PA-ku ‘MDP-Geboren’ (Lungguk, Dages, Eva) ‘Ekk. Marvelous’ (K’Epa, Dosma, Hansen, Rico), Abang dan Adikku (B’Fe n Vincent) dan Saudaraku di ‘ALC’ (Tuti, Sondang, Pesta, Pratiwina, Novalina, Jelita, Romasta, Selfi, Ani, Wina, Wita, Peni, Tina, Ririz, Tata, Uly, Sabeth, Elisabeth, Maria, Dina) yang selalu setia memberikan dukungan n semangat. Akhir kata, semoga Skripsi ini berguna bagi semua pihak yang membutuhkan.
5 Universitas Sumatera Utara
ABSTRAK
Runtun waktu adalah himpunan observasi berurutan dalam waktu (atau dalam satuan yang lain). Runtun waktu dibedakan menjadi 2 yaitu runtun waktu stasioner dan runtun waktu nonstasioner. Runtun waktu nonstasioner yang telah distasionerkan dengan metode pembeda (diferensi) disebut proses ARIMA. Salah satu model ARIMA adalah ARIMA (1, 1, 0). Langkah selanjutnya setelah ditentukan model adalah mengestimasikan parameternya. Berdasarkan uraian diatas permasalahan yang akan dibahas adalah bagaimana bentuk fungsi Likelihood ARIMA (1, 1, 0) dan menentukan estimator parameterparameter yang ada pada model ARIMA (1, 1, 0). Tujuannya adalah mempelajari cara mengkontruksi fungsi Likelihood model ARIMA (1, 1, 0) Box – Jenkins, selanjutnya menentukan estimator parameter-parameter yang ada pada model tersebut dengan metode estimasi maksimum Likelihood (EML). Sedangkan manfaatnya adalah menambah pengetahuan tentang estimasi maksimum Likelihood pada model ARIMA(1, 1, 0). Penerapan estimasi maksimum Likelihood dilakukan dengan cara meminimumkan fungsi jumlah kuadrat S(Φ) dari log fungsi Likelihood model ARIMA (1, 1, 0) Box – Jenkins. Menentukan estimator untuk parameter dengan estimasi maksimum Likelihood (EML) menjumpai kesulitan karena bentuk 𝑀𝑗 = 1
(1)
𝜕� 𝑙𝑛�𝑀𝑗 �� 2 𝜕𝜙𝑗
adalah fungsi dari 𝜙 yang cukup rumit. Untuk mengatasi kesulitan ini di
gunakan metode estimasi kuadrat terkecil.
6 Universitas Sumatera Utara
ESTIMASI MAKSIMUM LIKELIHOOD PADA MODEL ARIMA
ABSTRACT
Time series is the set of sequential observations in time (or in another unit). Time series is divided into two stationary time series and economic time series nonstasioner. Nonstasioner time series that has been distasionerkan with distinctive method (diferensi) is called ARIMA process. One of the ARIMA model is ARIMA (1, 1, 0). The next step after the specified model is estimating the parameters. Based on the description above issues to be discussed is how to form Likelihood function ARIMA (1, 1, 0) and determine the parameters estimator on the model ARIMA (1, 1, 0). The goal is to learn how to construct Likelihood function ARIMA model (1, 1, 0) Box - Jenkins, then determine the parameters estimator on the model by Maximum Likelihood estimation method (EML). While the benefits are increasing knowledge about the maximum Likelihood estimation of ARIMA models (1, 1, 0). Application of Maximum Likelihood estimation was done by minimizing the sum of squares function S (Φ) of the log Likelihood function ARIMA model (1, 1, 0) Box - Jenkins. Define the estimator for the parameters with estimated maximum Likelihood (EML), encounter difficulties due to the shape 𝑀𝑗 =
1
(1)
𝜕� 𝑙𝑛�𝑀𝑗 �� 2 𝜕𝜙𝑗
is a
function of φ is quite complicated. To overcome this difficulty in using the least square estimation method.
7 Universitas Sumatera Utara
DAFTAR ISI
Halaman Persetujuan ........................................................................................................... ii Pernyataan ............................................................................................................ iii Penghargaan ......................................................................................................... iv Abstrak ................................................................................................................. v Abstract ................................................................................................................ vi Daftar Isi .............................................................................................................. vii Arti lambang dan singkatan ................................................................................... x Bab 1 Pendahuluan................................................................................................ 1 1.1 Latar Belakang Masalah ....................................................................... 1 1.1.1 Perumusan Masalah........................................................................... 3 1.1.2 Tujuan Penelitian .............................................................................. 4 1.1.3 Kontribusi Penelitian ......................................................................... 4 1.1.4 Metode Penelitian.............................................................................. 4 Bab 2 Landasan Teori ........................................................................................... 5 2.1 Konsep Dasar Analisis Runrun Waktu .................................................. 5 2.1.1 Stasioner dan Takstasioner ......................................................... 6 2.1.2 Fungsi Autokovariansi ................................................................ 7 2.1.3 Autokorelasi............................................................................... 8 2.1.4 Autokorelasi Parsial ................................................................... 9 2.1.5 Metode Box-Jenkins ................................................................... 10 2.2 Model Runtun Waktu ........................................................................... 12 2.2.1 Model Runtun Waktu Stasioner .................................................. 13 2.2.1.1 Proses-proses Autoregresif 2.2.1.1.1 Proses autoregresif Orde 1 [AR(1)] ................. 13 2.2.1.1.2 Proses Autoregresif Orde 2 [AR(2)]................ 13 2.2.1.1.3 Proses Autoregresif Orde p [AR(p)]................ 14 2.2.1.2 Autokorelasi Proses-proses Autoregresif ........................ 14 2.2.1.2.1 Autokorelasi Proses-proses AR(1) .................. 14 2.2.1.2.2 Autokorelasi Proses AR(2) ............................. 15 2.2.1.2.3 Autokorelasi Prosses AR(p)............................ 17 2.2.1.3 Autokorelasi Parsial Proses Autoregresif ........................ 18 2.2.1.4 Proses Moving Average q [MA(q)] ................................ 19 2.3 Model Runtun Waktu Nonstasioner ...................................................... 21 2.3.1 Proses Autoregressive Integrated Moving Average (model ARIMA).......................................................................... 21 2.3.2 Proses ARIMA (p, d, 0) .............................................................. 22 2.3.2.1 Model ARIMA (p, d, 0) jika d = 0 .................................. 22 2.3.2.2 Model ARIMA (p, d, 0) jika d > 0 .................................. 23 2.4 Tinjauan Distribusi Normal Multivariate ............................................... 24 2.4.1 Fungsi Densitas Normal Multivariate Bersama, distribusi 8 Universitas Sumatera Utara
Marginal dan Distribusi Bersyarat ................................................ 24 2.4.2 Fungsi Likelihood dan Estimasi Maksimum Likelihood............... 24 Bab 3 Pembahasan ................................................................................................ 28 3.1 Inferensi Proses Autoreagresif Klasik Box-Jenkins................................ 28 3.1.1 Menentukan selisih (diffrensi) pertama runtun waktu................... 28 3.1.1.1 Fungsi Likelihood ARIMA (1, 1, 0) atau ARI(1,1) ......... 32 3.1.2 Estimasi Maksimum Likelihood pada Model ARIMA (1,1,0) ...... 33 Bab 4 Kesimpulan dan saran.................................................................................. 37 Daftar Pustaka....................................................................................................... 38
9 Universitas Sumatera Utara
ARTI LAMBANG DAN SINGKATAN
AR (p) : Autoregresif orde p MA (q) : Moving Average orde q ARMA (p, q) : Campuran antara AR (p) dan MA (q) ARIMA (p, d, q) : Autoregresif Integreted Moving Average process, yaitu model runtun waktu stasioner (p, d, q) setelah dilakukan differensi. 𝑍𝑡 : Runtun waktu stasioner
𝑎𝑡 : Unsur galat yang menyebar normal dan independen
𝑊𝑡 = 𝑍𝑡 − 𝑍𝑡−1 : Runtun waktu stasioner setelah dilakukan differensi
E (𝑍𝑡 ) = 𝜇𝑧 : Nilai tengah dari runtun 𝑍𝑡
Cov (𝑍𝑡 , 𝑍𝑡−𝑘 ) : Kovariansi 𝑍𝑡 dan 𝑍𝑡−𝑘 𝜎𝑧2 = V (𝑍𝑡 ) : Variansi dari runtun 𝑍𝑡
𝛾𝑘 , (k = 0, 1, 2, …) : Fungsi autokovariansi
𝜌𝑘 : autokorelasi dari runtun 𝑍𝑡 pada lag k 𝜌�𝑘 = 𝑟𝑘 : estimasi fungsi autokorelasi
𝛾�𝑘 = 𝐶𝑘 : estimasi fungsi autokovariansi
𝑊 : Barisan atau vektor yang stasioner dan merupakan selisih observasi
P (𝑍𝑡 ) : Suatu realisasi dari suatu variabel random 𝑍𝑡 yang mempunyai distribusi dan fungsi densitas probabilitas (fdp) tertentu
Ф𝑘𝑘 , (k = 1, 2, …) : Fungsi autokorelasi parsial (fakp) B𝑍𝑡 = 𝑍𝑡−1 : Operator backshift (B)
∇𝑍𝑡 = 𝑍𝑡 − 𝑍𝑡−1 : Operator diffrensi
𝛹 (B) : Operator Linier yang mentransformasikan 𝑎𝑡 ke 𝑍𝑡
S (Ф) : Fungsi jumlah kuadrat untuk Ф
10 Universitas Sumatera Utara