ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
ESTIMASI PARAMETER DISTRIBUSI BINOMIAL NEGATIF DENGAN PENDEKATAN BAYESIAN MENGGUNAKAN MONTE CARLO MARKOV CHAIN BERDASARKAN ALGORITMA METROPOLIS HASTING
SKRIPSI
MIFTA DIAN MULYANINGSIH
PROGRAM STUDI S-1 STATISTIKA DEPARTEMEN MATEMATIKA FAKULTAS SAINS DAN TEKNOLOGI UNIVERSITAS AIRLANGGA 2016
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI
Scanned by CamScanner
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI
Scanned by CamScanner
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI
Scanned by CamScanner
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
PEDOMAN PENGGUNAAN SKRIPSI
Skripsi ini t idak d ipublikasikan, na mun tersedia d i p erpustakaan d alam lingkungan Universitas Airlangga, diperkenankan untuk dipakai sebagai referensi kepustakaan, t etapi pe ngutipan harus s eijin penulis d an harus menyebutkan sumbernya s esuai k ebiasaan ilmiah. Dokumen s kripsi i ni m erupakan h ak m ilik Universitas Airlangga.
iv SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI
Scanned by CamScanner
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
KATA PENGANTAR
Assalamu’alaikum w r.wb Puji s yukur kehadirat A llah S WT yang t elah melimpahkan r ahmat-Nya s ehingga penulis dapat m enyelesaikan skripsi yang berjudul “ Estimasi P arameter D istribusi B inomial N egatif d engan P endekatan Bayesian M enggunakan M onte Carlo M arkov C hain Berdasarkan Algoritma Metropolis Hasting”. Dalam kesempatan ini penulis menyampaikan ucapan terima kasih kepada: 1. Orang t ua d an k eluarga tercinta yang selalu me mberikan doa, dukun gan, dan kepercayaan sehingga penulis dapat menyelesaikan skripsi ini. 2. Dr. A rdi K urniawan, M .Si da n Drs. E ko Tjahjono, M .Si selaku do sen pembimbing I da n d osen pe mbimbing I I y ang s enantiasa membimbing da n membantu dengan tulus dan sabar dalam penyelesaian skripsi ini. 3. Drs. Sediono, M.Si selaku do sen w ali yang s elalu memberikan penjelasan, pengarahan, dan saran demi kesuksesan menjadi mahasiswa. 4. Risanti, A sti, A chnes, Arin, M anja, I ntan dan teman statistika an gkatan 2 012 yang selalu memberikan doa dan semangat dalam penyelesaian skripsi ini. Penulis b erharap s emoga skripsi ini da pat bermanfaat b agi p erkembangan ilmu pengetahuan dan teknologi. Surabaya,
Agustus 2016
Penulis,
Mifta Dian Mulyaningsih
vi SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
Mifta D ian M ulyaningsih, 201 6. Estimasi P arameter D istribusi B inomial Negatif d engan P endekatan B ayesian M enggunakan M onte C arlo M arkov Chain B erdasarkan A lgoritma M etropolis Hasting. S kripsi ini d ibawah bimbingan D r. Ardi Kurniawan, M .Si. dan D rs. E ko T jahjono, M.Si. Program Studi S 1-Statistika, D epartemen M atematika, Fakultas S ains d an T eknologi, Universitas Airlangga, Surabaya. ABSTRAK Estimasi parameter merupakan estimasi s embarang nilai y ang me njelasan karakteristik s uatu p opulasi t ertentu. Estimasi parameter da pat dilakukan de ngan metode k lasik maupun metode B ayesian. M etode B ayesian merupakan metode yang menggabungkan informasi saat ini de ngan informasi sebelumnya atau yang biasa d isebut d istribusi prior. P enggabungan informasi t ersebut menghasilkan distribusi po sterior, s elanjutnya d istribusi t ersebut di gunakan s ebagai da sar estimasi p arameter. Penyelesaian d ari e stimasi parameter tersebut terkadang sulit sehingga m embutuhkan m etode numerik dalam p enyelesaiannya, s alah satunya adalah metode M onte C arlo M arkov C hain ( MCMC) a lgoritma M etropolis Hasting. M etode tersebut m erupakan metode i ntegrasi yang menggunakan mekanisme p enerimaan d an p enolakan u ntuk m embangkitkan k andidat s ampel. Tujuan da ri pe nelitian ini a dalah u ntuk mengestimasi parameter distribusi Binomial N egatif d engan p endekatan B ayesian menggunakan M CMC algoritma Metropolis Hasting. Distribusi B inomial N egatif merupakan d istribusi yang banyak d igunakan u ntuk menganalisis da ta count saat t erjadi overdispersi. Da ta yang d igunakan p ada p enelitian ini a dalah d ata b angkitan. B erdasarkan hasil penelitian e stimasi p arameter distribusi B inomial N egatif dengan pendekatan Bayesian me nggunakan MCMC algoritma me tropolis h asting me nghasilkan n ilai estimasi ya ng s angat dekat dengan pe rhitungan biasa, de ngan de mikian M CMC algoritma metropolis hasting d apat d igunakan sebagai a lternatif u ntuk mempermudah perhitungan yang rumit. Kata K unci : Estimasi p arameter, Bayesian, Binomial N egatif, MCMC, Metropolis Hasting.
vii
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
Mifta D ian Mulyaningsih, 2 016, Parameter Estimation of N egative B inomial Distribution u sing B ayessian A pproach w ith Monte C arlo M arkov C hain Based on Metropolis Hasting Algorithm . This Thesis under t he supervising o f Dr. Ardi Kurniawan, M.Si. dan Drs. Eko Tjahjono, M.Si. Program S1-Statistics, Departement of Mathematics, F aculty o f S cience T echnology, Airlangga Univerrsity, Surabaya. ABSTRACT Parameter estimation is estimation o f any value t hat e xplains t he characteristics of a particular population. Parameter estimation can be achieved by classical and B ayesian methods. B ayesian method i s a method t hat c ombines current information w ith p revious information or c ommonly called p rior distribution. M erging t his information g enerates th e p osterior d istribution, th e distribution s ubsequently u sed a s t he basis for p arameter es timation. This Calculation of the parameter sometimes are difficult and need numerical methods. One o f this method called Markov C hain Mo nte C arlo ( MCMC) Metropolis Hasting a lgorithm. This method uses accept and r eject mechanism for generating sample. T he p urpose o f t his s tudy w as t o es timate t he n egative binomial distribution w ith a B ayesian a pproach u sing M CMC H asting Metropolis algorithm. Negative B inomial d istribution w idely used t o analyze t he data count when t here o verdispersion. Data that used in t his s tudy are generated. B ased o n the r esults, Negative B inomial d istribution p arameter e stimation w ith B ayesian approach u sing M CMC a lgorithms metropolis hasting g enerate t he es timated value that is ve ry c lose t o the u sual c alculation, thus metropolis h asting M CMC algorithms can be used as an alternative to simplify complex calculations. Keywords : Parameter Estimation, Bayessian, Negative Binomial, MCMC, Metropolis Hasting.
viii
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
DAFTAR ISI Halaman HALAMAN JUDUL ....................................................................................... i LEMBAR PERNYATAAN ............................................................................ ii LEMBAR PENGESAHAN ............................................................................ iii LEMBAR PENGGUNAAN SKRIPSI ............................................................iv LEMBAR ORISINALITAS ............................................................................. v KATA PENGANTAR ....................................................................................vi ABSTRAK ................................................................................................... vii ABSTRACT ................................................................................................ viii DAFTAR ISI ..................................................................................................ix DAFTAR GAMBAR ......................................................................................xi DAFTAR TABEL ........................................................................................ xii DAFTAR LAMPIRAN ................................................................................ xiii BAB I PENDAHULUAN 1.1 Latar Belakang .................................................................................... 1 1.2 Rumusan Masalah ...............................................................................3 1.3 Tujuan Penelitian ................................................................................4 1.4 Manfaat Penelitian ..............................................................................4 1.5 Batasan Masalah .................................................................................4 BAB II TINJAUAN PUSTAKA 2.1 Variabel Acak ....................................................................................5 2.2 Fungsi Kepadatan Probabilitas ...........................................................5 2.3 Metode Bayes.....................................................................................5 2.4 Fungsi Likelihood ..............................................................................8 2.5 Distribusi Prior ...................................................................................9 2.6 Prior Konjugat .................................................................................. 10 2.7 Distribusi Prior Uniform................................................................... 11 2.8 Prior Jeffreys .................................................................................... 11 2.9 Distribusi Posterior........................................................................... 11 ix SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
2.10 Distribusi Binomial Negatif ............................................................. 12 2.11Distribusi Gamma ............................................................................ 13 2.12 Distribusi Beta ................................................................................ 14 2.13Distribusi Cauchy ............................................................................. 16 2.14Distribusi Weibull ............................................................................ 16 2.15 Markov Chain Monte Carlo ............................................................. 16 2.16 Metropolis Hasting .......................................................................... 17 2.17 Batch Mean ..................................................................................... 18 2.18 Mathematica .................................................................................... 19 BAB III METODE PENELITIAN 3.1 Langkah-Langkah Analisis Data....................................................... 20 3.2 Flowchart ......................................................................................... 22 BAB IV HASIL DAN PEMBAHASAN 4.1 Penentuan Distribusi Posterior Pada Distribusi Binomial Negatif Menggunakan Pendekatan Bayesian ................................................... 23 4.2 Estimasi Parameter Berdasarkan Distribusi Posterior......................... 25 4.3 Penerapan Estimasi Parameter Distribusi Posterior Menggunakan Monte Carlo Markov Chain Algoritma Metropolis Hasting ........................... 26 4.3.1 Estimasi Parameter Dengan Perhitungan Manual ...................... 27 4.3.2 Estimasi Parameter Dengan Algoritma Metropolis Hasting ....... 28 BAB V KESIMPULAN DAN SARAN 5.1 Kesimpulan ....................................................................................... 36 5.2 Saran ................................................................................................. 37 DAFTAR PUSTAKA .................................................................................... 38 LAMPIRAN
x SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
DAFTAR GAMBAR Nomor 3.1 4.1 4.2
Judul Gambar Flowchart Estimasi Parameter Menggunakan Algoritma Metropolis Haasting Prosedur Estimasi Parameter Prosedur Perhitungan Batch Mean
Halaman 22 28 29
ix SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
DAFTAR TABEL Tabel 2.1 4.1 4.2 4.3 4.4 4.5
Judul Tabel Prior Konjugat dari Beberapa Fungsi Likelihood Data Berdistribusi Binomial Negatif Perhitungan dengan Metropolis Hasting Perbedaan Parameter Distribusi Prior Data Binomial Negatif Estimasi dengan Distribusi Prior Non Konjugat
Halaman 10 27 29 32 33 35
ix SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
DAFTAR LAMPIRAN Nomor 1 Data
Judul Lampiran
2
Program MCMC Algoritma Metropolis Hasting dengan prior Beta
3
Program MCMC Algoritma Metropolis Hasting dengan prior Gamma
4
Output Program Perhitungan dengan Metropolis Hasting
5
Output Perbedaan Parameter Distribusi Prior
6
Output Estimasi dengan Distribusi Prior Non Konjugat
ix SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
BAB I PENDAHULUAN 1.1 Latar Belakang Metode s tatistika merupakan pr osedur-prosedur yang d igunakan da lam pengumpulan, pe nyajian, a nalisis, da n pe nafsiran da ta. M etode tersebut dikelompokan menjadi dua ke lompok ut ama, yaitu statistika de skriptif da n statistika i nferesi ( Walpole, 1995) . S tatistika de skriptif bertujuan u ntuk menyajikan informasi d ata s ebagai d eskripsi f akta at au p eristiwa d apat disimpulkan secara mudah, sedangkan statistika inferensi menggunakan konsep probabilitas u ntuk membuat perkiraan, prediksi, peramalan, dan generalisasi dari suatu objek berdasarkan informasi data yang diambil sebagai populasi atau sampel (Mustafid d alam Siska, 2011) . I nferensi statistik da pat d ibedakan menjadi dua , yaitu estimasi parameter dan uji hipotesis (Walpole, 1995). Estimasi parameter merupakan estimasi sembarang nilai yang menjelaskan ciri atau k arakteristik suatu populasi t ertentu. E stimasi parameter t ersebut d apat dilakukan de ngan metode kl asik maupun metode B ayesian. Metode k lasik memandang p arameter s ebagai besaran t etap yang t idak d iketahui harganya da n inferensi didasarkan hanya pada informasi dalam sampel, sedangkan pada metode Bayesian inferensinya tidak ha nya didasarkan pa da informasi pada sampel tetapi juga melibatkan d istribusi prior (Berger, 2011) . Berdasarkan p erbedaan d asar inferensinya, m etode B ayes lebih baik d igunakan untuk mengestimasi pa rameter apabila telah diketahui informasi sebelumnya dan apabila tidak terdapat informasi awal, lebih baik menggunakan metode klasik.
1 SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
2
Metode Bayesian merupakan metode yang menggabungkan informasi saat ini de ngan informasi a wal yang d iperoleh s ebelumnya ( Apsari, 2013) . I nformasi awal t ersebut m erupakan d istribusi subyektif b erdasarkan p ada k eyakinan seseorang. P enggabungan informasi a wal da n informasi s aat ini ke mudian menghasilkan d istribusi posterior. Penyelesaian f ormulasi B ayesian tersebut terkadang s ulit u ntuk d iselesaikan secara a nalitis s ehingga d ibutuhkan metode numerik untuk penyelesaiannya (Siska, 2011). Monte Carlo Markov Chain (MCMC) adalah s ebuah r angkaian metode untuk m enciptakan ba risan s ampel r andom yang b erasal da ri d istribusi p eluang dengan membangun r antai Markov s esuai d engan d istribusi t ertentu y ang diinginkan ( Walsh d alam I rwanti, 2 012). S imulasi stokastik yang d ihasilkan d ari metode M CMC t ersebut membantu penyelesaian estimasi model dari persamaan yang s ulit. Metode M CMC yang sering d igunakan ad alah a lgoritma Metropolis Hasting. Algoritma Metropolis Hasting adalah salah satu algoritma yang mengikuti aturan M CMC de ngan mekanisme pe nerimaan da n pe nolakan da lam pr oses pembangkitan s ampel. S ampel yang d ibangkitkan t ersebut k emudian d igunakan untuk me nyelesaikan e stimasi p arameter. K elebihan d ari a lgoritma M etropolis Hasting adalah h asil e stimasi yang dihasilkan t epat meskipun me nggunakan distribusi prior non-infomatif dan tidak bergantung pada asumsi sample besar. Distribusi B inomial Negatif me rupakan distribusi c ampuran a ntara distribusi Gamma d an d istribusi P oisson. Kegunaan Distribusi B inomial Negatif adalah untuk m enganalisis d ata count saat t erjadi overdispersi. O verdispersi
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
3
mengindikasikan n ilai v ariansi le bih b esar daripada me an. K eadaan overdispersi menyebabkan es timasi parameter yang d idapat me njadi t idak e fisien s ehingga memberikan informasi yang tidak sesuai (Hilbe, 2011). Lio (2009) menggunakan metode Bayesian untuk mengestimasi parameter Binomial Negatif dengan m enggunakan distribusi B eta s ebagai d istribusi priornya. Bradlow dkk ( 2002) j uga menggunakan inferensi Bayesian untuk mengestimasi m odel B inomial Negatif. Kedua penelitian t ersebut s ama-sama menggunakan distribusi Beta sebagai distribusi priornya, akan tetapi Bradlow dkk melakukan inferensi B ayesian menggunakan e kspansi po linomial sedangkan Lio menggunakan proses sampling. Berdasarkan u raian t ersebut dilakukan pe nelitian e stimasi pa rameter distribusi Binomial Negatif dengan pendekatan metode Bayesian yang dilanjutkan dengan inferensi statistika menggunakan MCMC algoritma Metropolis Hasting. 1.2 Rumusan Masalah Berdasarkan latar be lakang yang t elah d ikemukakan d i a tas, m aka permasalahan yang dibahas dalam penelitian ini adalah sebagai berikut: 1. Bagaimana menentukan distribusi posterior pada d istribusi Binomial Negatif menggunakan metode Bayesian? 2. Bagaimana
estimasi p
arameter d
istribusi B
inomial N
egatif
menggunakan pendekatan Bayesian? 3. Bagaimana penerapan es timasi p arameter d istribusi B inomial N egatif menggunakan metode B ayesian dengan MCMC a lgoritma Metropolis Hasting?
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
4
1.3 Tujuan Penelitian Penelitian estimasi p arameter d istribusi Binomial N egatif menggunakan metode Bayesian ini memiliki tujuan sebagai berikut: 1.
Menentukan distribusi posterior pada d istribusi B inomial Negatif menggunakan metode Bayesian.
2.
Mengestimasi p arameter d istribusi B inomial N egatif menggunakan metode Bayesian.
3.
Menerapkan p enaksiran p arameter d istribusi B inomial N egatif menggunakan metode Bayesian dengan MCMC a lgoritma M etropolis Hasting.
1.4 Manfaat Manfaat yang dapat diambil dari penelitian ini adalah sebagai berikut: 1.
Mengembangkan w awasan ilmu pe ngetahuan yang berkaitan d engan estimasi parameter menggunakan metode Bayesian.
2.
Mengembangkan w awasan ilmu pe ngetahuan yang berkaitan d engan metode Monte Carlo Markov Chain khususnya a lgoritma Metropolis Hasting.
1.5 Batasan Masalah Batasan masalah pada penelitian ini adalah estimasi parameter pada distribusi Binomial N egatif menggunakan metode B ayesian dengan prior konjugat yaitu distribusi Beta (a, b) .
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
BAB II TINJAUAN PUSTAKA
2.1. Variabel Acak Variabel acak didefinisikan s ebagai s uatu fungsi y ang me metakan u nsurunsur da lam r uang s ampel suatu p ercobaan t erhadap s uatu gugus bi langan r iil sebagai suatu w ilayah fungsi. V ariabel acak dinotasikan d engan huruf ka pital misalnya X , s edangkan nilai pa danannya d inotasikan de ngan huruf ke cil ( Bain dan Engelhardt, 1992). 2.2. Fungsi Kepadatan Probabilitas Misalkan v ariabel acak X terletak an tara a dan b , fu ngsi f ( x) disebut fungsi k epadatan p robabilitas at au probability density function (PDF) bagi variabel ac ak X apabila luas da erah d i bawah k urva s ama de ngan s atu da n apabila luas daerah dibawah kurva antara x = a dan x = b menyatakan peluang X antara a dan b (Walpole, 1995). 2.3. Metode Bayes Metode B ayes merupakan m etode yang m enggabungkan informasi terdahulu d ari p arameter yang a kan d itaksir d engan informasi yang d idapat d ari sampel. Informasi t erdahulu t ersebut merupakan distribusi s ubyektif berdasarkan pada k eyakinan seseorang. Penggabungan ke dua informasi t ersebut ke mudian menghasilkan d istribusi posterior yang selanjutnya d igunakan da lam pe naksiran parameter.
5 SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
Misalkan r uang sampel S d ipartisi menjadi
6
kejadian ya ng mutually
exclusive dan exhaustive A1, A2,..., AK dengan P( Ai ) ≠ 0 untuk i = 1, 2,..., K . Misalkan t erdapat kejadian B d i da lam ruang s ampel S sehingga P( B) > 0 maka untuk sembarang kejadian B,
P( Ai | B) =
P( B | Ai ) P( Ai ) P( B | A1) P( A1) + P( B | A2) P( A2) + ... + P( B | AK ) P( AK )
(2.1)
Bukti: P( B ∩ Ai ) = P ( B | Ai ) P ( Ai )
P( Ai ∩ B) = P( Ai | B) P( B)
karena P( B ∩ Ai ) = P ( Ai ∩ B ) , maka P( B | Ai ) P( Ai ) = P( Ai | B) P( B) . Bagi kedua ruas dengan P( B) , diperoleh
P( Ai | B) =
P( B | Ai ) P( Ai ) P( B)
dengan P( B) = P( B ∩ A1) + P ( B ∩ A2) + ... + P ( B ∩ AK ) = P( B | A1) P( A1) + P( B | A2) P( A2) + ... + P( B | AK ) P( AK )
sehingga persamaannya menjadi
P( Ai | B) =
P( B | Ai ) P( Ai ) P( B | A1) P( A1) + P( B | A2) P( A2) + ... + P( B | AK ) P( AK )
Misalkan X adalah v ariabel acak y ang me miliki d istribusi probabilitas yang bergantung pada θ, dengan θ merupakan suatu variabel acak yang me miliki distribusi p robabilitas te rtentu. J ika
f ( x | θ ) merupakan p df bersyarat d ari
variabel acak X dengan nilai θ = θ dan p (θ ) merupakan pdf dari variabel acak θ, maka distribusi posterior dari θ | x dapat ditentukan menggunakan metode Bayes.
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
7
Misalkan X 1, X 2,..., Xn adalah sampel acak d ari p eubah ac ak X , ma ka pdf bersama dari X 1, X 2,..., Xn diberikan θ, yaitu: f ( x1, x 2,..., xn | θ ) = f ( x1 | θ ) f ( x 2 | θ )... f ( xn | θ )
(2.2)
Pdf bersama X 1, X 2,..., Xn dan θ adalah f ( x1, x 2,..., xn, θ ) = f ( x1, x 2,..., xn | θ ) p(θ )
(2.3)
Jika θ merupakan va riabel acak k ontinu, maka p df marginal bersama d ari X 1, X 2,..., Xn yaitu: ∞
∫
f ( x1, x 2,..., xn) =
f ( x1, x 2,..., xn, θ )dθ
−∞ ∞
=
∫
f ( x1, x 2,..., xn | θ ) p (θ )dθ
(2.4)
−∞
Jika θ merupakan va riabel acak d iskrit, m aka p df marginal bersama d ari X 1, X 2,..., Xn yaitu:
f ( x1, x 2,..., xn) = ∑ f ( x1, x 2,..., xn, θ ) θ
= ∑ f ( x1, x 2,..., xn | θ ) p(θ )
(2.5)
θ
Pdf bersyarat dari θ diberikan X 1 = x1 , X 2 = x 2 ,…, Xn = xn yaitu:
f (θ | x1, x 2,..., xn) =
=
f ( x1, x 2,..., xn, θ ) f ( x1, x 2,..., xn) f ( x1, x 2,..., xn | θ ) p (θ ) f ( x1, x 2,..., xn)
(2.6)
Persamaan (2.6) m erupakan b entuk l ain dari a turan Bayes, dengan f ungsi f (θ | x1, x 2,..., xn) disebut pdf posterior dari θ, sementara fungsi f ( x1, x 2,..., xn | θ )
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
8
disebut likelihood dari X 1, X 2,..., Xn dan f ungsi p (θ ) disebut s ebagai pd f prior dari θ. Aturan Bayes sering ditulis sebagai berikut: f (θ | x1, x 2,..., xn) ∝ f ( x1, x 2,..., xn | θ ) p (θ )
(2.7)
Estimasi pa rameter pa da m etode ba yes didasarkan pa da d istribusi posterior sesuai persamaan (2.6). Perhitungan e stimasi parameter di peroleh dengan m encari ni lai ekspekstasi da ri d istribusi posterior. Jika θ merupakan variabel acak kontinu, maka
nilai θˆ dapat diperoleh sebagai berikut: (θ | x1, x 2,..., xn) θˆ E= =
∞
∫ θ f (θ | y)dθ
(2.8)
−∞
Jika θ merupakan va riabel acak d iskrit, maka nilai θˆ dapat di peroleh sebagai berikut: (θ | x1, x 2,..., xn) = θˆ E=
n
∑θ f (θ | y)
(2.9)
i
(Andrew dkk, 2000) 2.4. Fungsi Likelihood Fungsi likelihood adalah f ungsi d ensitas b ersama dari n variable acak X 1, X 2,..., Xn dan d inyatakan da lam bentuk f (θ | x1, x 2,..., xn) . J ika x1, x 2,..., xn
ditetapkan, maka fungsi likelihood dari parameter θ dinotasikan dengan L(θ ) . Jika X 1, X 2,..., Xn menyatakan suatu sampel acak dari f ( x | θ ) , maka L(θ ) = f ( x1 | θ ) f ( x 2 | θ )... f ( xn | θ )
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
9
n
L(θ ) = ∏ f ( xi | θ )
(2.10)
i =1
(Bain dan Engelhardt,1992) 2.5. Distribusi Prior Distribusi prior adalah bentuk di stribusi frekuensi y ang m erupakan representasi o bjektif p ada suatu p arameter yang lebih r asional u ntuk dipercayai. Distribusi prior menunjukan ketidakpastian tentang parameter θ yang tidak diketahui, s ehingga p ermasalahan u tama d alam metode B ayes a dalah memilih distribusi pr ior untuk suatu parameter yang t idak d iketahui namun sesuai de ngan permasalahan. B erdasarkan fungsi likelihoodnya, d istribusi pr ior d ikelompokan menjadi dua (Box dan Tiao, 2011): 1.
Berkaitan dengan bentu distribusi hasil identifikasi pola data a.
Distribusi prior konjugat, mengacu pada a nalisis model t erutama dalam pe mbentukan f ungsi likelihoodnya s ehingga dalam penentuan pr ior ko njugat s elalu d ipikiran mengenai po la distribusi prior yang m emiliki be ntuk konjugat dengan f ungsi densitas peluang pembangun likelihood.
b.
Distribusi prior non-konjugat, apabila pemberian prior pada suatu model tidak mengindahkan pola pembentuk fungsi likelihood.
2.
Berkaitan de ngan pe nentuan masing-masing p arameter p ada p ola distribusi prior a. Distribusi prior informatif, mengacu p ada p emberian parameter
dari distribusi yang telah dipilih baik distribusi prior konjugat atau
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
10
tidak. P emberian nilai parameter pa da d istribusi prior i ni sangat mempengaruhi bentuk distribusi posterior. b. Distribusi prior non-informatif, p emilihan d istribusi prior yang
tidak mengandung informasi tentang parameter θ. Distribusi prior non-informatif misalnya prior Uniform dan prior Jeffreys. 2.6. Prior Konjugat Misalkan F adalah k elas d ari d istribusi s ampling f ( y | θ ) dan P adalah kelas d ari d istribusi prior θ , m aka P kelas d isebut un tuk ke las F jika f ungsi probabilitas posterior h(θ | y ) memiliki d istribusi y ang sama dengan f ungsi probabilitas prior h(θ ) untuk seluruh f ( y | θ ) ∈ F . Pemilihan prior konjugat yang lebih spesifik d apat d ilakukan de ngan memilih kelas d istribusi prior P yang merupakan hi mpunan dari s eluruh f ungsi kepadatan y ang m emiliki b entuk fungsional yang s ama d engan fungsi likelihood dari f ( y | θ ) . P ada k asus ini P disebut prior konjugat dari F (Andrew dkk, 2000). Tabel 2.1. Prior Konjugat dari Beberapa Fungsi Likelihood Likelihood
Prior Konjugat
Binomial
Beta
Binomial Negatif
Beta
Poisson
Gamma
Normal
µ tidak diketahui, σ2 diketahui
µ diketahui, σ2 tidak diketahui
SKRIPSI
Normal Inverse Chi-Square
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
11
2.7. Distribusi Prior Uniform Distribusi p rior non-informatif a dalah distribusi prior yang t idak mengandung informasi tentang parameter θ. Salah satu pemilihan d istribusi prior non-informatif a dalah prior Uniform, yang d inyatakan s ebagai d istribusi Beta (1,1). Prior Uniform memberikan fungsi de nsitas pr obabilitas yang ko nstan da n menghasilkan bobot yang sama ke semua nilai.
Beta= ( a, b)
1
∫x
a −1
(1 − x)b −1 dx
0
1
1
1 Beta (1,1) = 1 ∫ x (1 − x) dx =∫ dx =x |0 = 0
0
0
0
Sehingga densitas Beta (1,1) adalah
= f ( x |1,1)
1 x 0 (1 − x)0 B(1,1)
(2.11)
2.8. Prior Jeffreys Prior Jeffreys merupakan distribusi prior non-informatif yang pertama kali dikemukakan o leh S ir H arold J effreys pa da t ahun 1961. Secara u mum Prior Jeffreys digunakan untuk estimasi single parameter θ dan sebanding dengan akar kuadrat dari informasi Fisher. Informasi Fisher didefinisikan sebagai nilai negatif dari turunan kedua log-likelihood (Christensen dkk, 2011). 2.9. Distribusi Posterior Distribusi posterior merupakan distribusi yang dibentuk oleh informasi awal (distribusi prior) dan in formasi s aat in i. Distribusi posterior dinotasikan de ngan f (θ | x) . Persamaan distribusi posterior selain dapat dituliskan seperti persamaan
(2.6), juga dapat dinyatakan sebagai fungsi densitas bersyarat θ apabila observasi
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
12
x diketahui. f (θ , x) = f (θ | x) f ( x)
(2.12)
sehingga f (θ | x) =
f (θ , x) f ( x)
(2.13)
Fungsi likelihood dinotasikan d engan f ( x | θ ) dan f (θ ) merupakan d istribusi prior. Fungsi densitas marginal selanjutnya dapat dinyatakan sebagai
= f ( x)
∞
f (θ , x)dθ ∫= −∞
∫
∞
−∞
f (θ ) f ( x | θ )dθ
(2.14)
Kemudian d istribusi posterior dapat di gunakan u ntuk menentukan e stimasi parameter (Soejoeti dan Soebanar, 1988). 2.10. Distribusi Binomial Negatif Distribusi Binomial Negatif merupakan ditribusi yang memiliki banyak cara dalam penurunannya. Boswell dan Patil (1970) menunjukkan bahwa terdapat dua belas car a u ntuk mendapatkan d istribusi B inomial N egatif. S alah s atunya d apat diturunkan s ebagai d istribusi campuran P oisson-Gamma, a kan t etapi pe nurunan klasik d ari d istribusi B inomial N egatif yang p aling s ering d igunakan a dalah sebagai barisan p ercobaan B ernoulli. Fungsi p robabilitas d istribusi B inomial Negatif adalah sebagai berikut: x − 1 k x−k Pr( X = x) = θ (1 − θ ) , x =k , k + 1, k + 2,.... k − 1
(2.15)
dengan Pr( X = x) adalah pr obabilitas t erjadi sukses ke - k pada p ercobaan k e x dan θ merupakan probabilitas sukses dari setiap percobaan konstan.
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
13
Distribusi p robabilitas d ari p eubah acak X , d apat d inotasikan me njadi bentuk l ain yaitu menggunakan t ransformasi Y= X − k , de ngan Y menyatakan jumlah ke gagalan sebelum t erjadi k buah s ukses. D istribusi pr obabilitas da ri peubah acak Y dapat dinyatakan sebagai berikut: y + k − 1 k y y) Pr(Y == 0,1, 2,... θ (1 − θ ) , y = − k 1 dengan
(2.16)
Pr(Y = y ) adalah pr obabilitas t erjadi sukses ke - k setelah t erjadi y
kegagalan. Distribusi Binomial N egatif d apat d idefinisikan untuk setiap nilai po sitif dari k de ngan menggunakan fungsi G amma sebagai pe ngganti da ri ko mbinasi, yaitu:
Γ( y + k ) k Pr(Y == y) 0,1, 2,... θ (1 − θ ) y , y = Γ(k ) y !
(2.17)
(Jong dan Heller, 2008) 2.11. Distribusi Gamma Suatu variabel acak dikatakan memiliki distribusi Gamma dengan parameter
α dan b adalah bilangan positif. Parameter α merupakan parameter skala, dan β merupaan parameter bentuk. Fungsi kepadatan dari distribusi Gamma adalah −t
1 f (t ) = β t β −1e β α Γ( β )
(2.18)
dengan Γ( β ) adalah fungsi Gamma yang didefinisikan sebagai
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
14
∞
β −1 − t Γ( β ) = ∫ t e dt
(2.19)
0
(Walck, 2007) 2.12. Distribusi Beta Suatu variabel acak dikatakan memiliki distribusi Beta dengan parameter a dan b , jika fungsi kepadatannya adalah
1 x a −1 (1 − x)b −1 , 0 < x < 1 B ( a, b)
= f ( x)
(2.20)
dengan B (a, b) adalah fungsi Beta yang didefinisikan sebagai
B= ( a, b)
1
∫x
a −1
(1 − x)b −1 dx (2.21)
0
Fungsi B eta sesuai p ersamaan (2.21) da pat di transformasi de ngan x = sin 2 θ sehingga
B= ( a, b)
1
∫x
a −1
(1 − x)b −1 dx
0
π
=
2
∫ (sin θ )
2( a −1)
(1 − sin 2 θ )b −1 2sin θ cos θ dθ
0
π 2
= ∫ (sin θ ) 2 a − 2 (cos θ ) 2b − 2 2sin θ cos θ dθ 0
π 2
B(a, b) = 2 ∫ (sin θ ) 2 a −1 (cos θ ) 2b −1 dθ
(2.22)
0
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
15
Fungsi B eta d apat d ihubungkan dengan f ungsi G amma, m isalkan t = y 2 , ma ka ∞
sesuai persamaan ( 2.17) d iperoleh Γ( p ) = 2 ∫ y 2 p −1e − y dy dan t = x 2 maka 2
0
∞
Γ(q ) = 2 ∫ x 2 q −1e − x dx , apabila Γ( p ) dikalikan dengan Γ(q ) sehingga diperoleh 2
0
∞∞
Γ ( p )Γ ( q ) = 4∫ ∫ x
2 q −1
y 2 p −1e − ( x
2
+ y2 )
dxdy
0 0
π ∞ 2
= 4 ∫ ∫ (r cos θ ) 2 q −1 (r sinθ ) 2 p −1 e − r rdrdθ 2
0 0
π ∞
2
= 4 ∫ r 2 p + 2 q −1e − r dr ∫ (cos θ ) 2 q −1 (sin θ ) 2 p −1 dθ 0
2
0
1 1 = 4 Γ ( p + q ) B ( p, q ) 2 2
Γ ( p )Γ ( q ) 1 = B ( p, q ) 2Γ ( p + q ) 2 Γ(a )Γ(b) = B ( a, b) Γ ( a + b)
(2.23)
Sehingga fungsi kepadatan probabilitas distribusi Beta adalah
= f ( x)
Γ(a + b) a −1 x (1 − x)b −1 Γ(a )Γ(b)
(2.24)
(Spiegel dkk, 2004)
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
16
2.13. Distribusi Cauchy Suatu variabel acak dikatakan memiliki distribusi Cauchy dengan parameter
c dan d , apabila c merupakan bilangan real dan d merupakan bilangan positif. Parameter c merupakan p arameter lokasi, s edangkan p arameter d merupakan parameter skala. Fungsi kepadatan probabilitas dari fungsi Cauchy adalah
f ( x) =
1 ( x − c) 2 dπ (1 + ) d2
(2.25)
(Walck, 2007) 2.14. Distribusi Weibull Suatu variabel acak dikatakan memiliki distribusi Weibull dengan parameter
e dan f , apabila e dan f merupakan bilangan positif. Parameter e merupakan parameter bentuk, sedangkan parameter f merupakan parameter skala. Distribusi Weibull biasanya d igunakan u ntuk m endapatkan r eabilitas. F ungsi ke padatan probabilitas dari fungsi adalah
f ( x) =
g g −1 −( x / f ) g x e ,x >0 fg
(2.26)
(Walck, 2007) 2.15. Markov Chain Monte Carlo Markov C hain Monte Carlo adalah suatu metode simulasi yang merupakan perpaduan a ntara M onte C arlo de ngan sifat M arkov C hain u ntuk mendapatkan data s ampel berdasarkan s kenario s ampling t ertentu. Metode M arkov C hain Monte C arlo b anyak digunakan un tuk menyelesaikan p ersoalan-persoalan Bayesian, k hususnya jika d istribusi p robabilitasnya berdimensi t inggi. Rantai
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
17
Markov state space S didefinisikan sebagai suatu deret variabel random { Xt}t ≥ 0 , dengan nilai untuk masing-masing variabel random tersebut berada di dalam state space dan d istribusi dari Xt diberikan be rdasarkan s emua ni lai s ebelumnya dari proses yaitu X 0, X 1, X 2, ..., Xt − 1 hanya t ergantung pada Xt − 1 . D efinisi dari Rantai Markov secara matematis adalah sebagai berikut: Misal { Xt}t ≥ 0 merupakan deret dari suatu variabel random dikatakan sebagai suatu Rantai Markov jika diberikan suatu nilai untuk Xt sedemikian sehingga distribusi bersyarat Xt dengan X 0, X 1, X 2, ..., Xt − 1 diketahui hanya akan bergantung pada nilai
Xt − 1 saja, atau dapat
dituliskan sebagai berikut: P( Xt ∈ A | Xt − 1 ∈ At − 1, Xt − 2 ∈ At − 2,..., X 0 ∈ A0) = P ( Xt ∈ A | Xt − 1 ∈ At − 1)
(Astuti, 2006) 2.16. Metropolis Hasting Algoritma M etropolis Hasting me rupakan salah s atu m etode MC MC yang menggunakan mekanisme pe nerimaan da n pe nolakan u ntuk membangkitkan barisan sampel dari suatu distribusi proposal. Distribusi proposal adalah distribusi pembangkit kandidat sampel yang yang d ijadikan a cuan d alam p ergerakan sampel. D istribusi yang biasa d igunakan sebagai d istribusi pr oposal a dalah distribusi normal d an uniform. P embangkitan sampel d imulai d engan pemberian nilai a wal θ 1 , s etelah k iterasi diperoleh θ 1 , θ 2 ,..., θ k . Iterasi s elanjutnya y aitu pada iterasi k + 1 dibangkitkan θ * dari distribusi proposal h(θ * | θ k ) . Selanjutnya nilai-nilai t ersebut d igunakan un tuk menghitung α (θ * , θ k ) yang m erupakan probabilitas penerimaan sampel.
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
p (θ * | x)h(θ k | θ * ) α (θ * ,θ k ) min α = = 1, k * k p (θ | x)h(θ | θ )
18
(2.27)
Setelah p erhitungan α (θ * , θ k ) , di lakukan pe mbangkitan u U [0,1] dan selanjutnya d ilakukan p emilihan s ampel. S ampel a kan d iterima a pabila u ≤ α sehingga θ k +1 = θ * . S ebaliknya, s ampel akan d itolak a pabila u > α sehingga
θ k +1 = θ k (Christensen dkk, 2011). Estimasi parameter p ada kasus-kasus i nferensi B ayesian, m emisalkan θ adalah s ebuah ve ktor p arameter yang d iestimasi nilainya. A lgoritma M etropolis Hasting k emudian melakukan s imulasi u ntuk m emperoleh n ilai θ (1) , θ (2) ,..., θ (T ) dengan T adalah b anyak s ampel y ang tersimulasikan dan masing- masing terdistribusi ke distribusi posterior. Estimasi dari parameter θˆ diperoleh dari nilai rata-rata dari nilai-nilai sampel yang tersimulasi yaitu T
θˆ =
∑θ
(t )
t =1
T
(2.28)
(Johnson dan Albert, 1999) 2.17. Batch Mean Perhitungan penting setelah analisis output adalah mengenai standart error. Salah s atu m etode y ang s ederhana dan m udah diterapkan untuk m enghitung standart error yaitu me tode Batch Mean. M etode Batch Mean dilakukan dengan membagi u rutan n ilai-nilai s imulasi θ (1) , θ (2) ,..., θ (T ) menjadi h kelompok y ang berukuran w , s ehingga T = h.w . S etiap kelompok ke mudian dihitung r ata-rata
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
19
sampel, misalkan rata-rata sampel adalah θ 1,..., θ h . Selanjutnya estimasi standart error dapat diestimasi dengan standart deviasi dari Batch Mean yaitu h
∑ (θˆ − θ ) i
SθBˆ =
2
i =1
(h − 1)h
(2.29)
Standart error sangat berguna untuk menentukan ketelitian dari rata-rata distribusi target yang dihitung pada simulasi yang dijalankan. Apabila standart error terlalu besar m aka algoritma M etropolis Hasting s ebaiknya dijalankan m enggunakan iterasi yang lebih besar (Johnson dan Albert, 1999). 2.18. Mathematica Mathematica m erupakan program komputasi m atematika y ang s ering j uga disebut computer algebra program. M athematica d ikembangkan o leh Wolfram Research of Champaign dan d iluncurkan pe rtama ka li pa da t ahun 1988. Mathematica merupakan salah satu high performance program yang memudahkan pengguna da lam melakukan a nalisis. Analisis yang da pat di lakukan de ngan Mathematica a ntara lain time series, a nalisis multivariat, p erhitungan k ompleks, analisis cluster, dan sebagainya.
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
BAB V KESIMPULAN DAN SARAN
5.1
Kesimpulan Berdasarkan hasil a nalisis da n pe mbahasan yang d ilakukan, da pat
diperoleh kesimpulan yaitu: 1. Pengestimasian p arameter θ dalam D istribusi B inomial N egatif dengan menggunakan d istribusi
prior
Beta (a, b)
menghasilkan d istribusi
posterior yaitu distribusi Beta (kn + a, ∑ yi + b) dan θˆ =
kn + a . kn + a + b + ∑ yi
2. Meskipun d iperoleh e stimasi yang e ksplisit, namun s etelah d ilakukan penerapan M onte C arlo M arkov C hain algoritma Metropolis H asting memberikan h asil θˆ sebesar 0, 40004 dengan standart error 0,0043368 yang d iperoleh d ari d istribusi prior Beta (2, 4) dan d istribusi pr oposal
Uniform(0,1) melalui 1000 iterasi dengan nilai θ 1 = 0, 2 . 3. Dari hasil p enerapan M onte C arlo M arkov C hain a lgoritma M etropolis Hasting un tuk prior non ko njugat y aitu d istribusi
Cauchy (5,8) , d an Weibull (4,5)
Gamma (5,8) ,
yang paling m endekati ni lai θ
sebenarnya a dalah d engan menggunakan d istribusi prior Cauchy (5,8) yang m enghasilkan n ilai θˆ sebesar 4, 29321 dan standart error sebesar 0,893824.
36 SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
37
5.2 Saran Berdasarkan hasil yang d iperoleh da lam s kripsi ini, s aran yang d apat diberikan yaitu Metode Monte Carlo Markov Chain algoritma Metropolis Hasting akan lebih bermanfaat ap abila d igunakan p ada perhitungan e stimasi p arameter dengan m enggunakan d istribusi prior non ko njugat, ka rena pa da u mumnya penyelesaian dengan distribusi prior non konjugat lebih sulit.
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
BAB III METODE PENELITIAN
3.1. Langkah Analisis Langkah an alisis yang d igunakan d alam p enelitian ini a dalah s ebagai berikut: 1.
Penentuan distribusi posterior a.
Membentuk f ungsi likelihood L(θ ) dari d istribusi B inomial Negatif sesuai persamaan (2.10)
b.
Memilih distribusi prior konjugat p (θ ) dari distribusi Binomial Negatif yaitu distribusi Beta (a, b) sesuai persamaan (2.20)
c. 2.
Membentuk distribusi posterior f (θ | x) sesuai persamaan (2.6)
Estimasi p arameter distribusi B inomial N egatif menggunakan pe ndekatan Bayesian
3.
a.
Memperoleh distribusi posterior f (θ | x) sesuai dengan langkah 1
b.
Mengestimasi parameter θˆ sesuai persamaan (2.8)
Penerapan e stimasi p arameter d istribusi p osterior m enggunakan Monte Carlo Markov Chain dengan Algoritma Metropolis Hasting a.
Membangkitkan d ata b erdistribusi B inomial N egatif sesuai p ersamaan (2.15) dengan menggunakan software Wolfram Mathematica 7.0
b.
Memilih distribusi prior konjugat p (θ ) sesuai persamaan (2.20)
c.
Membentuk distribusi posterior sesuai persamaan (2.6)
d.
(1) Menentukan nilai awal θ
20 SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
21
e.
Menentukan distribusi proposal untuk pergerakan sampel
f.
Menentukan parameter distribusi proposal
g.
Membangkitkan θ * dari distribusi proposal
h.
Menghitung lompatan nilai dari nilai acak θ *
i.
Menghitung α sesuai persamaan (2.27)
j.
Membangkitkan sampel random u U (0,1)
k.
Membandingkan nilai u dengan α , apabila u ≤ α maka d iambil nilai
θ ( k +1) = θ * sedangkan apabila u > α maka nilai θ ( k +1) = θ k l.
Mengulangi l angkah b h ingga diperoleh sampel s esuai i terasi y ang diinginkan
m. Menghitung pe nduga d ari pa rameter θ yang d iperoleh d ari r ata r ata nilai sampel yang tersimulasi sesuai persamaan (2.28) n.
Menentukan selisih sampling
o.
Mengurangi iterasi dengan selisih sampling
p.
Menghitung nilai autokorelasi antar parameter
q.
Membagi jumlah iterasi menjadi h kelompok berukuran w
r.
Menghitung r ata-rata s ampel t iap ke lompok yang t elah d ibagi sebelumnya
s.
Menghitung standart error Batch Mean sesuai persamaan (2.29)
3.2. Flowchart Berdasarkan langkah a nalisis d ibuat flowchart untuk menunjukkan prosedur-prosedur da lam sistem kerja Monte C arlo M arkov C hain a lgoritma Metropolis Hasting dengan lebih mudah. Flowchart tersebut ditunjukkan sebagai berikut:
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
Input θ n
Mulai
(1)
,
Membangkitkan u
22
Membangkitkan
θ*
Menghitung α
u ≤α
θ ( k +1) = θ *
θ ( k +1) = θ *
i=n
Mengestimasi θ (sebanyak m kali)
Menghitung
standart error θˆ
Selesai
Gambar 3. 1. Flowchart Estimasi P arameter M enggunakan Algoritma Metropolis Hasting.
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
BAB IV PEMBAHASAN
4.1
Penentuan D istribusi Posterior pada D istribusi B inomial N egatif Menggunakan Pendekatan Bayesian Misalkan X merupakan va riabel acak yang mengikuti d istribusi B inomial
x − 1 k x−k Negatif dengan = f (x | θ ) θ (1 − θ ) . Distribusi probabilitas d ari variabel k − 1 acak X dapat di notasikan menjadi bentuk l ain de ngan t ransformasi y= x − k , dengan y menyatakan jumlah k egagalan s ebelum t erjadi k buah su kses. Distribusi pr obabilitas d ari
variabel
acak
Y
dinyatakan de ngan
y + k − 1 k y = f (y |θ ) θ (1 − θ ) . Penentuan d istribusi Posterior pada d istribusi − k 1 Binomial N egatif menggunakan p endekatan B ayesian d engan d istribusi prior yaitu distribusi Beta adalah sebagai berikut: y + k − 1 k y = f (y |θ ) θ (1 − θ ) − k 1
=
=
( y + k − 1)! k θ (1 − θ ) y y !(k − 1)! Γ( y + k ) θ k (1 − θ ) y Γ( y + 1)Γ(k )
(4.1)
Likelihood distribusi Binomial Negatif dengan PDF sesuai persamaan (4.1) n
L(θ ) = ∏ f ( yi | θ ) i =1
23 SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
Γ( yi + k )
n
∏ Γ( y + 1)Γ(k ) θ
=
i =1
k
24
(1 − θ ) yi
i
= (θ k ) n (
1 n n Γ( yi + k ) yi ) ∏ (1 − θ )∑ Γ(k ) i =1 Γ( yi + 1)
(4.2)
Selanjutnya PDF distribusi prior konjugat yaitu distribusi Beta( a, b )
1 θ a −1 (1 − θ )b −1 B ( a, b)
= p (θ )
(4.3)
Dengan 1
∫θ
B= ( a, b)
a −1
(1 − θ )b −1 dθ
(4.4)
0
Penentuan distribusi Posterior
f (θ | y ) =
f (θ , y ) f ( y)
(4.5)
Dengan
f (θ , y ) = f ( y | θ ) f (θ ) ∞
f ( y) =
∫
(4.6)
f (θ ) f ( y | θ )dθ
(4.7)
−∞
Sehingga sesuai persamaan (4.6) diperoleh
f (θ , y ) = f ( y | θ ) f (θ ) = (θ k ) n (
=
1 n n Γ( yi + k ) 1 yi ) ∏ (1 − θ )∑ × θ a −1 (1 − θ )b −1 Γ(k ) i =1 Γ( yi + 1) B ( a, b)
θ kn (1 − θ )∑
yi
Γ(k ) n
Γ( yi + k ) θ a −1 (1 − θ )b −1 × ∏ B ( a, b) i =1 Γ ( yi + 1) n
θ kn (1 − θ )∑ θ a −1 (1 − θ )b −1 yi
=
SKRIPSI
Γ ( k ) B ( a, b) n
n
Γ( yi + k )
i =1
i
∏ Γ( y + 1)
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
θ kn + a −1 (1 − θ )∑
f (θ , y ) =
yi + b −1
Γ( k ) B ( a, b) n
= θ kn + a −1 (1 − θ )∑
yi + b −1
n
Γ( yi + k )
i =1
i
∏ Γ( y + 1) Γ( yi + k )
n
∏ Γ( y + 1) Γ(k ) i =1
Karena pada p ersamaan ( 4.8)
∏ Γ( y + 1) Γ(k ) i =1
maka da pat d iabaikan s ehingga
i
Γ( yi + k )
n
25
i
n
n
1 B ( a, b)
(4.8)
1 merupakan ko nstanta, B ( a, b)
f (θ , y ) θ kn + a −1 (1 − θ )∑
yi + b −1
. Dengan d emikian
sesuai persamaan (4.5) diperoleh distribusi Posterior yaitu:
f (θ | y ) =
=
f (θ , y ) f ( y)
θ kn + a −1 (1 − θ )∑ 1
∫θ
kn + a −1
(1 − θ )∑
yi + b −1
yi + b −1
dθ
0
= 4.2
θ kn + a −1 (1 − θ )∑
yi + b −1
B(kn + a, ∑ yi + b)
(4.9)
Estimasi Parameter Berdasarkan Distribusi Posterior Distribusi Posterior yang d iperoleh sesuai p ersamaan ( 4.9) m erupakan
distribusi Beta (kn + a, ∑ yi + b) selanjutnya d igunakan dalam es timasi p arameter
θ . Nilai θˆ diperoleh sebagai berikut: (θ | y1,..., yn) = θˆ E=
1
∫ θ f (θ | y)dθ 0
1
= ∫θ 0
SKRIPSI
θ kn + a −1 (1 − θ )∑
yi + b −1
dθ B(kn + a, ∑ yi + b)
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
1
∫θ
θˆ =
0
=
kn + a
(1 − θ )∑
yi + b −1
26
dθ
B(kn + a, ∑ yi + b)
B(kn + a + 1, ∑ yi + b) B(kn + a, ∑ yi + b)
Γ(kn + a + 1)Γ(∑ yi + b) Γ(kn + a + 1 + ∑ yi + b) = Γ(kn + a )Γ(∑ yi + b) Γ(kn + a + ∑ yi + b) (kn + a )Γ(kn + a )Γ(∑ yi + b) (kn + a + ∑ yi + b)Γ(kn + a + ∑ yi + b) = Γ(kn + a )Γ(∑ yi + b) Γ(kn + a + ∑ yi + b) =
=
= 4.3
(kn + a )Γ(kn + a )Γ(∑ yi + b)
Γ(kn + a + ∑ yi + b)
(kn + a + ∑ yi + b)Γ(kn + a + ∑ yi + b) Γ(kn + a )Γ(∑ yi + b) Γ(kn + a )Γ(∑ yi + b) Γ(kn + a + ∑ yi + b) (kn + a ) (kn + a + ∑ yi + b) Γ(kn + a + ∑ yi + b)Γ(kn + a ) Γ(∑ yi + b)
kn + a kn + a + b + ∑ yi
(4.10)
Penerapan E stimasi Parameter D istribusi Posterior Menggunakan Monte Carlo Markov Chain Algoritma Metropolis Hasting Estimasi parameter d istribusi posterior dengan pe rhitungan m anual akan
dibandingkan d engan es timasi p arameter yang diperoleh menggunakan M onte Carlo Markov Chain algoritma Metropolis Hasting. Data yang digunakan sebagai contoh p enerapan ad alah d ata b erdistribusi Binomial N egatif yang d ibangkitkan
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
27
dengan Software Wolfram Mathematica 7 .0. Data t ersebut di bangkitkan de ngan probabilitas sukses 0,4 dan kejadian sukses sebanyak 7, serta distribusi prior yang digunakan adalah distribusi Beta. Tabel 4.1 Tabel Data Berdistribusi Binomial Negatif
4.3.1
7
19
8
10
10
9
20
8
11
6
8
9
11
7
7
7
16
13
10
10
9
2
25
10
1
11
14
17
9
28
14
16
18
8
5
3
4
9
5
8
Estimasi Parameter dengan Perhitungan Manual Berdasarkan data t ersebut dan sesuai p ersamaan (4.10) diperoleh nilai θˆ sebagai berikut:
θˆ =
=
=
SKRIPSI
kn + a kn + a + b + ∑ yi
7(40) + 2 7(40) + 2 + 4 + (7 + 19 + ... + 8) 282 = 0,3983 708
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
4.3.2
28
Estimasi Parameter dengan Algoritma Metropolis Hasting Algoritma M
etropolis H
asting
bertujuan un
tuk
menyelesaikan p erhitungan yang r umit s alah s atunya a dalah estimasi parameter. Suatu estimasi parameter pada kasus Bayesian terjadi a pabila d istribusi prior yang digunakan buka n m erupakan prior kunjugat da ri distribusi yang in gin diestimasi. B erikut in i adalah p rosedur es timasi p arameter d engan a lgoritma M etropolis Hasting. Prosedur Estimasi Parameter Inisialisasi data, θ 1 , iterasi ; set t=1 Trajectory = For[ Start t ; End t < iterasi Bangkitkan p dari distribusi proposal Bangkitkan u dari distribusi uniform(0,1) If [
u ≤ α , set θ t +=1 θ t + p Else set θ t + 1 = θ t ] ] Thetatopi = Mean [Trajectory]
Gambar 4.1 Prosedur Estimasi Parameter Setelah diperoleh h asil e stimasi parameter y aitu θˆ , selanjutnya d ilakukan pe rhitungan standart error Batch Mean. Perhitungan standart
SKRIPSI
error Batch M ean d idasarkan p ada
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
29
perhitungan yang t elah d ilakukan s ebelumnya. B erikut i ni a dalah prosedur perhitungan standart error Batch Mean. Prosedur Estimasi Parameter Inisialisasi h, w ; set i=1 Bagi Trajectory sebanyak h For[ Start i ; End i < h ThetraTrajectory [i]= Mean [Trajectory[i]] Error[i] = Quadrat[ThetraTrajectory [i] -Thetatopi] Batch Mean = Sqrt[ Sum [ error[i]/((h-1)*h)]] ]
Gambar 4. 2 Prosedur Perhitungan Standart Error Batch Mean Berdasarkan pr osedur-prosedur t ersebut dapat d ilakukan perhitungan e stimasi p arameter d engan algoritma Metropolis Hasting. Berikut i ni a dalah h asil perhitungan da ta pada T abel 4.1 menggunakan algoritma Metroplois Hasting: Tabel 4.2 Tabel Perhitungan dengan Metropolis Hasting
θ
Iterasi
Prior
Distribusi
θ1
θˆ
Proposal
SKRIPSI
Standart Error
0.3983
100
Beta(2,4) Normal(0,1)
0.2
0.401417
0.0040357
0.3983
1000
Beta(2,4) Normal(0,1)
0.2
0.391904
0.0105594
0.3983
10000
Beta(2,4) Normal(0,1)
0.2
0.400438
0.0011625
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
30
Lanjutan Tabel 4.2 Tabel Perhitungan dengan Metropolis Hasting
θ
Iterasi
Prior
Distribusi
θ1
θˆ
Proposal
SKRIPSI
Standart Error
0.3983
100
Beta(2,4) Normal(0,1)
0.5
0.427118
0.0314959
0.3983
1000
Beta(2,4)
Normal(0,1)
0.5
0.405117
0.0190912
0.3983
10000
Beta(2,4)
Normal(0,1)
0.5
0.39843
0.0013406
0.3983
100
Beta(2,4) Normal(0,1)
0.7
0.415353
0.0051671
0.3983
1000
Beta(2,4)
Normal(0,1)
0.7
0.407188
0.0042770
0.3983
10000
Beta(2,4)
Normal(0,1)
0.7
0.399445
0.0010819
0.3983
100
Beta(2,4)
Uniform(0,1)
0.2
0.376067
0.0036752
0.3983
1000
Beta(2,4)
Uniform(0,1)
0.2
0.393563
0.0119888
0.3983
10000
Beta(2,4)
Uniform(0,1)
0.2
0.40004
0.0043368
0.3983
100
Beta(2,4)
Uniform(0,1)
0.5
0.405967
0.0008491
0.3983
1000
Beta(2,4)
Uniform(0,1)
0.5
0.395704
0.0031467
0.3983
10000
Beta(2,4)
Uniform(0,1)
0.5
0.397316
0.0012965
0.3983
100
Beta(2,4)
Uniform(0,1)
0.7
0.405513
0.0051184
0.3983
1000
Beta(2,4)
Uniform(0,1)
0.7
0.392925
0.0117327
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
Berdasarkan T
abel
4.2
hasil e
stimasi
31
parameter
menggunakan a lgoritma Metropolis H asting m enunjukkan h asil yang c ukup d ekat de ngan nilai θ sebenarnya dan ni lai standart error Batch Mean yang d iperoleh s angat ke cil yang berarti nilai standart error yang dihasilkan kecil. Melalui simulasi tersebut juga dapat di simpulkan bahwa s emakin b anyak ju mlah i terasi akan menyebabkan n ilai θˆ semakin de kat de ngan nilai θ , s elain itu distribusi pr oposal yang d igunakan yaitu d istribusi N ormal da n distribusi U niform memberikan e stimasi yang relatif s ama. Perbedaan in isialisasi θ 1 pada a lgoritma Metropolis Hasting t idak berpengaruh s ignifikan t erhadap hasil e stimasi, k arena berapapun nilai θ 1 yang diinputkan diperoleh estimasi yang relatif sama. Selanjutnya algorima M etropolis H asting akan d igunakan untuk melihat pe ngaruh p arameter d istribusi B eta dalam e stimasi parameter distribusi Binomial N egatif. Simulasi s elanjutnya menggunakan
inisialisasi
θ1
yang s ama,
yaitu 0 .5
dan
menggunakan d istribusi p roposal yaitu d istribusi N ormal ( 0,1). Nilai θ 1 dan d istribusi pr oposal yang d igunakan s ama mengingat kedua faktor tersebut tidak memberikan perbedaan yang signifikan terhadap h asil e stimasi.
Berikut a dalah s imulasi de ngan
menggunakan data pada Tabel 4.1:
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
32
Tabel 4.3 Tabel Perbedaan Parameter Distribusi Prior Distribusi Prior
θˆ
Standart Error
Beta (1,2)
0.382559
0.00489297
Beta (2,3)
0.403235
0.00427772
Beta (1,3)
0.389386
0.00513714
Beta (1,4)
0.390629
0.0035615
Beta (3,4)
0.406527
0.00355009
Beta (2,5)
0.400866
0.00592813
Beta (3,5)
0.406562
0.00370302
Beta (4,5)
0.399273
0.00328232
Beta (2,6)
0.393828
0.00490377
Beta (3,6)
0.410854
0.00442508
Beta (4,6)
0.398502
0.00391238
Beta (5,6)
0.406587
0.00360521
Berdasarkan T abel 4. 3 da pat di lihat jika berapapun pa rameter distribusi prior me nghasilkan n ilai e stimasi yang nilainya s aling berdekatan . Algoritma M etropolis H asting s angat b aik d alam memberikan e stimasi p arameter B inomial
Negatif d engan
distribusi prior berupa distribusi Beta, dengan demikian Algoritma Metropolis H asting d apat juga d iterapkan p ada berbagai macam distribusi prior lainnya y ang me miliki penyelesaian s ulit. Berikut
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
33
adalah data yang a kan d iestimasi dengan b erbagai macam distribusi prior. Tabel 4.4 Tabel Data Binomial Negatif 13
11
9
6
13
12
15
11
11
17
15
5
5
12
17
6
11
8
11
16
8
8
19
15
31
11
19
5
10
12
15
9
6
20
13
11
15
16
14
8
Data tersebut k emudian d iestimasi d engan algoritma Metropolis H asting. D istribusi prior yang d ipilih adalah d istribusi prior n on ko njugat. D istribusi posterior yang d ihasilkan d engan pemilihan distribusi prior non konjugat biasanya sulit diselesaikan, sehingga e stimasi pa rameternya a kan lebih mudah apabila diselesaikan d engan al goritma Metropolis H asting. Misalkan distribusi B inomial N egatif
SKRIPSI
akan d iestimasi
ESTIMASI PARAMETER DISTRIBUSI ...
menggunakan
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
distribusi p rior
Gamma (a, b) .
Likelihood
34
diperoleh s esuai
persamaan (4.2) yaitu
= L(θ ) (θ k ) n (
1 n n Γ( yi + k ) yi ) ∏ (1 − θ )∑ Γ(k ) i =1 Γ( yi + 1)
Selanjutnya PDF distribusi Gamma (a, b) yaitu
p (θ ) =
θ − 1 b −1 b θ e a b Γ(b)
Sehingga sesuai p ersamaan (4.5) diperoleh d istribusi posterior sebagai berikut
θ kn +b −1 p (θ | y ) = ∞
∫θ
kn + b −1
yi (1 − θ )∑
(Γ(k ))
n
yi (1 − θ )∑
0
(Γ(k ))
n
−θ b
e a Γ(b) b
−θ b
e dθ a Γ(b) b
Distribusi posterior tersebut sulit diselesaikan sehingga dibutuhkan bantuan i
terasi n
umerik
untuk m
enyelesaikan
estimasi
parameternya. H al t ersebut juga berlaku u ntuk pe nggunaan distribusi prior non konjugat la innya m isalnya distribusi C auchy dan d istribusi Weibull. Berikut in i adalah hasil e stimasi p arameter dengan ba ntuan algoritma M etropolis H asting yang d ijalankan masing-masing de ngan 1000
iterasi da n banyaknya s elisih
sampling adalah 100:
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
35
Tabel 4.5 Tabel Estimasi dengan Distribusi Prior Non Konjugat Distribusi Prior
θˆ
Standart Error
Gamma (5,8)
20.4
2.9263
Cauchy(5,8)
4.29321
0.893824
Weibull (4,5)
6.09339
2.19357
Berdasarkan Tabel 4 .5 es timasi p arameter d ari data b erdistribusi Binomial Negatif d engan distribusi G amma ( 5,8) , C auchy ( 5,8), da n Weibull (4,5) menghasilkan θˆ masing-masing sebesar 20.4, 4.29321, dan 6.09339. Algoritma me tropolis Hasting in i memberikan e stimasi d engan proses yang mudah sehingga algoritma Metropolis Hasting dapat dijadikan alternatif bantuan u ntuk mengestimasi parameter, na mun d emikian estimasi yang d ihasilkan da ri metode M onte C arlo M arkov C hain algoritma Metropolis Hasting tidak memberikan hasil yang tetap, sehingga apabila menginginkan e stimasi yang nilainya t etap da pat m enggunakan metode iterasi numerik lain.
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
DAFTAR PUSTAKA
Andrew, G , S tern, H , C arlin, J, D unson D , V ehtari, A , a nd R ubin, D . 2000. Bayesian Data Analysis Third Edition. United States: Chapman and Hall. Apsari, W. 2013. Estimasi Parameter Regresi Logistik Multinomial dengan Metode Bayes. Jurnal Gaussian, 2: 79-88. Astuti, E . 2006. Implementasi B ayesian Markov C hain M onte C arlo p ada Permodelan P ortofolio O ptimal d engan P endekatan M odel M ixture Beberapa M ixture. Tesis. S urabaya: I nstitut T eknologi S epuluh November. Bain, L.J. and Engelhardt, M. 1992. Introduction to Probability and Mathematical Statistics Second Edition. California: Duxbury Press. Berger, J .O. 1980. Statistical Decision Theory and Bayesian Analysis Second Edition. New York: Springel-Verlag inc. Boldstad, W . 2007. Introduction to Bayesian Statistics Second Edition. U nited States: Wiley Interscience. Box, G .E.P a nd T iao, G .C. 2 011. Bayesian Inference in Statistical Analysis. Philippines: Addision-Wesley Publishing Company Inc. Bradlow, E , H ardie, B , and Fader, P . 2002. Bayesian Inference for the Negative Binomial Distribution via Polynomial Expansions. J ournal o f Computional and Statistics, 11: 189-201. Christensen, R, Johnson, W, Branscum, A, and Hanson, T. 2011. Bayesian Ideas and Data Analysis: An Introduction for Scientists and Statisticians. United States: CRC Press. Gregory, P . 2010. Bayesian Logical Data Analysis for the Physical Sciences. United Kingdom: Cambridge. Hilbe, J. 2011. Negative Binomial Regression. Cambridge: Cambridge University Press Irwanti, L .K. 2012. Pembangkitan Sampel Random Menggunakan Algoritma Metropolis Hasting. Jurnal Gaussian, 1:135-146. Johnson, V.E dan Albert, J.H. 1999. Ordinal Data Modeling. New York: Springer -Verlag Inc.
38 SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
39
Jong, P , a nd H eller, G . 2008. Generalized Linear Model for Insurance Data. Cambridge: Cambridge University Press Lio, Y, L. 2009. A Note on Bayesian Estimation for the Negative Binomial Model. Pliska Stud. Math. Bulgar, 19: 207-216. Shafira. 2 011. P enaksiran P arameter D istribusi Binomial N egatif p ada Kasus Overdispersi. Skripsi. Jakarta: Universitas Indonesia. Siska, A . 2011. I nferensi S tatistik D istribusi Binomial d engan M etode B ayes Menggunakan P rior K onjugat. Skripsi. S emarang: U niversitas Diponegoro. Soejoeti, Z dan Soebanar. 1988. Inferensi Bayesian. Jakarta: Universitas Terbuka. Walck, C . 2007. Statistical Distributions for Experimentalists. S weden: University of Stockholm. Walpole, R . 1995. Pengantar Statistika. Edisi ketiga. J akarta: P T G ramedia Pustaka Utama
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
Lampiran 1. Data Berdistribusi Binomial Negatif
SKRIPSI
7
19
8
10
10
9
20
8
11
6
8
9
11
7
7
7
16
13
10
10
9
2
25
10
1
11
14
17
9
28
14
16
18
8
5
3
4
9
5
8
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
Lanjutan Lampiran 1. Data Berdistribusi Binomial Negatif
SKRIPSI
13
11
9
6
13
12
15
11
11
17
15
5
5
12
17
6
11
8
11
16
8
8
19
15
31
11
19
5
10
12
15
9
6
20
13
11
15
16
14
8
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
Lampiran 2. Program MCMC Algoritma Metropolis Hasting dengan prior Beta #Pembangkitan data n=Input["Jumlah data yang ingin dibangkitkan"] k=Input["Kejadian sukses"] thetadata=Input["Probabilitas sukses"] data=RandomInteger[NegativeBinomialDistribution[k,thetadata],n] TabView[{"Plot"->ListLinePlot[data,Mesh->All,GridLines>{{},{1}}],"Data"->data}] #Perhitungan estimasi parameter Clear[a,b,iterasi,trajectory,traj,w,u,prop,proposedjump,prob,alfa,r,rr,ss,s,q,qq, thetatopi,r,sumy,f] a=Input["Parameter Distribusi Prior a"] b=Input["Parameter Distribusi Prior b"] iterasi=Input["Iterasi yang diinginkan"] trajectory[1]=Input["Nilai awal dengan kurung kurawal"] traj=Array[trajectory,iterasi] w=Array[u,iterasi] rr=Array[r,iterasi] prop=Array[proposedjump,iterasi] qq=Array[q,iterasi] prob=Array[alfa,iterasi] ss=Array[s,iterasi] sumy=Total[data]
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
Lanjutan Lampiran 2. Program M CMC A lgoritma M etropolis Hasting dengan prior Beta likelihood[f_,data]:=Product[Evaluate[PDF[f,y]],{y,data}] li=likelihood[NegativeBinomialDistribution[k,theta],data] pri=PDF[BetaDistribution[a,b],theta] ats=li*pri bwh=Integrate[ats,theta] f[theta_]:=ats/bwh For[i=1,i
0,q[i],0];If[r[i]!=0,s[i]=f[r[i]]/f[traje ctory[i][[1]]],s[i]=0];alfa[i]=Min[1,s[i]];If[u[i][[1]]<=alfa[i],trajectory[i+1]={ q[i]},trajectory[i+1]=trajectory[i]]] thetatopi=Total[traj]/iterasi TabView[{"Proposed Jump"->prop,"U"->w,"alfa"->prob,"Theta"->traj,"Hasil Estimasi"->thetatopi}]
#Perhitungan Batch Mean Clear[h,c,tp,v,l,sd] l=Input["Selisih Sampling"] g[x_]:=(x-thetatopi) z=iterasi-l mm=Array[m,z] oo=Array[o,z]
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
Lanjutan Lampiran 2. Program M CMC Algoritma Metropolis H asting dengan prior Beta For[j=1,j<=z,j++,m[j]=g[trajectory[j][[1]]]*g[trajectory[j+l][[1]]];o[j]=Power [g[trajectory[j][[1]]],2]] atas=Total[mm] bawah=Total[oo] rel=(iterasi/z)*(atas/bawah) v=iterasi/l trj=Array[tp,v] thetatraj=Partition[traj,l] syy=Array[sy,v] For[c=1,c<=v,c++,tp[c]=Total[thetatraj[[c]]]/l;sy[c]=Power[tp[c]-thetatopi,2]] se=Sqrt[Total[syy]/((v-1)*v)] TabView[{"Batch Mean"->se}]
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
Lampiran 3. Program MCMC Algoritma Metropolis Hasting dengan prior Gamma
#Pembangkitan data n=Input["Jumlah data yang ingin dibangkitkan"] k=Input["Kejadian sukses"] thetadata=Input["Probabilitas sukses"] data=RandomInteger[NegativeBinomialDistribution[k,thetadata],n] TabView[{"Plot"->ListLinePlot[data,Mesh->All,GridLines>{{},{1}}],"Data"->data}] #Perhitungan estimasi parameter Clear[a,b,iterasi,trajectory,traj,w,u,prop,proposedjump,prob,alfa,r,rr,ss,s,q,qq, thetatopi,r,sumy,f] a=Input["Parameter Distribusi Prior a"] b=Input["Parameter Distribusi Prior b"] iterasi=Input["Iterasi yang diinginkan"] trajectory[1]=Input["Nilai awal dengan kurung kurawal"] traj=Array[trajectory,iterasi] w=Array[u,iterasi] rr=Array[r,iterasi] prop=Array[proposedjump,iterasi] qq=Array[q,iterasi] prob=Array[alfa,iterasi] ss=Array[s,iterasi] sumy=Total[data]
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
Lanjutan Lampiran 3. Program M CMC Algoritma Metropolis H asting d engan prior Gamma likelihood[f_,data]:=Product[Evaluate[PDF[f,y]],{y,data}] li=likelihood[NegativeBinomialDistribution[k,theta],data] pri=PDF[GammaDistribution[a,b],theta] #apabila ingin mengganti distribusi prior Beta (a,b) dengan distribusi lain, hapus GammaDistribution dan ganti dengan distribusi yang diinginkan. PDF[CauchyDistribution[a,b] ,theta] untuk distribusi Cauchy, dan PDF[WeibullDistribution[a,b] ,theta] untuk distribusi Weibull ats=li*pri bwh=Integrate[ats,theta] f[theta_]:=ats/bwh For[i=1,i0,q[i],0];If[r[i]!=0,s[i]=f[r[i]]/f[traje ctory[i][[1]]],s[i]=0];alfa[i]=Min[1,s[i]];If[u[i][[1]]<=alfa[i],trajectory[i+1]={ q[i]},trajectory[i+1]=trajectory[i]]] thetatopi=Total[traj]/iterasi TabView[{"Proposed Jump"->prop,"U"->w,"alfa"->prob,"Theta"->traj,"Hasil Estimasi"->thetatopi}] #Perhitungan Batch Mean Clear[h,c,tp,v,l,sd] l=Input["Selisih Sampling"] g[x_]:=(x-thetatopi) z=iterasi-l mm=Array[m,z] oo=Array[o,z]
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
Lanjutan Lampiran 3. Program M CMC Algoritma Metropolis H asting d engan prior Gamma For[j=1,j<=z,j++,m[j]=g[trajectory[j][[1]]]*g[trajectory[j+l][[1]]];o[j]=Power [g[trajectory[j][[1]]],2]] atas=Total[mm] bawah=Total[oo] rel=(iterasi/z)*(atas/bawah) v=iterasi/l trj=Array[tp,v] thetatraj=Partition[traj,l] syy=Array[sy,v] For[c=1,c<=v,c++,tp[c]=Total[thetatraj[[c]]]/l;sy[c]=Power[tp[c]-thetatopi,2]] se=Sqrt[Total[syy]/((v-1)*v)] TabView[{"Batch Mean"->se}]
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
Lampiran 4. Output Program Perhitungan dengan Metropolis Hasting
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
Lanjutan Lampiran 4. Output Program Perhitungan dengan Metropolis Hasting
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
Lanjutan Lampiran 4. Output Program Perhitungan dengan Metropolis Hasting
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
Lanjutan Lampiran 4. Output Program Perhitungan dengan Metropolis Hasting
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
Lampiran 5. Output Perbedaan Parameter Distribusi Prior
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
Lanjutan Lampiran 5. Output Perbedaan Parameter Distribusi Prior
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
Lanjutan Lampiran 5. Output Perbedaan Parameter Distribusi Prior
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
Lampiran 6. Output Estimasi dengan Distribusi Prior Non Konjugat
SKRIPSI
ESTIMASI PARAMETER DISTRIBUSI ...
MIFTA DIAN