PERBANDINGAN METODE MAXIMUM LIKELIHOOD ESTIMATION (MLE) DAN METODE BAYES DALAM PENDUGAAN PARAMETER DISTRIBUSI EKSPONENSIAL

Buletin Ilmiah Mat. Stat. dan Terapannya (Bimaster) Volume 02, No. 1 (2013), hal. 51 – 56.

PERBANDINGAN METODE MAXIMUM LIKELIHOOD ESTIMATION (MLE) DAN METODE BAYES DALAM PENDUGAAN PARAMETER DISTRIBUSI EKSPONENSIAL Dwi Nurlaila, Dadan Kusnandar, Evy Sulistianingsih INTISARI Penelitian ini membandingkan metode MLE dan metode Bayes dalam menduga parameter Distribusi Eksponensial. Distribusi prior untuk metode Bayes yang digunakan pada penelitian ini adalah perluasan distribusi prior Jeffrey. Perbandingan kedua metode dilakukan melalui simulasi data pada berbagai kondisi parameter dan ukuran sampel. Evaluasi terhadap kedua metode dilakukan melalui pengamatan terhadap nilai bias dan MSE yang dihasilkan. Penelitian ini menunjukkan bahwa metode Bayes dengan nilai konstanta Jeffrey lebih kecil dari satu selalu menghasilkan nilai bias dan MSE yang lebih baik dibandingkan dengan metode Maximum Likelihood Estimation (MLE). Kata kunci: Distribusi Eksponensial, Metode MLE, Metode Bayes.

PENDAHULUAN Pendugaan parameter adalah bagian dari statistik inferensi yang merupakan suatu cara untuk memprediksi karakteristik dari suatu populasi berdasarkan sampel yang diambil. Secara umum pendugaan parameter digolongkan menjadi dua yaitu pendugaan titik dan pendugaan selang. Beberapa metode pendugaan titik yang digunakan untuk menduga parameter diantaranya adalah metode momen, metode kuadrat terkecil, metode Maximum Likelihood Estimation (MLE) dan metode Bayes. Metode momen menduga parameter dengan cara menyamakan k momen sampel dengan k momen populasi dan menyelesaikan sistem persamaan yang dihasilkan [1]. Sedangkan metode kuadrat terkecil prinsip kerjanya adalah meminimumkan jumlah kuadrat penyimpangan atau error nilai-nilai observasi terhadap rata-ratanya. Selanjutnya metode MLE merupakan suatu metode pendugaan parameter yang memaksimalkan fungsi likelihood. Kemudian metode Bayes merupakan metode pendugaan yang menggabungkan distribusi prior dan distribusi sampel. Distribusi prior adalah distribusi awal yang memberi informasi tentang parameter. Distribusi sampel yang digabung dengan distribusi prior akan menghasilkan suatu distribusi baru yaitu distribusi posterior yang menyatakan derajat keyakinan seseorang mengenai letak parameter setelah sampel diamati [2]. Al Kutubi dan Ibrahim [3] melakukan penelitian mengenai pendugaan parameter Distribusi Eksponensial dari data waktu hidup. Penelitian tersebut menggunakan metode Bayes dengan distribusi prior Jeffrey dan perluasan distribusi prior Jeffrey. Penelitian ini menghasilkan bahwa perluasan distribusi prior Jeffrey memberikan penduga terbaik dibandingkan dengan penduga lainnya. Penelitian lain mengenai metode Bayes yang menduga parameter Distribusi Gamma dilakukan oleh Pradhan dan Kundu [4]. Penelitian tersebut membandingkan kinerja Bayes dengan MLE serta metode momen menggunakan simulasi Monte Carlo. Dari hasil simulasi dapat dilihat bahwa penduga Bayes dan penduga MLE lebih baik dari penduga momen. Jika dibandingkan penduga Bayes dan penduga MLE maka dapat disimpulkan bahwa pada saat penduga Bayes dengan prior non-informatif menghasilkan nilai yang sama dengan MLE, tetapi pada saat menggunakan prior informatif penduga Bayes lebih baik dibandingkan MLE. Selanjutnya Shawky dan Bakoban [5] juga melakukan penelitian mengenai pendugaan parameter sebuah bagi Distribusi Gamma Exponentiated.

51

52

D NURLAILA, D KUSNANDAR, DAN E SULISTIANINGSIH

Penelitian tersebut menggunakan metode Bayes dan MLE untuk memperoleh penduga dari parameter bentuk, reliability (keandalan) dan failure rate functions (fungsi tingkat kegagalan). Penelitian ini menganjurkan penggunaan pendekatan Bayes dengan quadratic loss function (kuadrat fungsi kehilangan) untuk menduga parameter bentuk dari Distribusi Gamma Exponentiated. Sementara MLE lebih dianjurkan untuk menduga keandalan dan fungsi tingkat kegagalan. Kemudian Penelitian yang dilakukan oleh Yarmohammadi dan Pazira [6] menggunakan metode Bayes dan MLE dalam menduga parameter bentuk, reliability dan failure rate function pada Generalized Exponential Distribution. Hasil yang diperoleh dari pengamatan menunjukkan secara umum bahwa lebih baik menggunakan pendekatan Bayes dengan LINEX loss function untuk memperkirakan parameter bentuk dari Generalized Exponential Distribution. Sedangkan untuk memperkirakan keandalan dan fungsi tingkat kegagalan menggunakan pendekatan Bayes dengan Precautionary loss function. Pendugaan parameter pada Distribusi Weibull juga menggunakan metode Bayes dan MLE yang diteliti oleh Ahmed et al [7]. Pada penelitian tersebut metode Bayes menggunakan distribusi prior Jeffrey dan perluasan distribusi prior Jeffrey untuk memperkirakan parameter Distribusi Weibull pada data waktu hidup. Penelitian ini menyimpulkan bahwa metode Bayes yang digunakan dalam menduga parameter Weibull ini tidak lebih unggul dibandingkan dengan metode MLE. Tujuan penelitian ini adalah membandingkan tingkat efektifitas metode Maximum Likelihood Estimation (MLE) dan metode Bayes dalam menduga parameter Distribusi Eksponensial. Perbandingan kedua metode dilakukan melalui studi simulasi yang melibatkan tiga nilai parameter dan tiga ukuran sampel. Metode Bayes yang digunakan pada penelitian ini menggunakan perluasan distribusi prior Jeffrey. Kemudian perbandingan keefektifitasan kedua metode dilihat dari nilai bias dan MSE yang diperoleh. METODE MAXIMUM LIKELIHOOD ESTIMATION Metode Maximum Likelihood Estimation adalah metode pendugaan yang memaksimumkan fungsi likelihood. Dalam penelitian ini metode MLE digunakan untuk menduga parameter Distribusi Eksponensial. Distribusi Eksponensial merupakan salah satu distribusi kontinu. Distribusi ini digunakan pada data waktu hidup dengan kegagalan konstan. Distribusi Eksponensial dengan parameter θ memiliki fungsi kepadatan peluang sebagai berikut [8]: x 1  f  x ,  e 

,

x  0,   0

Adapun fungsi likelihood dari Distribusi Eksponensial adalah sebagai berikut [1]: L  f  x   f  x   ... f  x    1   2   n  1

n

1  θ  xi  n e i 1 . θ

(1)

Nilai yang maksimum dari L(θ) juga akan maksimum pada log-likelihood. Adapun persamaan loglikelihood dari Distribusi Eksponensial adalah 1 n  xi  1 θ  ln L  ln  n e i1 θ 

ln L    n ln  

1



    

n

 xi . i 1

(2)

Perbandingan Metode MLE dan Metode Bayes dalam Pendugaan Parameter Distribusi Eksponensial

Nilai penduga diperoleh dengan menurunkan Persamaan (2) terhadap dengan nol, yaitu:

 

53

dan menyamakan turunannya

n     n ln   1 x   0,  i   i 1  

sehingga diperoleh,

ˆ 

1 n  xi  x. n i 1

Dengan demikian penduga Maximum Likelihood Estimation bagi

adalah x .

METODE BAYES Dasar dari metode Bayes adalah probabilitas bersyarat, sehingga untuk melakukan pendugaan diperlukan sebuah informasi awal dari parameter yang disebut dengan distribusi prior. Distribusi prior dapat dinotasikan dengan ( ), yang mana adalah parameter dari distribusi sampel. Salah satu distribusi prior adalah distribusi prior Jeffrey [3] yaitu ( )

√ ( ), dimana

  2 ln f  x,    . I    n E    2    Dalam aplikasinya, distribusi prior Jeffrey diperluas menjadi perluasan distribusi prior Jeffrey yaitu

    I  c , untuk semua . Sehingga perluasan distribusi prior Jeffrey untuk Distribusi Eksponensial yaitu

    k

nc

 2c

,

dengan k adalah konstanta, , dan n adalah jumlah sampel. Distribusi prior kemudian dikombinasi dengan distribusi sampel yang akan menghasilkan distribusi baru yaitu distribusi posterior. Distribusi posterior diperoleh dengan cara membagi fungsi kepadatan bersama dengan fungsi marginal. Untuk menghasilkan fungsi kepadatan bersama dan fungsi marginal dilakukan dengan cara berikut [9]: Fungsi kepadatan bersama dari  x1 ,..., xn ,   yaitu:   H x1 ,...,xn ,   L xi      ~   

Fungsi marginal dari (

kn c

 n  2c



e

1 n xi θ i 1

.

) yaitu: 

P x1 ,..., x n    H  x1 ,..., x n ,   d 0

(3)

54

D NURLAILA, D KUSNANDAR, DAN E SULISTIANINGSIH



kn c

Px1 ,...,xn   

0



n  2c



e

1 n xi θ i 1

d

kn c n  2c  2! n    xi   i 1 

n  2c 1

(4)

Dari Persamaan (3) dan Persamaan (4) distribusi posterior dapat ditulis sebagai berikut: H x1 ,...,xn ,    x1 ,...,xn     H x1 ,...,xn ,  d 0





 n  2c



e

1 n  2 c

n    xi   i 1 

1

n

 i 1

xi

n  2c  2!

Pendugaan Bayes adalah rata-rata dari distribusi posterior [10]. 

E        x1 ,...,xn  d 0





 

 n  2c



e

1 n  2c

n    xi   i 1 

0

1

n

 i 1

xi

n  2c  2!

d

  1  n  2c  3!   n 1  n  2 c n  2c  2 n  n  2c  2!    xi    xi   i 1    i 1 

      

n



 xi

i 1

n  2c  2

Dengan demikian penduga Bayes bagi

adalah

n 1  xi . n  2c  2 i1

Penduga yang diperoleh menggunakan metode MLE dan metode Bayes akan dibandingkan menggunakan simulasi. Simulasi data dilakukan dengan membangkitkan berbagai jenis kondisi data yang melibatkan tiga nilai yaitu 0,5; 1 dan 1,5 serta tiga macam ukuran sampel yaitu n = 25, n = 50 dan n = 100. Kemudian dilakukan perulangan sebanyak 10.000 kali untuk setiap kombinasi dan n. Data yang diperoleh tersebut dianalisis untuk menduga parameter menggunakan metode MLE dan metode Bayes. Penduga parameter dengan metode Bayes menggunakan perluasan distribusi prior Jeffrey yang melibatkan beberapa nilai konstanta Jeffrey yaitu c = 0,1; 0,3; 0,5; 0,7 . Selanjutnya dihitung nilai bias dan MSE dari kedua metode tersebut dengan rumus sebagai berikut: (5) Bias ˆ  E ˆ  

  MSE ˆ    E ˆ   E ˆ    E ˆ       2

2

2

(6)

Simulasi pada penelitian ini dilakukan dengan program R. Kemudian nilai bias dan MSE yang dihitung menggunakan rumus pada persamaan (5) dan Persamaan (6) ditampilkan pada Tabel 1 dan 2.

Perbandingan Metode MLE dan Metode Bayes dalam Pendugaan Parameter Distribusi Eksponensial

55

Tabel 1. Nilai Bias yang Dihasilkan oleh Penduga MLE dan Penduga Bayes dari Parameter Distribusi Eksponensial Bias n

25

50

100

θ 0,5 1 1,5 0,5 1 1,5 0,5 1 1,5

MLE 0,0198382 0,0447217 0,0637863 0,0107099 0,0207361 0,0273758 0,0049288 0,0099802 0,0182523

c = 0,1 -0,0175902 -0,0304983 -0,0488063 -0,0076756 -0,0160104 -0,0276097 -0,0041599 -0,0081994 -0,0090762

c = 0,3 -0,0092727 -0,0137828 -0,0237857 -0,0035899 -0,0078445 -0,0153907 -0,0021402 -0,0041595 -0,0050032

Bayes c = 0,5 -0,0009553 0,0029328 0,0012348 0,0004957 0,0003214 -0,0031717 -0,0001205 -0,0001196 0,0030698

c = 0,7 0,0073621 0,0196483 0,0262554 0,0045814 0,0084873 0,0090473 0,0018992 0,0039204 0,0091428

c = 1,3 0,0323143 0,0697949 0,1013172 0,0168385 0,0329850 0,0457043 0,0079584 0,0160401 0,0273618

Tabel 2. Nilai MSE yang Dihasilkan oleh Penduga MLE dan Penduga Bayes dari Parameter Distribusi Eksponensial MSE n

25

50

100

θ 0,5 1 1,5 0,5 1 1,5 0,5 1 1,5

MLE 0,0119779 0,0486523 0,1097739 0,0056572 0,0223582 0,0503304 0,0026017 0,0104834 0,0243369

c = 0,1 0,0102857 0,0411063 0,0934137 0,0052095 0,0206341 0,0468377 0,0025027 0,0100806 0,0232298

c = 0,3 0,0104092 0,0417635 0,0947635 0,0052493 0,0207789 0,0470802 0,0025103 0,0101124 0,0233454

Bayes c = 0,5 0,0106771 0,0430033 0,0974194 0,0053232 0,0210599 0,0476276 0,0025261 0,0101772 0,0235355

c = 0,7 0,0110892 0,0448259 0,1013816 0,0054312 0,0214771 0,0484800 0,0025501 0,0102749 0,0238002

c = 1,3 0,0131913 0,0537898 0,1211051 0,0059598 0,0235456 0,0528670 0,0026717 0,0107661 0,0250414

Tabel 1 dan 2 menunjukkan nilai bias dan MSE yang berbeda-beda dari masing-masing metode. Terlihat bahwa kedua metode memiliki pola yang sama yaitu semakin besar ukuran sampel nilai bias dan MSE yang dihasilkan semakin kecil. Hal ini terjadi untuk semua ukuran θ. Metode Bayes dengan nilai konstanta Jeffrey yang lebih kecil dari satu menghasilkan nilai bias dan MSE yang lebih kecil dibandingkan dengan metode MLE. Akan tetapi sebaliknya metode Bayes dengan nilai konstanta Jeffrey yang lebih besar dari satu menghasilkan nilai bias dan MSE yang lebih besar dari metode MLE. Kedua metode tersebut memiliki nilai bias yang relatif kecil yaitu |

|

dari nilai

parameter. Nilai bias terkecil diperoleh ketika konstanta Jeffrey sama dengan 0,5 , keadaan ini konsisten dalam berbagai kondisi data. Selain itu metode Bayes dengan konstanta Jeffrey 0,1 menghasilkan nilai MSE yang lebih kecil dari yang lain. Semakin besar nilai konstanta Jeffrey maka nilai bias dan MSE yang dihasilkan semakin besar. Dari analisis yang dilakukan diketahui bahwa

56

D NURLAILA, D KUSNANDAR, DAN E SULISTIANINGSIH

metode Bayes dengan perluasan distribusi prior Jeffrey lebih baik dibandingkan dengan metode MLE. Namun hal tersebut tidak berlaku secara umum, karena hal tersebut ditentukan oleh nilai c yang merupakan konstanta Jeffrey. PENUTUP Penelitian ini menghasilkan bahwa untuk menduga parameter Distribusi Eksponensial, Metode Bayes dengan perluasan distribusi prior Jeffrey lebih efektif dibandingkan dengan metode MLE. Akan tetapi hal ini hanya berlaku ketika c sebagai konstanta Jeffrey kurang dari satu. Karena menghasilkan nilai bias dan MSE yang lebih kecil dibandingkan dengan metode MLE. DAFTAR PUSTAKA [1]. Bain LJ, Engelhardt M. Introduction to Probability and Mathematical Statistics. Boston: Duxbury Press; 1992. [2]. Walpole RE, Myers RH. Ilmu Peluang dan Statistika untuk Insinyur dan Ilmuwan. Bandung: Penerbit ITB; 1995. [3]. Al-Kutubi HS, Ibrahim NA. Bayes Estimator for Exponential Distribution with Extension of Jeffery Prior Information. Malaysian Journal of Mathematical Sciences. 2009; 3(2):297-313. [4]. Pradhan B, Kundu D. Bayes Estimation and Prediction of the Two-Parameter Gamma Distribution. Journal Statistical Computation and Simulation. 2011; 81:1187-1198. [5]. Shawky AI, Bakoban RA. Bayesian and Non-Bayesian Estimations on the Exponentiated Gamma Distribution. Applied Mathematical Sciences. 2008; 2(51):2521-2530. [6]. Yarmohammadi M, Pazira H. Classical and Bayesian Estimations on the Generalized Exponential Distribution Using Censored Data. Int.Journal of Math.Analysis. 2010; 4(29):1417-1431. [7]. Ahmed AM, Al-Kutubi HS, Ibrahim NA. Comparison of the Bayesian and Maximum Likelihood Estimation for Weibull Distribution. Journal of Mathematics and Statistics. 2010; 6(2):100-104. [8]. Forbes C, Evans M, Hastings N, Peacock B. Statistical Distributions. Hoboken, NJ: John Wiley & Sons; 2011. [9]. Subanar. Statistika Matematika. Yogyakarta: Graha Ilmu; 2012. [10]. Casella G, Berger RL. Statistical Inference. Boston: Duxbury Press; 2002.

Dwi Nurlaila Dadan Kusnandar Evy Sulistianingsih

: Fakultas MIPA Universitas Tanjungpura, Pontianak, [email protected] : Fakultas MIPA Universitas Tanjungpura, Pontianak, [email protected] : Fakultas MIPA Universitas Tanjungpura, Pontianak, [email protected]