TELAH DIPRT:tINIqSLi. l,]l pdDA SEI'IHj. I JURUSA[,] f,-i,,1;tEt]:.rr j !,(A Fi.,iipA UNNES TANGGAL 27 5:F] LI48IR ZCO3
l(!, i'uA FAi;it'iA
1r |
^
(
/j---<-
DRA. KUsiJi, t4.Si NIP. 130515748 HUBUNGAN ANTARA ESTIMATOR BAYES DENGAN EST}MATOR KLASIK PADA DISTRIBUSI PELUANG DISKRETYANG KHUSUS-} Kismiantini & Himmawati puji Lestari Jurusan Pendidikan Matematika FMIPA UNy
Abstrak Maximum Likelihood Estimator {MLE) adatah satah satu metode klasik yang sering digunakan untuk menentukan estimator parameter. Pada metode klasik parameter dianggap sebagai konstan, sedangkan pada metode Bayes semua parameter yang terdapat dalam model diperlakukan sebagai variabel. Dalam tulisan ini akan dibahas mengenai hubungan antara estimator bayes dengan estimator klasik pada distribusi peluang diskret yang khusus. Kata kunci : estimator klasik, estimator Bayes.
PENDAHULUAN Metode yang biasa digunakan dalam menentukan estimator parameter adalah metode klasik. Metode klasik adalah suatu metode yang mendasarkan estimasinya
pada Maximum Likelihood Estimator (MLE), Uniformly Minimum Variance Unbiased Estimator {UMVU4, Minimum Mean Square Error Estimator, Method of Moments Estimator (MMq dan lain-lain. Salah satu metode yang juga dapat digunakan datam menentukan estimator parameter adalah metode Bayes. Pada metode Bayes, semua parameter dalam model diperlakukan sebagai variabel sedangkan pada metode klasik parameter dianggap sebagai konstan. Sehingga jika terjadi suatu kasus yaitu pada situasi dan tempat pengamatan yang berbeda menyebabkan parameter berubah-ubah maka dengan prinsip Bayes akan dapat diatasi permasalahan tersebut.
Dalam tulisan ini akan diselidiki hubungan antara estimator Bayes dengan estimator klasik pada distribusi peluang diskret yang khusus. Estimator klasik yang digunakan adalah Maximum Likelihood Estimator (MLE).Distribusi peluang diskret yang khusus meliputi distribusi seragam, Bernoulli, Binomial, Binomial Negatif, Geometrik, Hipergeometrik, dan Poisson. Dari ketujuh distribusi tersebut yang memiliki parameter adalah distribusi Bernoulli, Binomial, Binomial Negatif, Geometrik dan Poisson. DEFINiSI.DEFINISI
Berikut ini diberikan beberapa definisi yang akan digunakan untuk menyelidiki hubungan antara estimator Bayes dengan estimator klasik pada distribusi peluang diskret yang khusus.
Definisi 1 (Bain & Engelhardt, 1992) Misalkan Xl X2,...,X, sampel acak dengan fungsi peluang f$ i,0), i = 1, 2, ..., n. Apabila L yaitu fungsi peluang bersama dari x1X2,...,X, dipandang sebagaifungsi dari ddan X,l,Xt,...,Xe sebagai bitangan tertentu maka L(a)
=fff!,,e)
disebut
i=1
sebagai fungsi likelihood.
1 Makalah ini disampaikan dalam Seminar Nasional IV padatanggal27 September 2003 yang diselenggarakan oleh Jurusan Matematika FMIPA Universitas Negeri Semarang
i,i
Definisi2 (Bain & Engelhardt, 1992) Misalkan XI,X2,...,Xn sampel acak dengan fungsi peluang fhi,g) dan fungsi likelihood z(d). setiap nitai w = h(y,x2,...,xn) yang memaksimumkan L(a) yakni f(r)> l(a) Oinamakan Maximum Liketihaod Estimator(MLfl. Pada definisi 2, seringkali akan lebih mudah tidak memaksimalkan (a) melainkan tn(a). Hal ini dapat dilakukan karena r-(a) oan tnr-(a) mencapai maksimum pada 0 yang sama. Definisi 3 (Elfessi& Reineke, 2OO1) Estimator Bayes dari ddidefinisikan sebagai berikut
:
e t {e; x1, x2,..., x nY o _t
ESTIMATOR KLASIK 1. Distribusi Bernoulli Misal X1, X2,...,X,7 sampel acak dengan
Xi * Atll(,p), i= 1,2, ..., n.
Xi - BtN(,p) o t6i,p)= p'i (- pl-^i,
i = 1, 2, ..., n
Berdasarkan definisi 'l maka fungsi likelihood
r-(p)=
nn9,r,
:
n
IIf8r, p)=fIpr' (t- p)',r, = pi=1 (- p),-Zi, i=l
i=1
Dengan menggunakan definisi 2 akan dicari Maximum Likelihood Estimatar
n(n\
tnt-(p)=
Ixi
tnp+l
n-Z*i
WLq.
ltn(t-p)
i=1 [ r=t ) ( n ) n' Tx, ln-)'x, atnr(p)_7=,''' p dp 1-p
I e')
Persamaan likelihood
I
:
n(n\
Ir, ir-Ir, i=1 /_n I
i=1 _\ -
1-b -"
b
t*,
^;a J=!A p-
n
Dengan menggunakan MLE maka diperoleh estimator klasik untuk
p ddah
1,, +
2. Distribusi Binomial Misal X1,X2,...,Xn sampel acakdengan X;
xi
-
BtN(n,p)
o f8,,ol=[i
]0.,
-
(- pY-'', i = 1, 2, ..., n
Berdasarkan definisi 1 maka fungsi likelihood
r(p)=
Blru(n,p), i = 1, 2, ..., n.
:
2.', py -r = rr(,,, o>y{x,Jr,, ( [g[x,)],
t oy' -
po.,
Dengan menggunakan definisi 2 akan dieari Maximum Likelihood Estimator
,nl(p) =
"[l[;, n
*
m
2,,
)] (^
n
o
WLq
*(n2-,r,.,1,*, - r,
)
Fx, lr'-1,*il drnl(p)_7=,r'( E',1 p
dp
1-p
Persamaan likelihood
i-i, _["
b
:
--t',) 1-b
=.
n
'
<)
I,,
b=!=+ n-
2,, Dengan menggunakan MLE maka diperoleh estimator klasik untuk p adalah
T
3. Distribusi'Binomial Negatif Misal X1,X2,...,X11sampel acak dengan Xi - Bff(r,p), i= 1,2, .-., n.
x, -eNQ,p)er(x;,r)=[X:;'j p,(-p)*i-, ,i=1,2, . ,n Berdasarkan definisi 1 makafungsi likelihood
r(p) = r(,,, r1 = g[X,-',,)r. {, _ py, II
_,
=
:
LU(::;,]]r,,
u
_
ilf,.,
_*
Dengan menggunakan definisi 2 akan dicari Maximum Likelihood Estimator (MLA
rnr(p)=,,[g[X,-;')].,,,,,.
'
,
($*, -rr)
W=r-tfio'_-
)
[,t,,
-
-)n6
-
oy
Persamaan likelihood
(n
:
)
lTx, -nr nr [i=t ) :--=tJ I
l
l'Lt
p
I
^
1-p
^nr e p=-i-Z*'
i=1
Dengan menggunak an MLE maka diperoleh estimator klasik untuk
p
arf,sl;tn
-!I-
Zr'
i=1
4. Distribusi Geometrik Misal X1,X2,...,X11 sampel acak dengan Xi X 1 - GEo(p)
o
fQi,
- GeO(p), i= 1,2, ..., n.
d= p( - p)ri -1, i = 1, 2, ..., n
Berdasarkan definisi 1 maka fungsi likelihood
:
nnn
r_(p) =
ip(1 - p)*, -, = p, ( - p) fii=1r(xi, p) = fJ i\_1* i=1
n
Dengan menggunakan definisi 2 akan dicari Maximum Likelihood Estimator (MLq.
(n
Ir, ti=t
lnt(p)= nlnp+i
\
-n itn(t-p) )
(n
dtnL(p)
dp
)
lIx,
n l7:' -n )
p
1-p
Persamaan likelihood
(n
I
:
)
lIx,-nl | -l
n tu \i=t :--=L,
p 1- p ^n e p=-i\'-.
.) ^
4l
i=1
Dengan menggunakan MLE maka diperoleh estimator klaslk untuk p adalah
n n
\- -. i=l 5. Distribusi Poisson
Misal X1,X2,...,Xp sampel acak dengan Xi - POt(x\, i = 1, 2, ..., n
Xi- PotQ")er(x,,s")={+, i= 1,2, ..., n ' xil
4
Berdasarkan definisi 1 maka fungsi likelihood
n
:
9r,
n e-llxi
r(;)=flr$i,t)=fl+=+ "-nllj=1 i:1 i=1 nt, Il*,t i=1
Dengan menggunakan definisi 2 akan dicari Maximum Likelihood Estimator (MLE).
nn
tnt-(z) =
-il, +lx
i ln2
i=l
- lnf[x;
!
i=1
n
atnl(z)
il"
Ix, =_n*7=,t
)"
Persamaan likelihood:
_
Zr'
n+i=1, )" n
a i=
=O
I,,
i=t n
i,*,
Dengan menggunakan MLE maka diperoleh estimator klasik untuk 2 adalah i:1 n
ESTIMATOR BAYES Pada estimator Bayes, fungsi peluang bersyarat yaitu
f(*i,e)
dinyatakan dengan fungsi peluang
(x;la).
1. Distribusi Bernoulli Sehingga untuk X1,X2,...,X4 sampel acak dari populasi yang berdistribusi Bernoulli dengan parameter p dapat dituliskan sebagai berikut :
Xi
-
BtN(,p)., r(rilp)= p^i
(- pl-*i,
i = 1, 2, ..., n.
Distribusi Prior untuk Xi -BtN(,p), i = t,2, ..., n adalah p*BETA{a,B). Senlngga fungsi peluang dari distribusi priornya adalah sebagai berikut:
,(p)=ffi*-t(- pf-t, Fungsi
likelihood'. n.Zxrn
o < p <1
n
r(x1,x2,...,rrld=flpr'( - p)1-*i = pi=1 (ti=1
p)n-z_r\
X1XZ,...,Xn dan p adalah f {o; x 1, x 2,..., x, ) = o{p\(x t, x 2,..., x, lp), maka
Fungsi peluang bersama dari
r(p;x1,xz,...*,) =
1o
#i#o**for'-'
-
:
oy*o-I*,t
Berdasarkan definisi 3 maka estimator Bayes untuk p adalah sebagai berikut
a\ o*fri -l
1 -t
^ [0ffi60 'n
i-=1'
[##, n 1
-t
(-
n
of+f-zxi-t6o
^\ a+l.xi -1
n
(-pY.P-7=i'-'ap
1o*!r1*t-1
Ip i=1 (-
:
n
oY*t-
1 o*!ri-t
,z=r*i-1dp n
Ip i:1 (- pY-P-7__i,-tap 0
n
_
a
+\x; i=1
n+a+
fi o*i*, ' adalah '=' = n+a+B
Jadi estimator Bayes untuk p
.
2. Distribusi Binomial Misal X1,X2,...,Xn sampel acak dari populasi yang berdistribusi Binomial dengan pararneler p dapat dituliskan sebagai berikut :
X; - BtN(n,p)o r(,,|p)=
(:,)n' (-
pY-'i , i= 1,2, . , n
Distribusi Prior untuk Xi -BlN(n,p), i= t,2, ..., n adatah p-BETA(a,B). Sehingga fungsi peluang dari distribusi priornya adalah sebagai berikut :
o(p)=ffint(-pY', Fungsi likelihood
o
:
f(x1x2,,x,lr)=I[;,)r.,( py-*i=[g[],)], Fungsi peluang bersama dari X1X2,..., Xn dan p adalah t
(p; ^
t, x 2,..., x n) =
X X "bY k r, 2,...,
11
lR),
rrt,
E,r'
:
u-
py'-i'ri
r
(p; r t, x
2,
x
n)
=tr#di
r' -'
t[
r".,:,
[;, ;]
( - ovz * p - !
ri-
t
Berdasarkan definisi 3 maka estimator Bayes untuk p adalah sebagai berikut
:
n
-'
zr'
i#Blz(:,)lfl u -!'
.
E''
i#fi[u[;';P
r-
-' u
.
-
o
"'
oo
f;'' oo
o-
- oY'.
zt' "
n 1 ,* !xi+l-t ^ B-,2=rr, i"=t' -' dp pY'* ( o !
_0
1 a+\xi-l !
i'='t' (1- PY'*^ P-
o
n
-'dP
,Z=,,r'
0
n
a
-
+lx1 i=l
n2
+a+ p o
Jadi estimator Bayes untuk p
*!^,
adalah
n'u+a'='+ B
3. Distribusi Binomial Negatif Misal X1,X2,.".,Xn sampel acak dari populasi yang berdistribusi Binomial Negatif dengan parameter p dapat dituliskan sebagai berikut
x1 - BN(,
p)o
r(,,1p)=
l-
(i' :r')n
:
pyi-', i = 1, 2,,
n
Distribusi Prior untuk X' -eN|,p), i = 1,2, ..., n adalah p-BETA(a,B). Seningga fungsi peluang dari distribusi priornya adalah sebagai berikut:
nb)=ffir*'(- pY-', o.p<1 Fungsi likelihood r(x1,
:
-, _ x2,, x, tr)= fi [X,--r,)r, o p)*i
Fungsi peluang bersama dari X1, t (p', x 1, x
2,..., x r) =
r (14 x 1 x
2,
x
"bY
6,t, X 2,...,
Xz,...,X, X
s1
) = ##lI(:,-;')]
lp),
=
[g[X:;')]"'
dan p adalah
:
rrt,
onr
+a
-1
7
( - oy
*
! *i - * -t
( - o)L-r' - *
berikut:
1n I
pnr
+u-t
(,
nr x - p)9*,f i - -1 6o
0
nr+a n
o+B+
fx;
i=1
Jadi estimator Bayes untukp
adalah nr +1 a+B+lx1 i ='l
4. Distribusi Geometrik
Misal X,1,X2,...,Xn sampel acak dari populasi yang berdistribusi Geometri dengan parameter p dapat dltuliskan sebagai berikut : pYi -1, i = 1, 2, ..., n. X i'- GEo(pl<> f(x,lp)=
p(-
Distribusi Prior untuk Xi*GEO{p), i= t,2, ..., n adalah p-BETA(u,B). Seningga fungsi peluang dari distribusi priomya adalah sebagai berikut:
u(p)=ffix-'(- pY-', o
:
f(<1 x2,...,
x, lp)= flp(r - p)*, -r = p, ( i=1
rf;' -,
Fungsi peluang bersama dari X1X2,...,Xn dan p adalah f (p', x
1, x2,...,
r(p; x 1
x, ) =
x2,...x,) =
"(pYQ t,
#;#on
x
2,...,
x, lp), maka
+a'1 (1
+ xi n - oy L - -t
.
Berdasarkan definisi 3 maka estimator Bayes untuk p adalah sebagai berikut
b=
lrffion
_ oy.
n
1'n
( - rY
n+.,-1 (
i#fr, 1on*.,*1-1(r
+u -1
+
n f,-xi - -t 6o
* - pY i
lf
*" -r ( - oY.,2=;i
:
xi -n
-t 6o
-n-1 dp - n -1 dP
0
_
n+a n
a+B+lx1 i=1
n+d
Jadi estimator Bayes untuk p adalah
o*
p*!^1 i=1
5. Distribusi Poisson
Misal X1,X2,...,Xs1 sampel acak dari populasi yang berdistribusi Poisson parameter L dapat dituliskan sebagai berikut
xi * Pot(x)er(x,lt)=+, i= 1,2,
dengan
:
..., n.
Distribusi Prior untuk Xi -PO\A), i= 1,2, ..-, n adalah 1-Gamma(",8) Sehingga fungsi peluang dari distribusi priornya addlah sebagai berikut :
o(A\=fi1^f
t"-*,
Fungsi likelihood
)">a
:
9,*,
r(71,x2,..,x,l^)-E+=
e_nA
)j
=1
f[,,1 i=1
Fungsi peluang bersama dari X1, X2,. ..,Xn dan f (2', x 1, x 2,. . .,
^
r)
=
f(A;x1,x2,...xr1=
"@Y 6
#^
1, x
2,..
., x
nl,t
), mata
'a*9x,-t i"='t' "-a(n+a)
1adalah:
Berdasarkan definisi 3 maka estimator Bayes untuk 2 adalah sebagai berikut
T^ o
"l f.Ei'-'
r(P)f[x,t
:
"-e{n*o)6X.
I=l
^
n" o's 1Jn o
P*!xi-t
.1, ,-=t'
r(P)f{x;t
"-t(n+a)6tr
i=1
* J
p+\xi+1-1
t'
=!
i=1
"-t"{n+o)67 n
a 0+T.xi-'l I 0
F
i F:' "-s'(n+a)62
*L*i
= ----.1=1-
n+a
n
F +Zxi Jadi estimator Bayes untuk 2 adalah
-;#
Tabel. Hubungan antara estimator Bayes dengan estimator klasik pada distribusi peluang
'
diskret yang khusus Nama Distribusi
Estimator Bayes
a
B
n
Bernoulli
a
Estimator Klasik dari MLE n
+lxi
0
0
Z*i
i=1
n+a+ B
n
n
a Binomial
+lx;
0
;1
7.".8
0
n2
nr+a Binomial Negatif
nr
n
a+
Z*'
i=1
0
B+lxi
0
i_1
n
I,,
i=1
n+a Geometrik
a+
B
n 0
+|,xi
0
;_1
Poisson
2,,
i=1
n
F
n
n
*Zx;
0
i=1
n+a
0
I,, i=1
n
10
SIMPULAN
Estimator Bayes pada distribusi peluang diskret yang khusus mempunyai hubungan dengan estimator klasik dari Maximum Likelihood Estimator (MLE) bila dan P=0.
c
=0
DAFTAR PUSTAKA
Bain, L. J. & Engelhardt, M. (1992). lntroduction to Probability and Mathematical Sfafisfrbs. Belmont Duxburry Press.
Berger, J. O. (1985)" Sfafisfibal Decision Theory and Bayesian Analysis- New York: Springer-Verlag.
Elfessi, A. & Reineke, D. M. (2001). "A Bayesian Look at Classical Estimation The ExponentialDistribution," Journalof Sfafisfics Education, [Online],9(1). (http ://www, amstat. orq/publ ications/ise-/vg-n
:l
lelfeqsi. htFl )
Hogg, R. V. & Tanis, E. A. (2001). Probability and Statistical lnference. Upper Saddle River, NJ: Prentice Hall. lriawan, N. (2003). ModulWorkshop Pemodelan Data dengan Markov Chain Monte Carlo {MCMC) menggunakan WINSBUG 1.2. $urabaya: Jurusan Statistika FMIPA lTS.
11