2
2.5 Maximum Likelihood Estimation Definisi 10 Fungsi Likelihood Misalkan X 1 , X 2 ,..., X n adalah peubah acak i.i.d dengan fungsi massa peluang p ( x;θ ) , dengan θ diasumsikan skalar dan tidak diketahui, maka prosedur fungsi likelihood dapat dituliskan sebagai berikut : n
L (θ ; x ) = ∏ p ( xi ;θ ) ,
θ ∈ Ω ,
dengan
Metode Newton-Raphson merupakan salah satu metode numerik yang paling populer untuk menghitung hampiran akar-akar persamaan non-linear. Misalkan f ( x ) suatu fungsi diferensiabel pada [ a, b ] maka f ( x ) mempunyai kemiringan tertentu dan garis singgung tunggal pada setiap titik di dalam ( a, b ) . Garis singgung di titik ( x0 , f ( x0 )) merupakan pendekatan grafik f ( x ) di dekat titik ( x0 , f ( x0 )) .
i =1
X = ( X 1 , X 2 ,..., X n ) . (Hogg et al. 2005)
Definisi 11 Pendugaan Parameter Misalkan fungsi likelihood
adalah
n
L (θ ; x ) = ∏ p ( xi ;θ ) , maka fungsi log dari i =1
L (θ ) , dapat dinotasikan dengan : n
l (θ ) = log L (θ ) = ∑ log p ( xi ;θ ) , θ ∈ Ω .
Misalkan x0 adalah absis titik awal yang diberikan, gradien garis singgung kurva y = f ( x ) di titik ( x0 , f ( x0 ) ) adalah f ′ ( x0 ) , sehingga persamaan garis singgungnya adalah y − f ( x0 ) = f ′ ( x0 ) ( x1 − x0 ) ⋅ Jika y = 0 maka persamaannya menjadi :
x1 − x0 = −
f ( x0 ) f ′ ( x0 )
i =1
Pendugaan parameter dengan metode maximum lkelihood estimation dapat diperoleh dari: ∂l (θ ) = 0 . ∂θ (Hogg et al. 2005)
2.6 Metode Newton-Raphson Definisi 12 (Metode Newton-Raphson)
x1 = x0 −
f ( x0 ) ⋅ f ′ ( x0 )
Dengan cara yang sama akhirnya diperoleh persamaan umum sebagai berikut : f ( xn ) xn +1 = xn − n = 0,1, 2,... f ′ ( xn ) Persamaan di atas disebut juga dengan iterasi Newton-Raphson. (Sahid 2005)
III MODEL 3.1 Model Linear Umum Model linear umum (Generalized Linear Model) merupakan perluasan dari model linear klasik. Misalkan Y adalah peubah acak dengan nilai rata-rata μ , pada model linear klasik peubah acak Y menggunakan asumsi kenormalan, sedangkan pada model linear umum peubah acak Y harus berasal dari family eksponen. Selanjutnya akan dipaparkan tentang family eksponen. 3.1.1 Family Eksponen Misalkan fungsi kepekatan peluang dari peubah acak Y adalah fY ( y; θ, φ) yang mempunyai parameter
φ
dan
θ
maka
fY ( y; θ, φ) dapat dianggap sebagai family eksponen jika dapat dibentuk sebagai berikut:
⎧⎪ yθ − b (θ ) ⎫⎪ fY ( y; θ , φ ) = exp ⎪⎨ + c ( y , φ )⎪⎬ ⎪⎪ a (φ ) ⎪⎪ . ⎩ ⎭
3.1.2 Nilai Harapan dan Ragam Family Eksponen Diketahui bahwa fungsi kepekatan peluang dari family eksponen adalah fY ( y; θ , φ ) = exp {⎡⎣ yθ − b (θ )⎤⎦ a (φ ) + c ( y, φ )} maka persamaan log likelihood dapat dibentuk sebagai berikut: ⎡ yθ − b (θ )⎤⎦ A= ⎣ + c ( y, φ ) a (φ ) sehingga −b′′(θ ) ∂ 2A ∂A ⎡⎣ y − b′ (θ )⎤⎦ = dan . = 2 ∂θ a(φ ) a (φ ) ( ∂θ )
4
2 Nilai harapan dan ragam family eksponen b′′ (θ ) a (φ ) dapat didefinisikan sebagai berikut : Var (Y ) = E (Y ) = b ′ (θ ) (1) a (φ )
(
dan
V ar (Y ) = b ′′ (θ ) a (φ) . (2) Bukti persamaan 1 : Akan dibuktikan bahwa : E (Y ) = b ′ (θ ) . Diketahui : ∂A ⎡ = Y − b ′ (θ )⎤⎦ a (φ )⋅ ∂θ ⎣ Dengan menggunakan persamaan berikut: ⎛ ∂A ⎞ E ⎜⎜ ⎟⎟⎟ = 0 ⎜⎝ ∂θ ⎠ sehingga E ( ⎡⎣Y − b ′ (θ )⎤⎦ a (φ )) = 0 1 ⎡ E (Y − b ′ (θ ))⎥⎤ = 0 ⋅ ⎦ a (φ ) ⎣⎢
Karena a (φ) ≠ 0 maka diperoleh : E (Y ) − b ′ (θ ) = 0 E (Y ) = b ′ (θ ) .
Dengan demikian, E (Y ) = b ′ (θ ) .
terbukti
bahwa
Bukti persamaan 2 : Akan dibuktikan V ar (Y ) = b ′′ (θ ) a (φ ) .
bahwa
Dengan menggunakan persamaan identitas Bartlett (McCullagh 1989) berikut ini: 2 ⎛ ∂ 2 A ⎞⎟ ⎜ ⎟⎟ + E ⎛⎜ ∂A ⎞⎟⎟ = 0 , maka : E ⎜⎜ ⎜⎜ ⎟ 2⎟ ⎝ ∂θ ⎠ ⎜⎝⎜(∂θ ) ⎠⎟ 2 ⎛ b′′(θ ) ⎞ ⎛ ⎡ y −b′(θ ) ⎦⎤ ⎞ ⎟+ E⎜⎣ ⎟ =0 E ⎜⎜ − ⎟ ⎜ a(φ ) ⎟ ⎝ a(φ ) ⎠ ⎝ ⎠
−
−
−
b′′ (θ ) a (φ )
b′′ (θ ) a (φ )
b′′ (θ ) a (φ )
+
+
+
(
)
2
E ⎡⎣ y − b′ (θ )⎤⎦
( a (φ ))
2
E y − E (Y )
1
(
a (φ ) 1
(
Var (Y ) =0 2 a (φ )
(
)
Var (Y ) b′′ (θ ) = 2 a (φ ) a (φ )
(
)
(
Var (Y ) a (φ ) = b′′ (θ ) a (φ )
)
2
)
2
)
2
=0
)
Var (Y ) = b ′′ (θ) a (φ) .
Maka terbukti bahwa Var (Y ) = b ′′ (θ) a (φ) . Teorema 2 Sebaran normal termasuk ke dalam family eksponen. Bukti: Misalkan Y peubah acak yang menyebar normal, maka fungsi kepekatan peluangnya dapat dituliskan sebagai berikut: ⎡ − ( y − μ )2 ⎤ 1 f Y ( y; θ , φ ) = exp ⎢ ⎥. 2 2πσ 2 ⎣⎢ 2σ ⎦⎥
Fungsi kepekatan peluang tersebut dapat ditulis dalam bentuk: ⎧⎪ ( y − μ )2 1 ⎫ ⎪ − ln ( 2πσ 2 ) 2 ⎬ fY ( y;θ , φ ) = exp ⎨− 2 2 σ ⎪⎩ ⎭⎪ ⎧ ( y 2 − 2 μ y − μ 2 )2 ⎫ 1 ⎪ 2 ⎪ = exp ⎨− − ln 2 πσ ( ) ⎬ 2σ 2 2 ⎩⎪ ⎭⎪ 2 2 ⎤ ⎪⎫ ⎪⎧ y μ − μ 2 1 ⎡ y = exp ⎨ − ⎢ 2 − ln ( 2πσ 2 ) ⎥ ⎬ . 2 σ 2 ⎣σ ⎪⎩ ⎦ ⎪⎭ 2 μ Dengan θ = μ , b (θ ) = , a (φ ) = σ 2 , dan 2 ⎤ 1 ⎡ y2 c ( y, φ ) = − ⎢ 2 − ln (2πσ 2 )⎥ . ⎢ ⎥ 2 ⎣σ ⎦
Dengan demikian terbukti bahwa sebaran normal termasuk ke dalam family eksponen, sehingga dapat ditunjukkan bahwa menurut persamaan (1) dan (2) didapatkan nilai harapan dan ragam sebaran normal sebagai berikut: E (Y ) = b′ (θ ) = μ dan Var (Y ) = b′′ (θ ) ⋅ a (φ ) = 1 ⋅ σ 2 = σ 2 .
=0 Teorema 3 Sebaran Poisson termasuk ke dalam family eksponen. Bukti: Misalkan Y peubah acak yang menyebar Poisson, maka fungsi massa peluangnya dapat dituliskan sebagai berikut: μy P ( y; θ , φ ) = exp [−μ ] , y! maka fungsi massa peluang tersebut dapat ditulis dalam bentuk: P ( y; θ , φ ) = exp [−μ + y ln μ − ln y !] .
5
Dengan
θ = ln μ ,
b (θ ) = μ ,
a (φ ) = 1 , c ( y, φ ) = ln y ! .
Dengan demikian terbukti bahwa sebaran Poisson termasuk ke dalam family eksponen, sehingga dapat ditunjukkan bahwa menurut persamaan (1) dan (2) didapatkan nilai harapan dan ragam sebaran Poisson sebagai berikut: E (Y ) = b′ (θ ) = exp (θ ) = μ dan Var (Y ) = b′′ (θ ) ⋅ a (φ ) = μ ⋅1 = μ . 3.1.3 Link Function Link function merupakan fungsi yang menghubungkan antara η dengan nilai harapan μ . Pada family eksponen persamaan link function, dapat dituliskan sebagai θ = η , dengan η dapat dituliskan sebagai
berikut η = g ( μ ) dan selanjutnya g ( μ ) dapat disebut dengan link function. Untuk sebaran normal dapat dilihat dari Teorema 2 bahwa θ = μ , sehingga link function untuk sebaran normal adalah η = μ . Sedangkan untuk sebaran Poisson yang dapat dilihat dari Teorema 3 bahwa θ = ln μ , sehingga link function untuk sebaran Poisson adalah η = ln μ .
pengamatan maka model dapat dituliskan sebagai berikut : p
E (Yi ) = μi = ∑ β j xij
i = 1,..., N
j =1
dengan xij adalah nilai pengamatan ke-i untuk peubah ke-j. Dalam matriks model μ dapat dituliskan sebagai berikut : μ = Xβ dengan μ matriks berukuran n × 1 , X matriks berukuran n × p dan β matriks yang berukuran p × 1 . 3.1.5 Model Regresi Linear Umum Pada model linear umum terdapat dua perluasan dari model regresi linear klasik tentang nilai μ yaitu: 1. Komponen acak : Y harus berasal dari family eksponen. 2. Komponen sistematis : misalkan terdapat covariat x1 , x2 ,..., x p yang menghasilkan
prediktor linear η yang diberikan dengan p
persamaan: η = ∑ β j x j . j =1
3. Hubungan (link) antara komponen acak dan komponen sistematis : μ = f (η ) , dengan f (η ) merupakan fungsi dari η
yang
monoton dan terturunkan. 3.1.4 Model Regresi Linear Klasik Misalkan pada suatu pengamatan peubah acak Y yang menyebar normal dengan ratarata μ , maka dalam model linear klasik terdapat tiga bentuk komponen yang berhubungan dengan nilai μ yaitu sebagai berikut : 1. Komponen acak : Y menyebar normal dengan ragam konstan σ 2 dan E (Y ) = μ .
2. Komponen sistematis : misalkan terdapat covariat x1 , x2 ,..., x p yang menghasilkan prediktor linear η yang diberikan dengan p
persamaan : η = ∑ β j x j . j =1
3.
Hubungan (link) antara komponen acak dan komponen sistematis : μ = η . Sehingga nilai μ dapat dituliskan sebagai berikut : p
μ = ∑ βj xj j =1
dengan β merupakan parameter yang nilainya tidak diketahui. Jika i indeks
3.1.6 Pendugaan Parameter Secara umum pendugaan parameter dilakukan dengan metode kemungkinan maksimum (Maximum Likelihood Estimation/MLE). Misalkan bentuk fungsi kepekatan peluang family eksponen dituliskan sebagai berikut: fY ( y; θ, φ) = exp {⎡⎣ yθ − b (θ )⎤⎦ a (φ) + c ( y, φ)} ⋅
Maka bentuk dari log likelihood dapat ditulis dengan: ⎡ yθ − b (θ )⎤ ⎦ + c ( y, φ) . A= ⎣ a (φ )
Dari persamaan (1), diketahui E (Y ) = μ = b ′ (θ ) , maka ∂A ⎡⎣ y − b ′ (θ )⎤⎦ [ y − μ ] , = = ∂θ a (φ ) a (φ ) sehingga ∂A ∂A ∂θ = ⋅ ∂μ ∂θ ∂μ
6
=
[ y − μ] 1 ⋅ . a (φ ) b ′′ (θ )
⎛ ∂ ⎡ −1 ∂μ ⎤ ⎟⎟⎞ ⎢V = E ⎜⎜⎜∑ ( y − μ) xi ⎥ ⎟ + ⎜⎝ ∂β j ⎢⎣ ∂η ⎥⎦ ⎠⎟⎟ ⎛ ∂ ∂μ ⎞⎟ E ⎜⎜⎜∑ [ y − μ ]V −1 xi ⎟⎟⎟ ⎜⎝ ∂β j ∂η ⎠⎟
Karena 1 ∂μ ∂θ . = b ′′ (θ ) ⇒ = ′′ ∂θ ∂μ b (θ )
⎛ ⎡ ∂μ ∂μ ⎤⎥⎟⎞⎟ ⎜ V −1 xi ⎟ = E ⎜⎜−∑ ⎢⎢ ∂η ⎥⎟ ⎜⎝⎜ ⎢⎣ ∂β j ⎥⎦ ⎠⎟ ⎛ ⎡ ∂μ ∂η ∂μ ⎤⎥⎟⎞⎟ ⎜ V −1 xi ⎟ = −∑ ⎜⎜ E ⎢⎢ ⋅ ⎜⎜⎝ ⎢ ∂η ∂β j ∂η ⎥⎟ ⎥⎦ ⎠⎟ ⎣ ∂μ ∂μ = −∑ x jV −1 xi ∂η ∂η 2 ⎛ ∂μ ⎞ = −∑ V −1 ⎜⎜ ⎟⎟⎟ xi x j ⎜⎝ ∂η ⎠⎟ = −∑ wxi x j
Menurut persamaan (2) maka : Var (Y ) = V = b ′′ (θ ) a (φ ) ⇒ b ′′ (θ ) =
V . a (φ )
Sehingga
∂A ∂A d μ = ∂μ ∂θ dθ y−μ = b′′ (θ ) a (φ )
= = =
y−μ a (φ )
V a (φ )
y − μ a (φ ) ⋅ a (φ ) V
[ y − μ] V
.
n ∂η = xi Karena η = ∑ xi βi maka ∂βi i=1 ∂A ∂A ∂μ [ y − μ ] ∂μ sehingga = ⋅ = ⋅ ∂η ∂μ ∂η ∂η V ∂A ∂A ∂η [ y − μ ] ∂μ = ⋅ = ⋅ ⋅ x . V ∂βi ∂η ∂β i ∂η i Maka fungsi kemungkinan maksimum untuk βi diberikan dalam persamaan berikut :
n [ y − μ ] ∂μ n ∂η x =0. ⋅ ⋅ xi = ∑ w[ y − μ ] ∑ V ∂ η ∂ μ i i=1 i=1 Karena 2 2 ⎛ ∂η ⎞ 1 ⎛ ∂η ⎞ w−1 = ⎜⎜ ⎟⎟⎟ V ⇒ = ⎜⎜ ⎟⎟⎟ V ⎜⎝ ∂μ ⎠⎟ w ⎝⎜ ∂μ ⎠⎟ 1 ⎛⎜ ∂η ⎞⎟ =⎜ ⎟ w, V ⎜⎝ ∂μ ⎠⎟⎟ jika dinyatakan dalam bentuk matriks, maka persamaan di atas menjadi: n ∂η ∂η x = X ′W [ y − μ ] . (3) ∑ w[ y − μ ] ∂μ i ∂μ i=1 Akan ditentukan nilai harapan untuk fungsi A yang diturunkan terhadap parameter βi dan β j yaitu sebagai berikut : 2
⇒
⎛ ∂ 2 A ⎞⎟ ⎛ ∂ ⎜ E ⎜⎜⎜ ⎟⎟⎟ = E ⎜⎜ ⎜⎝ ∂βi β j ⎠⎟ ⎝⎜ ∂β j
⎡ ∂μ ⎤ ⎞⎟⎟ ⎢ ∑ [ y − μ ]V −1 xi ⎥ ⎟ ⎢ ∂η ⎥⎦ ⎠⎟⎟ ⎣
2
⎛ ∂μ ⎞ w = V −1 ⎜ ⎟ merupakan bobot ⎝ ∂η ⎠ untuk metode kuadrat terkecil, sehingga dalam bentuk matriks dapat dituliskan sebagai berikut : ⎛ ∂ 2 A ⎞⎟ ⎟⎟ = − X 'WX . E ⎜⎜⎜ ⎜⎝ ∂βi β j ⎠⎟⎟ Dengan menggunakan iterasi NewtonRaphson, persamaan pendugaan parameter dengan menggunakan metode IWLS regresi dapat dituliskan sebagai berikut :
dengan
β(r) = β(r-1) + I(-1r-1) z(r-1) (4) dengan β( r ) dan β( r -1) adalah vektor untuk
β , I( r-1) merupakan informasi negatif dari nilai harapan turunan kedua log likelihood dan Z ( r-1) yaitu vektor yang mengandung turunan pertama log likelihood. Persamaan (3) merupakan turunan pertama dari log likelihood, sehingga dalam bentuk matriks dapat dituliskan sebagai berikut : z = X ′Wk dengan ∂η . k = ⎡⎣ y − μ ⎤⎦ ∂μ Negatif dari nilai harapan pada turunan kedua log likelihood yaitu sebagai berikut : ⎛ ∂2A ⎞ − E ⎜⎜ ⎟⎟ = ∑ wxi x j . (5) ⎝ ∂βi β j ⎠ Selanjutnya informasi matriks I yang mengandung negatif dari nilai harapan turunan kedua log likelihood pada persamaan (5) dapat dituliskan sebagai berikut :
7
I = X ′WX ⋅ Pada akhirnya persamaan iterasi pada persamaan (4) dapat dituliskan sebagai berikut: β( r ) = β + ⎛ X ′W X⎞ ( r −1) ⎜⎝ ( r −1) ⎟⎠
−1
⎛ ⎜ X ′W ⎝
⎞
( r −1)k( r −1) ⎟⎠ ⋅
Dengan demikian persamaan di atas mirip dengan metode kuadrat terkecil terboboti. 3.2. Model Regresi Poisson Misalkan Y peubah acak yang menyebar Poisson maka tiga komponen yang berhubungan dengan nilai μ adalah sebagai berikut: 1. Komponen acak : Y harus berasal dari family eksponen. 2. Komponen sistematis : misalkan terdapat covariat x1 , x2 ,..., x p yang menghasilkan
prediktor linear η yang diberikan dengan
3. Hubungan (link) antara komponen acak dan komponen sistematis : η = ln μ . Jika diasumsikan nilai E (Yi | xi ) = μi = ei exp ( xiT β ) , dengan ei adalah suatu konstanta exposure yang tidak berpengaruh terhadap model μi , xi adalah p ×1 yang vektor yang berukuran menjelaskan peubah penjelas dan β adalah vektor yang berukuran p ×1 yang merupakan parameter regresi, maka fungsi massa peluang regresi Poisson adalah sebagai berikut: p ( y, θ, φ) =
(e exp ( x β )) T i
i
y
exp ⎡⎢−ei exp ( xiT β )⎤⎥ ⋅ ⎣ ⎦
y!
Akan dibuktikan bahwa p ( y , θ , φ ) termasuk ke dalam family eksponen. Fungsi massa peluang tersebut dapat ditulis dalam bentuk:
p
persamaan: η = ∑ β j x j . j =1
p ( y, θ, φ ) = exp[−ei exp ( xiT β ) + y ln ei exp ( xiT β ) − ln y !]
dengan θ = ln ei exp ( xiT β ) ,
b (θ ) = ei exp ( xiT β ) , a (φ ) = 1 , c ( y, φ) = ln y ! .
(6)
Dengan demikian terbukti bahwa fungsi massa peluang yang menyebar menurut sebaran regresi Poisson termasuk ke dalam family eksponen. Selanjutnya akan dibuktikan E (Y ) = exp (θ ) = μi = ei exp ( xiT β ) dan Var (Y ) = μi = ei exp ( xiT β )⋅ Bukti : Dari persamaan (6), maka dapat ditunjukkan bahwa : E (Y ) = b ′ (θ ) = exp (θ ) = μi = ei exp ( xiT β )
Var (Y ) = b ′′ (θ ) a (φ) = μi ⋅1 = μi = ei exp ( xiT β )⋅ Untuk persamaan likelihood dari fungsi massa peluang regresi Poisson dapat dituliskan sebagai berikut: (7) A ( β ) = ∑ ( yi ln μi − μi − ln yi !) i
(bukti lihat Lampiran 1) dengan ∂A = ∑ ( yi − μi ) xij = 0 ; j = 1, 2,..., p (8) ∂β j i
(bukti lihat Lampiran 2) dan ∂2A ( β) = −∑ μi xij xis ; j , s = 1, 2,..., p (9) ∂β j ∂ β s i (bukti lihat Lampiran 3). Dengan cara yang sama pada pendugaan parameter family eksponen di sub bab 3.1.6, maka pendugaan parameter untuk regresi Poisson menggunakan iterasi NewtonRaphson. Persamaan iterasi untuk pendugaan parameter dengan menggunakan IWLS regresi dapat dituliskan sebagai berikut:
β
(r )
=β
( r −1)
+I
−1
z
( r −1) ( r −1) (10)
dengan β( r ) dan β( r -1) adalah vektor untuk
β, I
( r −1) mengandung informasi negatif dari
nilai harapan turunan kedua log likelihood z( r-1) dan merupakan vektor yang mengandung turunan pertama log likelihood . Turunan pertama dari log likelihood dapat ditunjukkan oleh persamaan (8) sehingga dapat dituliskan sebagai berikut: z = X ′Wk dengan wi
=
μi dan ki
y −μ = i i ⋅
μi
Sedangkan negatif dari nilai harapan turunan kedua pada persamaan (9) dapat dituliskan dengan persamaan berikut :
8
⎛ 2A ( β ) ⎞ ⎟ ⎟ ⎝ ∂β j ∂βs ⎠
− E ⎜⎜ ∂
= ∑ μi xij xis ; j , s = 1, 2,..., p . i
Selanjutnya informasi matriks I yang mengandung negatif dari nilai harapan turunan kedua tersebut dapat dituliskan dalam matriks sebagai berikut: I = X ′WX . Pada akhirnya persamaan iterasi pada persamaan (10) dapat dituliskan: β( r ) = β( r −1) + ( X ′W( r −1) X )
−1
( X ′W( r −1)k( r −1) ) ⋅
Dengan demikian persamaan di atas mirip dengan metode kuadrat terkecil terboboti.
3.3. Overdispersion Overdispersion adalah situasi dimana ragam lebih besar daripada rata-rata. Pada sub bab ini dipaparkan bahwa dalam model Poisson dapat terjadi permasalahan overdispersion. Misalkan dalam pengamatan Y pada proses Poisson yang memiliki panjang interval sebagai berikut : Y = Z1 + Z 2 + ... + Z N , dengan Z adalah peubah acak i.i.d dan N menyebar Poisson, maka nilai harapan dan ragam dapat dituliskan sebagai berikut : E (Y ) = E ( N ) E ( Z ) dan Var (Y ) = E ( N ) Var ( Z ) + Var ( N ) {E ( Z )}
2
Bukti: 1. Akan dibuktikan E (Y ) = E ( N ) E ( Z ) . Diketahui Y = Z1 + Z 2 + ... + Z N dengan Z menyebar i.i.d dan N menyebar Poisson, maka : N E (Y ) = E ( E (Y | N )) = E ⎡ E ∑ Z i | N ⎤ ⎢⎣ i =1 ⎥⎦
( ) = ∑ E ( ∑ Z )P ( N = n ) = ∑ ( ∑ E ( Z ))P ( N = n ) ∞
N
n=0
i =1
∞
n
)
= ∑ E ∑ Zi | N = n P ( N = n) n=0
∞
i =1
(
)
)
∞ ⎛ n ⎞ = ∑ E ⎜ ∑ E ( Z i ) | N = n ⎟P ( N = n ) n=0 ⎝ i =1 ⎠
2
∞ n n n = ∑ ⎜⎛ ∑ E ( Z i2 ) + ∑ ∑ E ( Z i ) E ( Z j ) ⎟⎞P ( N = n ) n = 0 ⎝ i =1 i =1 i ≠ j ⎠
(
)
= ∑ nE ( Z i2 ) + ( n 2 − n ) ( E ( Z i )) P ( N = n ) ∞
n =0
2
∞
= E (Z 2 ) ∑ nP ( N = n) n= 0
2 ∞
+ ( E (Z )) ∑ (n 2 − n)P ( N = n) n=0
= E (Z
) E ( N ) + ( E ( Z ))
2
2
{E ( N )
Var (Y ) = E (Y ) − ( E (Y )) 2
2
}
− E (N )
2
{
2
{
2
}
= E ( Z 2 ) E ( N ) + ( E ( Z )) E ( N ) − E ( N ) 2
− {E ( Z ) E ( N )}
2
}
= E ( Z 2 ) E ( N ) + ( E ( Z )) E ( N ) − E ( N ) 2
− ( E ( Z )) ( E ( N )) 2
2
= E ( Z 2 ) E ( N ) + ( E ( Z ))
{E ( N ) 2
= E (Z = E (Z
− E ( N ) − ( E ( N ))
) E ( N ) + ( E ( Z ))
{E ( N ) 2
2
2
2
2
}
2
}
− ( E ( N )) − E ( N ) 2
) E ( N ) + ( E ( Z )) {Var ( N ) − E ( N )} 2
) E ( N ) + ( E ( Z )) Var ( N ) − ( E ( Z )) E ( N ) 2 2 = E ( N ) {E ( Z 2 ) − ( E ( Z ) ) } + ( E ( Z ) ) Var ( N ) 2
2
2
= E ( N ) Var ( Z ) + Var ( N ) ( E ( Z ) )
2
⋅
Karena N menyebar Poisson maka Var ( N ) = E ( N ) sehingga persamaan di atas menjadi : 2
}
2
2
2
= E ( N ) E (Z 2 ) ⋅ Jadi persamaan di atas dapat menunjukkan Var (Y ) > E (Y ) jika E ( Z 2 ) > E ( Z ) , yaitu
∞
n=0
∞
= E ( Z ) ∑ nP ( N = n ) n=0
= E ( N ) E (Z ) ⋅
2. Akan dibuktikan
( )
2
2
= E ( N ) E ( Z 2 ) − E ( N ) ( E ( Z )) + E ( N ) ( E ( Z ))
= ∑ nE ( Z )P ( N = n )
= E (N ) E Z2 .
(
E (Y ) = E E (Y 2 | N )
{
i
Var (Y ) = E ( N ) Var ( Z ) + Var ( N ) { E ( Z )}
2
= E ( N ) E ( Z 2 ) − ( E ( Z )) + E ( N ) ( E ( Z ))
i
n
n = 0 i =1
Var (Y ) = E (Y ) − ( E (Y ))
= E (Z
= E ( N ) E (Z 2 ) ⋅
(
Bukti :
2
persamaan yang mengindikasikan bahwa dalam model Poisson dapat terjadi permasalahan overdispersion, sehingga pada bab selanjutnya dibahas tentang model generalized Poisson untuk menangani perrnasalahan overdispersion.
