PENENTUAN ESTIMASI PARAMETER REGRESI DENGAN VARIABEL DEPENDEN TERSENSOR
1, 2
Ignacia Diana Larissa1 dan Dwi Ispriyanti2 Program Studi Statistika Jurusan Matematika FMIPA Universitas Diponegoro Jln. Prof. H. Soedarto, S.H., Tembalang, Semarang
Abstract. Regression analysis is a statistical analysis that use relation between two or more variables. To use regression analysis, the value of each variable (dependent or independent) must be available. In fact, not all of the information is available. Missing value on dependent variable cause Ordinary Least Square is no longer to be used. One method to handle this problem is censored regression. On this regression, missing value is replaced with a censored point. This censored point may occur naturally or made by researcher, depend on the goal of research. Maximum Likelihood Method following Newton-Raphson Iteration Method, is used to get parameter estimation of censored regression. Test of model signification uses Likelihood Ratiotest and Wald-test. Keywords: censored point, maximum likelihood method, Newton Raphson Iteration method.
1. PENDAHULUAN Model regresi linear adalah suatu model yang digunakan untuk mengetahui hubungan antara sebuah variabel dependen dengan satu atau lebih variabel independen. Menurut [2] persamaan umum model regresi adalah: y i = β 0 + β 1 xi1 + β 2 xi 2 + … + β p xip + ε i . Masing-masing koefisien diestimasi dengan menggunakan metode kuadrat terkecil (Ordinary Least Square). Menurut G. David Garson model regresi dengan metode OLS hanya cocok diterapkan untuk variabel dependen yang kontinu dan tidak mengalami pembatasan nilai. Tetapi pada kenyataannya, variabel dependen dapat mengalami pembatasan nilai atau sering disebut sebagai variabel dependen tersensor ( terbatas). Misalkan ingin diteliti besarnya pengeluaran konsumsi telur suatu rumah tangga dikaitkan dengan tingkat pendidikan kepala rumah tangga, jumlah anggota rumah tangga, dan rata-rata pengeluaran per bulan suatu rumah tangga. Kenyataannya tidak semua rumah tangga terpilih memiliki informasi tentang besarnya jumlah pengeluaran untuk konsumsi telur dikarenakan rumah tangga 135
tersebut tidak memberikan informasi tentang seberapa besar pengeluaran konsumsi telur. Dengan hilangnya informasi terhadap variabel X tersebut , maka metode kuadrat terkecil tidak dapat digunakan untuk mengestimasi parameternya. Salah satu metode statistika yang dapat digunakan untuk menentukan model bila terjadi pembatasan pada variabel dependennya adalah model regresi tersensor. Pada model regresi tersensor beberapa nilai sampel dicatat sebagai nilai batas dari nilai yang sebenarnya. Data pengamatan pada variabel jenis ini mengelompok akibat adanya batas bawah (tersensor kiri), batas atas (tersensor kanan) atau dapat juga keduanya. Pembatasan tersebut dapat terjadi secara alamiah seperti beberapa nilai yang lebih dekat terhadap suatu nilai tertentu. Pembatasan juga dapat ditentukan oleh peneliti tergantung pada tujuan penelitiannya [1]. Adanya pembatasan terhadap suatu nilai tertentu terhadap variabel dependen Y, sebut saja a, mengakibatkan distribusi data tersebut berubah. Jika suatu populasi telah diketahui berdistribusi normal, maka distribusi akibat adanya pemotongan nilai
Jurnal Matematika Vol. 11, No.3, Desember 2008:135-140
tertentu berubah menjadi distribusi normal tersensor. Sebelum pembentukan model regresi tersensor, terlebih dahulu harus ditentukan dulu mean tersensor dan varian tersensor dari distribusi normal tersensor, sehingga mempermudah langkah selanjutnya untuk melakukan estimasi terhadap parameter-parameternya.
a , jika y* ≤ a y= y * , jika lainnya maka probabilitas tersensor y = a bernilai Prob(y = a) = Prob (y* ≤ a) 1 y * −µ 2 a 1 dy * =∫ exp − −∝ 2 σ 2π σ =∫
a−µ
σ
−∝
2. METODE MAKSIMUM LIKELIHOOD Misalkan X variabel random distribusi probabilitas f(x|θ), dengan parameter tunggal θ tidak diketahui. Misalkan X1, X2, …, Xn adalah sampel random dari populasi dengan densitas f(xi|θ1, θ2,...,θk), maka menurut [5], fungsi Likelihood didefinisikan dengan:
(
)
n
L θ1 ,θ 2 ,…,θ k / X = ∏ f (xi / θ1 ,θ 2 ,…,θ k ) ~
i =1
Untuk menentukan estimator maksimum Likelihood dari θ dapat digunakan langkah berikut ini: Tentukan fungsi Likelihood: L θ1 , θ 2 , ,θ k / X
(
~
)
n
= ∏ f ( xi / θ 1 , θ 2 , , θ k ) . i =1
Bentuk log Likelihood : l = log L θ1 , θ 2 , … , θ k / X
(
~
Tentukan turunan dari l terhadap θ1 , θ 2 , …,θ k : ∂ log L θ1 , θ 2 ,…θ k / X . ~ ∂θ i Bentuk persamaan Likelihood dan selesaikan ∂ log L θ1 , θ 2 ,… ,θ k / X = 0 ~ ∂θ i
(
)
(
)
)
3. DISTRIBUSI NORMAL TERSENSOR Variabel tersensor didefinisikan sebagai berikut. Misalkan y* berdistribusi normal dengan mean µ dan varian σ2,
dengan z =
1
e
2π y * −µ
σ
1 − z2 2
,
dz
1
dan
σ
dy* = dz .
a−µ Sehingga Pr ob( y = a) = Φ . σ Sedangkan untuk probabilitas tidak tersensor y = y* adalah Prob (y = y*) = Prob (y* > a) = 1 − Prob ( y* ≤ a ) a−µ = 1 − Φ σ Menurut [4] fungsi densitas dari y adalah: 1 y−µ 1 − f ( y) = e 2 σ 2π σ
2
1− j
1− j
a − µ Φ σ
j
j
1 y − µ a − µ = φ Φ , (5) σ σ σ 1 , jika y = a , dengan j = 0 , jika lainnya φ dan Φ masing-masing adalah fungsi densitas dan fungsi distribusi dari distribusi normal standar. Selanjutnya dari persamaan (5) diperoleh densitas untuk nilai y = y* atau nilai y > a adalah 1 y * −µ f ( y*) = φ σ σ dan densitas dari y = a adalah : a−µ f (a ) = Prob ( y = a) = Φ . σ
136
Ignacia Diana Larissa1 dan Dwi Ispriyanti2 (Penentuan Estimasi Parameter Regresi dengan Variabel...)
normal maka menurut [2] dapat diasumsikan y i* ~ N (x i' β , σ 2 ) dan
f (ε i / x i' ) = f (ε ) . Nilai ekspektasi variable dependen baru y i diketahui x 'i adalah E ( y i / x i' ) = Φ i . a + (1 − Φ )(σλi + x i' β )
Gambar 1. Variabel Normal y* dan Variabel Tersensor y Menurut [3] momen untuk variabel normal tersensor adalah: jika y* ~ N[ µ , σ 2 ] maka E [ y ] = Φa + (1 − Φ )( µ + σλ ) dan Var [ y ] = σ 2 (1 − Φ )[(1 − δ ) + (α − λ ) 2 Φ] a−µ a−µ dengan α = , Φ = Φ(α ) , σ σ φ a−µ λ = λ (α ) = φ = φ (α ) = φ , 1− Φ σ 2 dan λ − αλ = δ . 4. MODEL REGRESI TERSENSOR Model yang didasarkan pada variabel dependen tersensor disebut dengan model regresi tersensor . Model ini dibentuk dengan mengaitkan mean yang sudah diperoleh sebelumnya dengan model regresi linear. Persamaan umum model tersebut adalah y i * = xi ' β + ε i
jika y i * ≤ a a , dan y i = , y i * , jika y i * > a dimana: : variabel dependen laten y i* yi
: variabel dependen yang diamati
x = [1 xi1 x12 … xik ] : vektor variabel independen β 0 β 1 : vektor koefisien dan β = β k a adalah titik sensor, dan ε i diasumsikan berdistribusi normal dengan mean 0 dan varian σ2 [4]. Karena ε i berdistribusi ' i
137
φi = Φ i . a + (1 − Φ i ) σ + x i' β 1− Φi ' = Φ i . a + σφ i + x i β (1 − Φ i ) . Sedangkan nilai variansi dari variabel dependen baru y i diketahui x i' adalah
(
[
)
]
Var yi / xi' = σ 2 (1 − Φ i )(1 − δ i ) + (α i − λi ) Φ i , dengan α i =
a − x 'i β
σ
2
,
a − x i' β Φ i = Φ (α i ) = Φ σ
λi = λ (α i ) =
,
φ (α i ) dan 1 − Φ(α i )
'
a − xi β . φi = φ (α i ) = φ
σ
ESTIMASI PARAMETER Metode untuk melakukan estimasi parameter tersensor ini digunkan dengan metode Maksimum Likehood dengan variabel dependen baru. Fungsi loglikelihoodnya adalah log L (β , σ / xi' ) n 1 y − x' β i = log ∏ φ i i =1 σ σ
j a − xi' β + logΦ σ
1− j
a − xi' β Φ σ
1 y − x ' β 1− j = ∑log φ i i σ σ i =1 y − xi' β 1 = − ∑ log σ 2 + log 2π + i 2 yi > a σ a − xi' β + ∑ log Φ yi = a σ n
2
j
Jurnal Matematika Vol. 11, No.3, Desember 2008:135-140
β 1 dan θ = σ σ maka fungsi log likelihoodnya menjadi log L(θ , γ / xi' ) Dengan mengganti γ =
=−
[
1 ∑ − logθ 2 + log 2π + θyi − xi'γ 2 yi > a
(
+
∂ 1 2 ' − ∑ log 2π − log θ + θyi − xiγ ∂λ 2 yi >a
[
II.
)] 2
∑ log Φ(θa − x γ ) = 0 ' i
+
)]
(
1 x 'φ (θa − xi'γ ) − (−2) ∑ xi' (θyi − xi'γ ) − ∑ i =0 ' 2 yi > a y i = 0 Φ (θa − xi γ ) y i =a
2
∑ log Φ(θa − x γ ) ' i
yi = a
=−
[
)]
1 ∑ log 2π − logθ 2 + θyi − xi'γ 2 yi > a
(
+
∑ x (θy ' i
2
' i
∂ log L(θ , γ / xi' ) = 0 , di mana θ ∂ γ ' ∂ log L(θ , γ / xi ) θ ∂ γ ∂ 1 2 ' 2 = − ∑ log 2π − log θ + (θyi − xiγ ) θ 2 y i >a ∂ λ
[
∑ log Φ(θa − x γ ) = 0 .
1 1 1 − (−2) ∑ − (2) ∑ yi θyi − xi'γ 2 2 yi >0 y i > 0θ
(
(
aφ θa − xi'γ
∑ θ − ∑ y (θy
yi > a
i
) ∑ aλ (α ) = 0
− xi'γ +
yi > a
1
)
' i
yi = 0
i
)
∑ Φ(θa − x γ ) = 0
1
i
y =a
− xi'γ + a ∑ λ (α i ) = 0 , yi > a yi = a φ (α i ) dengan λ (α i ) = . Φ (α i )
∑ θ − y (θy i
i
)
1
∑ − θ
yi > a
2
) )
2 2 − yi − a 2 ∑ α i λi + λi , yi = a
(
∂ 2 log L θ , λ / xi' ∂θ ∂γ
)
)
∂ 1 ' ∑ − yi θyi − xiγ ∂θ yi > aθ 2 = ∑ yi xi' + a ∑ α i λi + λi
(
=
yi > a
y i =a
+
( (
=
]
)
(
∑ log Φ(θa − x γ ) = 0 ' i
(
(
[
+
]
∂ 1 ' ∑ − yi θyi − xiγ + a ∑ λ (α i ) ∂θ yi > aθ yi = a ' φ θa − xiγ 1 2 = ∑ − 2 − yi + a ∑ ' y i > a θ y i = a Φ θa − xi λ
=
Dilakukan perhitungan secara terpisah: 2 ∂ 1 2 ' I. − ∑ log 2π − log θ + (θyi − xiγ ) ∂θ 2 yi >a
i
yi = a
Metode Newton Raphson Untuk Regresi Tersensor Turunan kedua dari persamaan diatas adalah : ∂ 2 log L(θ , γ / xi' ) ∂θ ∂θ
dan G =
y i =a
' i
Kemudian penyelesaiannya digunakan metode iterasi Newton Raphson.
∑ log Φ(θa − x γ ).
' i
) ∑ x λ (α ) = 0 .
− xi'γ −
yi > a
yi = a
+
i
) + a ∑ λ (α ) i
yi = a
)x , ' i
yi = a
(
∂ 2 log L θ , λ / xi' ∂γ ∂γ
)
∂ ' ' ' ∑ xi θyi − xiγ − ∑ xi λ (α i ) ∂γ y i > a yi = a ' φ θa − xiγ = − ∑ xi' xi' − ∑ xi' Φ θa − xi'γ yi > a yi = a
(
=
)
( (
= − ∑ xi' xi' − yi > a
) )
∑ [x x (α λ + λ )] , ' ' i i
2
i i
i
yi = a
138
Ignacia Diana Larissa1 dan Dwi Ispriyanti2 (Penentuan Estimasi Parameter Regresi dengan Variabel...)
(
∂ 2 log L θ , γ / xi' ∂γ ∂θ
)
h12 = − ∑ yi xi' − yi > a
(
h21 = − ∑ x y −
∑x y ' i
=
i
)
[(
( (
) )
+ a ∑ x α i λi + λi ' i
yi > a
yi > a
h22 =
2
)] .
2
yi > a
g 21
' i
(
yi > a
g 22
yi > a
' i
i
2
' ' i i
i i
i
yi = a
(
)
(
)
∂ 2 log L θ , γ / xi' ∂θ ∂θ H m = − 2 ∂ log L θ , γ / xi' ∂γ ∂θ
(
)
(
)
∂ 2 log L θ , γ / xi' ∂θ ∂γ ∂ 2 log L θ , γ / xi' ∂γ ∂γ
Dengan demikian estimasi parameter dengan metode Maksimum Likelihood dengan bantuan metode Newton Raphson dapat dirumuskan θm +1 θm −1 = + H m gm , γˆm +1 γˆm h h dengan H m = 11 12 , di mana h21 h22 1
yi > a
139
yi = a
)
)
(
)
)
y i =a
' ' i i
∑ θ
' i
i
a − xi' βˆ ˆ σ . dengan λi = a − xi' βˆ 1 − Φ ˆ σ
Sehingga diperoleh matrik Hessiannya adalah H m = −G atau
h11 =
2
i i
φ
2
i i
∑ x x + ∑ [(α λ + λ )x ] dan
diperoleh. Sehingga diperoleh model regresi tersensor dugaan yaitu: E yi / xi' = Φ i ⋅ a + (1 − Φ i ) σˆλi + xi' βˆ ,
yi = a
' i i
i
yi = a
(
( ) = ∑ y x + a ∑ (α λ + λ ) x , = ∑ x y + a ∑ [x (α λ + λ )] dan = − ∑ x x − ∑ [x x (α λ + λ )]. i
2
i i
(
1 2 2 g11 = ∑ − 2 − yi − a 2 ∑ α i λi + λi , y i > a θ yi = a i i
' i
1 ' ∑ θ − y i θ y i − x i γ + a ∑ λi yi = a g m = yi > a . ' ' ' − ∑ x i θ y i − x i γ − ∑ x i λi yi > a yi = a Jika nilai estimasi parameter θˆ dan γˆ telah diperoleh maka dengan menggunakan 1 γˆ persamaan σˆ = dan βˆ = nilai θˆ θˆ estimasi parameter σˆ dan βˆ dapat
yi =a
' i i
' i
i
∑ [x (α λ + λ )],
' ' i i
yi > a
Diperoleh matriks turunan kedua adalah ∂ 2 log L(θ , γ / xi' ) ∂ 2 log L (θ , γ / xi' ) ∂θ ∂θ ∂θ ∂γ , G= 2 ' 2 ' ∂ log L(θ , γ / xi ) ∂ log L (θ , γ / xi ) ∂γ ∂θ ∂γ ∂γ g12 g atau G = 11 , dengan g 21 g 22
g12
2
i i
yi = a ' i i
∂ ' ' ' = ∑ xi θyi − xiγ − ∑ xi λ (α i ) ∂θ yi > a yi = a φ θa − xi'γ = ∑ xi' yi − ∑ xi' Φ θa − xi'γ yi > a yi = a
∑ [(α λ + λ )x ],
2
2 2 + yi + a 2 ∑ α i λi + λi , yi = a
(
)
5. KESIMPULAN 1. Model regresi dengan metode OLS hanya cocok diterapkan untuk variabel dependen yang tidak mengalami pembatasan nilai. 2. Model regresi dengan variabel dependen tersensor, metode estimasi parameternya digunakan adalah metode Maksimum Likehood yang dilanjutkan dengan metode iterasi Newton Rapshson. Pembatasan dapat terjadi secara alamiah atau dapat juga ditentukan oleh peneliti tergantung pada tujuan penelitiannya. 3. Harga mean dan varian dari regresi tersensor berturut-turut adalah E [ y ] = Φa + (1 − Φ )( µ + σλ ) dan Var [ y ] = σ 2 (1 − Φ )[(1 − δ ) + (α − λ ) 2 Φ] 6. DAFTAR PUSTAKA [1] Frone, R. Michael (1997), Regression Models For Discrete and Limited Dependent Variabels, http://division.aomonline.org/rm/1997
Jurnal Matematika Vol. 11, No.3, Desember 2008:135-140
_forum_regression_models.htmlfrone diakses tanggal 20 Mei 2008. [2] Greene, H. William (1993), Econometric Analysis, second edition, Macmillan Publishing Company, USA.
[3] Hamilton, James D. (1994), Time Series Analysis, Princeton University Press, UK. [4] Joreskog, K.G. (2002), Censored Variabels and Censored Regression, http://aac.asm.org/cgi/reprint/50/1/62 diakses tanggal 20 Mei 2008
140
