(R.14) METODE MINIMUM COVARIANCE DETERMINANT PADA ANALISIS REGRESI LINIER BERGANDA DENGAN KASUS PENCILAN

PROSIDING Seminar Nasional Statistika | 12 November 2011

ISSN : 2087-5290. Vol 2, November 2011

(R.14) METODE MINIMUM COVARIANCE DETERMINANT PADA ANALISIS REGRESI LINIER BERGANDA DENGAN KASUS PENCILAN Dini Aderlina, Firdaniza, Nurul Gusriani Jurusan Matematika FMIPA Universitas Padjadjaran Jl. Raya Bandung-Sumedang km 21 Jatinangor [email protected] Abstrak Salah satu metode yang digunakan untuk memodelkan regresi linier berganda pada data yang mengandung pencilan adalah regresi robust. Regresi robust adalah metode yang digunakan untuk mengatasi penyimpangan terhadap asumsi-asumsi klasik. Salah satu metode robust untuk mengatasi penyimpangan asumsi pencilan adalah Minimum Covariance Determinant (MCD). Prinsip MCD adalah menggunakan sebagian data yang mempunyai determinan kovariansi terkecil untuk menentukan pembobotan, identifikasi pencilan dan mengestimasi parameter. Metode ini dapat menghasilkan model yang lebih presisi dibanding dengan MKT. Pada paper ini akan ditunjukkan resistensi terhadap pencilan pada metode MCD menggunakan simulasi data dengan ukuran pengamatan sebanyak 30, 50, 100 dan 150 data serta persentase pencilan sebanyak 10%, 20%, 30% dan 40%. Kata Kunci: regresi, pencilan, robust, MKT, MCD

1.

PENDAHULUAN Dalam analisis regresi linier berganda yang mengandung data pencilan,

pendeteksian tidak dapat dilihat hanya dengan menggunakan diagram pencar (scatter plot). Beberapa metode untuk mendeteksi hal ini adalah DFFITS, Cook’s Distance, Leverage Values (Soemartini, 2007) dan menggunakan matriks rata-rata dan matriks kovarians yaitu jarak mahalanobis. Akan tetapi metode-metode

ini kurang maksimal bila pengamatan

mengandung lebih dari satu data pencilan. Hal ini disebabkan metode jarak mahalanobis tidak dapat mengatasi masking dan swamping effect. Dalam Suryana (2008) dijelaskan bahwa masking effect merupakan pengaruh pada data pencilan yang terjadi pada saat data pencilan tidak terdeteksi sebagai pencilan karena adanya data pencilan lain yang berdekatan sedangkan swamping effect merupakan pengaruh pada kumpulan data yang terjadi saat data yang bukan pencilan terdeteksi sebagai data pencilan. Masking dan swamping effect dapat diatasi dengan penaksir robust untuk vektor rata-rata dan matriks kovariansi, sehingga didapat jarak mahalanobis robust. Penaksir robust merupakan penaksir yang ajeg terhadap penyimpangan asumsi. Salah satu metode penaksir robust yang dapat mengukur jarak dan mendeteksi titik pencilan adalah penaksir minimum covariance determinant.

Jurusan Statistika-FMIPA-Unpad 2011

208



Rousseuw (2004) menjelaskan bahwa penaksir M yang dikemukakan Huber pada tahun 1973 tidak dapat mengatasi pencilan pada ruang-X sehingga dikembangkanlah metode LMS. Metode LMS memiliki proses yang sangat lama dalam menaksir parameter sehingga dikembangkan metode LTS. Kelemahan metode LTS adalah tidak dapat mendeteksi seluruh pencilan. Metode robust lain yang dapat mengatasi pencilan di ruang- X, mendeteksi seluruh pencilan dan memberikan proses yang relatif cepat adalah regresi minimum covariance determinant (MCD) (Rousseuw, 2004). Metode ini dapat mendeteksi seluruh pencilan dalam data dan memiliki ketahanan yang cukup besar terhadap pencilan (Rousseeuw, 2004). Prinsip metode MCD adalah menggunakan vektor rata-rata dan matriks kovariansi yang didapat dari penaksir MCD untuk menentukan bobot dari setiap data, sehingga didapat taksiran parameter model MCD. Paper ini akan membahas tentang pengidentifikasian pencilan, pembobotan data, dan penentuan parameter analisis regresi berganda dengan menggunakan penaksir robust, yaitu penaksir MCD. Hasil yang diperoleh kemudian dibandingkan dengan metode MKT. Akan ditunjukkan juga bahwa metode ini memiliki ketahanan terhadap pencilan dengan 2

membandingkan nilai-nilai bias,MSE, dan R yang diperoleh metode MKT dan MCD. 2.

LANDASAN TEORI

2.1 Analisis Regresi Linier Model persamaan analisis regresi linier berganda secara umum dapat ditulis dalam notasi matriks sebagai berikut ; = dimana

+

(1)

= vektor variabel tak bebas ( × 1) = matriks variabel bebas ( × ) = vektor parameter ( × 1) = vektor error ( × 1) =

+1,

= jumlah variabel bebas,

Jumlah kolom matriks X sebesar

= jumlah data

+ 1 disebabkan oleh adanya variabel X semu yang

dimasukkan ke dalam model yang bernilai 1 untuk setiap Y. Sehingga bentuk X sebagai berikut : 1 1 X   1

 

x11 x21

x12 x22

 xn1

  xn 2 


x1k  x2 k     xnk 

(2)

209



Metode klasik yang digunakan untuk menaksir parameter model adalah metode kuadrat terkecil (MKT) yang mempunyai prinsip meminimumkan jumlah kuadrat residu. Taksiran parameter untuk model MKT adalah :

βˆ = (XT X)-1 XY

(3)

2.2 Pencilan Pengamatan yang dikategorikan sebagai pencilan harus dilihat berdasarkan sebaran datanya, maka penyebab pencilan itu dapat diketahui, apakah berdasarkan penyimpangan oleh variabel bebasnya ( ) atau berdasarkan variabel tak bebasnya ( ), atau bahkan berdasarkan keduanya. Penyimpangan oleh variabel bebas atau leverage point sangat sukar dideteksi sejak awal karena dalam scatter plot tidak dapat terlihat dan membentuk efek masking. (Suryana, 2008) Pada umumnya untuk mengidentifikasi pencilan, dapat digunakan jarak kuadrat mahalanobis yaitu :  d 2MD   X*  V X* 

T

 

 x11  denga X *   x12     x1k



x 21 x22







x2 k



x n1  x n 2     xnk 

 1  * * C  X  V X  

T

 

T

  

(4)

T

C 1 = invers matriks kovariansi  k  k  X * = matriks rata-rata tiap baris X *

 k 1

Nilai jarak mahalanobis untuk setiap pengamatan didapat dari matriks diagonal utama persamaan (4). Suryana (2008) menjelaskan pengamatan diidentifikasikan sebagai pencilan jika memenuhi ketentuan sebagai berikut :

d 2MD( i ) > C2 ( p) 2

(5)

2

dengan : C ( p)   p,(1 ) , C( p) merupakan batas pencilan

 = taraf signifikansi Penggunaan jarak mahalanobis tidak lagi maksimal untuk mengidentifikasi pencilan jika terdapat lebih dari satu pengamatan pencilan. Hal ini muncul akibat adanya pengaruh masking dan swamping. Jurusan Statistika-FMIPA-Unpad 2011

210



Pengaruh masking dan swamping keduanya dapat diatasi dengan menggunakan penaksir robust untuk vektor rata-rata dan matrik kovariansi sehingga dihasilkan jarak kuadrat mahalanobis robust.

2.3 Penaksir Robust Penaksir yang robust terhadap pencilan merupakan penaksir yang ajeg terhadap adanya pencilan atau tidak peka bila terjadi penyimpangan data sehingga hasil taksiran terhadap parameter model tidak akan mendekati nilai yang sebenarnya. Dalam Kristian (2010) dijelaskan bahwa tujuan penaksir robust yaitu : i. Menghasilkan taksiran yang sama baiknya dengan taksiran MKT (pada saat residualnya berdistribusi normal dan terbebas dari kesalahan). ii. Menghasilkan taksiran yang baik ketika terdapat kondisi (i) tidak terpenuhi. Dalam penaksir robust dikenal jarak robust dan residu robust. Jarak robust merupakan modifikasi dari jarak mahalanobis, yaitu menggantikan matriks vektor rata-rata dan matriks kovarians metode klasik dengan matriks rata-rata dan kovarians metode robust. Jarak robust diperoleh dengan rumus sebagai berikut:





d2 RD = X* - V X*RD



T

 



C-1RD X* - V X*RD



T



T

(6)

1 dengan : C RD = invers matriks kovariansi jarak robust  k  k 

X*RD = matriks rata-rata tiap baris X* jarak robust  k 1 Residu robust merupakan error yang diperoleh dari regresi robust. Berdasarkan jarak robust dapat dikategorikan titik leverage yang lebih dapat dipercaya daripada jarak mahalanobis. Kristian (2010) menjelaskan titik leverage dapat dideteksi dengan jarak robust dengan syarat sebagai berikut :

0 Leverage    1

jika d 2RD  C 2 ( p) untuk lainnya

(7)

Berdasarkan Hubert et al (2008), dari residu robust dapat diketahui titik pencilan dengan kriteria standardized residual, sebagai berikut : ei  C ( q) s

(8)

dimana : ei = residual

s = MSE , C (q) =

= simpangan baku ei

 q2,(1 ) , dengan q = jumlah variabel tak bebas


211



3. MINIMUM COVARIANCE DETERMINANT (MCD) Metode MCD merupakan penaksir robust untuk rata-rata dan matriks kovarians dengan mencari sebagian data yang mempunyai kovarians minimum yang digunakan untuk mengidentifikasi pencilan, menentukan jarak dan residu robust yang akan digunakan untuk pembobotan data dan penentuan parameter regresi. Metode MCD mencari himpunan bagian data dari matriks X * sejumlah ℎ pengamatan, yaitu : ℎ=( +

+ 1)/2

(9)

dengan n  k Berdasarkan persamaan (9) maka terdapat kombinasi pengamatan matriks himpunan bagian data dari matriks pengamatan X * sejumlah a , dengan a didefinisikan sebagai berikut :

a  Chn

(10)

Diperoleh matriks himpunan bagian data H b sebagai berikut :

 x11 x H b   12     x1k

x21  xh1  x22  xh 2       x2 k  xhk 

T

(11)

dengan b  1,..., a Kemudian untuk setiap H b , sebut sebagai Hbl diperoleh nilai matriks rata-rata t l dan matriks kovarians Cl sebagai berikut : tl  Cl 

1 T .  H b  .V* h 1 H b  V*  t l h



(12) T T



 H

b

 V*  t l

T





(13)

dengan V* adalah matriks yang berukuran h  1 , sebagai berikut : 1 1 V*        1

(14)

Dari persamaan (13) dapat diketahui nilai det(Cl ) . Untuk l  1 jika det(C1 )  0 maka dengan menggunakan persamaan (4) dapat diketahui nilai jarak mahalanobis. Nilai jarak


212



mahalanobis yang diperoleh kemudian diurutkan dari nilai terkecil, diambil nilai dMD sebanyak h . Identifikasi nomor pengamatan dMD terpilih. Bentuk matriks X * baru sebanyak

h pengamatan, dengan elemen matriksnya berupa

pengamatan pada variabel X

berdasarkan identifikasi nomor pengamatan . Sebut matriks X * baru, sebagai Hbl dengan

l  l 1. Dengan persamaan (12) dan (13) didapat nilai t l dan Cl dari matriks Hbl yang baru, kemudian didapat nilai determinannya. Bandingkan nilai det(Cl ) dan det(Cl -1 ) , jika : 1. det(Cl )  det(Cl -1 ) ,dengan menggunakan persamaan (4) didapat kembali nilai jarak mahalanobis yang baru, kemudian bentuk X * baru sehingga didapat matriks Hbl baru. 2. det(Cl )  det(Cl -1 ) , pengolahan data dilakukan dari awal lagi, dengan himpunan bagian data H b selanjutnya, sehingga didapat nilai determinan H b lainnya. Bandingkan seluruh nilai determinan matriks kovariansi yang didapat dari himpunan bagian data H b , kemudian pilih yang bernilai minimum. Definisikan matriks himpunan bagian data H b yang memiliki nilai determinan minimum sebagai HMCD . Nilai t l dan Cl yang didapat HMCD disebut sebagai t MCD dan CMCD .

 

ˆ dari variabel X Berdasarkan Huberts et al (2008), diketahui matriks kovarians  dan variabel Y sebagai berikut :

 ˆ ˆ   XX  ˆ  YX

ˆ XY   ˆ YY 

(15)

dengan : ˆ XX = matriks varians-kovarians dari X

ˆ YX = matriks kovarians dari X dan Y

k  k 

 k 1

ˆ YY = nilai varians Y

 

ˆ dapat diketahui nilai kovarians dari error Setelah mendapat nilai matriks kovarians  ,yaitu :

ˆ   ˆ YY  βˆ MCDT ˆ XX βˆ MCD

(16)

ˆ ˆ dengan ˆMCD   xx XY Jurusan Statistika-FMIPA-Unpad 2011

213



Huberts et al (2008) menjelaskan bahwa bobot wii dirumuskan dengan ketentuan berikut : `

wii 

 

dengan d ei ˆMCD



 

 1, jika d e ˆ i MCD  0, lainnya

   C (q)

(17)

T

1

  e  ˆ  ˆ   e  ˆ  i

MCD



i

MCD



ei ˆMCD = residual dari parameter MCD  n 1

Berdasarkan persamaan (17) dapat dibentuk matriks W berukuran n  n sebagai berikut:  w11 w12  w w22 W   21     wn1 wn 2

   

w1n   w2 n     wnn 

(18)

dengan entri matriks wi j = 0 , dimana i  j Berdasarkan penjelasan di atas jelas bahwa metode regresi MCD merupakan salah satu penerapan dari pembobotan robust. Pembobotan robust merupakan suatu alternatif untuk memperoleh taksiran parameter yang peka terhadap pencilan. Sehingga regresi MCD dimodelkan dengan persamaan sebagai berikut :



θˆ MCD  XT WX

1

  X WY T

(19)

3.1 Simulasi Data Resistensi metode MCD terhadap pencilan dapat ditunjukkan dengan menggunakan simulasi data. Simulasi data adalah data yang diperoleh dari pembangkitan data dalam hal ini dengan membangkitkan ei yang berdistribusi N (0,1) .

Selanjutnya data ini

dianalisis

dengan menggunakan metode regresi MCD dan MKT kemudian dibandingkan. Proses ini dilakukan berulang kali sehingga diharapkan menghasilkan suatu pola yang dapat memberikan kesimpulan mengenai metode yang diteliti.

4. HASIL DAN PEMBAHASAN Dari data simulasi diperoleh nilai bias, MSE dan koefisien determinasi. Nilai bias untuk setiap ukuran pengamatan dan persentase pencilan digambarkan dengan grafik berikut :


214



Gambar 2.1 Grafik Bias Untuk Semua Ukuran dan Persentase Pencilan

Dari grafik terlihat bahwa garis metode MKT selalu berada di bawah garis metode MCD pada saat pencilan 0% atau tidak terdapat pencilan pada data. Terlihat juga ketika pencilan muncul dalam data, maka garis metode MCD selalu berada di bawah garis metode MKT. Hal ini menunjukkan bahwa metode MCD memiliki bias yang relatif kecil dibanding metode MKT. Nilai MSE untuk setiap ukuran pencilan dan ukuran pengamatan dapat dilihat dalam grafik berikut :

 

Gambar IV.2 Grafik MSE ˆ3 untuk Semua Ukuran Pengamatan dan Persentase Pencilan

 

Berdasarkan grafik terlihat bahwa nilai MSE( ˆ3 untuk data yang tidak mengandung pencilan dengan metode MCD dan MKT sama baiknya, garis metode MKT hanya sedikit dibawah metode MCD untuk setiap ukuran pengamatan. Akan tetapi ketika data sudah mengandung pencilan, garis metode MKT selalu berada jauh di atas metode MCD. Hal ini menunjukkan nilai rata-rata error yang besar dihasilkan oleh metode MKT. Nilai koefisien determinasi untuk setiap ukuran pengamatan dan persentase pencilan terlihat dalam grafik berkut : Jurusan Statistika-FMIPA-Unpad 2011

215



Gambar 2.3 Grafik Koefisien Determinasi untuk Semua Ukuran Pengamatan dan Persentase Pencilan Berdasarkan grafik terlihat bahwa garis metode MCD selalu lebih besar dari garis metode MKT untuk setiap ukuran pengamatan dan persentase pencilan. Ini menunjukkan bahwa metode MCD memiliki garis regresi sampel yang lebih mendekati sebagian besar data dibandingkan metode MKT. Berdasarkan rangkaian penjelasan tersebut, dapat terlihat bahwa nilai bias dan MSE yang dihasilkan oleh metode MCD lebih kecil dibandingkan dengan MKT serta nilai koefisien determinasi yang dihasilkan MCD lebih besar dari MKT untuk setiap ukuran pengamatan dan ukuran pencilan. Terlihat juga bahwa nilai rata-rata estimasi perameter yang dihasilkan oleh metode MCD lebih mendekati nilai yang sebenarnya dibandingkan dengan metode MKT.

5.

KESIMPULAN Berdasarkan analisis dan pembahasan pada bab IV, maka dapat disimpulkan sebagai

berikut : Dari simulasi data, dengan pengulangan sebanyak 10 kali dan ukuran pengamatan masing-masing sebanyak 30, 50, 100, dan 150, menunjukkan bahwa regresi MKT tidak dapat mengestimasi model dengan baik bila terdapat pencilan dalam data. Hal ini ditunjukkan oleh rata-rata hasil estimasi parameter model yang cukup jauh menyimpang dari dari nilai yang sebenarnya serta rata-rata MSE dan bias yang selalu jauh lebih besar dibandingkan yang dihasilkan regresi MCD.


216



6. DAFTAR PUSTAKA Hubert, Mia. et al. 2008. High-Breakdown Robust Multivariate Methods. Statistical Science, (Online), Vol. 23, No. 1, (http: //arxiv.org/pdf/0808.0657, diakses 18 April 2011). Kristian, Yuddy. 2010. Estimasi Parameter Model dalam Regresi Linier Berganda dengan Metode Least Trimmed Squares (LTS). Tesis. Bandung : Program Pascasarjana UNPAD BANDUNG. Rousseeuw, P.J. et al. 2004. Robust Multivariate Regression.Technometrics, (Online),Vol.46, No. 3, (ftp://ftp.win.ua.ac.be/pub/preprints/04/Robmul04.pdf diakses 10 April 2011) Soemartini. 2007. Pencilan (Outlier), (online), (http:// resources.unpad.ac.id/unpadcontent/.../OUTLIER(PENCILAN).pdf , diakses 27 April 2011). Suryana. 2008. Perbandingan Kinerja Penaksir Robust “MCD” dan ”MWCD” dalam Analisis Diskriminan Kuadratik. Tesis. Surabaya: Program Magister ITS SURABAYA.


217

(R.14) METODE MINIMUM COVARIANCE DETERMINANT PADA ANALISIS REGRESI LINIER BERGANDA DENGAN KASUS PENCILAN

Recommend Documents