PENERAPAN METODE GENERALIZED RIDGE REGRESSION DALAM MENGATASI MASALAH MULTIKOLINEARITAS
KOMPETENSI STATISTIKA
[SKRIPSI]
NI KETUT TRI UTAMI 0808405017
JURUSAN MATEMATIKA FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS UDAYANA BUKIT JIMBARAN 2012
Bila Anda berpikir Anda bisa,maka Anda benar. Bila Anda berpikir Anda tidak bisa, Anda pun benar. Karena itu ketika seseorang berpikir tidak bisa, maka sesungguhnya dia telah membuang kesempatan untuk menjadi bisa. ~ Henry Ford ~
Tulisan ini ku persembahkan untuk:
Ida Sang Hyang Widhi Wasa Atas asung kerta wara nugraha-Nya, skripsi ini dapat diselesaikan
Orang Tua dan Kakak-kakak Tercinta Kasih sayang dan dukungan kalian adalah semangatku
I Putu Sanna Yustiantara, S.Farm, M.Si You always know how to make me feel better
ii
PENERAPAN METODE GENERALIZED RIDGE REGRESSION DALAM MENGATASI MASALAH MULTIKOLINEARITAS
KOMPETENSI STATISTIKA
[SKRIPSI]
Sebagai syarat untuk memperoleh gelar Sarjana Sains bidang Matematika pada Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Udayana
Tulisan ini merupakan hasil penelitian yang belum pernah dipublikasikan
NI KETUT TRI UTAMI 0808405017
Pembimbing II
Pembimbing I
Ir. I Putu Eka Nila Kencana, MT NIP. 19650614 199203 1 004
Ir. I Komang Gde Sukarsa, M.Si NIP. 19650105 199103 1 004
iii
LEMBAR PENGESAHAN TUGAS AKHIR
Judul
: Penerapan Metode Generalized Ridge Regression dalam Mengatasi Masalah Multikolinearitas
Nama
: Ni Ketut Tri Utami
NIM
: 0808405017
Jurusan
: Matematika
Kompetensi
: Statistika
Tanggal Ujian
: 16 Juli 2012
Disetujui oleh, Pembimbing II
Pembimbing I
Ir. I Putu Eka Nila Kencana, MT NIP. 19650614 199203 1 004
Ir. I Komang Gde Sukarsa, M.Si NIP. 19650105 199103 1 004
Penguji III
Penguji II
Penguji I
Ni Made Asih, S.Pd., M.Si NIP. 19770314 200604 2 001
IGA Made Srinadi, S.Si, M.Si NIP. 19711213 199702 2 001
Dra. NLP Suciptwati, M.Si NIP. 19630122 199802 2 001
Mengetahui, Ketua Jurusan Matematika FMIPA UNUD
Ir. Komang Dharmawan, M.Math, Ph.D NIP. 19620218 198803 1 001
iv
Judul
: Penerapan Metode Generalized Ridge Regression dalam Mengatasi Masalah Multikolinearitas Nama : Ni Ketut Tri Utami (NIM : 0808405017) Pembimbing : 1. Ir. I Komang Gde Sukarsa, M.Si 2. Ir. I Putu Eka Nila Kencana, MT
ABSTRAK
Metode kuadrat terkecil merupakan metode pendugaan parameter persamaan regresi linear dengan meminimumkan jumlah kuadrat galat. Apabila salah satu asumsi regresi linear berganda yaitu asumsi multikolinearitas dilanggar , penduga yang bersifat tidak bias dan memiliki ragam minimum tidak dapat dihasilkan. Multikolinearitas adalah kondisi dimana terjadi korelasi yang kuat diantara peubah bebas. Salah satu metode alternatif untuk mengatasi multikolinearitas adalah Generalized Ridge Regression yang merupakan pengembangan dari Ordinary Ridge Regression. Pada metode Ordinary Ridge Regression ditambahkan konstanta bias yang sama (π1 = π2 = β― = ππ = π) pada diagonal utama matriks XβX dalam persamaan kuadrat terkecil, sedangkan pada Generalized Ridge Regression, ditambahkan konstanta bias yang ditambahkan berbeda untuk setiap peubah bebas (π = π1 , π2 , β¦ , ππ ), setelah sebelumnya dilakukan proses orthogonalisasi terhadap peubah bebas. Hasil analisis menunjukkan bahwa metode Ordinary Ridge Regression dan Generalized Ridge Regression sama-sama dapat mengatasi multikolinearitas, dilihat dari nilai VIF dari setiap peubah bebas yang nilainya dibawah 5. Dilihat dari nilai MSE, model regresi linear dengan Generalized Ridge Regression memiliki galat atau error yang lebih kecil jika dibandingkan Ordinary Ridge Regression. Metode Generalized Ridge Regression juga menghasilkan R2 yang lebih besar dari Ordinary Ridge Regression sehingga dapat disimpulkan pada model yang dihasilkan pada metode Generalized Ridge Regression lebih baik dibandingkan Ordinary Ridge Regression. Kata kunci: regresi linear berganda, pendugaan parameter, multikolinearitas, Ordinary Ridge Regression, Generalized Ridge Regression.
v
Title Name Supervisor
: Application of Generalized Ridge Regression Method to Solve Multicollinearity Problem : Ni Ketut Tri Utami (NIM : 0808405017) : 1. Ir. I Komang Gde Sukarsa, M.Si 2. Ir. I Putu Eka Nila Kencana, MT
ABSTRACT
Ordinary least square is parameter estimation method for a linier regression analysis by minimizing residual sum of squares. In the presence of multicollinearity, estimators which are unbiased and have a minimum variance can not be generated. Multicollinearity refers to a situation in which one or more regressor variables are highly correlated. One of the alternative methods to solve multicollinearity problem is Generalized Ridge Regression which is the development of the Ordinary Ridge Regression. In Ordinary Ridge Regression, the same biasing parameter (π1 = π2 = β― = ππ = π)was added to the main diagonal of X'X matrix in the least squares equation, whereas in Generalized Ridge Regression, biasing parameter which different for each regressor variables (π = π1 , π2 , β¦ , ππ ) was added to the least squares equation after transform the data to the space of orthogonal regressors. The analysis showed both of Ordinary Ridge Regression and Generalized Ridge Regression have a good perform for solve muticollinearity, seen from the VIF value is below 5. However, based on MSE, linear regression model using the Generalized Ridge Regression has a smaller error than Ordinary Ridge Regression. Moreover, Generalized Ridge Regression method produces a better R2 than Ordinary Ridge Regression. It can be concluded that the model produced on the Generalized Ridge regression method is better than the Ordinary Ridge Regression. Keyword: multiple linear regression, parameter estimation, multicollinearity, Ordinary Ridge Regression, Generalized Ridge Regression.
vi
KATA PENGANTAR
Puji syukur penulis panjatkan kehadapan Ida Sang Hyang Widhi Wasa, Tuhan Yang Maha Esa atas perlindungan dan segala kemudahan yang diberikan-Nya, sehingga penyusunan tugas akhir yang berjudul β Penerapan Metode Generalized Ridge Regression dalam Mengatasi Kasus Multikolinearitasβ ini dapat terselesaikan dengan baik dan tepat waktu. Dalam penyusunan tugas akhir ini, penulis banyak mendapatkan bantuan, semangat, dan dorongan positif dari semua pihak baik secara langsung maupun tidak langsung. Pada kesempatan ini penulis mengucapkan rasa terima kasih yang sebesar-besarnya kepada : 1. Ir. Komang Dharmawan, M.Math, Ph.D, sebagai Ketua Jurusan Matematika FMIPA Universitas Udayana. 2. Ir. I Komang Gde Sukarsa, M.Si, sebagai pembimbing I, yang telah banyak memberikan bimbingan, saran dan nasihat yang sangat membantu bagi penulis dalam penulisan tugas akhir ini. 3. Ir. I Putu Eka Nila Kencana, M.T, sebagai pembimbing II yang senantiasa memberikan bimbingan, saran dan motivasi yang sangat membantu penulis dalam penyempurnaan penulisan tugas akhir ini. 4.
Dra. Ni Luh Putu Suciptawati, M.Si, IGA Made Srinadi, S.Si, M.Si, Ni Made Asih, S.Pd., M.Si, sebagai dosen penguji yang senantiasa memberikan saran yang sangat membantu dalam penyempurnaan penulisan tugas akhir ini.
vii
5.
Drs. Ketut Jayanegara, M.Si sebagai pembimbing akademik yang telah memberikan masukan selama penulis menempuh perkuliahan di jurusan ini.
6.
Para Dosen Jurusan Matematika atas ilmu yang diberikan selama perkuliahan.
7.
Ni Luh Dewi Wulandari, S.Si atas dukungan serta buku-buku penunjang yang telah dipinjamkan kepada penulis.
8.
Kedua orang tua beserta kakak-kakak tercinta yang senantiasa memberikan dukungan, perhatian, dan selalu memfasilitasi segala kebutuhan yang diperlukan penulis.
9.
I Putu Sanna Yustiantara, S.Farm, M.Si yang selalu menemani dan tidak henti-hentinya memberi dukungan dan doa.
10. Sahabat-sahabatku, Queena, Suma, Septy, Nanik, Dayu Tamie, Arya, Puja, Gau, Arna serta semua teman-teman angkatan 2008. Terima kasih untuk untuk canda tawa, dukungan dan bantuan kalian selama ini. 11. Kakak-kakak dan adik-adik kelas di jurusan Matematika serta semua pihak yang telah memberikan dukungan dalam penyusunan tugas akhir ini. Penulis menyadari dalam penyusunan tugas akhir ini sangat jauh dari sempurna, saran dan kritik yang membangun sangat diharapkan agar penyusunan tugas akhir ini menjadi lebih baik.
Bukit Jimbaran, Juli 2012
Penulis
viii
BIODATA ALUMNI
Nama Lengkap
: Ni Ketut Tri Utami
NIM
: 0808405017
Jenis Kelamin
: Perempuan
Tempat/Tanggal Lahir
: Denpasar/14 Agustus 1990
Alamat Asal
: Jl. Raya Padang Luwih no.61b Dalung Kuta Utara
Alamat Sekarang
: Jl. Raya Padang Luwih no.61b Dalung Kuta Utara
Agama
: Hindu
Tanggal Lulus
: 16 Juli 2012
Tanggal Wisuda
: 11 Agustus 2012
Kompetensi
: Statistika
IP Kumulatif
: 3,40
Predikat Kelulusan
: Sangat Memuaskan
Nilai TOEFL Lokal
: 507
Alamat Email
:
[email protected]
Nomor HP
: 085737596636
Nama Ayah
: I Ketut Gita Duarsa
Nama Ibu
: Ni Luh Sunarsih
Alamat Ayah/Ibu
: Jl. Raya Padang Luwih no.61b Dalung Kuta Utara
Telepon
: (0361) 439396
ix
DAFTAR ISI
HALAMAN JUDUL .......................................................................................
i
LEMBAR PERSEMBAHAN ...........................................................................
ii
LEMBAR PERNYATAAN ............................................................................. iii LEMBAR PENGESAHAN .............................................................................. iv ABSTRAK ......................................................................................................
v
ABSTRACT .................................................................................................... vi KATA PENGANTAR ..................................................................................... vii BIODATA ALUMNI ....................................................................................... ix DAFTAR ISI ...................................................................................................
x
DAFTAR GAMBAR ....................................................................................... xiii DAFTAR TABEL ........................................................................................... xiv DAFTAR LAMPIRAN .................................................................................... xvii BAB I
PENDAHULUAN
1.1
Latar Belakang........................................................................................
1
1.2
Rumusan Masalah ...................................................................... ..............
4
1.3
Batasan Masalah .....................................................................................
5
1.4
Tujuan Penelitian ....................................................................................
5
1.5
Manfaat Penelitian ..................................................................................
5
BAB II TINJAUAN PUSTAKA 2.1
Matriks .................................................. ..................................................
6
2.2
Nilai Eigen dan Vektor Eigen .................................................. ................
8
2.3
Ukuran Pemusatan dan Penskalaan (Centering and Scaling) .......... ........
9
2.4
Regresi Linear Berganda ......................................................................... 11 2.4.1 Uji Regresi Linear Berganda ....................................................... 13 2.4.2 Koefisien Determinasi Ganda ...................................................... 15
2.5
Metode Kuadrat Terkecil.. ...................................................................... 16
2.6
Multikolinearitas ..................................................................................... 17 2.6.1 Pengertian Multikolinearitas ........................................................ 17 2.6.2 Konsekuensi Multikolinearitas .................................................... 19 x
2.6.3 Mendeteksi Adanya Multikolinearitas ......................................... 20 2.7
Ordinary Ridge Regression ..................................................................... 22
2.8
Generalized Ridge Regression ................................................................ 27
BAB III METODE PENELITIAN ................................................................ 31 3.1
Sumber Data ........................................................................................... 31
3.2
Identifikasi Peubah Penelitian ................................................................. 31
3.3
Metode Analisis Data.............................................................................. 31
BAB IV PEMBAHASAN ............................................................................... 34 4.1
Mendeteksi Adanya Multikolinearitas pada Model Regresi ..................... 34
4.2
Pembakuan (Standardized) Peubah dengan Pemusatan dan Penskalaan (Centering and Scaling) .......................................................................... 38
4.3
Penyelesaian Masalah Multikolinearitas dengan Ordinary Ridge Regression ............................................................................................. 40
4.4
Penyelesaian Masalah Multikolinearitas dengan Generalized Ridge Regression .............................................................................................. 43
4.5
Perbandingan Pendugaan Koefisien Regresi dengan Metode Kuadrat Terkecil (Ordinary Least Square), Ordinary Ridge Regression dan Generalized Ridge Regression dalam Kasus Multikolinearitas ................. 46
BAB V PENUTUP ......................................................................................... 49 5.1
Simpulan ................................................................................................. 49
5.2
Saran ...................................................................................................... 49
DAFTAR PUSTAKA ...................................................................................... 51
xi
DAFTAR GAMBAR
Gambar
Halaman
2.1
Ridge Trace Data Kebutuhan Tenaga Kerja di 17 Rumah Sakit Angkatan Laut U.S ............................................................................... 26
2.2
Plot VIF Data Kebutuhan Tenaga Kerja di 17 Rumah Sakit Angkatan Laut U.S ............................................................................................... 27
xii
DAFTAR TABEL
Tabel
Halaman
2.1
Tabel ANOVA Model Linear Umum ...................................................... 13
4.1
Penduga Koefisien Regresi ..................................................................... 34
4.2
Deskripsi Data ........................................................................................ 34
4.3
Analisis Ragam (ANOVA) ..................................................................... 36
4.4
Nilai Koefisien Korelasi Antar Peubah Bebas ......................................... 37
4.5
Nilai VIF Peubah Bebas .......................................................................... 38
4.6
Analisis Ragam (ANOVA) Data Transformasi Centering dan Scaling .... 39
4.7
Penduga Koefisien Regresi Data Transformasi Centering dan Scaling .... 39
4.8
Penduga Koefisien Regresi untuk Ordinary Ridge Regression ................ 41
4.9
Analisis Ragam (ANOVA) Ordinary Ridge Regression .......................... 41
4.10 Penduga Koefisien Regresi untuk Generalized Ridge Regression ............ 44 4.11 Analisis Ragam (ANOVA) Generalized Ridge Regression ...................... 45 4.12 Perbandingan Metode Kuadrat Terkecil (Ordinary Least Square), Ordinary Ridge Regression dan Generalized Ridge Regression ............... 47
xiii
DAFTAR LAMPIRAN
Lampiran 1.
Data Kebutuhan akan Tenaga Kerja pada 17 Rumah Sakit Angkatan Laut U.S
2.
Data Hasil Transformasi Centering & Scaling
3.
Output Hasil Analisis Regresi Linear Berganda dengan Minitab pada Data Awal
4.
Output Hasil Analisis Regresi Linear Berganda dengan Minitab pada Data Transformasi Centering & Scaling
5.
Syntax Program Generalized Ridge Regression pada Data Transformasi Centering & Scaling dengan Software R i386 2.15.0
6.
Syntax Program Menghitung Nilai MSE dan R2 dari Model Generalized Ridge Regression pada Data Awal dengan Software R i386 2.15.0
7.
Perhitungan Manual Tabel ANOVA pada Generalized Ridge Regression
8.
Perhitungan Manual Uji t untuk Masing-Masing Penduga Koefisien Regresi pada Generalized Ridge Regression
xiv
