APLIKASI METODE VARIABLE SELECTION UNTUK MENENTUKAN FAKTOR DOMINAN YANG MEMPENGARUHI PENDIDIKAN DAN KESEHATAN
RIAN MULYANA
DEPARTEMEN MATEMATIKA FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM INSTITUT PERTANIAN BOGOR BOGOR 2012
ii
ABSTRAK RIAN MULYANA. Aplikasi Metode Variable Selection untuk Menentukan Faktor Dominan yang Mempengaruhi Pendidikan dan Kesehatan. Dibimbing oleh HADI SUMARNO dan I WAYAN MANGKU. Pendidikan dan kesehatan merupakan komponen utama yang mempengaruhi pembangunan manusia. Derajat pendidikan dan kesehatan dipengaruhi oleh berbagai faktor. Akan tetapi terdapat beberapa faktor yang paling berpengaruh. Oleh karena itu, tujuan dari karya ilmiah ini adalah untuk menentukan faktor dominan yang mempengaruhi pendidikan dan kesehatan dengan menggunakan metode variable selection. Prinsip utama dari metode variable selection adalah menentukan peubah yang dimasukkan ke dalam model regresi, sehingga pada akhirnya diperoleh model regresi terbaik. Metode variable selection yang digunakan adalah metode semua kemungkinan regresi, metode regresi bertatar, metode eliminasi langkah mundur, dan metode substitusi langkah maju. Peubah terpilih merupakan irisan antara metode regresi bertatar, metode eliminasi langkah mundur, dan metode substitusi langkah maju. Kemudian peubah terpilih tersebut dibandingkan dengan peubah yang dihasilkan dari metode semua kemungkinan regresi. Pada bidang kesehatan, indikator yang digunakan adalah Angka Harapan Hidup dan Angka Kematian Bayi. Proses variable selection pada kedua indikator tersebut menghasilkan faktor dominan yang sama, yaitu dokter dan mantri. Pada bidang pendidikan indikator yang digunakan adalah lama sekolah dan Angka Melek Huruf. Pada indikator lama sekolah, jumlah perguruan tinggi dan Angka Partisipasi Kasar SMP menjadi faktor yang paling berpengaruh. Sementara itu pada indikator Angka Melek Huruf, faktor terpilih adalah Angka Partisipasi Kasar SD. Berdasarkan hasil pemilihan peubah pada setiap metode, metode regresi bertatar dapat diambil sebagai metode terbaik. Pada metode regresi bertatar dapat dilihat kombinasi antara metode substitusi maju dan metode eliminasi mundur. Metode ini juga menghasilkan peubah terpilih yang sama dengan metode semua kemungkinan regresi. Kata kunci: variable selection, metode semua kemungkinan regresi, metode regresi bertatar, metode eliminasi langkah mundur, metode substitusi langkah maju.
iii
ABSTRACT RIAN MULYANA. Application of Variable Selection Methods to determine the Dominant Factors that Affect Education and Health. Under supervision of HADI SUMARNO and I WAYAN MANGKU. Education and health are the main components that affect human development. The degree of education and health is influenced by various factors. However, there are several factors that most influential. Therefore, the aim of this paper is to determine the dominant factors that affect education and health using variable selection methods. The main principle of variable selection method is to determine the variables included in the regression model, in order to obtain the best regression model. Variable selection method that used in this script are all possible regression method, stepwise regression method, backward elimination method, and forward substitution method. Selected variables are intersection between stepwise regression method, backward elimination method and forward substitution method. The selected variables then were compared with variables resulted from all possible regression method. In the health sector, the indicators used are life expectancy rate and infant mortality rate. The process of variable selection on both indicators produces the same dominant factors, that is doctor and paramedic. In the education sector, the indicators used are years of schooling and the literacy rate. In the years of schooling indicator, the number of colleges and gross enrolment rate of junior high school become the most influential factors. While in the literacy rate indicator, the selected factor is gross enrolment rate of primary school. Based on the results of the variables selections on each method, stepwise regression method can be taken as the best method. In stepwise regression method, combination of forward substitution method and backward elimination method can be seen. This method also produces the same selected variables with all possible regression methods. Keywords: variable selection, all possible regression method, stepwise regression method, backward elimination method, forward substitution method.
iv
APLIKASI METODE VARIABLE SELECTION UNTUK MENENTUKAN FAKTOR DOMINAN YANG MEMPENGARUHI PENDIDIKAN DAN KESEHATAN
RIAN MULYANA
Skripsi sebagai salah satu syarat untuk memperoleh gelar Sarjana Sains pada Departemen Matematika
DEPARTEMEN MATEMATIKA FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM INSTITUT PERTANIAN BOGOR BOGOR 2012
v
Judul Skripsi
Nama NIM
: Aplikasi Metode Variable Selection untuk Menentukan Faktor Dominan yang Mempengaruhi Pendidikan dan Kesehatan : Rian Mulyana : G54080043
Menyetujui, Pembimbing I,
Pembimbing II,
Dr. Ir. Hadi Sumarno, MS. NIP. 19590926 198501 1 001
Dr.Ir. I Wayan Mangku, M.Sc. NIP. 19620305 198703 1 001
Mengetahui, Ketua Departemen Matematika,
Dr. Berlian Setiawaty, MS. NIP. 19650505 198903 2 004
Tanggal Lulus : ………………………………
vi
PRAKATA Puji dan syukur penulis panjatkan kepada Allah SWT atas segala limpahan rahmat dan karunia-Nya karya ilmiah berhasil diselesaikan. Shalawat dan salam semoga selalu tercurah kepada Nabi Besar Muhammad SAW beserta seluruh keluarga, sahabat, dan para pengikutnya sampai akhir zaman. Karya ilmiah ini berjudul “Aplikasi Metode Variable Selection untuk Mengetahui Faktor Dominan yang Mempengaruhi Pendidikan dan Kesehatan” yang disusun sebagai syarat untuk memperoleh gelar Sarjana Sains pada Departemen Matematika. Penyusunan karya ilmiah ini juga tidak lepas dari bantuan berbagai pihak. Untuk itu penulis mengucapkan terima kasih yang sebesar-besarnya kepada: 1. Dr. Ir. Hadi Sumarno, MS. selaku dosen pembimbing I atas waktu, bimbingan, kesabaran, saran, dan bantuan yang diberikan kepada penulis selama penulisan skripsi ini. 2. Dr. Ir. I Wayan Mangku, M.Sc. selaku dosen pembimbing II atas waktu, bimbingan, kesabaran, saran, dan bantuan yang diberikan kepada penulis selama penulisan skripsi ini. 3. Ir. Ngakan Komang Kutha Ardana, M,Sc. selaku dosen penguji atas semua saran yang diberikan kepada penulis. 4. Dr. Ir. Siswadi, M.Sc. atas saran yang diberikan kepada penulis. 5. Seluruh dosen Departemen Matematika atas semua ilmu dan nasihat yang bermanfaat sehingga membantu penulis dalam menyelesaikan karya ilmiah ini. 6. Bu Susi, Pak Mulyono, Bu Ade, Mas Deni, Mas Heri dan seluruh staf Departemen Matematika FMIPA IPB yang telah membantu penulis selama belajar di Departemen Matematika FMIPA IPB. 7. Keluargaku tercinta: Ibu dan bapak, kakakku dan adikku serta seluruh keluarga atas segala doa, dukungan, serta kasih sayang yang telah diberikan kepada penulis. 8. Ust. Ece Hidayat, Ust. Abdurrahman, dan Ust. Dudi Supiandi selaku pembimbing di Pondok Pesantren Al-ihya atas ilmu dan semangat yang selalu diberikan kepada penulis. 9. Nur Afriyanti, Nur Lasmini, dan Aldi Martiandi atas kesediaannya sebagai pembahas seminar tugas akhir penulis. 10. Teman-teman Matematika 45 atas doa, bantuan, saran, semangat, dan dukungannya. 11. Kakak-kakak Matematika 44 dan 43 atas doa dan dukungannya. 12. Adik-adik Matematika 46 dan 47 atas doa dan dukungannya. 13. Teman-teman santri dan santriat Pondok Pesantren Al-ihya Dramaga : Asep, Sahlin, Luthfi, Opik, Aji, Uki, Fitra, Eer, Umam, Zimam, Quro, Ajron, Yusuf, Adi, Fitri, Fadholi, Aidah, Hannim, Pipit, Wenny, Velin, Iin, Titis, dan teman-teman santri yang lain atas doa dan dukungannya. 14. Semua pihak yang tidak dapat disebut satu persatu yang telah memberikan dukungan kepada penulis sehingga karya ilmiah ini dapat diselesaikan. Semoga karya ilmiah ini dapat bermanfaat bagi dunia ilmu pengetahuan dan menjadi inspirasi bagi penelitian-penelitian selanjutnya.
Bogor, November 2012
Rian Mulyana
vii
RIWAYAT HIDUP Penulis lahir di Cianjur, pada tanggal 13 Oktober 1990 dari pasangan bapak Saeful Sanusi dan ibu Engkam Komariah. Penulis merupakan anak kedua dari tiga bersaudara. Pada tahun 2002 penulis menyelesaikan pendidikan dasar di SDN Bojong Sari, kemudian melanjutkan studi di SMPN 1 Cipanas hingga tahun 2005. Pada tahun 2008 penulis lulus dari SMAN 1 Sukaresmi Kabupaten Cianjur dan pada tahun yang sama penulis diterima sebagai mahasiswa IPB melalui jalur Undangan Seleksi Masuk IPB (USMI). Penulis memilih mayor Matematika Fakultas Matematika dan Ilmu Pengetahuan Alam dengan Statistika Terapan sebagai mata kuliah penunjang. Selama masa perkuliahan, penulis pernah memegang amanah menjadi ketua Himpunan Mahasiswa Tjiandjoer (HIMAT) periode 2010-2011. Selain itu juga pernah menjabat sebagai ketua Ikatan Santri Mahasiswa Al-ihya (ISMA) periode 2009-2010 dan 2010-2011. Prestasi gemilang yang pernah diraih diantaranya mendapatkan double winner pada ajang Musabaqah Tilawatil Qur’an IPB 2011, yaitu menjadi juara 1 pada bidang Tilawatil Qur’an dan Syarhil Qur’an. Penulis juga pernah menjadi delegasi IPB pada kegiatan Musabaqah Tilawatil Qur’an Nasional 2011 di Makassar. Selain aktif dalam perkuliahan, penulis juga aktif menuntut ilmu agama di Pondok Pesantren Mahasiswa Al-ihya Dramaga.
viii
DAFTAR ISI Halaman DAFTAR TABEL ...............................................................................................................
ix
DAFTAR GAMBAR ...........................................................................................................
ix
DAFTAR LAMPIRAN .......................................................................................................
ix
I
PENDAHULUAN ....................................................................................................... 1.1 Latar Belakang ....................................................................................................... 1.2 Tujuan ...................................................................................................................
1 1 1
II
LANDASAN TEORI ................................................................................................... 2.1 Pendidikan dan Kesehatan ....................................................................................... 2.2 Peubah Bebas dan Peubah Terikat .......................................................................... 2.3 Analisis Regresi Berganda ...................................................................................... 2.4 Koefisien Korelasi dan Korelasi Parsial .................................................................. 2.5 Analisis Variansi .................................................................................................... 2.6 Hipotesis Statistik dan Taraf Nyata ......................................................................... 2.7 Koefisien Determinasi, Rataan Kuadrat Sisa, dan Cp Mallows .................................
1 1 2 2 3 3 5 5
III
DESKRIPSI METODE VARIBLE SELECTION ....................................................... 3.1 Uji Signifikansi Persamaan Regresi ........................................................................ 3.2 Prosedur Variable Selection .................................................................................... 3.2.1 Metode Seleksi Maju (Forward Substitution) ................................................ 3.2.2 Metode Eliminasi Mundur (Backward Elimination) ...................................... 3.2.3 Metode Regresi Bertatar (Stepwise Regression) ............................................ 3.2.4 Metode Semua Kemungkinan Regresi (All Possible Regression)....................
6 6 7 7 7 8 8
IV
APLIKASI METODE VARIABLE SELECTION PADA BIDANG PENDIDIKAN DAN KESEHATAN ................................................................................................... 4.1 Formulasi Peubah Bebas dan Peubah Terikat ......................................................... 4.2 Ilustrasi Pemilihan Peubah Dominan ...................................................................... 4.3 Hasil dan Pembahasan ...........................................................................................
9 9 9 12
SIMPULAN ........................................................................................................................
15
DAFTAR PUSTAKA ..........................................................................................................
16
ix
DAFTAR TABEL 1. 2. 3. 4. 5. 6. 7.
Halaman 9 10 11 12 Peubah terpilih dari setiap metode dengan peubah terikat Angka Kematian Bayi ... ............ 13 Peubah terpilih dari setiap metode dengan peubah terikat Angka Melek Huruf ... ............... 13 Peubah terpilih dari setiap metode dengan peubah terikat lama sekolah ... .......................... 14
Metode Metode Metode Metode
backward elimination dengan peubah terikat Angka Harapan Hidup ... ....................... forward elimination dengan peubah terikat Angka Harapan Hidup ... ......................... stepwise elimination dengan peubah terikat Angka Harapan Hidup ... ......................... all possible regression dengan peubah terikat Angka Harapan Hidup ... ......................
DAFTAR GAMBAR Halaman 1. Diagram pencar analisis regresi ......................................................................................... 7
DAFTAR LAMPIRAN Halaman 1. Proses pemilihan peubah bebas dari metode backward elimination, forward substitution, stepwise regression, dan all possible regressions dengan peubah terikat Angka Harapan Hidup (AHH) ................................................................................................................... 18 2. Proses pemilihan peubah bebas dari metode backward elimination, forward substitution, stepwise regression, dan all possible regressions dengan peubah terikat Angka Kematian Bayi (AKB) ... .................................................................................................. 27 3. Proses pemilihan peubah bebas dari metode backward elimination, forward substitution, stepwise regression, dan all possible regressions dengan peubah terikat Angka Melek Huruf (AMH) ... ............................................................................................................... 31 4. Proses pemilihan peubah bebas dari metode backward elimination, forward substitution, stepwise regression, dan all possible regressions dengan peubah terikat lama sekolah ... .. 36
I PENDAHULUAN 1.1 Latar Belakang Salah satu tujuan suatu negara adalah untuk meningkatkan pembangunan manusia. Untuk mengklasifikasikan suatu negara termasuk negara maju atau negara berkembang dapat digunakan sebuah ukuran perbandingan yang dinamakan Indeks Pembangunan Manusia (IPM). IPM terdiri atas 3 komponen utama, yaitu Pendidikan, Kesehatan, dan Ekonomi. Namun pada pembahasan karya ilmiah ini dibatasi dalam ruang lingkup komponen pendidikan dan kesehatan. Pembangunan bidang pendidikan bertujuan untuk meningkatkan kecerdasan dan keterampilan manusia, sehingga kualitas sumber daya manusia sangat bergantung pada kualitas pendidikan. Sedangkan pembangunan kesehatan antara lain bertujuan agar masyarakat memperoleh pelayanan secara mudah, murah, dan merata. Dalam mengukur dimensi pendidikan dan kesehatan penduduk digunakan beberapa indikator. Salah satu indikator yang digunakan untuk menentukan derajat pendidikan adalah Angka Melek Huruf dan rata-rata lama sekolah. Sedangkan indikator yang digunakan untuk menentukan derajat kesehatan penduduk adalah Angka Kematian Bayi dan Angka Harapan Hidup (Biro Pusat Statistik 2009). Derajat pendidikan dan kesehatan penduduk dipengaruhi oleh banyak faktor. Namun dari sekian banyak faktor tersebut, terdapat faktor dominan yang paling berpengaruh. Oleh karena itu diperlukan suatu metode untuk menentukan faktor dominan yang paling berpengaruh. Salah-satu upaya untuk mengatasi permasalahan tersebut adalah dengan menggunakan analisis regresi.
Analisis regresi merupakan sebuah teknik statistika yang digunakan untuk menyelidiki dan memodelkan hubungan antara beberapa peubah. Dalam proses pemilihan peubah dan model regresi terbaik digunakan suatu metode yang dinamakan metode variable selection (Montgomery & Peck 1991). Prinsip utama dari metode variable selection adalah menentukan peubah yang dimasukkan ke dalam model regresi. Dalam metode ini juga dapat diketahui peubah yang tidak perlu dimasukkan ke dalam model. Sehingga pada akhirnya diperoleh model regresi dengan peubah yang lebih sedikit. Selain keuntungan secara teoritis yaitu menghilangkan peubah yang tidak relevan, model ini memiliki daya tarik dari sisi kesederhanaan serta keuntungan ekonomi (Rawlings et al. 1998). Metode variable selection yang digunakan pada karya ilmiah ini adalah metode semua kemungkinan regresi (all possible regression), regresi bertatar (stepwise regression), eliminasi langkah mundur (backward elimination), dan eliminasi langkah maju (forward substitution). 1.2 Tujuan Tujuan dari penulisan karya ilmiah ini adalah : 1. Mempelajari teknik pemilihan peubah dalam model regresi. 2. Menentukan faktor dominan yang berpengaruh terhadap pendidikan dan kesehatan dengan menggunakan beberapa metode variable selection. 3. Memilih model terbaik dari faktor dominan yang mempengaruhi pendidikan dan kesehatan.
II LANDASAN TEORI Berikut ini akan dijelaskan beberapa definisi dan teori yang terkait dengan masalah variable selection. 2.1 Pendidikan dan Kesehatan Definisi Pendidikan Menurut Undang-undang RI No.2 tahun 1998, pendidikan adalah usaha sadar untuk menyiapkan peserta didik melalui kegiatan bimbingan, pengajaran dan atau latihan untuk peranannya di masa yang akan datang.
Sedangkan pendidikan nasional menurut ayat 2 pasal 1 adalah pendidikan yang berakar pada kebudayaan bangsa Indonesia dan yang berdasarkan pada Pancasila dan Undangundang Dasar 1945. Selanjutnya pendidikan nasional berfungsi untuk mengembangkan kemampuan serta meningkatkan mutu kehidupan dan martabat manusia Indonesia dalam rangka upaya mewujudkan tujuan nasional. ( Johansz et al. 1994)
2
perubahan rata-rata peubah y untuk setiap peubah ( = 1,2, … , ) sebesar satu satuan. Jika nilai koefisien regresi positif, maka nilai y akan mengalami penambahan atau kenaikan. Sebaliknya jika koefisien regresi bernilai negatif, maka nilai y akan mengalami penurunan. Untuk menduga nilai dari koefisien regresi β1, β2, … , βk digunakan metode kuadrat terkecil. Misalkan koefisien b1,b2, … , bk adalah penduga bagi koefisien regresi tersebut. Menurut metode kuadrat terkecil, penduga setiap koefisien regresi b1,b2, … , bk dapat diperoleh dengan meminimumkan bentuk kuadrat :
Definisi Kesehatan Kesehatan adalah keadaan dinamis atau kondisi organisme manusia yang multidimensi di alam, sumber daya untuk hidup, dan hasil dari interaksi dan adaptasi seseorang dengan lingkungannya. Karena itu, kesehatan dapat berada dalam berbagai derajat dan spesifikasi untuk setiap individu dan situasinya. ( McKenzie et al. 2008) 2.2 Peubah Bebas dan Peubah Terikat Peubah bebas adalah peubah yang nilainya ditentukan dan diatur, atau nilainya dapat diamati. Perubahan nilai peubah bebas dapat memberikan suatu efek atau pengaruh yang diberikan kepada peubah lain. Peubah tersebut dinamakan peubah terikat. (Draper & Smith 1985)
(
2.3 Analisis Regresi Berganda Analisis regresi berganda merupakan analisis regresi yang digunakan untuk mencari hubungan fungsional dari dua peubah bebas atau lebih terhadap peubah terikat. Misalkan terdapat n-pengamatan dan k peubah bebas dimana n > k. Sedangkan adalah peubah terikat pada amatan ke-i dan menunjukkan peubah bebas ke-j pada amatan ke-i. Diasumsikan berdistribusi normal N [0, ] serta tidak berkorelasi. Selanjutnya dapat dibentuk model regresi linear berganda, yaitu : = + + + …+ + =
+
,
)
,…,
= =
(
− )
=
(
−
+
) .
Penduga kuadrat terkecil bagi β0, β1, … , βk dari persamaan tersebut diperoleh apabila : a.
↔ −2
|
,
,…,
(
−
+
|
,
,… ,
(
−
+
=0 )=0
b.
=0
+ ↔ −2
dengan = 1,2, … , dan = 1,2, … , . Koefisien , , , … , disebut sebagai koefisien regresi dari setiap peubah bebas ( Montgomery & Peck 1991). Koefisien adalah sebuah konstanta yang menunjukkan nilai awal persamaan regresi. Sementara β1, β2, … ,βk menyatakan +
⋮ +
+
+ ⋮
+
… …
+
Pada pola persamaan tersebut terdapat = ( + 1) persamaan dan untuk masingmasing persamaan telah diketahui koefisien regresinya. Solusi dari persamaan tersebut akan menjadi penduga bagi b1, b2, … , bk.
=
+
⋮ +
= 0.
Penyederhanaan dari persamaan tersebut dapat disajikan dalam bentuk persamaan normal :
+
+
)
= ⋮
+
…
+
⋮ =
Jika dituliskan ke dalam bentuk notasi matriks, maka akan terbentuk suatu model regresi sebagai berikut : = + dengan
.
3
1 1 = ⋮ 1
y= ⋮ ,
=
⋮
… … ⋮
⋮
⋮ …
=
,
⋮ .
Menurut metode kuadrat terkecil, penduga setiap koefisien regresi dalam matriks dapat diperoleh dengan meminimumkan : ( )= ∑ = ′ ) =( − )( − = − − + = − + dengan adalah skalar dan memiliki bentuk transpos ( )′ = juga berupa skalar. Penduga kuadrat terkecil bagi β diperoleh apabila :
↔ − ′ + ↔ ′ = dengan
=
… … ⋮
⋮
⋮ …
1
1
⎡ ⎢ =⎢ ⎢ ⋮ ⎣ ⎡ ⎢ ⎢ = ⎢ ⎢ ⎢ ⎣
= =
∑( ∑(
− )( − ) − ) ∑( − ) ∑ − (∑ )(∑ )
= ∑
− (∑ ∑
… … …
⋮ …
⋮
1
⎤ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎦
⎤ ⎥ ⎥ ⋮ ⋮ ⎥ ⎦
⎤ ⎥ ⎥ ⎥. ⎥ ⎥ ⎦
Jika X’X tak singular, maka dari persamaan = ′ dapat diperoleh : =( ) ′ dimana ( ) adalah matriks invers dari X’X. (Montgomery & Peck 1991) 2.4 Koefisien Korelasi dan Korelasi Parsial Definisi Koefisien Korelasi Koefisien korelasi adalah nilai yang menunjukkan besarnya korelasi antara dua
−
= ∑
| =
⎡ ⎢ ⎢ =⎢ ⎢ ⎢ ⎢ ⎣
peubah atau lebih yang biasa dilambangkan dengan r. Koefisien korelasi ini digunakan untuk menyatakan keeratan hubungan suatu peubah dengan peubah yang lainnya. Korelasi merupakan bentuk pembakuan dari kovariansi Sxy, yaitu dengan cara membaginya dengan simpangan baku masingmasing peubah. Jika Sx dan Sy adalah simpangan baku dari peubah x dan y, maka koefisien korelasi r antara x dan y adalah :
− (∑
)
∑
(∑
)(∑ )
)
∑
− (∑ )
− (∑ )
dengan i = 1,2,3,…, n. Nilai r berkisar dari -1 sampai 1 atau dalam bentuk matematis dapat ditulis menjadi -1 ≤ r ≤ 1. Semakin tinggi nilai mutlak r maka semakin tinggi pula keeratan hubungan peubah tersebut. Tanda positif pada koefisien korelasi menandakan bahwa hubungan kedua variabel adalah searah. Sedangkan tanda negatif pada koefisien korelasi menandakan bahwa hubungan kedua peubah berlawanan. (Sembiring 1995) Definisi Korelasi Parsial Korelasi parsial adalah korelasi antara dua peubah dengan mengontrol peubah lainnya. Korelasi parsial digunakan untuk meneliti hubungan antara dua peubah yang diasumsikan bahwa seluruh atau sebagian dipengaruhi oleh peubah ketiga. Dalam hal ini peubah ketiga dijadikan tetap (konstan). Misalkan terdapat peubah x,y, dan z. Korelasi parsial antara x dan y jika z konstan didefinisikan sebagai: .
=
− 1−
. 1− (Sembiring 1995)
2.5 Analisis Variansi Untuk menguraikan variansi berdasarkan unsurnya dapat digunakan dengan diagram pencar. Bentuk diagram pencar untuk sebaran data acak ( , ) dapat dilihat sebagai berikut :
4
= ,
(
+
) (
− )
(
− )
(
↔
−
↔
−
(
+
) =0
=0
− ) ↔
(
−
) = 0.
Bagian pertama dari ruas kanan juga sama dengan nol, karena (
−
(
+
)
̅ Gambar 1. Diagram pencar analisis regresi.
=
)(
−
)
dimana : : Garis rata-rata regresi : Deviasi residu : Nilai rata-rata − : Deviasi regresi : Nilai rata-rata − : Deviasi total Dari diagram pencar di atas dapat dilihat bahwa jumlah deviasi atau penyimpangan total adalah akumulasi dari penyimpangan akibat regresi dan penyimpangan residual atau sisa bagian yang tidak dapat diterangkan oleh regresi. Sehingga dapat dibentuk persamaan sebagai berikut : ( − )= ( − )+ ( − ) dengan i = 1, 2, 3,…, n. Jika ruas kiri dan kanan dikuadratkan dan kemudian dijumlahkan, maka diperoleh : −
(
)
−
=
{(
=
( +2
)+(
− −
) +
(
− )(
− (
)} )
− ).
−
Pandang hasil perkalian silang pada suku ketiga persamaan ruas kanan di atas. Persamaan tersebut dapat dituliskan sebagai : 2 = 2
(
− (
)(
)
−
−
)−2
(
−
).
Bagian kedua ruas kanan sama dengan nol karena berdasarkan pada syarat minimum persamaan kuadrat terkecil bahwa : −2
↔
−
−
+
−
=
(
= 0+
− (
−
)+
(
+
)
)
= 0. Jadi persamaan deviasi total di atas dapat ditulis sebagai berikut : (
) =
−
(
) +
−
(
−
) .
Persamaan di atas merupakan persamaan dasar dalam analisis regresi dan analisis variansi. Ruas kiri disebut sebagai jumlah kuadrat total ( ) atau jumlah variasi total. menyatakan jumlah penyimpangan di sekitar nilai rata-ratanya. Bagian pertama ruas kanan disebut jumlah kuadrat regresi atau regression sum of squares ( ), dan ini adalah variasi respons disekitar nilai rataratanya . Bagian ini menyatakan pengaruh regresi peubah x terhadap peubah respons y. Bagian kedua pada ruas kanan disebut jumlah kuadrat galat atau residual sum of squares ( ). Dengan demikian hubungan antara , , dan dapat ditulis sebagai : = + . (Sembiring 1995) Jika x merupakan peubah bebas dan y merupakan peubah terikat dari suatu persamaan regresi, maka jumlah kuadrat total ( ) dapat dinyatakan sebagai :
=
(
=
(
−
)
=0
(
−
−2
)
−
) =0 =
− 2
−
5
Dalam bentuk matriks dapat dituliskan sebagai berikut: (∑ ) = − .
terhadap nilai parameter populasinya. Taraf nyata dilambangkan dengan (alpha). Semakin tinggi taraf nyata yang digunakan, semakin tinggi pula penolakan hipotesis nol atau hipotesis yang diuji, padahal hipotesis nol benar. Besarnya nilai bergantung pada keberanian dalam menentukan besarnya kesalahan yang akan ditolerir. Besarnya kesalahan disebut sebagai daerah kritis pengujian (critical region of test) atau daerah penolakan (region of rejection). (Walpole 1995)
Selanjutnya untuk mencari jumlah kuadrat sisa ( ) dari suatu persamaan regresi adalah sebagai berikut :
2.7 Koefisien Determinasi ( ), Rataan Kuadrat Sisa (s2), dan -Mallows
=
− 2
=
− 2 2
=
−
∑
−
(∑
)
(∑ =1 )2
−
(∑
(∑
)
)
.
=1
=
2
− =1
( )2
= =1
= ′ . Substitusi = − , sehingga )′ ( − =( − ) = − − + = − + . Karena = , akibatnya = − . Untuk mencari formula jumlah kuadrat regresi ( ) dapat digunakan formula umum dari , yaitu : = + maka = + (∑ ) = − − + =
−
(∑
)
. ( Montgomery & Peck 1991)
2.6 Hipotesis Statistik dan Taraf Nyata (α) Hipotesis statistik adalah pernyataan atau dugaan mengenai satu atau lebih populasi. Hipotesis yang dirumuskan dengan harapan akan ditolak disebut sebagai hipotesis nol, dilambangkan dengan . Penolakan mengakibatkan penerimaan suatu hipotesis alternatif, yang dilambangkan dengan . Hipotesis nol suatu parameter harus menyatakan suatu nilai dari parameter tersebut, sedangkan hipotesis alternatifnya merupakan kemungkinan nilai lainnya. Jadi bila menyatakan hipotesis nol = 0,5 maka hipotesis alternatifnya adalah ≠ 0,5. Taraf nyata adalah besarnya batas toleransi dalam menerima kesalahan hasil hipotesis
Definisi Koefisien Determinasi ( ) Koefisien determinasi ( ) merupakan suatu ukuran kelayakkan model regresi. Nilai menunjukkan besarnya pengaruh peubah bebas secara serempak terhadap peubah terikat. Misalkan adalah koefisien determinasi berganda dengan = banyaknya parameter dalam model, maka dapat didefinisikan sebagai: ⁄ = = = . + 1+ Salah satu kelemahan adalah besarnya nilai dipengaruhi oleh banyaknya peubah bebas di dalam model. Jika banyaknya peubah bebas bertambah maka nilai akan membesar, sehingga sulit untuk memperoleh nilai optimum. Akan tetapi jika model yang dibandingkan mempunyai peubah bebas yang sama maka mudah untuk digunakan. Salah satu cara untuk mengatasi kelemahan adalah dengan menggunakan yang disesuaikan (adjusted ) yang didefinisikan sebagai : ⁄( − ) = 1− ⁄( − 1) ( − 1) = 1− 1− ( − ) ( ) (1 − ). = 1− (
)
Penyesuaian ini membuat tidak selalu membesar apabila banyaknya peubah bebas meningkat. (Sembiring 1995) Definisi Rataan Kuadrat Sisa (s2) Ukuran ini menggambarkan atau memperhitungkan banyaknya parameter di dalam model melalui pembagian derajat kebebasannya. Semakin kecil nilai s2 maka model yang ditunjukkan semakin baik. Rataan
6
kuadrat sisa s2 membesar jika terjadi penurunan dalam akibat penambahan peubah bebas ke dalam model. Penambahan peubah bebas ke dalam model akan menurunkan dan derajat bebasnya. Kuadrat sisa s2 dapat dinyatakan sebagai : =
−
.
Misalkan menunjukkan jumlah kuadrat sisa ( ) dari model dengan parameter termasuk β0 . Sementara menunjukkan ukuran amatan, dan menunjukan rataan kuadrat sisa. Statistik dapat dinyatakan sebagai =
(Sembiring 1995) Definisi Statistik -Mallows Ukuran statistik ini diperkenalkan oleh Colin L. Mallows yang digunakan untuk menilai kecocokan model regresi yang telah diperkirakan dengan menggunakan kuadrat terkecil biasa. Tujuannya adalah untuk menemukan model terbaik yang melibatkan subset dari semua peubah bebas yang tersedia.
+2 −
.
Semakin banyak suku yang disertakan ke dalam model biasanya penurunan Cp akan semakin tinggi. Model terbaik ditentukan setelah memeriksa pola perubahan Cp. Selanjutnya cari persamaan regresi dengan nilai Cp terendah yang kira-kira sama dengan Cp = p. (Sembiring 1995)
III DESKRIPSI METODE VARIABLE SELECTION Prinsip utama dari metode variable selection adalah menentukan peubah yang akan dimasukkan ke dalam model regresi. Dalam metode ini pula dapat ditentukan peubah yang tidak perlu dimasukkan ke dalam model. Sehingga pada akhirnya diperoleh model regresi dengan peubah yang lebih sedikit ( Rawlings et al. 1998). 3.1 Uji Signifikansi Persamaan Regresi Uji signifikansi persamaan regresi merupakan suatu uji yang digunakan untuk menunjukkan adanya suatu hubungan linear antara peubah respon y dan peubah bebas , , … , . Hipotesis yang sesuai adalah: H0 : = 0 H1 : ≠ 0 (minimal ada satu ≠ 0 ). Penolakan H0 menandakan bahwa setidaknya ada satu dari peubah bebas , ,…, yang berkontribusi secara signifikan terhadap model. Jumlah kuadrat total dipartisi menjadi jumlah kuadrat regresi dan Jumlah Kuadrat Sisa , yang dapat dinyatakan dalam bentuk: = + . Jika H0 : = 0 benar, maka / ~ dimana nilai derajat bebas dari setara dengan banyaknya peubah bebas yang ada di dalam model. Selain itu pula dapat dinyatakan , serta dan bahwa / ~ saling bebas. Prosedur pengujian untuk H0 : = 0 dilakukan dengan menghitung : =
⁄ = ⁄( − − 1)
.
Penolakkan H0 terjadi jika nilai > = , , dengan α merupakan taraf nyata, misalkan α=0.05 atau α=0.1 ( Montgomery & Peck 1991). Untuk menguji pengaruh setiap peubah bebas terhadap peubah terikat digunakan uji F parsial. Uji F parsial dapat dilakukan terhadap semua koefisien regresi dengan menganggap semua peubah bebas telah masuk ke dalam model kecuali peubah yang ingin diuji pengaruhnya. Uji F parsial juga digunakan untuk memilih peubah bebas yang keberadaannya memberikan sumbangan keragaman yang cukup besar terhadap model regresi. Peubah bebas yang keberadaannya dapat diwakili oleh peubah lain tidak perlu dimasukkan ke dalam model. ∗ ∗ Misalkan , , … , ∗ adalah peubah bebas di luar model yang akan diuji pengaruhnya. Sementara , , … , adalah peubah bebas yang telah ada di dalam model. Model regresi penuh (full) dapat ditulis sebagai: = + + + …+ + ∗ ∗ + ∗ ∗ + …+ ∗ ∗ + . Hipotesis nol yang sesuai dengan Uji F parsial adalah : H0 : ∗ = 0 H1 : ∗ ≠ 0 (minimal ada satu ∗ = 0). Tahapan pertama dari uji F parsial adalah mencari jumlah kuadrat akibat penambahan ∗ ∗ atau pengurangan peubah , ,…, ∗ terhadap model. Jumlah kuadrat ini dapat dinyatakan dalam bentuk : ( ∗, ∗ , … , ∗ | , , … , ) = Model full − Model Tereduksi
7
, … , , ∗, ∗, … , ∗ − , ,…, = , ,…, − ( , , … , , ∗ , ∗ , … , ∗ ). Dengan menggunakan jumlah kuadrat tambahan di atas, maka nilai dapat ditentukan sebagai berikut : ( ∗, ∗ , … , ∗ | , , … , ) [ model penuh − tereduksi]⁄ = ) model full Kuadrat tengah sisa ( [ model tereduksi − model full]⁄ = ( ) Kuadrat tengah sisa model full ∗ ∗ ⁄ , ,…, ∗ , ,…, = ( ∗, ∗ , … , ∗ | , , … , ) Jika > = , , maka H0 ditolak dan dapat disimpulkan bahwa peubah bebas tersebut berpengaruh nyata terhadap model. (Kleinbaum et al. 2008) =
,
3.2 Prosedur Variable Selection 3.2.1 Metode Seleksi Maju (Forward Elimination) Menurut metode ini peubah bebas dimasukkan satu demi satu menurut urutan besar pengaruhnya terhadap model dan berhenti jika semua peubah bebas yang memenuhi syarat telah masuk ke dalam model. Didefinisikan k adalah banyaknya peubah bebas x yang akan dimasukkan ke dalam model. Pada keadaan awal model tidak mengandung peubah bebas, sehingga model awal dapat ditulis sebagai = . Algoritma forward selection : Langkah 0: Menentukan model regresi awal = . Langkah 1: Menentukan matriks korelasi R dari semua peubah yang tersedia. 1 ⋯ ⎡ ⎤ 1 ⋯ ⎢ ⎥. = ⋮ ⋱ ⋮ ⎥ ⎢ ⋮ ⋯ 1 ⎦ ⎣ Langkah 2 : Memilih peubah bebas , ,…, dengan korelasi ( = 1,2, … , ) tertinggi terhadap peubah terikat y. Langkah 3: Masukkan peubah bebas terpilih pertama ke dalam model, misalkan . Sehingga membentuk suatu model regresi : = + Langkah 4: Uji F terhadap peubah pertama yang terpilih. Jika < maka
peubah terpilih dibuang dan proses dihentikan. Jika > maka peubah terpilih memiliki pengaruh nyata terhadap peubah terikat y, sehingga layak untuk dipertahankan di dalam model. Langkah 5: Memilih peubah bebas tersisa dengan kuadrat korelasi parsial tertinggi. Langkah 6: Masukkan peubah bebas terpilih kedua ke dalam model, misalkan . sehingga membentuk suatu model regresi : = + + Langkah 7: Uji F parsial, jika < maka proses dihentikan dan model terbaik adalah model sebelumnya. Namun jika ≥ peubah bebas layak untuk dimasukkan ke dalam model dan kembali ke langkah 5. Proses berakhir jika tidak ada lagi peubah tersisa yang bisa dimasukkan ke dalam model. ( Montgomery & Peck 1991) 3.2.2 Metode Seleksi Mundur (Backward Elimination) Metode ini dimulai dengan memasukkan semua peubah bebas ke dalam model sehingga terbentuk suatu model regresi penuh (full). Kemudian satu demi satu peubah bebas tersebut direduksi sampai semua peubah tidak memenuhi patokan keluar model. Misalkan k adalah banyaknya peubah bebas. Maka model lengkap dapat dituliskan dalam bentuk : = + + + …+ . Algoritma backward elimination : Langkah 0: Menentukan model regresi penuh (full) = + + + …+ . Langkah 1: Uji F parsial masing-masing peubah bebas terhadap model. Langkah 2 : Memilih peubah bebas , ,…, dengan nilai terendah. Langkah 3: Jika terendah ≥ maka proses dihentikan dan persamaan regresi tersebut merupakan persamaan terbaik. Tetapi jika nilai terendah < maka peubah bebas yang memiliki nilai F parsial terendah dibuang dari model. Langkah 5: Kembali ke langkah 1 dengan model awal yang tidak menyertakan peubah yang dibuang ( k-1 peubah bebas). (Draper & Smith 1985)
8
3.2.3 Metode Seleksi Bertahap ( Stepwise Elimination) Metode ini merupakan gabungan dari metode seleksi maju dan metode seleksi mundur yang diterapkan secara bergantian. Pada tahap pertama digunakan seleksi maju, dan tahap kedua digunakan seleksi mundur. Pada setiap tahap jika peubah yang ada dalam model tidak berpengaruh setelah dimasukkan peubah baru, maka peubah tersebut akan dikeluarkan dari model. Sebaliknya jika peubah yang ada dalam model masih berpengaruh setelah peubah lain dimasukkan, maka peubah tersebut akan dipertahankan sampai pengujian tahap berikutnya. Didefinisikan k adalah banyaknya peubah bebas x yang akan dimasukkan ke dalam model. Pada keadaan awal model tidak mengandung peubah bebas, sehingga model awal dapat ditulis sebagai = . Algoritma stepwise elimination : Langkah 0: Menentukan model regresi awal = . Langkah 1: Menentukan matriks korelasi R dari semua peubah yang tersedia. 1 ⋯ ⎡ ⎤ 1 ⋯ ⎢ ⎥. = ⋮ ⋱ ⋮ ⎥ ⎢ ⋮ ⋯ 1 ⎦ ⎣ Langkah 2 : Memilih peubah bebas , ,…, dengan korelasi ( = 1,2, … , ) tertinggi terhadap peubah terikat y. Langkah 3: Masukkan peubah bebas terpilih pertama ke dalam model, misalkan . Sehingga membentuk suatu model regresi : = + . Langkah 4: Uji F terhadap peubah terpilih pertama. Jika < ( ) maka peubah terpilih dibuang dan proses dihentikan. Namun jika > ( ) maka peubah terpilih layak dipertahankan di dalam model. Langkah 5: Memilih peubah bebas dengan kuadrat korelasi parsial -parsial tertinggi. Langkah 6: Masukkan peubah bebas terpilih kedua ke dalam model, misalkan . Sehingga membentuk suatu model regresi : = + + . Langkah 7: Uji F parsial masing-masing peubah bebas yang terdapat di dalam model.
Langkah 8: Uji F parsial masuk, jika peubah bebas terpilih kedua > ( ) maka proses dihentikan dan model terbaik adalah model sebelumnya. Namun jika ≥ ( ) peubah bebas terpilih layak untuk dipertahankan dalam model. Langkah 9: Uji F parsial ke luar, jika nilai terendah < ( ) maka peubah bebas yang memiliki F parsial terendah dibuang dari model. Jika terendah ≥ maka peubah bebas dipertahankan. Langkah 10: Kembali ke langkah 5 untuk menguji peubah bebas tersisa. Proses dihentikan jika tidak ada lagi peubah bebas yang dapat dimasukan atau dikeluarkan. (Sembiring 1995) 3.2.4 Metode Semua Kemungkinan Regresi (All Possible Regression) Sesuai dengan namanya metode ini dirancang untuk menjalankan semua kemungkinan regresi antara peubah terikat dengan semua kombinasi dari peubah bebas. Jika terdapat k peubah bebas yang tersedia, maka ada 2k persamaan. Jika k=10 maka ada 210 = 1024 persamaan yang harus diperiksa. Itulah sebabnya prosedur ini memerlukan komputer berkecepatan tinggi. Dalam menilai kebaikan suatu kombinasi atau pasangan peubah bebas biasanya sering digunakan salah satu patokan dari: 1. Koefisien determinasi R2 2. Rataan kuadrat sisa s2, dan 3. Cp Mallows. Algoritma all possible regression : Langkah 1: Mengelompokkan persamaan ke dalam kelompok-kelompok berdasarkan pada banyaknya peubah bebas. Kelompok terdiri dari persamaan yang tidak mengandung peubah bebas sampai persamaan yang mengandung semua peubah bebas. Pengelompokkan persamaan regresi tersebut adalah sebagai berikut : a. Kelompok 1 terdiri dari persamaan regresi dengan hanya nilai tengah (Model = ) b. Kelompok 2 terdiri dari persamaan regresi dengan 1 peubah bebas (Contoh: = + )
9
c.
Kelompok 3 terdiri dari persamaan regresi dengan 2 peubah bebas (Contoh: = + + ) d. Kelompok ke-n ( = 4,5, … , + 1) terdiri dari persamaan regresi dengan (n-1) atau semua peubah bebas. (Contoh : = + +⋯+ ). Langkah 2: Pengamatan terhadap pola perubahan nilai , , dan Cp dari setiap persamaan
setelah ditambahkan peubah. Peubah yang memiliki pengaruh besar akan meningkatkan dan menurunkan , dan Cp yang cukup signifikan. Jika setelah penambahan peubah bebas tidak terjadi perubahan yang cukup signifikan, maka peubah tersebut dianggap tidak terlalu berpengaruh. Sehingga model sebelumnya lebih baik. (Draper & Smith 1985)
IV APLIKASI METODE VARIABLE SELECTION PADA BIDANG PENDIDIKAN DAN KESEHATAN 4.1 Formulasi peubah bebas dan peubah terikat Dalam mengukur dimensi pendidikan dan kesehatan penduduk digunakan beberapa indikator. Indikator yang digunakan untuk menentukan derajat kesehatan dalam karya ilmiah ini adalah : = Angka Harapan Hidup = Angka Kematian Bayi. Sedangkan peubah bebas atau faktor yang berpengaruh terhadap kedua indikator di atas yaitu : = Distribusi air = Jumlah bidan = Jumlah dokter = Jumlah mantri = Jumlah puskesmas = Jumlah Rumah Sakit (RS). Indikator yang digunakan untuk menentukan derajat pendidikan yaitu : = Rata-rata lama sekolah = Angka Melek Huruf. Sedangkan peubah bebas atau faktor yang berpengaruh terhadap kedua indikator di atas yang yang digunakan yaitu : = Jumlah SD (SD) = Jumlah SMP (SMP) = Jumlah SMA (SMA) = Jumlah Perguruan tinggi = Jumlah guru SD = Jumlah guru SMP = Jumlah guru SMA = Jumlah dosen = Pendidikan S-1 keatas guru SD = Pendidikan S-1 keatas guru SMP = Pendidikan S-1 keatas guru SMA = Angka Partisipasi Kasar SD = Angka Partisipasi Kasar SMP = Angka Partisipasi Kasar SMA = Angka Partisipasi Murni SD = Angka Partisipasi Murni SMP = Angka Partisipasi Murni SMA.
Data yang digunakan pada karya ilmiah ini adalah data sekunder indikator pendidikan dan kesehatan dari 33 provinsi di Indonesia pada tahun 2008 yang diambil dari Biro Pusat Statistik (BPS). 4.2 Ilustrasi pemilihan peubah dominan Dalam karya ilmiah ini digunakan beberapa metode variable selection, yaitu metode semua kemungkinan regresi (all possible regression), regresi bertatar (stepwise regression), eliminasi langkah mundur (backward elimination), dan substitusi langkah maju (forward regression). Sebagai contoh aplikasi dari metode-metode tersebut, ditentukan peubah yang paling berpengaruh terhadap kesehatan dengan Angka Harapan Hidup (AHH) sebagai peubah terikat. Dalam menyelesaikan permasalahan ini digunakan perangkat lunak R-Stat 2.8.0 dan Minitab 16. Proses pemilihan peubah bebas dengan Angka Harapan Hidup (AHH) sebagai peubah terikat disajikan pada Lampiran 1. Backward Elimination Pada tahap pertama semua peubah bebas , ,…, dimasukkan, sehingga membentuk model penuh (full). Kemudian peubah bebas direduksi satu persatu dengan menggunakan uji F parsial pada taraf nyata = 0.1 . Proses pereduksian peubah bebas tersebut dapat dilihat pada tabel di bawah ini : Tabel 1 Metode backward elimination dengan peubah terikat Angka Harapan Hidup Model
1 (full) 2 3
Peubah F parsial terendah
Puskesmas ( ) Air ( ) RS ( )
parsial
0.0012 0.4422 4.1728
2.91 2.90 2.89
10
Dari tabel di atas dapat dilihat bahwa pada model pertama (full) peubah bebas atau jumlah puskesmas memiliki F parsial terkecil dan tidak nyata ( < ). Sehingga peubah bebas harus dikeluarkan dari model. Pada model kedua, peubah bebas yang harus dikeluarkan dari model adalah atau distribusi air. Pada model ketiga peubah dengan F parsial terendah adalah atau jumlah RS. Akan tetapi nilai dari peubah bebas tersebut lebih besar dari nilai , sehingga peubah tersebut berpengaruh nyata terhadap model. Akibatnya proses pereduksian dihentikan dan model terbaik adalah model ketiga yang dinyatakan dalam bentuk : = 69.71 − 0.026 + 0.117 − 0.03 + 1.892 . Nilai keseluruhan dari model di atas adalah 15.63. Nilai ini lebih besar dari nilai pada taraf nyata = 0.1, yaitu sebesar 2.16. Sehingga model tersebut nyata, dengan nilai koefisien determinasi sebesar 69.07%. Dari tabel ANOVA parsial dapat dilihat bahwa nilai F parsial untuk setiap peubah juga nyata, sehingga layak untuk dipertahankan dalam model. Peubah atau jumlah RS memiliki koefisien regresi tertinggi, yaitu sebesar 1.892. Artinya penambahan jumlah dokter sebesar 1 satuan akan menambah Angka Harapan Hidup sebesar 1.982. Sementara peubah bebas atau jumlah dokter memiliki koefisien regresi sebesar 0.117. Peubah dan mempunyai koefisien regresi berturut-turut sebesar -0.026 dan -0.030. Hasil ini bertolak belakang dengan Angka Harapan Hidup yang seharusnya bertambah seiring dengan bertambahnya jumlah bidan dan mantri. Hal ini juga terjadi karena antara peubah dan berkorelasi negatif dengan Angka Harapan Hidup. Dari hasil ini juga dapat diidentifikasi bahwa bertambahnya jumlah bidan dan mantri tidak diikuti dengan kualitas kerja yang seharusnya semakin meningkat. Sehingga berdampak pada menurunnya Angka Harapan Hidup. Forward Substitution Metode ini merupakan kebalikan dari metode eliminasi mundur (backward elimination). Pada metode ini, model regresi awal tidak mengandung peubah bebas atau dengan kata lain hanya mengandung koefisien . Secara umum proses substitusi peubah pada metode ini dapat dilihat pada tabel di bawah ini :
Tabel 2 Metode forward substitution dengan peubah terikat Angka Harapan Hidup Model Peubah ( = dimasukan parsial .
1 (null) 2 3 4
Air ( )
13.31
4.16
Dokter ( ) Mantri ( ) Bidan ( )
6.556 14.0021 2.887
4.17 4.18 4.20
)
Dari matriks korelasi yang terbentuk, peubah atau air memiliki korelasi tertinggi terhadap peubah terikat y. Oleh karena itu peubah tersebut menjadi peubah pertama yang diambil untuk dimasukkan ke dalam model. Pada uji F keseluruhan untuk model tersebut didapatkan nilai sebesar 13.31. Nilai ini lebih besar dari nilai pada taraf nyata = 0.05, yaitu sebesar 4.16. Maka dari itu peubah bebas atau air layak dipertahankan di dalam model. Proses dilanjutkan dengan mencari kuadrat korelasi parsial dari masing-masing peubah bebas. Setelah itu diambil peubah atau jumlah dokter sebagai peubah bebas dengan kuadrat korelasi parsial tertinggi untuk dimasukkan ke dalam model. Dari tabel ANOVA parsial dapat dilihat bahwa nilai parsial untuk peubah bebas adalah sebesar 6.556. Nilai ini lebih besar dari nilai pada taraf nyata = 0.05, yaitu sebesar 4.17. Maka peubah bebas atau jumlah dokter layak untuk dipertahankan di dalam model. Pada model ke-4 iterasi dihentikan karena nilai parsial dari peubah atau jumlah bidan lebih kecil dari nilai pada taraf nyata = 0.05. Akibatnya peubah harus dikeluarkan dari model. Dengan demikian model terbaik yang dihasilkan dengan metode forward substitusion adalah : = 69.37 + 0.0001 + 0.139 -0.035 . Nilai keseluruhan dari model di atas adalah 15.3. Nilai ini lebih besar dari nilai pada taraf nyata 0.05, yaitu sebesar 2.93. Maka dari itu model tersebut nyata dengan nilai koefisien determinasi sebesar 61.28%. Peubah atau jumlah dokter memiliki koefisien regresi tertinggi, yaitu sebesar 0.1390. Artinya penambahan jumlah dokter sebesar 1 satuan akan menambah Angka Harapan Hidup sebesar 0.1390. Untuk peubah bebas atau distribusi air memiliki koefisien regresi yang lebih kecil dari jumlah dokter. Peubah atau jumlah mantri mempunyai koefisien regresi sebesar -0.035. Hasil ini bertolak belakang dengan Angka
11
Harapan Hidup yang seharusnya bertambah seiring dengan bertambahnya jumlah mantri. Hal ini juga terjadi karena antara peubah atau mantri berkorelasi negatif dengan Angka Harapan Hidup. Dari hasil ini mungkin dapat diidentifikasi bahwa bertambahnya jumlah mantri tidak diikuti dengan kualitas kerja mantri yang seharusnya semakin meningkat. Sehingga berdampak pada menurunnya Angka Harapan Hidup. Stepwise Regression Sebagaimana yang telah dipaparkan sebelumnya, metode ini merupakan gabungan dari metode forward substitution dan backward elimination. Taraf nyata yang digunakan dalam metode ini ada 2, yaitu taraf nyata masuk ( ) untuk forward substitution dan taraf nyata keluar
( ) untuk backward elimination. Adapun nilai taraf nyata yang diberikan dalam menyelesaikan permasalahan ini adalah = 0.05 dan =0.10. Pada tahap pertama digunakan forward substitution. Seperti halnya pada metode forward substitution yang telah dijelaskan sebelumnya, model awal tidak mengandung peubah bebas atau hanya mengandung koefisien . Tahap selanjutnya adalah menggunakan metode backward elimination untuk menguji kelayakan semua peubah bebas yang telah ada dalam model. Dalam hal ini digunakan uji F parsial pada taraf nyata = 0.05. Secara umum proses substitusi dan eliminasi pada proses stepwise regression dapat ditunjukkan pada tabel berikut ini :
Tabel 3 Metode stepwise regression dengan peubah terikat Angka Harapan Hidup Peubah FModel Peubah dalam ( = . ) ( = . parsial model terendah 13.31 4.16 1 2.87 Air ( ) Air ( ) 2 8.714 4.17 2.88 Air ( ) Dokter ( ) 6.556 Dokter ( ) 3 0.8161 4.18 2.89 Air ( ) Air ( ) 22.082 Dokter ( ) 14.002 Mantri ( ) 4 40.689 4.18 2.89 Dokter ( ) Bidan ( ) 6.4364 Mantri ( ) 3.4828 Bidan ( ) Dari tabel di atas dapat dilihat bahwa peubah pertama yang dimasukkan ke dalam model adalah atau distribusi air. Hal ini karena nilai dari peubah tersebut lebih besar dari nilai ( = 0.05). Kemudian diikuti oleh atau jumlah dokter pada model kedua. Pada tahap selanjutnya dilakukan uji F parsial terhadap semua peubah yang ada dalam model. Peubah bebas atau jumlah dokter memiliki F parsial lebih kecil dari distribusi air. Akan tetapi nilai dari peubah bebas lebih besar dari ( = 0.05) . Sehingga peubah bebas harus dipertahankan di dalam model. Pada model ketiga dimasukkan peubah atau jumlah mantris. Akan tetapi hasil pengujian F parsial untuk masing-masing peubah bebas menunjukkan bahwa peubah bebas atau distribusi air memiliki F parsial terkecil dan tidak nyata. Maka peubah bebas dikeluarkan dan model terbaik adalah : = 69.476 + 0.153 − 0.040 .
)
Nilai keseluruhan dari model di atas adalah 26.5. Nilai ini lebih besar dari nilai baik pada taraf nyata = 0.05 maupun = 0.1, yaitu berturut-turut sebesar 2.49 dan 4.18. Maka model tersebut nyata dengan nilai koefisien determinasi sebesar 60.19%. Peubah atau jumlah dokter memiliki koefisien regresi tertinggi, yaitu sebesar 0.153. Artinya penambahan jumlah dokter sebesar 1 satuan akan menambah Angka Harapan Hidup sebesar 0.153. Peubah atau jumlah mantri mempunyai koefisien regresi sebesar -0.040. Hasil ini bertolak belakang dengan Angka Harapan Hidup yang seharusnya bertambah seiring dengan bertambahnya jumlah mantri. Hal ini juga terjadi karena antara peubah bebas atau mantri berkorelasi negatif dengan Angka Harapan Hidup. Dari hasil ini mungkin dapat diidentifikasi bahwa bertambahnya jumlah mantri tidak diikuti dengan kualitas kerja mantri yang seharusnya semakin meningkat.
12
Sehingga berdampak Angka Harapan Hidup.
pada
menurunnya
All Possible Regression Pada metode ini diamati pengaruh setiap peubah jika dimasukkan ke dalam model. Perubahan yang diamati pada metode ini adalah pola perubahan R2, s2, dan Cp-Mallows dari setiap kelompok akibat masuknya peubah baru. Karena terdapat 6 peubah bebas, maka akan terdapat 26 atau 64 kombinasi persamaan. Kemudian semua kombinasi persamaan tersebut dibagi berdasarkan jumlah peubah bebas yang terdapat di dalam model. Tahap selanjutnya adalah mengambil beberapa persamaan dari setiap kelompok untuk diamati pola perubahan nilai R2, s2, dan Cp-Mallows. Analisis untuk metode ini menggunakan software Minitab 16. Dari output Minitab tersebut dihasilkan beberapa persamaan terbaik yang telah diurutkan menurut besarnya nilai R2, s2, dan Cp-Mallows. Dari setiap kelompok diambil persamaan terbaik yang memiliki nilai R 2 tertinggi dan s2 serta Cp-Mallows terendah. Persamaanpersamaan regresi yang menduduki posisi utama dalam setiap kelompok dapat dilihat pada Tabel 4. Tabel 4 Pemilihan peubah bebas pada metode all possible regression dengan peubah terikat Angka Harapan Hidup Kombinasi Peubah
p 1 2
,
3
, , , ,
4 5 6
, , , ,
, , ,
, , ,
R2 (%) 30.0 25.9 60.2
30.8 34.3 7.0
43.82 45.43 25.70
64.5
5.4
23.52
69.1 69.6 69.5
3.5
21.81
5.0 7.0
22.18 23.04
Cp
Pada tabel di atas dapat dilihat bahwa bertambahnya peubah bebas ke dalam model akan diikuti dengan perubahan nilai R2. Pada pemilihan kelompok persamaan dengan 1 peubah bebas, terlihat bahwa peubah bebas dan memiliki R2 yang relatif lebih tinggi. Kemudian diikuti dengan nilai s2 dan CpMallows yang lebih kecil. Akan tetapi pada kelompok selanjutnya peubah tidak berkontribusi secara maksimal. Pada kelompok dengan 2 peubah bebas, Persamaan yang mengandung dan memiliki nilai R2 tertinggi. Hal ini menunjukkan kedua peubah tersebut memiliki hubungan yang erat
terhadap Angka Harapan Hidup. Pada kelompok dengan 3 peubah bebas, terlihat bahwa masuknya peubah tidak memberikan penambahan R2 yang cukup besar. Pada kelompok selanjutnya, jika sebuah peubah ditambahkan ke dalam persamaan yang mengandung peubah dan maka akan memberikan sumbangan nilai R2 yang relatif kecil. Hal ini berlaku untuk besarnya nilai s2 dan Cp-Mallows yang semakin berkurang seiring dengan bertambahnya peubah. Pengurangan kedua patokan tersebut terlihat drastis pada kelompok dengan 2 peubah. Akan tetapi pada kelompok selanjutnya pengurangan relatif kecil. Akibatnya peubah tersebut dianggap tidak terlalu berpengaruh terhadap model. Dengan demikian persamaan yang layak dipilih adalah persamaan yang mengandung peubah dan . Secara umum persamaan tersebut dapat dinyatakan dalam bentuk : = 69.476 + 0.153 − 0.040 . Hasil dari metode ini tidak jauh berbeda dengan hasil pada metode regresi bertatar (stepwise regression). Kedua metode ini melibatkan korelasi antar peubah dalam proses pemilihan peubah. Selain itu juga dapat dilihat pengaruh setiap peubah dalam model. Jika peubah tersebut tidak terlalu berpengaruh atau memberikan kontribusi yang kecil, maka dapat dikeluarkan dari model. Dari ilustrasi pemilihan peubah bebas di atas, dapat dilihat bahwa peubah bebas dan memiliki pengaruh yang cukup besar terhadap model. Dapat diambil kesimpulan bahwa kedua peubah tersebut merupakan peubah dominan yang mempengaruhi Angka Harapan Hidup (AHH). 4.3 Hasil dan Pembahasan Proses pemilihan peubah bebas seperti ilustrasi pada subbab 4.2 juga dilakukan terhadap peubah terikat lain, yaitu Angka Kematian Bayi (AKB), Angka Melek Huruf (AMH), dan lama sekolah. Hasil pemilihan peubah bebas dari masing-masing peubah terikat dapat dilihat pada tabel dibawah ini : Angka Kematian Bayi Proses pemilihan peubah bebas dengan peubah terikat Angka Kematian Bayi (AKB) dapat dilihat pada Lampiran 2. Rincian peubah terpilih pada setiap metode pemilihan peubah bebas dapat dilihat pada tabel di bawah ini.
13
Tabel 5 Peubah terpilih dari setiap metode dengan peubah terikat Angka Kematian Bayi (AKB) Metode Peubah Koef. Pterpilih regresi Value Backward 0.110 0.0313 elimination -0.445 0.0002 0.099 0.0083 -6.665 0.0505 Forward -0.001 0.3737 substitution -0.521 0.0001 0.131 0.0008 Stepwise -0.566 8 ∙ 10 regression 0.146 2 ∙ 10 Tabel di atas menunjukkan peubah terpilih pada setiap metode dengan peubah terikat Angka Kematian Bayi (AKB). Dari tabel tersebut dapat dilihat bahwa peubah bebas dan terpilih pada setiap metode. Ini menunjukkan bahwa kedua peubah tersebut memiliki pengaruh yang sangat kuat terhadap Angka Kematian Bayi. Hal ini juga diperlihatkan dalam pemilihan peubah bebas dengan menggunakan metode all possible regression. Dari output Minitab yang dihasilkan, pada pemilihan kelompok persamaan dengan 1 peubah bebas, terlihat bahwa peubah bebas dan memiliki R2 yang relatif tinggi. Kemudian diikuti dengan nilai s2 dan Cp-Mallows yang lebih kecil. Akan tetapi pada kelompok selanjutnya peubah tidak berkontribusi secara nyata. Pada kelompok dengan 2 peubah bebas, persamaan yang mengandung dan memiliki nilai R2 tertinggi. Pada kelompok selanjutnya, jika suatu peubah ditambahkan ke dalam persamaan yang mengandung peubah dan maka akan memberikan sumbangan nilai R2 yang kecil . Hal ini terlihat juga pada pola besarnya nilai s2 dan Cp-Mallows yang semakin berkurang seiring dengan bertambahnya peubah. Pengurangan kedua patokan tersebut terlihat drastis pada kelompok dengan 2 peubah. Akan tetapi pada kelompok selanjutnya pengurangan relatif kecil. Akibatnya peubah tersebut dianggap tidak terlalu berpengaruh terhadap model. Maka persamaan yang layak dipilih adalah persamaan yang mengandung peubah dan .
Dengan melihat hasil dari berbagai metode di atas, peubah bebas dan dapat diambil sebagai peubah dominan yang berpengaruh terhadap peubah terikat Angka Kematian Bayi. Secara umum bentuk persamaan yang mengandung dua peubah bebas tersebut adalah :
= 31.054 − 0.567
+ 0.146
.
Angka Melek Huruf Proses pemilihan peubah bebas dengan peubah terikat Angka Melek Huruf (AMH) dapat dilihat pada Lampiran 3. Rincian peubah terpilih pada setiap metode pemilihan peubah bebas dapat dilihat pada tabel di bawah ini. Tabel 6 Peubah terpilih dari setiap metode dengan peubah terikat Angka Melek Huruf (AMH) Metode Peubah Koef. Pterpilih regresi Value Backward 5.605 0.0468 elimination -0.050 0.0379 -6.748 0.0185 6.470 0.0094 1.104 0.0018 2.041 0.0003 -0.951 0.0074 Forward 1.050 0.0003 substitution Stepwise 1.050 0.0003 regression Pada tabel di atas dapat dilihat bahwa pada metode forward substitution dan stepwise regression dihasilkan peubah terpilih yang sama, yaitu atau APK SD. Akan tetapi peubah tersebut tidak terpilih pada metode backward elimination. Pada metode All possible regression, terlihat bahwa pada pemilihan kelompok persamaan dengan 1 peubah bebas, peubah bebas atau APK SD memiliki R2 tertinggi. Kemudian diikuti dengan nilai s2 dan Cp-Mallows yang lebih kecil. Pada persamaan dengan kombinasi 2 peubah bebas terlihat bahwa kombinasi dan memiliki nilai R2 tertinggi. Ini menunjukkan bahwa kedua peubah tersebut memiliki hubungan yang sangat erat. Akan tetapi penambahan nilai R2 tidak terlalu tinggi. Jika suatu peubah dimasukkan ke dalam persamaan yang telah mengandung akan memberikan kontribusi yang keci. Jadi peubah atau APK SD merupakan peubah yang layak untuk diambil sebagai faktor dominan yang paling berpengaruh terhadap Angka Melek Huruf (AMH). Koefisien regresi dari peubah adalah 1.050. Artinya bertambahnya APK SD sebesar 1 satuan akan menambah Angka Melek Huruf sebesar 1.050. Secara umum persamaan regresi yang mengandung peubah tersebut adalah : ̂ = −23.251 + 1.050 .
14
Lama sekolah Proses pemilihan peubah bebas dengan peubah terikat lama sekolah dapat dilihat pada Lampiran 4. Rincian peubah terpilih pada setiap metode pemilihan peubah bebas dapat dilihat pada tabel di bawah ini. Tabel 7 Peubah terpilih metode dengan sekolah Metode Peubah terpilih Backward elimination
Forward substitution Stepwise regression
dari masing-masing peubah terikat lama Koef. regresi 0.048 0.528 -0.002 0.004 0.172 0.050 0.466 0.062 0.050 0.466 0.062
PValue 0.0180 0.0019 0.0008 0.0368 8 ∙ 10-5 0.050 0.466 0.062 6 ∙ 10-5 9 ∙ 10-4 0.0371
Pada tabel di atas dapat dilihat bahwa metode forward substitution dan stepwise regression menghasilkan peubah terpilih yang sama. Peubah terpilih tersebut adalah , , dan . Akan tetapi hanya terdapat peubah dan pada metode backward elimination. Pada metode all possible regression terlihat bahwa pada pemilihan kelompok persamaan dengan 1 peubah bebas, peubah bebas atau APK SMP memiliki R2 tertinggi. Kemudian diikuti dengan nilai s dan Cp-Mallows yang lebih kecil. Pada kelompok dengan 2 peubah bebas, persamaan dengan kombinasi antara dan memiliki R2 tertinggi. Pada kelompok dengan 3 peubah bebas, persamaan dengan kombinasi peubah , , dan memiliki R2 tertinggi. Hasil ini sesuai dengan yang diperoleh pada forward substitution dan stepwise regression. kjkj
Akan tetapi masuknya peubah hanya memberikan penambahan R2 yang kecil, yaitu sebesar 71.0% – 66.2% = 4.8%. Begitu juga dengan penurunan s2 dan Cp-Mallows yang tidak terlalu besar. Jadi dapat diambil kesimpulan bahwa menurut metode ini persamaan dengan kombinasi dan layak menjadi persamaan terbaik. Dengan demikian menurut peubah dan atau jumlah Perguruan Tinggi dan APK SMP adalah faktor yang paling berpengaruh terhadap lama sekolah. Secara umum persamaan regresi yang mengandung peubah tersebut adalah : ̂ = 2.882 + 0.537 + 0.051 . Dari hasil pemilihan peubah di atas dapat diperoleh beberapa peubah bebas dominan yang layak dimasukkan ke dalam model. Pada bidang kesehatan faktor terpilih yang dihasilkan pada kedua indikator relatif sama, yaitu dokter dan mantri. Ini menunjukkan bahwa dokter dan mantri mempunyai pengaruh yang besar terhadap Angka Harapan Hidup maupun Angka Kematian Bayi. Pada bidang pendidikan dengan indikator lama sekolah, jumlah perguruan tinggi dan APK SMP layak dipilih menjadi faktor dominan yang paling berpengaruh. Sementara pada indikator Angka Melek Huruf faktor dominan terpilih yang paling berpengaruh adalah APK SD. Pada setiap metode variable selection yang digunakan, terdapat kelebihan dan kekurangan dari masing-masing metode. Berdasarkan hasil pemilihan peubah di atas, metode stepwise regression dapat diambil sebagai metode terbaik. Pada metode stepwise regression dapat dilihat kombinasi antara metode forward substitution dan backward elimination. Pada metode ini juga didapatkan hasil yang tidak jauh berbeda dengan metode all possible regression.
15
V. SIMPULAN DAN SARAN 5.1 Simpulan Dalam penulisan karya ilmiah ini telah diperlihatkan bahwa masalah penentuan faktor yang paling berpengaruh terhadap pendidikan dan kesehatan, dapat dipandang sebagai permasalahan yang dapat diselesaikan dengan metode variable selection. Adapun metode yang digunakan adalah backward elimination, forward substitution, stepwise regression, dan all possible regression. Pada bidang kesehatan digunakan indikator Angka Harapan Hidup dan Angka Kematian Bayi. Faktor terpilih yang dihasilkan pada kedua indikator tersebut sama, yaitu dokter dan mantri. Ini menunjukkan bahwa dokter dan mantri mempunyai pengaruh yang besar terhadap baik untuk Angka Harapan Hidup maupun Angka Kematian Bayi. Pada bidang pendidikan digunakan indikator lama sekolah dan Angka Melek Huruf. Pada indikator lama sekolah, jumlah perguruan tinggi dan APK SMP layak dipilih menjadi faktor yang paling berpengaruh. Sementara pada indikator Angka
Melek Huruf, faktor dominan yang paling berpengaruh adalah APK SD. Dari beberapa peubah bebas terpilih, dapat dibentuk suatu model yang lebih efisien. Besarnya kontribusi dari setiap peubah dapat dilihat dari perubahan koefisien determinasi dari model tersebut. Berdasarkan hasil pemilihan peubah pada setiap metode variable selection di atas, metode stepwise regression dapat diambil sebagai metode terbaik. Pada metode stepwise regression dapat dilihat kombinasi antara metode forward substitution dan backward elimination. Pada metode ini juga didapatkan hasil yang tidak jauh berbeda dengan metode all possible regression. 5.2 Saran Diperlukan berbagai pertimbangan dalam memilih faktor atau peubah bebas yang mempengaruhi peubah terikat. Pemilihan taraf nyata α akan menentukan banyaknya peubah bebas yang paling berpengaruh, sehingga terbentuk model yang lebih baik.
16
DAFTAR PUSTAKA Biro Pusat Statistik. 2009. Statistik Kesejahteraan Rakyat 2008. Jakarta: PT. Tejokirono Berkah Rahayu. Draper N, Smith H. 1985. Applied Regression Analysis, 2nd Ed. New York : John Wiley & Sons. Johansz OI, Sukijo, Iko Piris. 1994. Peranan Pendidikan dalam Pembinaan Kebudayaan Nasional di Daerah Kabupaten Dili-Timor Timur. Dili: Depdikbud Propinsi Timor-Timur. Kleinbaum DG, Kupper LL, Muller KE, Nizam. 2008. Applied Regression Analysis and Other Multivariate Methods, 4rd Ed. California: Duxbury Press.
dsdds
McKenzie JF, Pinger RR, Kotecki JE. 2008. An Introduction to Community Health, 6th Ed. London: James and Bartlett Publisher. Montgomery DC, Peck EA. 1991. Introduction to Linear Regression Analysis. New York : John Wiley & Sons. Rawlings JO, Pantula SG, Dickey DA. 1998. Applied Regression Analysis. New York : Springer. Sembiring RK. 1995. Analisis Regresi. Bandung: Penerbit ITB. Walpole RE. 1995. Pengantar Statistik. Edisi ke-3. Bambang Sumantri, Penerjemah. Jakarta: PT Gramedia Pustaka. Terjemahan dari: Introduction to Statistics.
17
LAMPIRAN
18
Lampiran 1 Proses pemilihan peubah bebas dari metode backward elimination, forward substitution, stepwise regression, dan all possible regressions dengan peubah terikat Angka Harapan Hidup (AHH) Backward Elimination >#Peubah terikat : Angka Harapan Hidup (AHH) >kesehatan <- read.table("D:/AHH.txt", header=TRUE, sep="\t", na.strings="NA", dec=".", strip.white=TRUE) >kesehatan AHH RS Puskes Air Bidan Dokter Mantri 1 69.2 0.82 7.01 326.16 130.60 25.92 81.91 2 71.9 1.00 3.80 1251.13 78.14 22.11 39.20 3 70.7 0.86 0.57 796.69 69.18 23.68 42.03 4 72.0 0.54 3.53 212.73 46.19 19.79 41.78 5 72.4 0.89 4.06 2675.84 44.04 30.62 47.00 6 70.5 0.65 5.67 421.55 60.22 18.43 41.21 7 71.1 0.48 3.90 577.54 57.06 14.39 33.81 8 70.8 0.62 4.45 223.34 36.35 18.44 47.75 9 70.1 0.67 8.65 715.87 99.70 34.11 51.89 10 71.1 0.30 3.42 146.80 41.06 10.36 26.92 11 75.9 1.36 3.84 8494.06 13.22 38.07 2.49 12 70.5 0.35 2.44 454.72 25.43 14.79 18.42 13 69.3 0.28 2.02 768.59 29.36 15.69 15.11 14 72.3 0.56 2.58 600.32 36.75 17.22 29.96 15 75.7 0.98 3.46 626.78 27.27 39.07 29.06 16 71.2 0.46 2.53 814.73 33.00 18.12 25.87 17 74.1 0.97 3.24 2867.41 45.42 37.94 44.85 18 66.3 0.30 3.25 909.72 26.33 11.53 44.39 19 69.4 0.57 6.13 384.91 73.20 16.47 67.31 20 70.4 0.66 5.28 701.49 34.55 12.02 48.48 21 71.8 0.73 8.21 732.37 61.05 19.69 80.54 22 68.7 0.75 6.21 1161.51 52.63 15.58 39.98 23 72.7 1.00 6.62 2110.53 43.69 26.63 68.86 24 74.6 1.00 6.52 942.43 63.13 53.89 92.44 25 69.5 0.41 7.51 475.41 44.54 23.66 57.29 26 68.4 0.78 5.91 637.11 74.93 18.13 72.88 27 70.4 0.79 5.06 713.14 43.23 20.55 53.35 28 70.4 0.10 6.78 541.34 42.33 18.50 59.38 29 69.9 0.72 10.02 445.02 63.66 16.24 78.56 30 69.4 1.44 11.58 349.80 97.75 22.94 111.53 31 68.9 0.83 9.48 513.13 92.64 26.37 69.92 32 69.5 0.88 11.48 738.09 85.53 27.18 127.40 33 69.3 1.37 13.15 0.00 113.57 52.33 172.61 > > # Backward Elimination > full <- lm(AHH ~ Air + Bidan + Dokter + Mantri + Puskes RS , data=kesehatan) > Anova(full, type="II") Anova Table (Type II tests) Response: AHH Sum Sq Df F value Pr(>F) Air 0.603 1 0.3735 0.54643 Bidan 7.979 1 4.9398 0.03515 * Dokter 25.318 1 15.6751 0.00052 *** Mantri 5.305 1 3.2847 0.08149 . Puskes 0.002 1 0.0012 0.97245 RS 6.363 1 3.9397 0.05781 . Residuals 41.995 26
+
19
--Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1 > > backward <- update(full,.~.-Puskes) > Anova(backward, type="II") Anova Table (Type II tests) Response: AHH Sum Sq Df F value Pr(>F) Air 0.688 1 0.4422 0.5116890 Bidan 8.502 1 5.4659 0.0270490 * Dokter 26.589 1 17.0940 0.0003098 *** Mantri 12.344 1 7.9362 0.0089507 ** RS 6.442 1 4.1416 0.0517676 . Residuals 41.997 27 --Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1 > > backward <- update(backward,.~.-Air) > Anova(backward, type="II") Anova Table (Type II tests) Response: AHH Sum Sq Df F value Pr(>F) Bidan 7.832 1 5.1376 0.0313319 * Dokter 25.949 1 17.0216 0.0002997 *** Mantri 12.280 1 8.0554 0.0083482 ** RS 6.361 1 4.1728 0.0505953 . Residuals 42.685 28 --Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1 > Fix <- lm(AHH ~ Bidan + Dokter + Mantri + RS, data = kesehatan) > summary(Fix) Call: lm(formula = AHH ~ Bidan + Dokter + Mantri + RS, data = kesehatan) Residuals: Min 1Q -3.4256 -0.6703
Median 0.0652
3Q 0.8237
Max 2.1833
Coefficients: Estimate Std. Error t value Pr(>|t|) (Intercept) 69.711634 0.644313 108.195 < 2e-16 *** Bidan -0.026303 0.011605 -2.267 0.031332 * Dokter 0.117138 0.028392 4.126 0.000300 *** Mantri -0.028083 0.009895 -2.838 0.008348 ** RS 2.008607 0.983293 2.043 0.050595 . --Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1 Residual standard error: 1.235 on 28 degrees of freedom Multiple R-squared: 0.6907, Adjusted R-squared: 0.6465 F-statistic: 15.63 on 4 and 28 DF, p-value: 7.83e-07 Forward Substitution > null <- lm(AHH
~ 1, data=kesehatan)
20
> cor(kesehatan[,c("AHH","Air","Bidan","Dokter","Mantri","Puskes","R S")], use="complete.obs") AHH Air Bidan Dokter Mantri Puskes AHH 1.0000000 0.5480735 -0.3789178 0.5089975 -0.3072723 -0.3206006 Air 0.5480735 1.0000000 -0.3545265 0.3153974 -0.3324426 -0.2061090 Bidan -0.3789178 -0.3545265 1.0000000 0.2950407 0.7224636 0.6764529 Dokter 0.5089975 0.3153974 0.2950407 1.0000000 0.4331426 0.3237747 Mantri -0.3072723 -0.3324426 0.7224636 0.4331426 1.0000000 0.8607753 Puskes -0.3206006 -0.2061090 0.6764529 0.3237747 0.8607753 1.0000000 RS 0.3594077 0.4119522 0.4049162 0.6773346 0.4664730 0.4179193 RS AHH 0.3594077 Air 0.4119522 Bidan 0.4049162 Dokter 0.6773346 Mantri 0.4664730 Puskes 0.4179193 RS 1.0000000
> > forward <- update(null,.~.+Air) > Anova(forward, type="II") Anova Table (Type II tests) Response: AHH Sum Sq Df F value Pr(>F) Air 41.453 1 13.31 0.0009605 *** Residuals 96.546 31 --Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1 > partial.cor(kesehatan[,c("AHH","Air","Bidan")], use="complete.obs") AHH Air Bidan AHH 0.0000000 0.4781320 -0.2360454 Air 0.4781320 0.0000000 -0.1897167 Bidan -0.2360454 -0.1897167 0.0000000 > partial.cor(kesehatan[,c("AHH","Air","Dokter")], use="complete.obs") AHH Air Dokter AHH 0.0000000 0.47443789 0.42348523 Air 0.4744379 0.00000000 0.05059821 Dokter 0.4234852 0.05059821 0.00000000 > partial.cor(kesehatan[,c("AHH","Air","Mantri")], use="complete.obs") AHH Air Mantri AHH 0.0000000 0.4968521 -0.1585450 Air 0.4968521 0.0000000 -0.2060829 Mantri -0.1585450 -0.2060829 0.0000000 > partial.cor(kesehatan[,c("AHH","Air","Puskes")], use="complete.obs") AHH Air Puskes AHH 0.0000000 0.52002038 -0.25368976 Air 0.5200204 0.00000000 -0.03836562 Puskes -0.2536898 -0.03836562 0.00000000 > partial.cor(kesehatan[,c("AHH","Air","RS")], use="complete.obs")
21
AHH Air RS AHH 0.0000000 0.4704289 0.1753276 Air 0.4704289 0.0000000 0.2754122 RS 0.1753276 0.2754122 0.0000000 > > forward <- update(forward,.~.+Dokter) > Anova(forward, type="II") Anova Table (Type II tests) Response: AHH Sum Sq Df F value Pr(>F) Air 23.015 1 8.7142 0.00608 ** Dokter 17.315 1 6.5559 0.01573 * Residuals 79.232 30 --Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1 > > partial.cor(kesehatan[,c("AHH","Air","Bidan","Dokter")], use="complete.obs") AHH Air Bidan Dokter AHH 0.0000000 0.2356179 -0.5343990 0.6157203 Air 0.2356179 0.0000000 -0.2795705 0.2149181 Bidan -0.5343990 -0.2795705 0.0000000 0.6344230 Dokter 0.6157203 0.2149181 0.6344230 0.0000000 > partial.cor(kesehatan[,c("AHH","Air","RS","Dokter")], use="complete.obs") AHH Air RS Dokter AHH 0.0000000 0.4881021 -0.1322821 0.4100349 Air 0.4881021 0.0000000 0.3103283 -0.1569520 RS -0.1322821 0.3103283 0.0000000 0.6265619 Dokter 0.4100349 -0.1569520 0.6265619 0.0000000 > partial.cor(kesehatan[,c("AHH","Air","Puskes","Dokter")], use="complete.obs") AHH Air Puskes Dokter AHH 0.0000000 0.3577785 -0.5238911 0.6030120 Air 0.3577785 0.0000000 -0.0856222 0.0917226 Puskes -0.5238911 -0.0856222 0.0000000 0.6004050 Dokter 0.6030120 0.0917226 0.6004050 0.0000000 > partial.cor(kesehatan[,c("AHH","Air","Mantri","Dokter")], use="complete.obs") AHH Air Mantri Dokter AHH 0.0000000 0.1654376 -0.5706258 0.6574860 Air 0.1654376 0.0000000 -0.3497395 0.2928068 Mantri -0.5706258 -0.3497395 0.0000000 0.7471243 Dokter 0.6574860 0.2928068 0.7471243 0.0000000 > > forward <- update(forward,.~.+Mantri) > Anova(forward, type="II") Anova Table (Type II tests) Response: AHH Sum Sq Df F value Pr(>F) Air 1.504 1 0.8161 0.3737797 Dokter 40.687 1 22.0822 5.85e-05 *** Mantri 25.799 1 14.0021 0.0008023 *** Residuals 53.433 29 --Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
22
> > partial.cor(kesehatan[,c("AHH","Air","Dokter","Mantri","Bidan")], use="complete.obs") AHH Air Dokter Mantri Bidan AHH 0.0000000 0.1112544 0.6845922 -0.3798096 -0.3057094 Air 0.1112544 0.0000000 0.3179392 -0.2610508 -0.1458219 Dokter 0.6845922 0.3179392 0.0000000 0.5588996 0.2646357 Mantri -0.3798096 -0.2610508 0.5588996 0.0000000 0.3923274 Bidan -0.3057094 -0.1458219 0.2646357 0.3923274 0.0000000 > partial.cor(kesehatan[,c("AHH","Air","Dokter","Mantri","Puskes")], use="complete.obs") AHH Air Dokter Mantri Puskes AHH 0.0000000 0.1871393 0.6375008 -0.2837795 -0.1038714 Air 0.1871393 0.0000000 0.3116809 -0.4312717 0.2816934 Dokter 0.6375008 0.3116809 0.0000000 0.5642866 -0.1158059 Mantri -0.2837795 -0.4312717 0.5642866 0.0000000 0.7679078 Puskes -0.1038714 0.2816934 -0.1158059 0.7679078 0.0000000 > partial.cor(kesehatan[,c("AHH","Air","Dokter","Mantri","RS")], use="complete.obs") AHH Air Dokter Mantri RS AHH 0.00000000 0.01883356 0.5970471 -0.5926974 0.2343202 Air 0.01883356 0.00000000 0.1729157 -0.5304888 0.5100196 Dokter 0.59704709 0.17291568 0.0000000 0.5374538 0.1492581 Mantri -0.59269737 -0.53048882 0.5374538 0.0000000 0.5459515 RS 0.23432019 0.51001957 0.1492581 0.5459515 0.0000000 > > forward <- update(forward,.~.+Bidan) > Anova(forward, type="II") Anova Table (Type II tests) Response: AHH Sum Sq Df F value Pr(>F) Air 0.607 1 0.3509 0.55835 Dokter 42.726 1 24.6976 3.013e-05 *** Mantri 8.165 1 4.7200 0.03843 * Bidan 4.994 1 2.8866 0.10041 Residuals 48.439 28 --Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1 >Fix <- lm(AHH ~ Air + Dokter + Mantri, data = kesehatan) > summary(Fix) Call: lm(formula = AHH ~ Air + Dokter + Mantri, data = kesehatan) Residuals: Min 1Q -3.28230 -0.95874
Median 0.06969
3Q 0.81049
Max 2.38437
Coefficients: Estimate Std. Error t value Pr(>|t|) (Intercept) 69.3700378 0.6215799 111.603 < 2e-16 *** Air 0.0001837 0.0002033 0.903 0.373780 Dokter 0.1389689 0.0295730 4.699 5.85e-05 *** Mantri -0.0350784 0.0093744 -3.742 0.000802 ***
23
--Signif. codes:
0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
Residual standard error: 1.357 on 29 degrees of freedom Multiple R-squared: 0.6128, Adjusted R-squared: 0.5727 F-statistic: 15.3 on 3 and 29 DF, p-value: 3.727e-06 Stepwise Regression > null <- lm(AHH ~ 1, data=kesehatan) > cor(kesehatan[,c("AHH","Air","Bidan","Dokter","Mantri","Puskes","R S")], use="complete.obs") AHH Air Bidan Dokter Mantri Puskes AHH 1.0000000 0.5480735 -0.3789178 0.5089975 -0.3072723 -0.3206006 Air 0.5480735 1.0000000 -0.3545265 0.3153974 -0.3324426 -0.2061090 Bidan -0.3789178 -0.3545265 1.0000000 0.2950407 0.7224636 0.6764529 Dokter 0.5089975 0.3153974 0.2950407 1.0000000 0.4331426 0.3237747 Mantri -0.3072723 -0.3324426 0.7224636 0.4331426 1.0000000 0.8607753 Puskes -0.3206006 -0.2061090 0.6764529 0.3237747 0.8607753 1.0000000 RS 0.3594077 0.4119522 0.4049162 0.6773346 0.4664730 0.4179193
RS AHH 0.3594077 Air 0.4119522 Bidan 0.4049162 Dokter 0.6773346 Mantri 0.4664730 Puskes 0.4179193 RS 1.0000000 > > forward <- update(null,.~.+Air) > Anova(forward, type="II") Anova Table (Type II tests) Response: AHH Sum Sq Df F value Pr(>F) Air 41.453 1 13.31 0.0009605 *** Residuals 96.546 31 --Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1 > > partial.cor(kesehatan[,c("AHH","Air","Bidan")], use="complete.obs") AHH Air Bidan AHH 0.0000000 0.4781320 -0.2360454 Air 0.4781320 0.0000000 -0.1897167 Bidan -0.2360454 -0.1897167 0.0000000 > partial.cor(kesehatan[,c("AHH","Air","Dokter")], use="complete.obs") AHH Air Dokter AHH 0.0000000 0.47443789 0.42348523 Air 0.4744379 0.00000000 0.05059821 Dokter 0.4234852 0.05059821 0.00000000 > partial.cor(kesehatan[,c("AHH","Air","Mantri")], use="complete.obs") AHH Air Mantri AHH 0.0000000 0.4968521 -0.1585450 Air 0.4968521 0.0000000 -0.2060829 Mantri -0.1585450 -0.2060829 0.0000000 > partial.cor(kesehatan[,c("AHH","Air","Puskes")], use="complete.obs")
24
AHH Air Puskes AHH 0.0000000 0.52002038 -0.25368976 Air 0.5200204 0.00000000 -0.03836562 Puskes -0.2536898 -0.03836562 0.00000000 > partial.cor(kesehatan[,c("AHH","Air","RS")], use="complete.obs") AHH Air RS AHH 0.0000000 0.4704289 0.1753276 Air 0.4704289 0.0000000 0.2754122 RS 0.1753276 0.2754122 0.0000000 > > forward <- update(forward,.~.+Dokter) > Anova(forward, type="II") Anova Table (Type II tests) Response: AHH Sum Sq Df F value Pr(>F) Air 23.015 1 8.7142 0.00608 ** Dokter 17.315 1 6.5559 0.01573 * Residuals 79.232 30 --Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1 > > partial.cor(kesehatan[,c("AHH","Air","Dokter","Bidan")], use="complete.obs") AHH Air Dokter Bidan AHH 0.0000000 0.2356179 0.6157203 -0.5343990 Air 0.2356179 0.0000000 0.2149181 -0.2795705 Dokter 0.6157203 0.2149181 0.0000000 0.6344230 Bidan -0.5343990 -0.2795705 0.6344230 0.0000000 > partial.cor(kesehatan[,c("AHH","Air","Dokter","Mantri")], use="complete.obs") AHH Air Dokter Mantri AHH 0.0000000 0.1654376 0.6574860 -0.5706258 Air 0.1654376 0.0000000 0.2928068 -0.3497395 Dokter 0.6574860 0.2928068 0.0000000 0.7471243 Mantri -0.5706258 -0.3497395 0.7471243 0.0000000 > partial.cor(kesehatan[,c("AHH","Air","Dokter","Puskes")], use="complete.obs") AHH Air Dokter Puskes AHH 0.0000000 0.3577785 0.6030120 -0.5238911 Air 0.3577785 0.0000000 0.0917226 -0.0856222 Dokter 0.6030120 0.0917226 0.0000000 0.6004050 Puskes -0.5238911 -0.0856222 0.6004050 0.0000000 > partial.cor(kesehatan[,c("AHH","Air","Dokter","RS")], use="complete.obs") AHH Air Dokter RS AHH 0.0000000 0.4881021 0.4100349 -0.1322821 Air 0.4881021 0.0000000 -0.1569520 0.3103283 Dokter 0.4100349 -0.1569520 0.0000000 0.6265619 RS -0.1322821 0.3103283 0.6265619 0.0000000 > > forward <- update(forward,.~.+Mantri) > Anova(forward, type="II") Anova Table (Type II tests) Response: AHH Sum Sq Df F value Pr(>F) Air 1.504 1 0.8161 0.3737797 Dokter 40.687 1 22.0822 5.85e-05 ***
25
Mantri 25.799 1 14.0021 0.0008023 *** Residuals 53.433 29 --Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1 > > backward <- update(forward,.~.-Air) > partial.cor(kesehatan[,c("AHH","Dokter","Mantri","Bidan")], use="complete.obs") AHH Dokter Mantri Bidan AHH 0.0000000 0.7641106 -0.4261846 -0.3274439 Dokter 0.7641106 0.0000000 0.5199770 0.2327065 Mantri -0.4261846 0.5199770 0.0000000 0.4506716 Bidan -0.3274439 0.2327065 0.4506716 0.0000000 > partial.cor(kesehatan[,c("AHH","Dokter","Mantri","Puskes")], use="complete.obs") AHH Dokter Mantri Puskes AHH 0.00000000 0.74547712 -0.4112540 -0.05427335 Dokter 0.74547712 0.00000000 0.5014320 -0.03071979 Mantri -0.41125396 0.50143204 0.0000000 0.74671561 Puskes -0.05427335 -0.03071979 0.7467156 0.00000000 > partial.cor(kesehatan[,c("AHH","Dokter","Mantri","RS")], use="complete.obs") AHH Dokter Mantri RS AHH 0.0000000 0.6095927 -0.7111018 0.2836311 Dokter 0.6095927 0.0000000 0.5338505 0.2802724 Mantri -0.7111018 0.5338505 0.0000000 0.3776873 RS 0.2836311 0.2802724 0.3776873 0.0000000 > > forward <- update(backward,.~.+Bidan) > Anova(forward, type="II") Anova Table (Type II tests) Response: AHH Sum Sq Df F value Pr(>F) Dokter 68.815 1 40.6889 5.665e-07 *** Mantri 10.886 1 6.4364 0.01682 * Bidan 5.890 1 3.4828 0.07215 . Residuals 49.046 29 --Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1 > backward <- update(forward,.~. – Bidan) > > Fix <- lm(AHH ~ Dokter+Mantri , data=kesehatan) > summary(Fix) Call: lm(formula = AHH ~ Dokter + Mantri, data = kesehatan) Residuals: Min 1Q -3.1819 -0.9627
Median 0.3915
3Q 0.9146
Max 2.5022
Coefficients: Estimate Std. Error t value Pr(>|t|) (Intercept) 69.476433 0.608446 114.187 < 2e-16 *** Dokter 0.153406 0.024806 6.184 8.34e-07 *** Mantri -0.039722 0.007815 -5.083 1.84e-05 *** ---
26
Signif. codes:
0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
Residual standard error: 1.353 on 30 degrees of freedom Multiple R-squared: 0.6019, Adjusted R-squared: 0.5754 F-statistic: 22.68 on 2 and 30 DF, p-value: 9.994e-07
All Possible Regressions Best Subsets Regression: AHH versus RS, Puskes,Air, Bidan,Dokter,Mantri. Response is AHH
Vars 1 1 1 1 1
R-Sq 30.0 25.9 14.4 12.9 10.3
R-Sq(adj) 27.8 23.5 11.6 10.1 7.4
Mallows Cp 30.8 34.3 44.2 45.4 47.7
S 1.7648 1.8161 1.9525 1.9689 1.9985
P D u B o s i k k A d t R e i a e S s r n r X X X X X
2 2 2 2 2
60.2 56.6 52.2 45.8 42.6
57.5 53.7 49.0 42.2 38.8
7.0 10.1 13.8 19.3 22.1
1.3532 1.4134 1.4824 1.5787 1.6251
X X X X X X X X X X
3 3 3 3 3
64.5 63.4 61.3 60.8 60.3
60.8 59.6 57.3 56.7 56.2
5.4 6.3 8.1 8.5 8.9
1.3005 1.3198 1.3574 1.3661 1.3743
4 4 4 4 4
69.1 65.6 64.9 64.5 63.7
64.6 60.7 59.9 59.4 58.5
3.4 6.4 7.0 7.4 8.0
1.2347 1.3025 1.3153 1.3235 1.3372
X X X
X X X X X X X X
X X X X X
5 5 5 5 5
69.6 69.1 65.7 65.0 63.8
63.9 63.4 59.4 58.5 57.1
5.0 5.4 8.3 8.9 9.9
1.2472 1.2561 1.3236 1.3383 1.3605
X X X X X X X X X X X X
X X X X X
6
69.6
62.5
7.0
1.2709
X X X X X X
X
X X X X X X X X X X
X X X X
M a n t r i
X X X X X X X X X X X X
27
Lampiran 2 Proses pemilihan peubah bebas dari metode backward elimination, forward substitution, stepwise regression, dan all possible regression dengan peubah terikat Angka Kematian Bayi (AKB) Backward Elimination ># peubah terikat : Angka Kematian Bayi >kesehatan <- read.table("D:/AKB.txt", header=TRUE, sep="\t", na.strings="NA", dec=".", strip.white=TRUE) > kesehatan RS Puskes Air Bidan Dokter Mantri AKB 1 0.82 7.01 326.16 130.60 25.92 81.91 32.1 2 1.00 3.80 1251.13 78.14 22.11 39.20 22.7 3 0.86 0.57 796.69 69.18 23.68 42.03 26.3 4 0.54 3.53 212.73 46.19 19.79 41.78 21.8 5 0.89 4.06 2675.84 44.04 30.62 47.00 20.3 6 0.65 5.67 421.55 60.22 18.43 41.21 26.9 7 0.48 3.90 577.54 57.06 14.39 33.81 25.0 8 0.62 4.45 223.34 36.35 18.44 47.75 26.0 9 0.67 8.65 715.87 99.70 34.11 51.89 28.6 10 0.30 3.42 146.80 41.06 10.36 26.92 24.8 11 1.36 3.84 8494.06 13.22 38.07 2.49 8.2 12 0.35 2.44 454.72 25.43 14.79 18.42 27.1 13 0.28 2.02 768.59 29.36 15.69 15.11 31.3 14 0.56 2.58 600.32 36.75 17.22 29.96 20.7 15 0.98 3.46 626.78 27.27 39.07 29.06 8.5 16 0.46 2.53 814.73 33.00 18.12 25.87 24.5 17 0.97 3.24 2867.41 45.42 37.94 44.85 12.7 18 0.30 3.25 909.72 26.33 11.53 44.39 43.2 19 0.57 6.13 384.91 73.20 16.47 67.31 31.2 20 0.66 5.28 701.49 34.55 12.02 48.48 27.4 21 0.73 8.21 732.37 61.05 19.69 80.54 22.4 22 0.75 6.21 1161.51 52.63 15.58 39.98 33.9 23 1.00 6.62 2110.53 43.69 26.63 68.86 19.0 24 1.00 6.52 942.43 63.13 53.89 92.44 11.5 25 0.41 7.51 475.41 44.54 23.66 57.29 30.8 26 0.78 5.91 637.11 74.93 18.13 72.88 34.9 27 0.79 5.06 713.14 43.23 20.55 53.35 27.4 28 0.10 6.78 541.34 42.33 18.50 59.38 27.4 29 0.72 10.02 445.02 63.66 16.24 78.56 29.1 30 1.44 11.58 349.80 97.75 22.94 111.53 31.8 31 0.83 9.48 513.13 92.64 26.37 69.92 34.3 32 0.88 11.48 738.09 85.53 27.18 127.40 30.7 33 1.37 13.15 0.00 113.57 52.33 172.61 31.6 > > full <- lm(AKB ~ Air + Bidan + Dokter + Mantri + Puskes RS , data=kesehatan)
+
> backward <- update(full,.~.-Puskes) > backward <- update(backward,.~.-Air) > Fix <- lm(AKB ~ Bidan + Dokter + Mantri + RS, data = kesehatan) > summary(backward) Call: lm(formula = AKB ~ Bidan + Dokter + Mantri + RS, data = kesehatan)
Residuals: Min
1Q
Median
3Q
Max
28
-8.0296 -3.1315 -0.6399
2.7027 13.3426
Coefficients: Estimate Std. Error t value (Intercept) 29.94541 2.43864 12.280 Bidan 0.10045 0.04392 2.287 Dokter -0.44543 0.10746 -4.145 Mantri 0.09918 0.03745 2.648 RS -6.66568 3.72164 -1.791 --Signif. codes: 0 '***' 0.001 '**' 0.01
Pr(>|t|) 8.64e-13 0.029952 0.000284 0.013138 0.084101
*** * *** * .
'*' 0.05 '.' 0.1 ' ' 1
Residual standard error: 4.673 on 28 degrees of freedom Multiple R-squared: 0.678, Adjusted R-squared: 0.6319 F-statistic: 14.74 on 4 and 28 DF, p-value: 1.354e-06 Forward Substitution > #Forward Substitution > null <- lm(AKB ~ 1, data=kesehatan) > cor(kesehatan[,c("AKB","Air","Bidan","Dokter","Mantri","Puskes","R S")], use="complete.obs") > > > >
forward forward forward forward
<<<<-
update(null,.~.+Air) update(forward,.~.+Dokter) update(forward,.~.+Mantri) update(forward,.~.+Bidan)
>Fix <- lm(AKB ~ Air + Dokter + Mantri, data = kesehatan) > summary(Fix) Call: lm(formula = AKB ~ Air + Dokter + Mantri, data = kesehatan) Residuals: Min 1Q Median -8.8545 -3.3785 -0.3668
3Q Max 3.6745 12.5316
Coefficients: Estimate Std. Error t value Pr(>|t|) (Intercept) 31.3909972 2.3383309 13.425 5.67e-14 *** Air -0.0005817 0.0007648 -0.761 0.453040 Dokter -0.5208117 0.1112513 -4.681 6.14e-05 *** Mantri 0.1309203 0.0352657 3.712 0.000868 *** --Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1 Residual standard error: 5.106 on 29 degrees of freedom Multiple R-squared: 0.6017, Adjusted R-squared: 0.5605 F-statistic: 14.61 on 3 and 29 DF, p-value: 5.562e-06 Stepwise Regression #Stepwise Regression > null <- lm(AKB ~ 1, data=kesehatan) > cor(kesehatan[,c("AKB","Air","Bidan","Dokter","Mantri","Puskes","R S")], use="complete.obs")
29
> > > > > >
forward <- update(null,.~.+Air) forward <- update(forward,.~.+Dokter) forward <- update(forward,.~.+Mantri) backward <- update(forward,.~.-Air) forward <- update(backward,.~.+Bidan) backward <- update(forward,.~.-Bidan)
> Fix <- lm(AKB ~ Dokter + Mantri, data = kesehatan) > summary(Fix) Call: lm(formula = AKB ~ Dokter + Mantri, data = kesehatan) Residuals: Min 1Q Median -9.228 -3.509 -1.536
3Q Max 3.504 12.214
Coefficients: Estimate Std. Error t value (Intercept) 31.05400 2.27978 13.621 Dokter -0.56654 0.09295 -6.095 Mantri 0.14563 0.02928 4.973 --Signif. codes: 0 '***' 0.001 '**' 0.01
Pr(>|t|) 2.21e-14 *** 1.07e-06 *** 2.51e-05 *** '*' 0.05 '.' 0.1 ' ' 1
Residual standard error: 5.07 on 30 degrees of freedom Multiple R-squared: 0.5938, Adjusted R-squared: 0.5667 F-statistic: 21.93 on 2 and 30 DF, p-value: 1.353e-06 All Possible Regression Best Subsets Regression: AKB versus RS,Puskes,Air,Dokter,Bidan,Mantri Response is AKB
Vars 1 1 1 1 1
R-Sq 28.3 25.9 14.6 11.8 10.5
R-Sq(adj) 26.0 23.5 11.8 9.0 7.7
Mallows Cp 30.0 32.0 41.3 43.6 44.6
S 6.6249 6.7374 7.2328 7.3499 7.4023
P D u B o s i k k A d t R e i a e S s r n r X X X X X
M a n t r i
2 2 2 2 2
59.4 56.9 52.6 44.3 41.2
56.7 54.0 49.5 40.6 37.3
6.4 8.5 12.0 18.9 21.4
5.0704 5.2230 5.4748 5.9389 6.0979
X X X X X X X X X X
3 3 3 3 3
64.1 61.8 61.2 60.2 59.7
60.4 57.8 57.2 56.1 55.6
4.5 6.5 6.9 7.8 8.1
4.8478 5.0024 5.0385 5.1064 5.1349
X X X X X X X X X X X X X X
X
30
4 4 4 4 4
67.8 65.1 64.3 64.1 62.8
63.2 60.2 59.2 59.0 57.5
3.5 5.7 6.3 6.5 7.6
4.6731 4.8621 4.9173 4.9309 5.0208
X X X
X X X X X X X X X
5 5 5 5 5
68.4 68.0 65.2 64.5 62.4
62.5 62.0 58.8 57.9 55.4
5.0 5.4 7.6 8.2 10.0
4.7158 4.7471 4.9463 4.9981 5.1434
X X X X X X X X X X X X
6
68.4
61.1
7.0
4.8033
X X X X X X
X X X X
X X X X X X X X X X X X X
X X X X
31
Lampiran 3 Proses pemilihan peubah bebas dari metode backward elimination, forward substitution, stepwise regression, dan all possible regressions dengan peubah terikat Angka Melek Huruf (AMH) Backward Elimination # peubah terikat : Angka Melek Huruf (AMH) > pendidikan <- read.table("D:/Angka melek huruf.txt", header=TRUE, sep="\t", na.strings="NA", dec=".", strip.white=TRUE) > pendidikan 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33
SD 73.01 68.76 85.22 64.08 44.60 83.67 63.14 69.49 79.54 61.82 32.93 48.80 45.68 60.47 65.27 51.38 69.25 67.79 100.59 94.84 121.86 85.07 69.41 103.98 87.84 108.68 76.71 110.44 96.39 119.55 138.29 97.01 109.05
SMP 18.30 16.10 13.67 15.80 15.62 18.61 15.15 15.23 20.22 15.48 11.20 8.51 10.04 8.96 12.11 9.31 9.84 11.48 17.97 22.46 22.80 15.03 19.65 26.95 23.76 19.48 15.09 20.93 23.04 36.95 25.32 19.74 22.47
SMA 11.04 12.47 8.80 8.17 9.22 10.62 9.44 9.53 11.02 8.60 11.76 5.86 7.29 5.79 10.38 6.09 8.08 7.40 8.58 10.30 11.76 6.38 12.86 13.18 7.71 10.17 8.93 10.75 12.29 19.38 17.82 10.84 11.37
PT GSD GSMP GSMA GPT SD_S1 SMP_S1 SMA_S1 1.63 841.54 407.83 345.93 121.31 0.37 1.62 1.92 1.69 650.11 334.99 349.27 89.09 0.18 0.53 0.60 2.04 913.61 379.29 375.76 121.18 0.46 1.41 1.80 1.33 740.85 260.66 218.98 50.55 0.39 1.17 1.61 1.03 536.10 252.91 228.69 75.01 1.68 4.94 5.44 1.29 928.21 311.66 285.37 66.89 0.66 2.37 2.90 1.67 743.41 303.50 280.97 90.29 0.26 1.05 1.13 0.98 677.76 223.96 236.70 40.36 0.78 5.73 6.70 1.04 828.30 368.05 328.46 89.04 1.25 4.66 4.90 1.03 709.47 297.87 259.08 50.41 0.24 0.84 0.95 3.66 325.92 244.16 382.59 396.17 0.48 0.85 0.91 0.98 451.62 196.44 161.71 81.48 0.07 0.19 0.20 1.07 504.79 209.03 177.89 48.05 0.28 0.78 0.83 0.80 579.04 233.77 193.06 83.43 0.07 0.24 0.26 3.83 793.54 314.20 382.21 466.57 1.17 2.19 2.48 0.91 544.21 225.95 195.53 86.49 0.11 0.23 0.24 1.25 647.36 356.85 339.90 84.56 0.84 2.19 2.23 0.89 817.12 305.84 242.47 50.42 0.57 1.75 1.95 0.79 882.12 302.96 216.95 43.14 0.40 1.26 1.61 1.01 776.88 251.49 215.57 47.68 0.35 1.34 1.74 1.36 749.28 237.59 240.90 68.78 0.41 3.74 3.39 0.96 853.12 229.44 190.36 59.30 0.57 2.23 2.43 1.91 756.17 316.32 299.55 127.54 0.57 2.68 2.73 2.08 832.01 374.68 319.25 172.78 0.76 2.79 3.73 1.23 850.95 358.36 246.96 80.23 2.94 6.66 9.12 0.98 781.30 313.45 255.38 81.12 0.47 3.01 3.44 2.33 792.66 322.72 268.69 106.20 0.37 1.03 1.14 1.26 1145.36 418.69 303.32 17.83 2.66 6.63 7.48 1.40 1099.92 444.68 361.11 84.87 0.99 3.77 4.24 1.51 1161.68 501.61 448.61 119.40 1.22 4.13 5.17 1.25 739.89 339.83 382.45 129.01 0.44 7.53 8.63 1.80 652.46 281.01 264.43 80.23 0.96 3.23 3.87 2.19 712.91 338.10 313.99 140.55 2.70 9.20 10.78
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21
APKSD APKSMP APKSMA APMSD APMSMP APMSMA AMH 114.38 87.41 76.15 94.16 76.67 62.05 95.94 112.26 87.54 68.31 94.25 73.95 54.84 97.04 109.86 78.88 70.01 94.70 66.95 53.87 96.66 112.34 83.57 67.09 95.24 69.70 50.08 97.76 115.15 85.54 70.16 94.95 72.00 54.35 95.81 110.51 77.76 57.41 94.17 65.60 44.08 95.31 111.88 82.60 52.96 93.05 64.92 42.22 97.05 111.67 70.09 52.64 91.53 52.04 37.14 95.34 110.43 84.24 62.11 94.63 68.64 47.96 94.60 106.66 82.21 55.82 94.23 68.78 40.21 93.63 109.80 89.35 63.96 93.71 71.35 49.74 98.74 105.97 80.60 46.35 94.04 67.21 37.28 95.53 107.28 78.56 51.09 93.34 58.28 37.54 95.21 109.76 82.29 56.98 95.12 69.14 43.51 89.24 112.78 93.22 74.06 94.28 74.42 57.72 89.45 109.70 84.56 61.32 94.53 68.90 47.02 87.31 110.29 78.10 70.44 94.82 67.03 55.04 86.94 105.75 82.32 62.24 94.36 70.51 48.45 79.85 108.42 62.50 51.87 91.67 49.56 33.51 87.66 115.71 70.46 52.23 93.94 54.77 36.23 88.52 115.98 74.45 52.70 95.61 60.12 39.18 97.27
32
22 23 24 25 26 27 28 29 30 31 32 33
111.34 110.95 111.69 108.89 109.34 109.25 106.83 113.34 112.96 110.78 99.42 111.41
75.49 87.53 83.98 63.93 75.23 72.43 59.46 77.16 82.80 83.56 63.72 70.63
47.47 69.89 69.98 52.80 56.42 52.47 43.52 59.78 79.66 71.06 54.10 62.85
94.15 93.59 91.24 90.44 92.83 92.15 92.90 94.24 93.77 92.44 82.90 91.20
59.53 71.19 66.39 52.35 59.08 60.62 51.72 65.95 70.01 65.01 48.56 54.47
34.95 53.94 49.44 37.43 39.53 41.84 33.74 47.56 59.60 50.62 35.23 43.14
95.08 96.36 99.15 95.51 95.68 86.53 87.31 91.15 97.31 95.44 72.47 92.15
> > full <- lm(AMH ~ SD + SMP + SMA + PT + GSD + GSMP + GSMA + GPT + SD_S1 + SMP_S1 + SMA_S1 + APKSD + APKSMA + APKSMP + APMSD + APMSMP + APMSMA , data=pendidikan) > > > > > > > > >
backward backward backward backward backward backward backward backward backward
<<<<<<<<<-
update(backward,.~.-APKSD) update(backward,.~.-GSMP) update(backward,.~.-SD) update(backward,.~.-SMA) update(backward,.~.-SD_S1) update(backward,.~.-GSMA) update(backward,.~.-APKSMA) update(backward,.~.-GSD) update(backward,.~.-SMP)
> Fix <- lm(AMH ~ PT + GPT + SMP_S1 + SMA_S1 + APKSMP + APMSD + APMSMP, data = pendidikan) > summary(Fix) Call: lm(formula = AMH ~ PT + GPT + SMP_S1 + SMA_S1 + APKSMP + APMSD + APMSMP, data = pendidikan) Residuals: Min 1Q -11.2449 -1.7115
Median 0.8202
3Q 1.7074
Max 5.7231
Coefficients: Estimate Std. Error t value Pr(>|t|) (Intercept) -128.60165 43.72073 -2.941 0.006947 ** PT 5.60469 2.67919 2.092 0.046761 * GPT -0.05099 0.02326 -2.193 0.037862 * SMP_S1 -6.74846 2.67722 -2.521 0.018464 * SMA_S1 6.46978 2.29795 2.815 0.009364 ** APKSMP 1.10420 0.31545 3.500 0.001764 ** APMSD 2.04146 0.48757 4.187 0.000306 *** APMSMP -0.95103 0.32599 -2.917 0.007357 ** --Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1 Residual standard error: 4.175 on 25 degrees of freedom Multiple R-squared: 0.5917, Adjusted R-squared: 0.4773 F-statistic: 5.175 on 7 and 25 DF, p-value: 0.0009669 Forward Substitution #forward Regression > null <- lm(AMH~1,data=pendidikan)
33
>cor(pendidikan[,c("AMH","APKSD","APKSMA","APKSMP","APMSD","APMSMA ","APMSMP","GPT","GSD","GSMA","GSMP","PT","SD","SD_S1","SMA","SMA_ S1","SMP","SMP_S1")], use="complete.obs") > forward <- update(null,.~.+APKSD) > forward <- update(forward,.~.+APKSMP) > Fix <- lm(AMH ~ APKSD, data = pendidikan) > summary(Fix) Call: lm(formula = AMH ~ APKSD, data = pendidikan) Residuals: Min 1Q Median -9.768 -2.971 1.382
3Q 3.072
Max 7.473
Coefficients: Estimate Std. Error t value (Intercept) -23.251 28.162 -0.826 APKSD 1.050 0.255 4.119 --Signif. codes: 0 '***' 0.001 '**' 0.01
Pr(>|t|) 0.415321 0.000262 *** '*' 0.05 '.' 0.1 ' ' 1
Residual standard error: 4.717 on 31 degrees of freedom Multiple R-squared: 0.3537, Adjusted R-squared: 0.3329 F-statistic: 16.97 on 1 and 31 DF, p-value: 0.0002622 Stepwise Regression #Stepwise Regression > null <- lm(AMH~1,data=pendidikan) >Cor(pendidikan[,c("AMH","APKSD","APKSMA","APKSMP","APMSD","APMSMA ","APMSMP","GPT","GSD","GSMA","GSMP","PT","SD","SD_S1","SMA","SMA_ S1","SMP","SMP_S1")], use="complete.obs") > forward <- update(null,.~.+APKSD) > forward <- update(forward,.~.+APKSMP) > Fix <- lm(AMH ~ APKSD, data = pendidikan) > summary(Fix) Call: lm(formula = AMH ~ APKSD, data = pendidikan) Residuals: Min 1Q Median -9.768 -2.971 1.382
3Q 3.072
Max 7.473
Coefficients: Estimate Std. Error t value (Intercept) -23.251 28.162 -0.826 APKSD 1.050 0.255 4.119 --Signif. codes: 0 '***' 0.001 '**' 0.01
Pr(>|t|) 0.415321 0.000262 *** '*' 0.05 '.' 0.1 ' ' 1
Residual standard error: 4.717 on 31 degrees of freedom Multiple R-squared: 0.3537, Adjusted R-squared: 0.3329 F-statistic: 16.97 on 1 and 31 DF, p-value: 0.0002622
34
All Possible Regression Best Subsets Regression: AMH versus SD, SMP, ... Response is AMH S G G D S S G S S G _ S M M P S M M P S D P A T D P A T 1
Vars 1 1 1 1 1
R-Sq 35.4 24.9 17.7 12.5 7.8
R-Sq(adj) 33.3 22.5 15.0 9.7 4.8
Mallows Cp 6.3 12.0 16.0 18.8 21.4
S 4.7169 5.0837 5.3230 5.4884 5.6352
2 2 2 2 2
40.3 38.5 37.8 37.2 36.8
36.3 34.4 33.7 33.0 32.5
5.6 6.6 7.0 7.3 7.6
4.6094 4.6772 4.7040 4.7264 4.7431
3 3 3 3 3
49.5 44.2 43.5 42.8 42.2
44.2 38.4 37.7 36.9 36.2
2.6 5.5 5.9 6.2 6.6
4.3126 4.5310 4.5589 4.5864 4.6136
X X
4 4 4 4 4
51.7 51.1 50.8 50.3 50.1
44.8 44.1 43.7 43.3 42.9
3.4 3.7 3.9 4.1 4.3
4.2912 4.3161 4.3325 4.3502 4.3624
X X X X X X
5 5 5 5 5
55.2 54.7 53.8 53.6 53.4
46.9 46.4 45.3 45.0 44.8
3.5 3.7 4.2 4.4 4.5
4.2065 4.2297 4.2716 4.2824 4.2912
X X X
X
X
X
6 6 6 6 6
57.0 56.8 56.7 56.5 56.4
47.0 46.8 46.7 46.4 46.3
4.5 4.6 4.7 4.8 4.8
4.2032 4.2120 4.2168 4.2264 4.2321
X X X
X
7 7 7 7 7
60.9 60.7 60.7 60.4 60.3
50.0 49.8 49.7 49.3 49.2
4.4 4.5 4.5 4.7 4.7
4.0851 4.0935 4.0956 4.1134 4.1164
X X X X X X X X X
8 8 8 8 8
64.5 64.5 62.9 62.8 62.8
52.7 52.7 50.5 50.4 50.4
4.4 4.4 5.3 5.3 5.3
3.9708 3.9717 4.0611 4.0661 4.0681
X X X X
9 9 9 9 9
66.5 66.4 65.9 65.6 65.6
53.4 53.2 52.5 52.2 52.1
5.3 5.4 5.6 5.8 5.8
3.9410 3.9498 3.9781 3.9945 3.9958
X X X X X
10 10 10
68.6 68.2 68.1
54.3 53.8 53.6
6.2 6.4 6.4
3.9024 3.9264 3.9327
X
S M P _ S 1
S M A _ S 1
A P K S D X
A P K S M P
A P K S M A
A P M S D
A P M S M P
A P M S M A
X X X X X X X X X X
X X X
X
X X
X X X
X X
X X X X X X X X X
X X
X
X
X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X
X X X
X
X X X X X X X X X X X X X X X X X X
X X X
X X X
X X X X X X X
X
X X X X X X
X X
X
X X X
X
X X X X
X X X X X X
X X X X
X X X
X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X
X X X X X X X X X X X X X X X X X X X
X X X X X X X X X X X X X X X X X X X X X X
35
10 10
67.9 67.8
53.4 53.2
6.5 6.6
3.9443 3.9509
X X X
X X X X
X X X X X X X
11 11 11 11 11
70.1 69.7 69.7 69.4 69.2
54.4 53.8 53.8 53.4 53.1
7.3 7.6 7.6 7.7 7.8
3.8992 3.9242 3.9261 3.9434 3.9538
X X X X X
X X X X X
X X X X X X X X X
X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X
12 12 12 12 12
70.8 70.7 70.6 70.5 70.4
53.4 53.1 52.9 52.8 52.6
8.9 9.0 9.1 9.1 9.2
3.9441 3.9564 3.9624 3.9683 3.9758
X X X X X X
X X X X X
X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X
13 13 13 13 13
71.5 71.4 71.2 71.2 71.1
52.0 51.8 51.5 51.5 51.3
10.6 10.6 10.7 10.7 10.8
4.0023 4.0094 4.0219 4.0233 4.0293
X X X X X X X X X X X X X X X X X X X X X X X X X X X X
14 14 14 14 14
72.3 72.0 71.8 71.8 71.7
50.8 50.2 49.9 49.9 49.7
12.1 12.3 12.4 12.4 12.5
4.0516 4.0759 4.0860 4.0877 4.0964
X X X X X X X X X X X X
15 15 15 15 15
72.4 72.4 72.4 72.1 72.0
48.1 48.1 48.1 47.4 47.4
14.1 14.1 14.1 14.3 14.3
4.1589 4.1601 4.1621 4.1874 4.1895
X X X X X
X X X X X
16 16 16 16 16
72.5 72.5 72.5 72.1 72.1
45.1 45.0 44.9 44.2 44.1
16.0 16.0 16.0 16.3 16.3
4.2802 4.2813 4.2859 4.3157 4.3164
X X X X X
X X X X X
17
72.6
41.4
18.0
4.4192
X X X X X X X X X X X X X X X X X
X
X X X X X X X X X X X
X X X X X
X X X X X
X X X X X X X X X X X X X X X X X
X X X X X
X X X X X
X X X X X
X X X X X X X X X X X X X X X X X X X X
X X X X X
X X X X X X X X X X X X
X X X X X
X X X X X
X X X X X X
X X X X X
X X X X X
X X X X X X X X X X X X X X X X X X X X X
X X X X X
X X X X X X X X X X X X X X X X X
X X X X X
X X X X X X X
X X X X X
X X X X X
X X X X X
X X X X X
X X X X X
X X X X X
X X X X X
X X X X X X X X X X X X X
X X X X X
X X X X X X X X X
X X X X
X X X X
36
Lampiran 4 Proses pemilihan peubah bebas dari metode backward elimination, forward substitution, stepwise regression, dan all possible regressions dengan peubah terikat lama sekolah Backward Elimination # peubah terikat : Lama sekolah (Lama) > pendidikan <- read.table("D:/Lama sekolah.txt", header=TRUE, sep="\t", na.strings="NA", dec=".", strip.white=TRUE) > pendidikan 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33
SD 73.01 68.76 85.22 64.08 44.60 83.67 63.14 69.49 79.54 61.82 32.93 48.80 45.68 60.47 65.27 51.38 69.25 67.79 100.59 94.84 121.86 85.07 69.41 103.98 87.84 108.68 76.71 110.44 96.39 119.55 138.29 97.01 109.05
SMP 18.30 16.10 13.67 15.80 15.62 18.61 15.15 15.23 20.22 15.48 11.20 8.51 10.04 8.96 12.11 9.31 9.84 11.48 17.97 22.46 22.80 15.03 19.65 26.95 23.76 19.48 15.09 20.93 23.04 36.95 25.32 19.74 22.47
SMA 11.04 12.47 8.80 8.17 9.22 10.62 9.44 9.53 11.02 8.60 11.76 5.86 7.29 5.79 10.38 6.09 8.08 7.40 8.58 10.30 11.76 6.38 12.86 13.18 7.71 10.17 8.93 10.75 12.29 19.38 17.82 10.84 11.37
PT GSD GSMP GSMA GPT SD_S1 SMP_S1 SMA_S1 1.63 841.54 407.83 345.93 121.31 0.37 1.62 1.92 1.69 650.11 334.99 349.27 89.09 0.18 0.53 0.60 2.04 913.61 379.29 375.76 121.18 0.46 1.41 1.80 1.33 740.85 260.66 218.98 50.55 0.39 1.17 1.61 1.03 536.10 252.91 228.69 75.01 1.68 4.94 5.44 1.29 928.21 311.66 285.37 66.89 0.66 2.37 2.90 1.67 743.41 303.50 280.97 90.29 0.26 1.05 1.13 0.98 677.76 223.96 236.70 40.36 0.78 5.73 6.70 1.04 828.30 368.05 328.46 89.04 1.25 4.66 4.90 1.03 709.47 297.87 259.08 50.41 0.24 0.84 0.95 3.66 325.92 244.16 382.59 396.17 0.48 0.85 0.91 0.98 451.62 196.44 161.71 81.48 0.07 0.19 0.20 1.07 504.79 209.03 177.89 48.05 0.28 0.78 0.83 0.80 579.04 233.77 193.06 83.43 0.07 0.24 0.26 3.83 793.54 314.20 382.21 466.57 1.17 2.19 2.48 0.91 544.21 225.95 195.53 86.49 0.11 0.23 0.24 1.25 647.36 356.85 339.90 84.56 0.84 2.19 2.23 0.89 817.12 305.84 242.47 50.42 0.57 1.75 1.95 0.79 882.12 302.96 216.95 43.14 0.40 1.26 1.61 1.01 776.88 251.49 215.57 47.68 0.35 1.34 1.74 1.36 749.28 237.59 240.90 68.78 0.41 3.74 3.39 0.96 853.12 229.44 190.36 59.30 0.57 2.23 2.43 1.91 756.17 316.32 299.55 127.54 0.57 2.68 2.73 2.08 832.01 374.68 319.25 172.78 0.76 2.79 3.73 1.23 850.95 358.36 246.96 80.23 2.94 6.66 9.12 0.98 781.30 313.45 255.38 81.12 0.47 3.01 3.44 2.33 792.66 322.72 268.69 106.20 0.37 1.03 1.14 1.26 1145.36 418.69 303.32 17.83 2.66 6.63 7.48 1.40 1099.92 444.68 361.11 84.87 0.99 3.77 4.24 1.51 1161.68 501.61 448.61 119.40 1.22 4.13 5.17 1.25 739.89 339.83 382.45 129.01 0.44 7.53 8.63 1.80 652.46 281.01 264.43 80.23 0.96 3.23 3.87 2.19 712.91 338.10 313.99 140.55 2.70 9.20 10.78
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22
APKSD APKSMP APKSMA APMSD APMSMP APMSMA LAMA 114.38 87.41 76.15 94.16 76.67 62.05 8.3 112.26 87.54 68.31 94.25 73.95 54.84 8.5 109.86 78.88 70.01 94.70 66.95 53.87 8.3 112.34 83.57 67.09 95.24 69.70 50.08 8.5 115.15 85.54 70.16 94.95 72.00 54.35 8.1 110.51 77.76 57.41 94.17 65.60 44.08 7.6 111.88 82.60 52.96 93.05 64.92 42.22 7.6 111.67 70.09 52.64 91.53 52.04 37.14 7.4 110.43 84.24 62.11 94.63 68.64 47.96 7.8 106.66 82.21 55.82 94.23 68.78 40.21 7.2 109.80 89.35 63.96 93.71 71.35 49.74 10.2 105.97 80.60 46.35 94.04 67.21 37.28 7.5 107.28 78.56 51.09 93.34 58.28 37.54 7.7 109.76 82.29 56.98 95.12 69.14 43.51 6.9 112.78 93.22 74.06 94.28 74.42 57.72 8.7 109.70 84.56 61.32 94.53 68.90 47.02 7.0 110.29 78.10 70.44 94.82 67.03 55.04 7.8 105.75 82.32 62.24 94.36 70.51 48.45 6.5 108.42 62.50 51.87 91.67 49.56 33.51 6.4 115.71 70.46 52.23 93.94 54.77 36.23 6.6 115.98 74.45 52.70 95.61 60.12 39.18 7.7 111.34 75.49 47.47 94.15 59.53 34.95 7.4
37
23 24 25 26 27 28 29 30 31 32 33
110.95 111.69 108.89 109.34 109.25 106.83 113.34 112.96 110.78 99.42 111.41
87.53 83.98 63.93 75.23 72.43 59.46 77.16 82.80 83.56 63.72 70.63
69.89 69.98 52.80 56.42 52.47 43.52 59.78 79.66 71.06 54.10 62.85
93.59 91.24 90.44 92.83 92.15 92.90 94.24 93.77 92.44 82.90 91.20
71.19 66.39 52.35 59.08 60.62 51.72 65.95 70.01 65.01 48.56 54.47
53.94 49.44 37.43 39.53 41.84 33.74 47.56 59.60 50.62 35.23 43.14
8.7 8.7 6.9 7.8 7.3 7.0 7.7 8.5 7.9 6.3 7.7
> > full <- lm(LAMA ~ SD + SMP + SMA + PT + GSD + GSMP + GSMA + GPT + SD_S1 + SMP_S1 + SMA_S1 + APKSD + APKSMA + APKSMP + APMSD + APMSMP + APMSMA , data=pendidikan) > > > > > > > > > > > >
backward backward backward backward backward backward backward backward backward backward backward backward
<<<<<<<<<<<<-
update(full,.~.-SMP_S1) update(backward,.~.-GSMP) update(backward,.~.-APKSMA) update(backward,.~.-SMA) update(backward,.~.-SD_S1) update(backward,.~.-SMA_S1) update(backward,.~.-APKSD) update(backward,.~.-APMSMA) update(backward,.~.-APMSMP) update(backward,.~.-GPT) update(backward,.~.-APKSMP) update(backward,.~.-SD)
> Fix <- lm( LAMA ~ SMP + PT + GSD + GSMA + APMSD, data = pendidikan) > summary(Fix) Call: lm(formula = LAMA ~ SMP + PT + GSD + GSMA + APMSD, data = pendidikan) Residuals: Min 1Q -0.90310 -0.34497
Median 0.01435
3Q 0.24628
Max 0.83103
Coefficients: Estimate Std. Error t value Pr(>|t|) (Intercept) -9.3662542 3.4770700 -2.694 0.011998 * SMP 0.0477780 0.0189538 2.521 0.017924 * PT 0.5277214 0.1536658 3.434 0.001934 ** GSD -0.0021876 0.0005854 -3.737 0.000885 *** GSMA 0.0038507 0.0017528 2.197 0.036792 * APMSD 0.1717334 0.0370559 4.634 8.13e-05 *** --Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1 Residual standard error: 0.4266 on 27 degrees of freedom Multiple R-squared: 0.7696, Adjusted R-squared: 0.7269 F-statistic: 18.04 on 5 and 27 DF, p-value: 7.334e-08 Forward Substitution >#Forward substitution > null <- lm(LAMA~1,data=pendidikan)
38
>cor(pendidikan[,c("APKSD","APKSMA","APKSMP","APMSD","APMSMA","APM SMP","GPT","GSD","GSMA","GSMP","LAMA","PT","SD","SD_S1","SMA","SMA _S1","SMP","SMP_S1")], use="complete.obs") > forward <- update(null,.~.+APKSMP) > forward <- update(forward,.~.+PT) > forward <- update(forward,.~.+SMA) > forward <- update(forward,.~.+APMSD) > Fix <- lm(LAMA ~ APKSMP + PT + SMA, data = pendidikan) > summary(Fix) Call: lm(formula = LAMA ~ APKSMP + PT + SMA, data = pendidikan) Residuals: Min 1Q -0.9406 -0.3753
Median 0.0349
3Q 0.3208
Max 0.8481
Coefficients: Estimate Std. Error t value (Intercept) 2.48119 0.81010 3.063 APKSMP 0.04960 0.01059 4.683 PT 0.46581 0.12582 3.702 SMA 0.06246 0.02859 2.185 --Signif. codes: 0 '***' 0.001 '**' 0.01
Pr(>|t|) 0.004699 6.12e-05 0.000892 0.037138
** *** *** *
'*' 0.05 '.' 0.1 ' ' 1
Residual standard error: 0.4622 on 29 degrees of freedom Multiple R-squared: 0.7096, Adjusted R-squared: 0.6795 F-statistic: 23.62 on 3 and 29 DF, p-value: 6.155e-08 Stepwise Regression >#Stepwise substitution > null <- lm(LAMA~1,data=pendidikan) >cor(pendidikan[,c("APKSD","APKSMA","APKSMP","APMSD","APMSMA","APM SMP","GPT","GSD","GSMA","GSMP","LAMA","PT","SD","SD_S1","SMA","SMA _S1","SMP","SMP_S1")], use="complete.obs") > > > > > >
forward <- update(null,.~.+APKSMP) Anova(forward, type="II") forward <- update(forward,.~.+PT) forward <- update(forward,.~.+SMA) forward <- update(forward,.~.+APMSD) backward <- update(forward,.~.-APMSD)
> Fix <- lm(LAMA ~ APKSMP + PT + SMA, data = pendidikan) > summary(Fix) Call: lm(formula = LAMA ~ APKSMP + PT + SMA, data = pendidikan) Residuals: Min 1Q -0.9406 -0.3753
Median 0.0349
3Q 0.3208
Max 0.8481
Coefficients: Estimate Std. Error t value Pr(>|t|) (Intercept) 2.48119 0.81010 3.063 0.004699 ** APKSMP 0.04960 0.01059 4.683 6.12e-05 *** PT 0.46581 0.12582 3.702 0.000892 ***
39
SMA 0.06246 0.02859 2.185 0.037138 * --Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1 Residual standard error: 0.4622 on 29 degrees of freedom Multiple R-squared: 0.7096, Adjusted R-squared: 0.6795 F-statistic: 23.62 on 3 and 29 DF, p-value: 6.155e-08 All Possible Regression Best Subsets Regression: LAMA versus SD, SMP, ... Response is LAMA
S G G D S S G S S G _ S M M P S M M P S D P A T D P A T 1
Vars 1 1 1 1 1
R-Sq 46.7 44.4 43.4 42.7 39.3
R-Sq(adj) 45.0 42.6 41.6 40.8 37.3
Mallows Cp 16.1 18.0 18.8 19.5 22.3
S 0.60573 0.61830 0.62387 0.62808 0.64632
2 2 2 2 2
66.2 63.3 62.1 61.8 60.2
63.9 60.9 59.6 59.3 57.6
1.6 4.0 5.0 5.3 6.6
0.49038 0.51066 0.51880 0.52101 0.53174
X X X
3 3 3 3 3
71.0 70.6 70.2 69.5 69.1
68.0 67.5 67.1 66.4 65.9
-0.4 -0.1 0.2 0.8 1.1
0.46218 0.46535 0.46804 0.47341 0.47678
X X X X X X X
4 4 4 4 4
76.2 75.4 74.5 73.3 73.2
72.8 71.8 70.8 69.5 69.4
-2.9 -2.2 -1.4 -0.5 -0.4
0.42590 0.43324 0.44095 0.45075 0.45161
X
5 5 5 5 5
77.7 77.3 77.1 77.0 77.0
73.6 73.1 72.9 72.8 72.7
-2.2 -1.8 -1.7 -1.6 -1.5
0.41960 0.42313 0.42513 0.42611 0.42662
X
6 6 6 6 6
79.3 78.8 78.6 78.5 78.3
74.5 73.9 73.7 73.6 73.3
-1.5 -1.1 -0.9 -0.9 -0.6
0.41241 0.41718 0.41875 0.41953 0.42207
X X X X X X X X X X
7 7 7 7 7
79.9 79.8 79.7 79.7 79.7
74.2 74.1 74.0 74.0 74.0
0.0 0.1 0.2 0.2 0.2
0.41442 0.41521 0.41607 0.41624 0.41659
X X X X X X X X X X X X X X X X X X X X X
8 8 8 8 8
80.6 80.6 80.6 80.6 80.6
74.2 74.2 74.1 74.1 74.1
1.4 1.4 1.4 1.4 1.4
0.41497 0.41497 0.41540 0.41543 0.41576
X X X X X
S M P _ S 1
S M A _ S 1
A P K S D
A P K S M P X
A P K S M A
A P M S D
A P M S M P
A P M S M A X
X X X X X X X
X X
X X X X X
X X
X X X X X X
X X X X X X X X X X
X X X X X
X
X X X X X
X X X X X
X X X X X
X X X X X X
X X X X
X X X X
X
X X X X X X
X X X X X X X X
X X X X X X X
X X X X X
X X
X X X X X X
X
X X X X X
X
X X X X X X X X X X X X X X X X X X X
X X
40
9 9 9 9 9
81.4 81.0 80.8 80.8 80.8
74.1 73.5 73.3 73.3 73.3
2.8 3.1 3.2 3.2 3.2
0.41576 0.42003 0.42169 0.42204 0.42208
X X X X X
X X X X X
X X X X X
X X X X X X
X X X X X X X X X X X X X X X X
10 10 10 10 10
81.5 81.5 81.5 81.4 81.4
73.1 73.1 73.0 73.0 73.0
4.6 4.7 4.7 4.7 4.7
0.42358 0.42376 0.42408 0.42433 0.42441
X X X X X
X X X X X
X X X X X
X X X X X
X X X X X
X X X X X
11 11 11 11 11
81.8 81.7 81.6 81.6 81.6
72.2 72.1 72.0 72.0 71.9
6.4 6.5 6.5 6.5 6.6
0.43045 0.43120 0.43215 0.43219 0.43286
X X X X X
X X X X X
X X X X X
X X X X X
X X X X X
X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X
12 12 12 12 12
81.8 81.8 81.8 81.8 81.8
70.9 70.9 70.8 70.8 70.8
8.4 8.4 8.4 8.4 8.4
0.44057 0.44073 0.44088 0.44100 0.44103
X X X X X
X X X X X
X X X X X
X X X X X
X X X X X
X X X X X X X X X X X X X X X X X X X X X
13 13 13 13 13
82.2 82.1 82.1 82.1 82.0
70.0 69.9 69.8 69.8 69.7
10.1 10.1 10.1 10.2 10.2
0.44749 0.44819 0.44846 0.44882 0.44913
X X X X X
X X X X X
X X X X X
X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X X
14 14 14 14 14
82.2 82.2 82.2 82.2 82.2
68.4 68.4 68.3 68.3 68.3
12.0 12.0 12.1 12.1 12.1
0.45909 0.45910 0.45943 0.45969 0.45986
X X X X X
X X X X X X X X X X X X X X X X X X
X X X X X
X X X X X
X X X X X X X X X X X X X X X X
X X X X X X X X X X X X
15 15 15 15 15
82.2 82.2 82.2 82.2 82.2
66.6 66.6 66.5 66.5 66.5
14.0 14.0 14.0 14.0 14.0
0.47204 0.47206 0.47228 0.47238 0.47239
X X X X X
X X X X X X X X X X X X X X X X X X X X X
X X X X X
X X X X X
X X X X X X X X X X X X X X X X X
X X X X X X X X X X X X X X X X X X X X X X
16 16 16 16 16
82.3 82.2 82.2 82.2 82.2
64.5 64.5 64.5 64.5 64.4
16.0 16.0 16.0 16.0 16.1
0.48637 0.48652 0.48658 0.48673 0.48731
X X X X X
X X X X X
X X X X X
X X X X X
X X X X X
17
82.3
62.1
18.0
0.50230
X X X X X X X X X X X X X X X X X
X X X X X X X X X X X X X X X X X X
X
X X X X X X X
X X X X X X X X X X X X X X X X X X X X
X X X X X X X X X X X X X X X X X X X X X X
X X X X X
X X X X X
X X X X X
X X X X X
X X X X X
X X X X X X X X X X X X
X X X X X
