Analisis Regresi 1 Pokok Bahasan Pengujian pada Regresi Ganda
Model Regresi Linier Berganda Model Regresi Linier Berganda, dengan k peubah penjelas :
Y β0 β1X1 β2 X2 βk Xk ε Parameter regresi sebanyak k+1 diduga melalui data. Untuk regresi berganda, perhitungannya menjadi lebih mudah jika dilakukan dengan matriks dan dibantu dengan menggunakan komputer Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Model Regresi Linier Berganda Dugaan Persamaan Regresi Linier Berganda, dengan k peubah penjelas :
yˆ i b0 b1x1i b2 x 2i bk xki ASUMSI : Hubungan setiap peubah penjelas dengan peubah responnya LINIER (pangkat X1 sampai Xk adalah satu)
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Ringkasan Regresi Linier Berganda
Model Regresi Berganda dengan k peubah penjelas :
Y β0 β1X1 β2 X2 βk Xk ε
Model umum Regresi Berganda dengan k peubah penjelas dan n amatan dalam notasi matriks : n
y1 n X k 1 k 1 1 n 1
Dugaan bagi parameter Regresi Berganda: 1 b ( X ' X ) ( k 1) ( k 1) 1 ( k 1)
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
(k 1)
X'n
y n 1
Ringkasan Regresi Linier Berganda lanjutan
Nilai ramalan
yˆ Xb H y
H X(X' X) 1 X'
Matriks dugaan ragam peragam bagi b : Vˆ (b0 ) cov (b0 , b1 ) ....... cov (b0 , bk ) ˆ ....... cov (b1 , bk ) cov(b1 , b0 ) V (b1 ) 1 2 ˆ V (b) X ' X s ... ... ... cov(b , b ) cov(b , b ) ............Vˆ (b ) k 0 k 1 k dengan : s2 = KT sisaan Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Ringkasan Regresi Linier Berganda lanjutan
KOEFISIEN DETERMINASI b' X ' Y 2 R Y 'Y
2 b ' X ' Y n Y R 2 adj 2 Y ' Y nY
Dugaan simpangan baku
sb j c( j 1)( j 1) s
dengan : s2 = KT sisaan
c(j1)(j1) unsur ke j 1 diagonal matriks (X' X) 1 Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Ringkasan Regresi Linier Berganda lanjutan
ASUMSI ASUMSI YANG HARUS DIPENUHI DALAM ANALISIS REGRESI BERGANDA : 1. Kondisi Gauss-Marcov
1. E[ i ] 0
nilai - harapan/rataan sisaan nol
2. E[ i ] var [ ] 2 , ragam sisaan homogen untuk setiap nilai x 2
3. E[ i j ] 0, i j
( homoscedas ticity ) sisaan saling bebas/tdk ada autokorelasi
2. Galat menyebar Normal 3. Galat bebas terhadap peubah bebas, cov(x i , j ) 0, i
4. Tidak ada multikolinieritas pd peubah bebas, cov(x i , x j ) 0, i j Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
PENGUJIAN MODEL Uji t Uji F Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Uji Parameter Regresi Linier Berganda : uji-t
Uji-t dimaksudkan untuk menguji pengaruh setiap peubah penjelas secara satu per satu terhadap peubah responnya Model Regresi Berganda dg k peubah penjelas :
Y β0 β1X1 β2 X2 βk Xk ε H0 : j 0
Peubah penjelas Xj tidak berhubungan linier dg Y
H1 : j 0
Peubah penjelas Xj berhubungan linier dg Y
atau j 0
Peubah penjelas Xj berhubungan linier positif dg Y
atau j 0
Peubah penjelas Xj berhubungan linier negatif dg Y
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Uji Parameter Regresi Linier Berganda : uji-t lanjutan
Model Regresi-nya: Y β0 β1X1 β2 X2 βk Xk ε Hipotesis : Statistik uji-nya : 1. H 0 : 1 0 bj j H 1 : 1 0 t hit , sb j c( j 1)( j 1) s atau 1 0 sb j
. .
k.
. .
atau 1 0
H0 : k 0 H1 : k 0 atau k 0 atau k 0
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Derajat bebasnya = n – k - 1
Unsur ke (j+1) diagonal (X’X)-1 Akar dari KT sisaan k = banyaknya peubah penjelas
Uji Parameter Regresi Linier Berganda : uji-t lanjutan
Kaidah Keputusan : untuk i = 1, 2, …., k H0: i 0 H1: i < 0
H0: i ≤ 0 H1: i > 0
H0: i = 0 H1: i ≠ 0
a
a -ta tolak H0 jika t < -tn-2, a
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
ta Tolak H0 jika t > tn-2, a
a/2 -ta/2
a/2 ta/2
Tolak H0 jika t < -tn-2, a/2 atau t > tn-2, a/2
Uji Parameter Regresi Linier Berganda : uji-t lanjutan
Interpretasi hasil keputusan : i = 1, 2, …., k H0: i 0 H1: i < 0 TOLAK H0:
Peubah penjelas Xi berpengaruh nyata thdp peubah respon Y secara linier dan hubungannya negatif
TERIMA H0: Peubah penjelas Xi
tidak berpengaruh negatif thdp peubah respon Y secara linier
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
H0: H1:
i ≤ 0 i > 0
H0: H1:
i = 0 i ≠ 0
Peubah penjelas Xi berpengaruh nyata thdp peubah respon Y secara linier dan hubungannya positif
Peubah penjelas Xi berpengaruh nyata thdp peubah respon Y secara linier
Peubah penjelas Xi tidak berpengaruh positif thdp peubah respon Y secara linier
Peubah penjelas Xi tidak berpengaruh nyata thdp peubah respon Y secara linier
berpengaruh = memiliki hubungan
Uji Parameter Regresi Linier Berganda : uji-t lanjutan
CONTOH : DATA TEKANAN DARAH Orang Tekanan Ukuran Mero Umur ke Darah Tubuh kok 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16
135 122 130 148 146 129 162 160 144 180 166 138 152 138 140 134
2,876 3,251 3,1 3,768 2,979 2,79 3,668 3,612 2,368 4,637 3,877 4,032 4,116 3,673 3,562 2,998
45 41 49 42 54 47 60 48 44 64 59 51 64 56 54 50
0 0 0 0 1 1 1 1 1 1 1 1 0 0 1 1
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Orang Tekanan Ukuran Mero Umur ke Darah Tubuh kok 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32
145 142 135 142 150 144 137 132 149 132 120 126 161 170 152 162
3,36 3,024 3,171 3,401 3,628 3,751 3,296 3,21 3,301 3,017 2,789 2,956 3,8 4,132 3,962 4,01
49 46 57 56 56 58 53 50 54 48 43 43 63 63 62 65
1 1 0 0 1 0 0 0 1 1 0 1 0 1 0 0
Data di samping adalah data yg diambil secara acak dari 32 orang usia di atas 40 tahun di Bogor. Ukuran tubuh adalah besaran “quatelet index”=100 (bobot badan / tinggi badan2). Merokok adalah p boneka. Ingin diketahui peubah apa saja dari peubah-peubah tsb yg mempengaruhi tekanan darah secara linier
Uji Parameter Regresi Linier Berganda : uji-t lanjutan PLOT MASING-MASING PEUBAH PENJELAS VS TEKANAN DARAH Matrix Plot of Tekanan Darah vs Ukuran Tubuh; Umur; Merokok 40
50
60
180
Tekanan Darah
170 160 150 140 130 120 2,4
3,2 4,0 Ukuran Tubuh
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
0,0 Umur
0,5 Merokok
1,0
Plot di samping menunjukkan bahwa : 1. Ukuran tubuh memiliki hub linier positif dg tek darah 2. Umur memiliki hub linier pos dg tekanan darah 3. Stat merokok memiliki hub lin positif dg tek darah
Uji Parameter Regresi Linier Berganda : uji-t lanjutan
OUT PUT MINITAB : DATA TEKANAN DARAH Regression Analysis: Tekanan Darah versus Ukuran Tubuh; Umur; Merokok The regression equation is Tekanan Darah = 50,5 + 12,8 Ukuran Tubuh + 0,848 Umur + 9,11 Merokok
Predictor Constant Ukuran Tubuh Umur Merokok
Coef 50,54 12,841 0,8481 9,113
SE Coef 11,19 4,256 0,2928 2,805
T 4,52 3,02 2,90 3,25
t tabel : t Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
P 0,000 0,005 0,007 0,003 28; 0,025
= 0,683
KEPUTUSAN: Ke-3 p.penjelas nyata tolak H0. a = 5% KESIMPULAN: KESIMPULAN: Ukuran tubuh, umur, dan status merokok : Memiliki hub linier dengan tek. darah
Uji Parameter Regresi Linier Berganda : uji-t (lanjutan) Untuk j=1 t hit = 3.02 tolak H0 Untuk j=2 t hit = 2.90 tolak H0 a/2=.025
a/2=.025
Untuk j=3 t hit = 3.25 tolak H0
KESIMPULAN : -tn-4,α/2 Tolak H0
0
tn-4,α/2
Terima H0
-0,683 d.b. = 32 – 3-1 = 28
Tolak H0
0,683 t28,.025 = 0,683
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
1. Cukup bukti untuk mengatakan bahwa ada hub linier antara ukuran tubuh dan tekanan darah 2. Cukup bukti untuk mengatakan bahwa ada hub linier antara umur dan tekanan darah 3. Cukup bukti untuk mengatakan bahwa ada hub linier antara status merokok dan tekanan darah
Uji Parameter Regresi Linier Berganda : uji-F Dengan uji F ini kita dapat mengetahui : peubah-peubah penjelas yang ada dalam model berpengaruh secara serempak terhadap respon atau tidak. Penambahan satu peubah penjelas ke dalam model setelah peubah penjelas lainnya ada dalam model berpengaruh nyata atau tidak terhadap respon Penambahan sekelompok peubah penjelas ke dalam model setelah peubah penjelas lainnya ada dalam model berpengaruh nyata atau tidak terhadap respon Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Uji Parameter Regresi Linier Berganda : uji-F untuk model keseluruhan H 0 : 1 2 ... k 0 H1 : min ada satu j 0, j 1,2,....., k Sumber Keragaman
Derajat Bebas (db)
Jumlah Kuadrat (JK)
b1, b2,..,bk| b0
k
b’X’Y – Y’11’Y
n – k-1
Y’Y – b’X’Y
Sisaan Total (terkoreksi)
n-1
KRITERIA PENOLAKAN : Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Y’Y – Y’11’Y
H0 : peubah respon tidak memp hub linier dg peubah penjelas ke-1 s.d ke-k Kuadrat Tengah (KT) JK Regresi k JK sisaan n k -1
H1 : peubah respon memp hub linier dg min 1 peubah penjelas ke-1 s.d ke-k
Fhit
Tolak H 0 jika F Fk,n k 1,α
KTregresi KTsisaan
Uji Parameter Regresi Linier Berganda : uji-F untuk model keseluruhan lanjutan
OUT PUT MINITAB : DATA TEKANAN DARAH The regression equation is Tekanan Darah = 50,5 + 12,8 Ukuran Tubuh + 0,848 Umur + 9,11 Merokok S = 7,88677 R-Sq = 72,6% R-Sq(adj) = 69,6% Analysis of Variance Source DF SS Regression 3 4610,3 Residual Error 28 1741,6 Total 31 6352,0
MS 1536,8 62,2
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
(3,28), 5%
H1 : min ada 1 j 0, j 1,2,.., k
KEPUTUSAN: tolak H0. a = 5%
KESIMPULAN: Tekanan darah memiliki hubungan linier dg min satu peubah penjelas
F P 24,71 0,000
F tabel : F
H 0 : 1 2 ... k 0
=2,95
Uji Parameter Regresi Linier Berganda : uji-F untuk model keseluruhan lanjutan
H 0 : 1 2 3 0
Statistik uji-nya: H1 : min ada satu j 0, j 1,2,3 Fhit KTregresi 24,71 KTsisaan F tabel : F
(3,28), 5%
=2,95
Keputusan: Tolak H0
Kesimpulan:
a = .05
0
Terima H0
F.05 = 2,95
Tolak H0
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
F
Cukup bukti untuk mengatakan bahwa minimum ada satu peubah penjelas yg berhubungan linier dg Y
Uji-F Parsial dan uji-F Sekuensial PADA ANALISIS REGRESI LINIER BERGANDA : Terhadap semua peubah penjelas yang tersedia : Diuji peubah penjelas apa yg berpengaruh nyata thd respon. Dari yang ada dalam model, usahakan yang dipakai hanya peubah penjelas yang keberadaannya dalam model menyumbangkan keragaman kepada garis regresi cukup besar Jika suatu peubah penjelas keberadaannya dalam model sudah dapat diwakili oleh yg lainnya, maka peubah penjelas tsb tidak perlu lagi digunakan dlm model Lebih disenangi model yang memiliki banyaknya peubah penjelas yang lebih sedikit. Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Uji-F Parsial dan uji-F Sekuensial lanjutan
Uji-F Parsial dapat dilakukan terhadap semua koefisien regresi, dengan menganggap semua peubah penjelas masuk dalam model kecuali peubah yang ingin diuji pengaruhnya. Bila peubah dimasukkan satu per satu secara bertahap ke dalam suatu persamaan regresi, maka dapat dikatakan sebagai Uji-F sekuensial.
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Uji-F Parsial dan uji-F Sekuensial lanjutan
MODEL LENGKAP dengan k+r PEUBAH PENJELAS Model terdiri dari k peubah penjelas X dan r peubah penjelas Z
Y β 0 β1x1 β k x k α1z1 α r z r ε Untuk melihat pengaruh r peubah penjelas tambahan tsb dpt dilakukan sebagai berikut : 1. Model lengkap dengan k+r peubah penjelas, dikeluarkan r peubah penjelas, dicek perubahan pengaruhnya 2. Model belum lengkap (baru k peubah penjelas), ditambah r peubah penjelas lainnya, dicek perubahannya. Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Uji-F Parsial dan uji-F Sekuensial lanjutan
CARA PEUBAH BERADA DALAM MODEL
Y β0 β1x1 β 2 x 2 β3 x3 ε Y β 0 ε β 2 x 2 β3 x 3 ε Y β0 β1x1 ε
Y β0 Y β0 β1x1
β3x 3 ε Y β0 β1x1 a1Z1 ε
Y β0 β1x1 β 2 x 2
ε Y β0 β1x1 β 2 x 2 a 2 Z 2 ε
Uji-F PARSIAL
Uji-F SEKUENSIAL
Model dibangun dengan mengeluarkan satu peubah penjelas yg akan diuji pengaruhnya dari model lengkap. Diuji pengaruhnya.
Model dibangun dengan menambahkan satu persatu peubah penjelas baru ke dalam model . Diuji pengaruhnya
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Uji-F Parsial Model lengkap : k+r peubah penjelas
Y β 0 β1x1 β k x k α1z1 α r z r ε Model tidak lengkap : k peubah penjelas
TUJUAN: membandingkan JK sisa model lengkap dengan JK sisa model tidak lengkap
H 0 : α1 α 2 α r 0 H1 : minimal ada satu α j 0 (j 1,..., r) Tolak H 0 jika F Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
( JKs(r) - JKs ) / r s e2
Fr,n k r 1,α , s e2 KTsisa
Uji-F Parsial lanjutan
LANGKAH-LANGKAH UJI-F PARSIAL Lakukan analisis regresi thdp model lengkap dan hitung JK sisa nya (JKs)
Lakukan analisis regresi thdp model tidak lengkap (data tanpa peubah z, dengan banyaknya peubah yg dikeluarkan sebanyak r), kemudian hitung JK sisa-nya (JKs(r)) Hitung nilai statistik F nya dan tentukan keputusannya berdasarkan a.
F Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
( JKs(r) - JKs ) / r s e2
Uji-F Parsial lanjutan
BANYAKNYA PEUBAH PENJELAS YG DIKELUARKAN = 1 MODEL LENGKAP
MODEL TDK LENGKAP
YG KELUAR
Y β0 β1X1 β 2 X2 β3X3 ε Y β0 β1X1 β 2 X 2 ε
X3
Y β0 β1X1 β3X3 ε
X2
Y β 0 β 2 X 2 β3X3 ε
X1
k=2, r=1 JK sisa (JKs) KT sisa (se2)
JK sisa (JKs(r) )
( JKs(r) - JKs ) / r F3 2 se
Fr, n -k -r -1; a
F3 untuk menguji pengaruh peubah penjelas X3 thdp Y Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Uji-F Sekuensial Penambahan satu peubah baru (r=1) ke model secara bertahap
Model Lengkap
Y β 0 β1x1 β k x k α jz j ε , j 1,2,...
Y β 0 β1x1 ε k=1 , r=1 k=2 , r=1 k=3 , r=1
Y β 0 β1x1 a1z1 ε
H 0 : α1 0 H1 : α1 0
Y β 0 β1x1 β 2 x 2 a 2 z 2 ε
H0 : α2 0 H1 : α 2 0
Y β 0 β1x1 β 2 x 2 β3 x 3 a 3z3 ε
H0 : α3 0 H1 : α 3 0
KT( a | b1 , b 2 ,.., b k ) Tolak H 0 jika F F1,n k 11,1-α KTsisa (b1 , b 2 ,.., b k , a) Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Uji-F Sekuensial lanjutan
F hitung dan KAIDAH KEPUTUSAN k=1 , r=1
F
KT( a1 | b1 ) KTsisa (b1 , a1 )
F tabel F(1,n 3), 1-α
H 0 : α1 0 H1 : α1 0
JK regresi EKSTRA/db
Y β 0 β1x1 ε Y β 0 β1x1 a1z1 ε k=2 , r=1
KT( a2 | b1 , b 2 ) F KTsisa (b1 , b 2 , a2 ) H 0 : α 2 0
Y β 0 β1x1 β 2 x 2 ε
F tabel F(1,n 4 ), 1-α
Y β 0 β1x1 β 2 x 2 a 2 z 2 ε
Tolak H0 jika F
hit
>F
tabel
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
H1 : α 2 0
Uji-F Sekuensial lanjutan
MENGHITUNG JK regresi EKSTRA MODEL AWAL
MODEL SETELAH PENAMBAHAN
Y β 0 β1x1 ε Y β 0 β1x1 a1z1 ε
JK ( b1 )
JK ( b1,a1 )
JK (a1 | b1 ) JK (b1 , a1 ) JK (b1 ) KT (a1 | b1 ) JK (a1 | b1 ) / 1 F
KT( a1 | b1 ) KTsisa (b1 , a1 )
F tabel F(1,n 3), 1-α Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
KTsisa (b1,a1)
Contoh : Uji-F Sekuensial
Karena 8.1498 lebih besar daripada F(1,12,0.95)=4.75, berarti penambahan advertising ada manfaatnya Uji F ini, biasanya disebut “uji-F sekuensial”
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Contoh : Uji-F Sekuensial lanjutan
Jika kita memasukkan peubah advertising lebih dulu, berapakah sumbangannya terhadap model ? Jika advertising sudah ada dalam persamaan, berapa sumbangan peubah price jika kemudian peubah ini dimasukkan ke dalam persamaan regresi ?
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Contoh : Uji-F Sekuensial lanjutan
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Contoh lain: uji-F sekuensial lanjutan Suhu plat pembungkus dan jarak plat pembungkus dalam mesin pembungkus sabun mempengaruhi persentase sabun terbungkus yang lolos inspeksi.
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Hipotesis Linier Umum Hipotesis linier biasanya muncul dari pengetahuan peneliti dan dugaannya tentang model-model yang mungkin Model regresi yg ingin digunakan
Peneliti curiga modelnya :
Y β0 β1X1 β 2 X 2 ε Y β0 β(X1 - X 2 ) ε
Y β0 βX1 βX 2 ε β1 β 2 β H0 : β1 β 2 H0 : β1 β 2 0 HIPOTESIS LINIER Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
H1 : β1 β 2 0
Hipotesis Linier Umum lanjutan
Model:
E[Y] = β0 + β1X1 + β2X2 + … + βkXk
Bentuk Umum Hipotesis Linier
Dalam Notasi Matriks
H0 : c10 β0 + c11 β1 + c12 β2 + … + c1k βk = 0,
H0 : C 0
c20 β0 + c21 β1 + c22 β2 + … + c2k βk = 0, ׃ cm0 β0 + cm1 β1+ cm2 β2 + … + cmk βk = 0.
H1 : C 0
Dalam hipotesis ini ada m fungsi linier yang tersusun atas β0, β1, β2, … ,βk yang belum tentu semuanya bebas
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Pengujian Hipotesis Linier Umum
Misalkan C adalah matriks berukuran mp, dan rank(C) = r
Full model: Y = Xβ +
JK sisa ( FM ) Y ' Y ˆ ' X ' Y ,
(db n - p)
Reduced model: y = Z + , Z adalah matriks n(p-r) dan adalah vektor berukuran (p-r) 1
ˆ ( Z ' Z ) 1 Z ' y JK sisa ( RM ) Y ' Y ˆ ' Z ' Y , Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
(db n - p r )
Pengujian Hipotesis Linier Umum lanjutan
JKH = JKRes(RM) – JKRes(FM) dengan d.b sebesar r. JKH adalah jumlah kuadrat yang berasal dari hipotesis H0: Cβ = 0 Statistik Uji : ˆ ' C '[C ( X ' X ) 1 C ' ]1 Cˆ / r JK H / r F ~ Fr ,n p atau F JK Re s ( FM ) /( n p) JK sisa ( FM ) /( n p)
H0: Cβ = d v.s. H1: Cβ d maka (Cˆ d )'[C ( X ' X ) 1 C ' ]1 (Cˆ d ) / r F ~ Fr ,n p JK sisa ( FM ) /( n p)
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Regresi pada kasus terjadi multikolinier
MULTIKOLINIERITAS
Masalah multikolinieritas terjadi pada regresi berganda jika peubah-peubah X saling berkorelasi. Adanya hubungan linier yg kuat antara peubah-peubah bebas X. Hal ini akan mempengaruhi ragam dari dugaan koefisien regresi
Peubah X yang dianggap penting kemungkinan akan tidak nyata walaupun nilai R2 nya tinggi. Pendugaan dari koefisien regresi menjadi tidak benar, misalnya koefisien memiliki tanda negatif padahal dalam hubungan X dan Y sebenarnya adalah positif
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Regresi pada kasus terjadi multikolinier lanjutan
Bagaimana cara mendeteksi multikolinieritas?
Periksa korelasi antar peubah penjelas X
Hitunglah nilai Variance Inflation Factor (VIF) dimana : VIF = (1-Rj2)-1. Rj2 adalah R-kuadrat dari regresi dimana Xj merupakan peubah respon dan peubah X lainnya menjadi predictor.
Jika VIF lebih besar dari 10 biasanya ada masalah multikolinieritas.
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Regresi pada kasus terjadi multikolinier lanjutan
Bagaimana cara mengatasi multikolinieritas?
Jika kita ingin memilih variabel X dimana hanya X yang nyata yang akan memasuki model Gunakan prosedur penyeleksian variabel, seperti forward, backward, stepwise Jika kita ingin mempertahankan konfigurasi variabel X yang akan memasuki model
Gunakan metode estimasi di luar metode kuadrat terkecil, seperti Ridge Regression, Principal Component Regression, Partial Least Square
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Tahapan Pembentukan Model Penentuan Model
*
Menduga parameter
Verifikasi Model
Inferensia dan Interpretasi Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Mengerti masalah yang diteliti Memilih peubah tetap dan tidak tetap-nya Mengidentifikasi model regresinya Menentukan data-data yang diperlukan untuk membangun model
Tahapan Pembentukan Model (lanjutan)
Penentuan Model
Menduga parameter
*
Verifikasi Model
Inferensia dan Interpretasi Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Menduga parameter regresi dengan menggunakan data yg ada Mendapatkan selang kepercayaan bagi parameter regresi Untuk peramalan, yang diinginkan adalah sisaan se terkecil Jika menduga parameter secara individual, pastikan tidak ada multikolinieritas dan bias
Tahapan Pembentukan Model (lanjutan)
Penentuan Model
Menduga parameter
Verifikasi Model
*
Inferensia dan Interpretasi Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Evaluasi model yg didapat dg seksama (Mis. Apakah tanda parameter benar?) Apakah ada parameter yg bias atau yg tidak masuk akal? Cek asumsi regresi (Mis. Apakah eror ~ N (0,2? Apabila ada masalah, perhatikan kembali modelnya dan cari model lainnya yg kirakira sesuai
Tahapan Pembentukan Model (lanjutan)
Penentuan Model
Menduga parameter
Verifikasi Model
Inferensia dan Interpretasi Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
*
Interpretasikan hasil analisis regresi, sesuaikan dg masalah yg diteliti Bentuk selang kepercayaan atau lakukan uji hipotesis bagi parameter regresi Gunakan model untuk peramalan dan prediksi