Analisis Regresi 1. Pokok Bahasan : Regresi Linier dengan Dua Peubah Penjelas

Analisis Regresi 1 Pokok Bahasan :

Regresi Linier dengan Dua Peubah Penjelas

Penulisan model regresi linier berganda dengan notasi matriks  Model Regresi Linier dengan 2 peubah penjelas Model Regresi Linier Berganda Y  β0  β1x1  β 2 x 2  ε  y1  1 x11 y  1 x  2  12 .   . .    .   . .  yn  1 x1n   

x 21  x 22  .   .  x 2n 

 1     0   2     .   1     2  .   n   

 Dengan notasi matriks dapat dituliskan : n

y1 n Xk 1 k 1  1  n  1

Itasia Dina S, Departemen Statistika FMIPA IPB

, k  banyaknya p penjelas

Pendugaan model regresi berganda dengan matriks  Notasi Matriks pada Model Regresi Linier Berganda dengan k = 2

y  X  

 y1  1 x11 y  1 x  2  12 .   . .    .  . .  yn  1 x1n   

x 21  x 22  .   .  x 2n 

 1     0   2     .   1     2  .   n   

 Penduga parameter regresi berganda dg notasi matriks : 1 ( k 1)


b1 ( k 1) (X' X)

( k 1)

(k 1)

X'n

y n 1

Contoh: model regresi linier berganda dalam notasi matriks Data :

Model Regresi dalam notasi Matriks : y  X  

y

x1

x2

3.5

3.1

30

3.2

3.4

25

3.0

3.0

20

2.9

3.2

30

4.0

3.9

40

2.5

2.8

25

2.3

2.2

30


3.5  3.2    3.0    y  2.9 4.0   2.5 2.3  

1 1  1  X  1 1  1 1 

3.1 30  3.4 25 3.0 20  3.2 30  3.9 40  2.8 25 2.2 30

 0     1    0 

Contoh : Menduga parameter regresi linier berganda dg matriks Dugaan bagi parameter regresi : 1 b  ( X ' X ) ( k 1) ( k 1) 1 ( k 1)

(k 1)

X'n

y n 1

Dari data contoh tsb. didapat : X’X =

1 1 1 1 1 1 1  1 3.1 3.4 3.0 3.2 3.9 2.8 2.2    1 30 25 20 30 40 25 30  1  1 3x7 1  1 1 

3.1 30  3.4 25 3.0 20  3.2 30  3.9 40  2.8 25 2.2 30 7x3


Contoh : Menduga parameter regresi linier berganda dg matriks lanjutan

Dengan perhitungan cara matriks didapat :  7.0 216 . 200.0    X  X   216 . 68.3 626.0  200.0 626.0 5950.0

b

 6.683 - 1.529 - 0.064  ( X' X) 1  - 1.529 0.760 - 0.028  - 0.064 - 0.028 0.005

 0.214   6.683 - 1.529 - 0.064  1 1 1 1 1 1 1  3.5  - 1.529 0.760 - 0.028  3.1 3.4 3.0 3.2 3.9 2.8 2.2 3.2    0.898  =        0.017  - 0.064 - 0.028 0.005 30 25 20 30 40 25 30  3.0     2.9 (X’X) -1 X’  4.0    2.5 Dugaan garis regresinya :  2.3  

yˆ  0.214  0.898x1  0.017 x2

y Itasia Dina S, Departemen Statistika FMIPA IPB

Pemeriksaan Model untuk Regresi Berganda

•Peubah penjelas apa yang memiliki hubungan linier dg peubah respon •Apakah penambahan peubah penjelas ke dalam model diperlukan


Ringkasan Regresi Berganda  Model Regresi Berganda dengan 2 peubah penjelas :

Y  β 0  β1x1  β 2 x 2  ε  Model umum Regresi Berganda dengan k peubah penjelas dalam notasi matriks : n

y1  n Xk 1 k 1  1  n  1

 Dugaan bagi parameter Regresi Berganda: ( k 1)

b1 ( k 1) (X' X)


1

( k 1)

(k 1)

X'n

n

y1

Ringkasan Regresi Berganda lanjutan

 Nilai ramalan

yˆ  Xb  H y

 Matriks dugaan ragam peragam bagi b : Vˆ (b0 ) cov(b0 , b1 ) 1 2 Vˆ (b)     X' X s dengan : s2 = KT sisaan cov(b0 , b1 ) Vˆ (b1 )   Dugaan simpangan baku b j  c( j 1)( j 1) s


Uji Parameter Regresi Linier Berganda : uji-t Model Regresi-nya : Hipotesis : 1. H 0 : 1  0 H 1 : 1  0 atau 1  0 atau 1  0

2. H 0 :  2  0 H1 :  2  0 atau  2  0 atau  2  0


Y  β0  β1x1  β 2 x 2  ε Statistik uji-nya :

t hit 

bj   j sb j

, sb j  c( j 1)( j 1) s

Derajat bebasnya = n – k - 1 Unsur ke (j+1) diagonal (X’X)-1 Akar dari KT sisaan k = banyaknya peubah penjelas

Uji Parameter Regresi Linier Berganda : uji-t lanjutan

 Uji-t dimaksudkan untuk menguji pengaruh setiap peubah penjelas secara satu per satu terhadap peubah responnya Model Regresi Berganda dg 2 peubah penjelas :

Y  β 0  β1x1  β 2 x 2  ε H0 :  j  0

Peubah penjelas Xj tidak berhubungan linier dg Y

H1 :  j  0

Peubah penjelas Xj berhubungan linier dg Y

atau  j  0

Peubah penjelas Xj berhubungan linier positif dg Y

atau  j  0

Peubah penjelas Xj berhubungan linier negatif dg Y


Contoh : uji-t dengan notasi matriks  Dengan menggunakan data contoh pada slide sebelumnya ingin diuji apakah X1 dan atau X2 berpengaruh linier thdp Y  Didapatkan bahwa

 6.683 - 1.529 - 0.064  ( X' X) 1  - 1.529 0.760 - 0.028  - 0.064 - 0.028 0.005

Dugaan garis regresi-nya: yˆ  0.214  0.898x1  0.017 x2  Hipotesisnya : Peubah penjelas Xj tidak berhubungan linier dg Y H0 :  j  0 H1 :  j  0 Itasia Dina S, Departemen Statistika FMIPA IPB

Peubah penjelas Xj berhubungan linier dg Y

Contoh : uji-t dengan notasi matriks lanjutan

 Statistik uji-nya :

t hit  S2=

bj   j

 2 

sb j

, sb j  c( j 1)( j 1) s

1  67.44  671031   0.08422 . 4

untuk j  1, s b1  0.76 x 0.2902  0.2530  t hit  untuk j  2, s b 2  0.005 x 0.2902  0.0205  thit


0.898  3.55 0.253

0.017   0.829 0.0205

Contoh : uji-t dengan notasi matriks (lanjutan) d.b. = 7 - 3 = 4 a/2=.025

a/2=.025

t4,.025 = 2.776

Untuk j=1  t hit = 3.55  tolak H0 Untuk j=2  t hit = 0.829  terima H0

-tn-3,α/2 Tolak H0

-2.776

0

KESIMPULAN :

tn-3,α/2

Terima H0

Tolak H0

2.776


1. Cukup bukti untuk mengatakan bahwa ada hub linier antara x1 dan Y

2. Tidak cukup bukti untuk mengatakan bahwa ada hub linier antara x2 dan Y

Contoh : uji-t dengan Minitab lanjutan Regression Analysis: Y versus X1, X2 The regression equation is Y = - 0.214 + 0.898 X1 + 0.0175 X2 Predictor Constant X1 X2

Coef SE Coef -0.2138 0.7502 0.8984 0.2530 0.01745 0.02116

T -0.29 3.55 0.82

S = 0.290208 R-Sq = 83.3% R-Sq(adj) = 74.9%


P 0.790 0.024 0.456

> 0.05

Terima H0

Uji Parameter Regresi Linier Berganda : uji-F Dengan uji F ini kita dapat mengetahui :  peubah-peubah penjelas yang ada dalam model berpengaruh secara serempak terhadap respon atau tidak.  Penambahan satu peubah penjelas ke dalam model setelah peubah penjelas lainnya ada dalam model berpengaruh nyata atau tidak terhadap respon  Penambahan sekelompok peubah penjelas ke dalam model setelah peubah penjelas lainnya ada dalam model berpengaruh nyata atau tidak terhadap respon


Uji Parameter Regresi Linier Berganda : uji-F Tabel Sidik Ragam Derajat Bebas (db)

Jumlah Kuadrat (JK)

2

b’X’Y – Y’11’Y

JK Regresi

Sisaan

n-3

Y’Y – b’X’Y

JK sisaan n  3

Total (terkoreksi)

n-1

Y’Y – Y’11’Y

Sumber Keragaman

Regresi | b0

Regresi | b0 Sisaan Total terkoreksi Itasia Dina S, Departemen Statistika FMIPA IPB

k

Kuadrat Tengah (KT) 2

JK Regresi

b’X’Y – Y’11’Y

n–k-1

Y’Y – b’X’Y

n-1

Y’Y – Y’11’Y

db Regresi

s  2

Banyaknya peubah penjelas

JK sisaan db sisaan  ny 2  Nilai Tengah b 0

Uji Parameter Regresi Linier Berganda : uji-F Apakah X1 dan X2 dalam model

Y  β 0  β1x1  β 2 x 2  ε

berpengaruh secara serempak terhadap Y H 0 : 1   2  0 H1 : min ada satu  j  0, j  1,2 Sumber Keragaman

Derajat Bebas (db)

b1, b2| b0

2

Jumlah Kuadrat (JK)

b’X’Y – Y’11’Y

1

Sisaan

n-3

Y’Y – b’X’Y

Total (terkoreksi)

n-1

Y’Y – Y’11’Y


Kuadrat Tengah (KT)

JK Regresi 2

JK sisaan n  3

Fhit 

KTb1 ,b 2 |b0 KTsisaan

Uji Parameter Regresi Linier Berganda : uji-F Apakah penambahan X2 ke dalam model Y  β 0  β1x1  ε berpengaruh terhadap Y

H 0 :  2  0 dalam model Y   0  1 x1   2 x2   H1 :  2  0 Sumber Keragaman

Derajat Bebas (db)

Jumlah Kuadrat (JK)

2

b’X’Y – Y’11’Y

b1, b2 | b0

1

JKb1 ,b2 | b0  JKb1| b0

Sisaan

n–3

Y’Y – b’X’Y

Total (terkoreksi)

n-1

Y’Y – Y’11’Y

b 2 b 0 , b1


Kuadrat Tengah (KT)

JK b 2 | b 0 ,b1 1 JKsisaan

n -3

Fhit 

KTb 2 |b0 ,b1 KTsisaan

Koefisien Determinasi Berganda  Proporsi keragaman pada Y dijelaskan oleh semua peubah X secara bersama-sama Keragaman yg dijelaskan SS yy  SSE SSE R    1 Total Keragaman SS yy SS yy 2


Adjusted R2  R2 besarnya tidak pernah turun ketika peubah X ditambahkan ke dalam model  Hanya nilai Y yang menentukan besarnya SSyy  Tidak ada gunanya kalau membandingkan model yg satu dg yg sdh ditambah peubah penjelasnya.

 Solusi: Adjusted R2  Setiap penambahan peubah penjelas akan menurunkan nilai adjusted R2.

n  1  SSE SSE 2  1 R  SSyy  n  k  1 SS yy

 2 Ra  1   Itasia Dina S, Departemen Statistika FMIPA IPB

Analisis Regresi 1. Pokok Bahasan : Regresi Linier dengan Dua Peubah Penjelas

Recommend Documents