Model Regresi Berganda

Model Regresi Berganda Hubungan linear (dlm parameter) antara 1 peubah tak bebas & 2 atau lebih peubah bebas Intersep-Y Populasi

Slope Populasi

Random Error

Yi  0  1X1i  2X2i      pXpi  i Yˆi  b0  b1X1i  b2X2i      bp Xpi  ei Peubah tak bebas (Respons) utk sampel

Peubah bebas (Explanatory) utk model sampel

Model Regresi Berganda (Sampel) utk 2 Peubah Bebas Y

Yi  b0  b1 X 1i  b2 X 2i  ei ei X2

X1

Yˆi  b0  b1 X 1i  b2 X 2i

Model Regresi Berganda: Teladan Tentukan suatu model utk memprediksi bahan bakar pemanas (Galon) yg digunakan sebuah rumahsatu-keluarga di bln Januari berdasarkan ratarata temperatur (0F) dan ketebalan isolasi (inchi).

O il (G a l) T e m p(0F) In su la tio n

275.30 363.80 164.30 40.80 94.30 230.90 366.70 300.60 237.80 121.40 31.40 203.50 441.10 323.00 52.50

40 27 40 73 64 34 9 8 23 63 65 41 21 38 58

3 3 10 6 6 6 6 10 10 3 10 6 3 3 10

Yi  b0  b1 X1i  b2 X 2i  ei Yi  Y ; y  Y Y  N

i

i

X1i  X1  ;x1 X1i  X1 N

X2i  X2  ; x2 X2i  X2 N

b0  ˆ0  Y  ˆ1 X 1  ˆ2 X 2



2 x2i



 x1i yi     x2i yi  x1i x2i  ˆ b1  1  2 2 2  x1i  x2i   x1i x2i 







2 x1i





 x2i yi     x1i yi  x1i x2i  ˆ b2   2  2 2 2  x1i  x2i   x1i x2i 







Yi  b0  b1 X 1i  b 2 X 2 i  e i ei2  Var (e)  s  2

N  p 1

Var ( b1 )  s b2  1



s Koef Variasi: CV  Y

 KTS

s2 2 2 x1i 1  r





2

Var (b2 ) 

2 sb2

s  2 2  x2 i 1  r



rx x 1

2

x1i x2i   2 2 x x  1i  2i

 2

Cov(b1 , b2 )  sb b  1 2

s r

1  r  2

2 x1i

 

2 x2i

Dugaan Model Regresi Sampel

Yˆi  b 0  b1 X 1 i  b 2 X 2 i C o efficien ts

Output Excel

In te rce p t X V a ria b le 1 X V a ria b le 2

Satuan 562.1510092 Galon -5.436580588 Gal/0F -20.01232067 Gal/inc

Yˆi  562.151  5.437 X 1i  20.012 X 2i Dgn isolasi yg tetap, utk tiap kenaikan 1 0F dlm temperatur, ratarata jml bahan pemanas yg digunakan turun sebesar 5.437 galon.

Dgn temperatur tetap, utk tiap kenaikan 1 inchi isolasi, ratarata penggunaan bahan pemanas turun sebesar 20.012 galon.

Penggunaan Model utk Prediksi Dugalah rata-rata jml bahan bakar pemanas yg digunakan utk sebuah rumah jika rata-rata temperaturnya 30 0F dan isolasinya 6 inchi.

Yˆi  562.151  5.437 X 1i  20.012X 2i  562.151  5.437  30  20.012  6 Dugaan bahan bakar  278.969 pemanas yg digunakan sebanyak 278.97 galon

Koefisien Determination Output Excel R eg ressio n S tatistics

Multiple R R Square Adjusted R Square Standard Error Observations

0.982654757 0.965610371 0.959878766 26.01378323 15

rY2,12

SSR  SST

r2 terkoreksi •Utk membandingkan model dgn jml peubah bebas berbeda •Merefleksikan jml peubah bebas dan ukuran contoh • lebih kecil dari r2

Beberapa Plot Sisaan (Dibakukan) •



Sisaan Vs Yi 

•

Sisaan Vs X1 

•

Mungkin perlu transformasi peubah X1

Sisaan Vs X2 

•

Mungkin perlu transformasi peubah Y

Mungkin perlu transformasi peubah X2

Sisaan Vs Time 

Mungkin punya sifat autokorelasi

Insulation R esidual P lot

Plot Sisaan: Teladan

Output Excel

0

2

4

6

Tem perature R esidual P lot 60

Re sidua ls

40 20 0

0

20

40

60

80

-20 -40 -60

Tidak terlihat suatu Pola

8

10

12

I. Uji Model Secara Keseluruhan Yi = 0 + 1 X1 + 2 X1 +…+ p Xp + εi

•Apakah Model dapat menjelaskan keragaman Y •Hipotesis Statistik: H0: Model tdk dpt menjelaskan keragaman Y 2regresi = 2ε atau 2regresi/ 2ε = 1 b1 = b2 = … = bp = 0 (tidak dapat menjelaskan) H1: Model dpt menjelaskan keragaman Y 2regresi > 2ε atau 2regresi/ 2ε > 1 Minimal ada bi  0 (ada peubah bebas yg mempengaruhi Y) •Statistik uji-F = KTR/KTS ~ F(p, n-1-p)

a = 0.05 F(2,12)

0

3.89

Uji Model Secara Keseluruhan: Analisis Ragam (ANOVA) ANO V A df Re g re ssio n Re sid u a l T o ta l

SS

MS

F

S ig n ifican ce F

2 228014.6 114007.3 168.4712028 12 8120.603 676.7169 14 236135.2

p = 2, jumlah peubah penjelas

1.65411E-09

p value n-1

Statistik Uji F = KTR KTS

Uji Model Secara Keseluruhan Statistik Uji:

H0: b1 = b2 = … = bp = 0 H1: Minimal ada bi  0 a = .05 db = 2 dan 12 Nilai Kritis:

F 

168.47 (Output Excel)

Keputusan: H1 pada a = 0.05 Kesimpulan: • Model dpt menjelaskan keragaman Y

a = 0.05

0

3.89

F

• Minimal ada satu peubah bebas yg mempengaruhi Y

II. Uji Signifikansi Masing2 Peubah Bebas •Apakah peubah bebas Xi mempengaruhi Y •Hypotesis Statistik: H0: bi = 0 (Xi tidak mempengaruhi Y) H1: bi  0 (Xi mempengaruhi Y) Statistik Uji t utk X1 (Temperatur) C o efficien ts S tan d ard E rro r

562.151009 X V a ria b le 1 -5.4365806 X V a ria b le 2 -20.012321 In te rce p t

21.09310433 0.336216167 2.342505227

Statistik Uji t utk X2 (Isolasi)

t S tat

26.65094 -16.1699 -8.54313

Teladan Uji t Apakah temperature berpengaruh nyata pada konsumsi bulanan bahan bakar pemanas? Ujilah pada a = 0.05.

Statistik Uji:

H0: b1 = 0 H1: b1  0

t = -16.1699 Keputusan: Tolak H0 at a = 0.05

db = 12 Nilai Kritis: Tolak H 0

.025 -2.1788

Tolak H0

.025 0 2.1788

Z

Kesimpulan: Terbukti nyata, pengaruh temperatur pada konsumsi bahan bakar pemanas.

Dugaan Selang Kepercayaan utk Slope Tentukan SK 95% bagi slope populasi 1 (pengaruh temperatur thd Konsumsi Bahan Bakar Pemanas)

b1  t n  p 1Sb1 Co efficien ts L o w er 95%

Up p er 95%

562.151009 516.1930837 608.108935 X V a ria b le 1 -5.4365806 -6.169132673 -4.7040285 -14.90844 X V a ria b le 2 -20.012321 -25.11620102 In te rce p t

-6.169  1  -4.704 Rata-rata konsumsi BBP berkurang antara 4.7 galon sampai 6.17 galon tiap kenaikan suhu 10 F.

Pengujian Sebagian Model • Kontribusi keragaman peubah Xi thd Model (jika semua peubah lain sdh ada dlm model) 

Dinotasikan dgn JKR(Xisemua peubah selain Xi )



 Koefisien determinasi parsial X1 dgn Y jika X2 2 konstan rY 1.2

• Evaluasi Model secara Terpisah • Berguna dlm Memilih Peubah Bebas

Pengujian Sebagian Model: JKR Kontribusi X1 jika X2 sdh tercakup dlm model: JKR(X1X2) = JKR(X1 dan X2) - JKR(X2) Dari bagian ANOVA regresi utk model : Yˆi  b0  b1 X 1i  b2 X 2i

Dari bagian ANOVA regresi utk model : Yˆi  b0  b2 X 2i

Uji F Parsial utk Kontribusi Xi • Hipotesis: 

H0 : Peubah Xi tidak signifikan memperbaiki model setelah yg lainnya tercakup dlm model H1 : Peubah Xi signifikan memperbaiki model setelah yg lainnya tercakup dlm model

• Statistik Uji: 

Dgn db = 1 dan (n - p -1)

F = JKR( X i SemuaSelainnya)

KTS

Koefisien Determinasi Parsial 2 rY 1.2

JKR ( X 1 X 2 )  JKT  JKR ( X 1 dan X 2 )  JKR ( X 1 X 2 )

Dari bagian ANOVA regresi utk model: Yˆi  b0  b1 X 1i  b2 X 2i

Dari bagian ANOVA regresi utk model: Yˆi  b0  b2 X 2i

Note: JKR(X1X2) = JKR(X1 dan X2) - JKR(X2)

Ujilah pada a = .05 utk menentukan apakah peubah temperatur signifikan memperbaiki model setelah peubah isolasi ada dlm model H0: X1 tidak memperbaiki model (X2 sdh ada)

a = .05, db = 1 dan 12 Nilai Kritis = 4.75

H1: X1 memperbaiki model ANOVA Regression Residual Total

(For X1 and X2) SS MS 228014.6263 114007.313 8120.603016 676.716918 236135.2293

ANO V A

(For X2)

R e g re ssi o n R e si d u a l T o ta l

JKR ( X 1 X 2 ) 228 ,015  51,076 F  KTS 676 ,717

SS 51076.47 185058.8 236135.2

= 261.47

Kesimpulan: Tolak H0. X1 memperbaiki model

Akibat Multikolinieritas • • • •

Koefisien Determinasi tinggi, tapi banyak koefisien yg tdk nyata Sulit memisahkan pengaruh dari masing-masing faktor. Tanda koefisien bukan hubungan yg sebenarnya Koefisien tdk nyata, bukan berarti peubah tsb tdk berpengaruh.

Contoh Output Minitab The regression equation is Demand = 850 - 5.03 P + 4.74 Pr + 0.277 Advertise + 0.0107 Income + 1.31 T

Predictor Constant P Pr Advertise Income T

Coef 850.0 -5.0326 4.7435 0.2774 0.010658 1.3091

S = 33.6398

SE Coef 134.8 0.4394 0.9696 0.1046 0.001316 0.7534

R-Sq = 91.5%

T 6.31 -11.45 4.89 2.65 8.10 1.74

P 0.000 0.000 0.000 0.014 0.000 0.095

R-Sq(adj) = 89.7%

Analysis of Variance Source Regression Residual Error Total

DF 5 24 29

SS 291364 27159 318523

MS 58273 1132

F 51.49

P 0.000