Analisis Regresi 1 Pokok Bahasan :
Model-model Regresi yang Lebih Lanjut Itasia & Y Angraini Dep. STK FMIPA-IPB
Macam-macam Model Regresi Model Regresi
1 peubah penjelas
> 1 peubah penjelas Berganda
Sederhana
Linier
Polinom Itasia & Y Angraini Dep.STK FMIPA-IPB
Non Linier
Multiplikatif
Non Linier
Linier
Reciprocal
Log
Eksponensial
Contoh : Macam-macam Model Regresi
Sederhana
Linier
Hubungannya linier
Non Linier
Y β0 β1x ε
Polinom
Y β0 β1x β 2 x 2 ε
Multiplikatif
Y β 0 x β1 ε
Eksponensial
Y β 0e
Reciprocal
1 β 0 β1x ε
Itasia & Y Angraini Dep.STK FMIPA-IPB
β1 x
ε
Y β0 e
β1
x
ε
Model-model Regresi yang Lebih Lanjut
SEDERHANA, NONLINIER dalam PARAMETER
BERGANDA, LINIER dalam PARAMETER
hubungannya LINIER :
Ada interaksi :
1
Y 0 x
Y 0 1 x1 2 x2 Y 0 1 x1 2 x2 .... k xk
Y 0 1 x1 2 x2 12 x1 x2 Y 0 1 x1 2 x2 3 x3 12 x1 x2 13x1 x3 23x2 x3
Itasia & Y Angraini Dep.STK FMIPA-IPB
Model-model Regresi yang Lebih Lanjut (lanjutan)
BERGANDA, POLINOM
Ordo DUA :
Y 0 1 x1 11x1 2
Y 0 1 x1 2 x2 11x1 22 x2 12 x1 x2 2
2
Ordo TIGA :
Y 0 1 x1 11x1 111x1 2
3
Y 0 1 x1 2 x2 11x1 22 x2 111x1 2
2
3
222x2 3 12 x1 x2 112x12 x2 122x1 x2 2 Itasia & Y Angraini Dep.STK FMIPA-IPB
Model2 Regresi yang Lebih Lanjut (lanjutan)
BERGANDA, NONLINIER dalam PARAMETER 1
MULTIPLIKATIF
EKSPONENSIAL
Y e
RESIPROKAL
Y
Itasia & Y Angraini Dep.STK FMIPA-IPB
2
3
Y 0 x1 x2 x3
0 1 x1 2 x2
.
1 0 1 x1 2 x2
Transformasi untuk Meluruskan Pola Garis
Pada analisis regresi transformasi terhadap peubah penjelas dan atau peubah respon dimaksudkan untuk :
Memenuhi asumsi yang disyaratkan pada suatu metode, agar metode tsb sah digunakan (mis. MKT untuk menduga parameter, uji t dan uji F untuk menguji parameter) Meluruskan pola dugaan garis regresi, agar analisis dapat dilakukan dengan menggunakan model garis lurus (regresi linier yang hubungannya linier, banyaknya parameter sedikit) pengerjaannya lebih sederhana/tidak rumit
Itasia & Y Angraini Dep.STK FMIPA-IPB
Transformasi untuk Meluruskan: Pola Parabola
PERSAMAAN REGRESI : Y β 0 β1x β 2 x 2
POLA GARIS : Y
β1 > 0 β2 > 0
TRANSFORMASI:
Y
X diperbesar X2
TRANSFORMASI: β1 < 0 β2 < 0
Y diperkecil Y1/2
X
X diperbesar X2 Y diperbesar Y2
X
Y
Y β1 < 0 β2 > 0
TRANSFORMASI: X diperkecil X1/2 Y diperkecil Y1/2
X Itasia & Y Angraini Dep.STK FMIPA-IPB
TRANSFORMASI: β1 > 0 β2 < 0
X diperkecil X1/2
Y diperbesar Y2
X
Contoh: Transformasi untuk Meluruskan Tebaran Pola Parabola
Persamaan Regresi: Y β 0 β1x β 2 x 2 di TRANSFORMASI :
Y* Y
Scatterplot of akar Y vs X
Scatterplot of y vs x1 16
250
14 200
12 10
y
akar Y
150
100
8 6 4
50
2 0
0 0
2
4
6 x1
8
10
0
2
4
6
8
X
Transformasi Y*= akar Y telah mampu meluruskan pola tebaran menjadi garis lurus. Analisis dilakukan thdp data yg ditransformasi, menggunakan model linier sederhana. Itasia & Y Angraini Dep.STK FMIPA-IPB
10
Transformasi untuk Meluruskan: Pola Hiperbola
PERSAMAAN REGRESI :
POLA GARIS :
Y
x Y x
Y
1
1
TRANSFORMASI : Ke dua ruas dibalik
1 x Y x 1 x Itasia & Y Angraini Dep.STK FMIPA-IPB
X
Y 0 1 x garis lurus *
*
1 1 * Y , x , 0 , 1 Y x *
X
Contoh: Transformasi untuk Meluruskan Tebaran Pola Hiperbola
Persamaan Regresi : Y
x x
* di TRANSFORMASI : Y* = 1/Y
X = 1/X
Scatterplot of 1/y vs 1/x
Scatterplot of y vs x1 0.35
6.0 5.5
0.30
1/y
y
5.0 0.25
4.5 4.0
0.20
3.5 3.0
0.15 0
2
4
6 x1
Itasia & Y Angraini Dep.STK FMIPA-IPB
8
10
0.0
0.2
0.4
0.6 1/x
0.8
1.0
Transformasi untuk Meluruskan: Pola Eksponensial
PERSAMAAN REGRESI :
POLA GARIS :
Y
Y e
Y
βx X
TRANSFORMASI : Ke dua ruas di ln
ln y ln e ln x Itasia & Y Angraini Dep.STK FMIPA-IPB
x
Y * 0 1 x garis lurus
Y * ln y , 0 ln , 1
X
Contoh: Transformasi untuk Meluruskan Tebaran Pola Eksponensial
Persamaan Regresi : Scatterplot of y vs x
Y eβ x
di TRANSFORMASI :
r = 0.927
Y ln Y
Scatterplot of ln(y) vs x
60
*
r = 0.987
4
50 3
ln(y)
y
40 30
2
20 1
10 0
0
0
2
4
6 x
Itasia & Y Angraini Dep.STK FMIPA-IPB
8
10
0
2
4
6 x
8
10
Transformasi untuk Meluruskan: Pola Pangkat
MODEL REGRESI :
Y x
Y
β
POLA GARIS : 1 1
1 1 0 1 1 X
TRANSFORMASI : Ke dua ruas di ln ln y ln ( x )
ln ln x Itasia & Y Angraini Dep.STK FMIPA-IPB
Y * 0 1 x* garis lurus
Y * ln y , x* ln x, 0 ln , 1
Contoh: Transformasi untuk Meluruskan Tebaran Pola Pangkat Persamaan Regresi :
Y x
Scatterplot of y vs x
β
Y*= ln Y
di TRANSFORMASI : X*= ln X Scatterplot of ln(y) vs ln(x)
r=0.89
r=0.954
5.5 200
5.0 4.5
150
ln(y)
y
4.0 100
3.5 3.0
50
2.5 2.0
0
1.5 0
2
4
6 x
Itasia & Y Angraini Dep.STK FMIPA-IPB
8
10
0.0
0.5
1.0
1.5 ln(x)
2.0
2.5
Transformasi untuk Meluruskan: Pola Kebalikan Eksponensial
PERSAMAAN REGRESI :
Y e
e
x
POLA GARIS :
Y 0
Y
1 0 1 0
TRANSFORMASI : Ke dua ruas di ln
ln y ln ( e ln Itasia & Y Angraini Dep.STK FMIPA-IPB
x
x
)
e 0 X
X
Y * β0 β1 x* garis lurus 1 Y ln Y, x , β0 ln , β1 β x *
*
Contoh: Transformasi untuk Meluruskan Tebaran Pola Kebalikan Eksponensial
Persamaan Regresi : Scatterplot of y vs x
Y e
Y*= ln Y x di TRANSFORMASI : X*= 1/X Scatterplot of ln(y) vs 1/x
r=-0.735
r=0.848
3.0
16
2.5
12 2.0
y
ln(y)
8
1.5 1.0
4 0.5
0
0.0
0
2
4
6 x
Itasia & Y Angraini Dep.STK FMIPA-IPB
8
10
0.0
0.2
0.4
0.6 1/x
0.8
1.0
Model Hasil Transformasi
Hati-hati dengan asumsi sisaan jika Y ditransformasi
Sisaan = Ytransformasi – Ytransformasi
Didiagnosa seperti yang telah diterangkan pada pokok bahasan DIAGNOSA SISAAN, untuk mengetahui apakah sisaan tersebut memenuhi kondisi Gauss-Markov pada MKT dan atau sebaran Normal.
Interpretasi hasil dilakukan terhadap transformasi balik dugaan garis regresi yang didapat
Itasia & Y Angraini Dep.STK FMIPA-IPB
Contoh: Menduga Parameter Regresi Pola Pangkat Persamaan Regresi :
Scatterplot of y vs x
Y x
r=0.89
Y*= ln Y di TRANSFORMASI : X*= ln X
β
Scatterplot of ln(y) vs ln(x)
r=0.954
5.5 200
5.0 4.5
150
ln(y)
y
4.0 100
3.5 3.0
50
2.5 0
2.0 0
2
4
6
8
10
x
1.5 0.0
0.5
1.0
1.5
2.0
2.5
Karena bentuk tebarannya tidak linier, maka dilakukan transformasi agar menjadi linier. Setelah linier maka selanjutnya dilakukan analisis regresi linier sederhana.
ln(x)
Persamaan Regresi yang Digunakan :
ln Y 0 1 ln x garis lurus
MENGUJI APAKAH MODEL REGRESI LINIER PAS ? Sequential Analysis of Variance Source DF SS F P Linear 1 6.98396 89.44 0.000 Quadratic 1 0.15023 2.07 0.174 Itasia & Y Angraini Dep.STK FMIPA-IPB
Penambahan pengaruh kuadratik ke dlm model tidak nyata pers.linier pas
Contoh: Menduga Parameter Regresi Pola Pangkat (lanjutan)
0 dan 1 0
The regression equation is: ln(y) = 1.64 + 1.44 ln(x) Predictor Coef Constant 1.6398 ln(x) 1.4433
SE Coef 0.2506 0.1526
T 6.54 9.46
P 0.000 0.000
Dugaan garis regresi yang digunakan :
ln(y) = 1.64 + 1.44 ln(x)
S = 0.279431 R-Sq = 86.5% R-Sq(adj) = 85.5%
MENDIAGNOSA SISAAN
Residuals Versus the Fitted Values (response is ln(y)1)
0.50
Dari hasil tebaran sisaan terhadap nilai dugaannya didapatkan bahwa : - Lebar pita hampir sama ragam homogen - Tebaran tidak berpola sisaan saling bebas
Sisaan memenuhi asumsi Gauss-Markov Itasia & Y Angraini Dep.STK FMIPA-IPB
Residual
- Sisaan di sekitar nol E 0
0.25
0.00
-0.25
-0.50
-0.75 2.5
3.0
3.5 Fitted Value
4.0
4.5
Contoh: Menduga Parameter Regresi Pola Pangkat (lanjutan) APAKAH SISAAN MENYEBAR NORMAL? Plot antara sisaan dan peluang normal menunjukkan pola garis lurus sisaan menyebar Normal
Normal Probability Plot of the Residuals (response is ln(y)1)
99
95
Uji t dapat digunakan
90
Percent
80 70
Predictor Coef Constant 1.6398 ln(x) 1.4433
60 50 40 30 20
5
-0.75
T P 6.54 .000 9.46 .000
Kesimpulan : ln x berpengaruh linier terhadap ln Y
10
1
SE Coef 0.2506 0.1526
-0.50
-0.25
Itasia & Y Angraini Dep.STK FMIPA-IPB
0.00 Residual
0.25
0.50
ln(Y) = 1.64 + 1.44 ln(x)
Contoh: Menduga Parameter Regresi Pola Pangkat (lanjutan) INTERPRETASI DUGAAN GARIS REGRESI HASIL TRANSFORMASI
Dugaan persamaan garis regresi : ln Y = 1.64 + 1.44 ln x Transformasi balik :
e ln Y e1.64 1.44ln x Y e
1.64
.e
ln x 1.44
Y e 0 . x 1 Y . x
e1.64. x1.44
Interpretasi : perubahan x dari xi ke xi+1 mengubah Y sebesar 1.64
e
x
1.44 i 1
Itasia & Y Angraini Dep.STK FMIPA-IPB
xi
1.44
e
0
x
i 1
1
xi
1
Model Regresi Polinomial
ORDO KE-SATU hubungannya linier
Satu peubah penjelas Y β 0 β1X ε
Dua peubah penjelas Y β0 β1X1 β 2 X 2 ε
K peubah penjelas
Y β0 β1X1 β 2 X2 .... β k X k ε
ORDO KE-DUA •
Satu peubah penjelas Y β 0 β1X β11X 2 ε
• Dua peubah penjelas Y β0 β1X β 2 X 2 β11X12 β 22X 2 β12X1X 2 ε 2
Banyaknya parameter ordo ke-2 dg k peubah = ½( k2+3k) + 1 Itasia & Y Angraini Dep.STK FMIPA-IPB
Model-model Regresi Berdasarkan Peubah Penjelas-nya Explanatory Variable 1 Quantitative Variable
2 or More Quantitative Variables
1 Qualitative Variable
1st 2nd 3rd Order Order Order Model Model Model
1st Inter- 2nd Order Action Order Model Model Model
Dummy Variable Model
Itasia & Y Angraini Dep.STK FMIPA-IPB
Model Ordo ke-1 dengan 2 Peubah Penjelas 1.
Hubungan antara 2 peubah penjelas dengan peubah respon merupakan fungsi linier.
2.
Diasumsikan tidak ada interaksi antara X1 & X2 Pengaruh X1 terhadap Y tidak dipengaruhi nilai X2
3.
Model Regresinya Y β0 β1X1 β 2 X 2 ε
Itasia & Y Angraini Dep.STK FMIPA-IPB
Model Ordo ke-1 dengan 2 Peubah Penjelas Tidak ada interaksi
Y
Y = 1 + 2X1 + 3X2
12 8 4 0
X1 0
0.5
Itasia & Y Angraini Dep.STK FMIPA-IPB
1
1.5
Model Ordo ke-1 dengan 2 Peubah Penjelas Tidak ada interaksi
Y
E(Y) = 1 + 2X1 + 3X2
12 8 4
E(Y) = 1 + 2X1 + 3(0) = 1 + 2X1
0
X1 0
0.5
Itasia & Y Angraini Dep.STK FMIPA-IPB
1
1.5
Model Ordo ke-1 dengan 2 Peubah Penjelas Tidak ada interaksi
Y
E(Y) = 1 + 2X1 + 3X2
12 8
E(Y) = 1 + 2X1 + 3(1) = 4 + 2X1
4
E(Y) = 1 + 2X1 + 3(0) = 1 + 2X1
0
X1 0
0.5
Itasia & Y Angraini Dep.STK FMIPA-IPB
1
1.5
Model Ordo ke-1 dengan 2 Peubah Penjelas Tidak ada interaksi
Y
E(Y) = 1 + 2X1 + 3X2
12
E(Y) = 1 + 2X1 + 3(2) = 7 + 2X1
8
E(Y) = 1 + 2X1 + 3(1) = 4 + 2X1
4
E(Y) = 1 + 2X1 + 3(0) = 1 + 2X1
0
X1 0
0.5
Itasia & Y Angraini Dep.STK FMIPA-IPB
1
1.5
Model Ordo ke-1 dengan 2 Peubah Penjelas Tidak ada interaksi
Y
E(Y) = 1 + 2X1 + 3X2 E(Y) = 1 + 2X1 + 3(3) = 10 + 2X1
12
E(Y) = 1 + 2X1 + 3(2) = 7 + 2X1
8
E(Y) = 1 + 2X1 + 3(1) = 4 + 2X1
4
E(Y) = 1 + 2X1 + 3(0) = 1 + 2X1
0
X1 0
0.5
Itasia & Y Angraini Dep.STK FMIPA-IPB
1
1.5
Model Ordo ke-1 dengan 2 Peubah Penjelas Tidak ada interaksi
Y
E(Y) = 1 + 2X1 + 3X2 E(Y) = 1 + 2X1 + 3(3) = 10 + 2 X1
12
E(Y) = 1 + 2X1 + 3(2) = 7 + 2 X1
8
E(Y) = 1 + 2X1 + 3(1) = 4 + 2 X1
4
E(Y) = 1 + 2X1 + 3(0) = 1 + 2 X1
0
X1 0
0.5
1
1.5
Pengaruh X1 thdp Y tidak bergantung pada X2 Itasia & Y Angraini Dep.STK FMIPA-IPB
Model-model Regresi Berdasarkan Peubah Penjelas-nya Explanatory Variable 1 Quantitative Variable
2 or More Quantitative Variables
1 Qualitative Variable
1st 2nd 3rd Order Order Order Model Model Model
1st Inter- 2nd Order Action Order Model Model Model
Dummy Variable Model
Itasia & Y Angraini Dep.STK FMIPA-IPB
Model Interaksi dengan 2 Peubah Penjelas 1.
Anggap ada 2 peubah penjelas yang saling berinteraksi
2.
3.
Pengaruh peubah penjelas yang satu (mis. X1) berubah-ubah tergantung pada nilai peubah penjelas lainnya (mis. X2)
Model regresi-nya : Y β0 β1X1 β 2 X 2 β3X1X 2 ε Dapat dikombinasikan dengan model lainnya, mis. Model peubah boneka
Itasia & Y Angraini Dep.STK FMIPA-IPB
Efek Interaksi 1. Model Regresi-nya:
Y 0 1 X 1 2 X 2 3 X 1 X 2 2. Tanpa Interaksi, efek X1 terhadap Y diukur oleh 1 3. Ada Interaksi, efek X1 terhadap Y diukur oleh 1 + 3X2
Itasia & Y Angraini Dep.STK FMIPA-IPB
Efek naik jika X2 naik
Hubungan Model Interaksi Y
Y = 1 + 2X1 + 3X2 + 4X1X2
12 8 4 0
X1 0
Itasia & Y Angraini Dep.STK FMIPA-IPB
0.5
1
1.5
Hubungan Model Interaksi Y
Y = 1 + 2X1 + 3X2 + 4X1X2
12 8 Y = 1 + 2X1 + 3(0) + 4X1(0) = 1 + 2X1
4 0
X1 0
Itasia & Y Angraini Dep.STK FMIPA-IPB
0.5
1
1.5
Hubungan Model Interaksi Y
Y = 1 + 2X1 + 3X2 + 4X1X2 Y = 1 + 2X1 + 3(1) + 4X1(1) = 4 + 6X1
12 8
Y = 1 + 2X1 + 3(0) + 4X1(0) = 1 + 2X1
4 0
X1 0
Itasia & Y Angraini Dep.STK FMIPA-IPB
0.5
1
1.5
Hubungan Model Interaksi Y
Y = 1 + 2X1 + 3X2 + 4X1X2 Y = 1 + 2X1 + 3(1) + 4X1(1) = 4 + 6X1
12 8
Y = 1 + 2X1 + 3(0) + 4X1(0) = 1 + 2X1
4 0
X1 0
0.5
1
1.5
Efek/kemiringan X1 thdp Y bergantung pd X2 Itasia & Y Angraini Dep.STK FMIPA-IPB
Worksheet untuk Model Interaksi Case, i
Yi
X1i
X2i
X1i X2i
1 2 3 4 :
1 4 1 3 :
1 8 3 5 :
3 5 2 6 :
3 40 6 30 :
Kalikan X1 dg X2 untuk mendapatkan X1X2. Lakukan regresi X1, X2 , X1X2 thdp Y Itasia & Y Angraini Dep.STK FMIPA-IPB
Model-model Regresi Berdasarkan Tipe Peubah Penjelas-nya Explanatory Variable 1 Quantitative Variable
2 or More Quantitative Variables
1 Qualitative Variable
1st 2nd 3rd Order Order Order Model Model Model
1st Inter- 2nd Order Action Order Model Model Model
Dummy Variable Model
Itasia & Y Angraini Dep.STK FMIPA-IPB
Peubah Boneka (Dummy variable)
Peubah boneka adalah peubah bebas/penjelas yang tipenya kategorik dengan dua taraf: yes atau no, on atau off, male atau female, nilainya 0 atau 1 Peubah Respon (Y)
Peubah Penjelas (x) Kuantitatif
Kategorik
Banyaknya barang yang terjual dalam satu minggu
1.Harga barang 2.Biaya iklan
Adanya hari libur dalam minggu tersebut
Kecepatan reaksi bahan kimia
1.Suhu 2.Tekanan
Jenis katalisator yang digunakan
Model Regresinya : Y 0 1 x1 2 x2 3 x3 Itasia & Y Angraini Dep.STK FMIPA-IPB
Peubah Boneka (Dummy variable) (lanjutan)
Jika uji parameter peubah boneka nyata peubah boneka berpengaruh nyata ada 2 persamaan (grafik): kategori-1 dan kategori-2 ˆ b0 b1x1 b 2 (1) (b0 b2 ) b1x1 y ˆ b0 b1x1 b 2 (0) y
b0
Intersep berbeda
b1x1 Slope sama
Koef intersep untuk ke-dua kategori berbeda Slope untuk ke-dua kategori tersebut sama
Itasia & Y Angraini Dep.STK FMIPA-IPB
Contoh : Penggunaan Peubah Boneka Sebuah toko kue ingin memprediksi banyaknya pie yang terjual per minggu. Untuk itu dikumpulkan data penjualan selama 25 minggu, beserta data peubah-peubah penjelas yang diperkirakan mempengaruhi banyaknya penjualan pie. Yaitu peubah harga, dan peubah ada/tidak-nya hari libur pd minggu ybs.
Persamaan regresinya : Y 0 1 x1 2 x 2 Y = banyaknya pie yg terjual/minggu P Boneka x1 = harga pie x2 = hari libur (X2 = 1 jika dalam minggu tsb ada hari libur) (X2 = 0 jika dalam minggu tsb tidak ada hari libur)
Itasia & Y Angraini Dep.STK FMIPA-IPB
Contoh : Penggunaan Peubah Boneka (lanjutan)
Y b0 b1 x1 b2 (1) b0 b2 b1 x1
Ada hari libur
Y b0 b1 x1 b2 (0) b0
Tidak ada hari libur
y (banyaknya pie yg terjual)
b0+ b2
b0
b1 x1
Jika H0: β2 = 0 ditolak, maka “Hari Libur” berpengaruh nyata thdp banyaknya penjualan pie
x1 (Harga) Itasia & Y Angraini Dep.STK FMIPA-IPB
Interpretasi Koefisien Peubah Boneka Contoh:
ˆ 300 - 30 x 15x Y 1 2 Penjualan 300 - 30(harga) 15(hari libur) Penjualan = banyaknyam pie yg terjual/minggu Harga = harga pie hari libur 1 jika dalam minggu tsb ada hari libur 0 jika dalam minggu tsb tidak ada hari libur
b2 = 15: rata-rata, banyaknya pie yg terjual 15 unit lebih banyak dalam minggu yg ada hari liburnya dibanding dg dalam minggu yg tidak ada hari liburnya Itasia & Y Angraini Dep.STK FMIPA-IPB
Menyusun Worksheet-nya Case, i
Yi
X1i
X2i
1 2 3 4 :
1 4 1 3 :
1 8 3 5 :
1 0 1 1 :
Taraf X2 : jika termasuk kategori 1 = 0 jika termasuk kategori 2 = 1 Itasia & Y Angraini Dep.STK FMIPA-IPB