ANALISIS REGRESI Regresi: kembali ke tahap perkembangan sebelumnya (psi.).
STATISTIKA LEKTION ACHT(#8) – ANALISIS REGRESI
Analisis regresi: analisis yang digunakan untuk mengetahui relasi dependensi (pengaruh) dari satu atau beberapa variabel independen terhadap sebuah variabel dependen. Analisis regresi: Analisis regresi linier → hubungan antar variabel mengarah pada hubungan linier (garis lurus) Analisis regresi nonlinier → hubungan antar variabel mengarah pada hubungan nonlinier.
Verfasser bei Usmania Institute
ANALISIS REGRESI LINIER Analisis regresi linier: Analisis regresi linier sederhana (simple regression): regresi linier dengan sebuah variabel independen.
Model: 𝒀 = 𝒃𝟎 + 𝒃𝟏 𝑿 Analisis regresi linier berganda (multiple regression): regresi linier dengan lebih dari 1 variabel independen.
Model: 𝒀 = 𝒃𝟎 + 𝒃𝟏 𝑿𝟏 + 𝒃𝟐 𝑿𝟐 + ⋯ + 𝒃𝒏 𝑿𝒏 • • • • •
X Y 𝒀 b0 b1 , b2 ,.. bn
: Variabel independen/prediktor/bebas : Variabel dependen /respon/terikat : Prediksi Y : intersep regresi Koefisien regresi : slope regresi
1
REGRESI LINIER SEDERHANA Kegunaan (umum): mengetahui relasi dependensi (pengaruh) sebuah variabel independen (X) terhadap sebuah variabel dependen (Y).
MODEL REGRESI LINIER SEDERHANA Bagan:
X →Y
Kegunaan (khusus) untuk mengetahui: Apakah X berpengaruh terhadap Y. Apakah pengaruh tersebut positif ataukah negatif. Seberapa besar pengaruh tersebut. Prediksi nilai Y bilamana nilai X diketahui. Syarat data:
Persamaan:
Y = b0 + b1X + e
𝑌 = b0 + b1X
Kedua variabel metrik (I,R), dan Ukuran sampelnya besar.
CONTOH PENERAPAN Apakah durasi belajar dalam seminggu berpengaruh terhadap IPK mahasiswa? Seberapa besar pengaruh tersebut? Jika seorang mahasiswa belajar 12 jam seminggu, berapa prediksi IPKnya? Apakah besarnya upah berpengaruh terhadap tingkat produktivitas? Jika upah sebesar Rp. 10.000 per jam, berapa prediksi tingkat produktivitasnya? Apakah usia bangunan berpengaruh terhadap harga rumah? Seberapa besar pengaruh tersebut? Jika sebuah rumah berusia 5 tahun, berapa prediksi harga jualnya? Apakah profitabilitas berpengaruh terhadap return saham? Seberapa besar pengaruh tersebut?
2
SAMPEL 2 TITIK
FUNGSI LINIER
persamaan: y=2+x
Y
Y = a + b· X
Y
(x2, y2)
Δx X
a>0? a=0? a<0?
b>0? b<0? b=0? b=∞?
1. (1, 3) dan (2, 5) → y = ? 2. a = 2, b = 0 → y = ?; x = 1 → y = ?; x = 50 → y = ?; x = 49.000 → y = ?
SAMPEL 3 TITIK
persamaan: y=2+x
Y Observasi: Y
1
3
3
5
4
6
Y
1
3
3
5
5
3
(0, a)
X
X
Δy
(x1, y1)
a
Observasi:
∆𝒚 𝒚𝟐 − 𝒚𝟏 𝒃=𝒎= = ∆𝒙 𝒙𝟐 − 𝒙𝟏
x=1→y=3 x=3→y= 5 x=4→y= 6
1
x=1→y=3 x=3→y= 5
3
X
HASIL OBSERVASI
6
Hasil mana yang umum terjadi sebagai hasil observasi (sampel)?
5
3
1
3
4
X
Y
X
Y
1
3
1
3
3
5
4
4
3
5
4
6
vs
X
3
SAMPEL 3 TITIK Y Observasi: X
Y
1
3
3
5
4
4
MEMBUAT GARIS PREDIKSI Apakah ada sebuah garis yang melewati ketiga titik secara sekaligus?
Y Observasi:
5 4 3
X
Y
1
3
3
5
4
4
5 4 3
persamaan: y = 2 + x ???? x=1→y=3 x=3→y= 5 x=4→y= 6
1
3
X
4
1
X
4
Garis mana yang paling baik dalam mewakili ketiga titik tersebut?
SALAH
MEMBUAT GARIS PREDIKSI
MEMBUAT GARIS PREDIKSI Y
Y
Garis mana yang paling baik dalam mewakili ketiga titik tersebut? Mengapa?
X
Y
x1
y1
x2
y2
⁞
⁞
Xn
yn
(xn , yn) (x1, y1)
e1
en (x2, 𝒚2)
𝒚 = a + bx
(xn, 𝒚n)
e2
X
Tahap utama analisis regresi: mencari persamaan garis prediksi (𝒀). Garis prediksi (𝒀) adalah garis yang terbaik dalam mewakili seluruh observasi (titik-titik) yang ada.
3
ei = error = residual ei = yi - 𝑦i
(x1, 𝒚1)
(x2, y2)
X
Garis prediksi yang terbaik adalah garis yang.....???
4
Garis regresi (prediksi) terbaik → 𝒆𝟏𝟐 + 𝒆𝟐𝟐 + ... + 𝒆𝒏𝟐 menghasilkan nilai yang paling minimum.
𝒆𝟏𝟐 + 𝒆𝟐𝟐 + ... 𝒆𝒏𝟐 = ∑ 𝒆𝒊𝟐 = S
S : jumlah kuadrat error (= jumlah kuadrat residual)
S = 𝒆𝟏𝟐 + 𝒆𝟐𝟐 + ... + 𝒆𝒏𝟐 = (y1 - 𝒚𝟏)2 + (y2 - 𝒚𝟐)2 + .... + (yn - 𝒚𝒏)2 = (y1 – a – bx1)2 + (y2 – a – bx2)2 +... + (yn – a – bxn)2 Garis prediksi terbaik → S paling minimum S minimum jika:
𝜕𝑺 𝜕𝑺 = 0 ; dan =0 𝜕𝒂 𝜕𝒃
𝒏xi yi−xi yi
Jadi, 𝒃 =
Karena garis regresi (prediksi) selalu melalui titik (𝒙, 𝒚), maka: 𝒚 = a + b𝒙 → a = 𝒚 ‒ b𝒙.
Ternyata, 𝑺𝒙𝒚 𝒏xi yi − xiyi 𝒃= = 𝒏xi𝟐 − xi 𝟐 𝑺𝒙 𝟐
Kaitan b dan r : Karena r =
𝒏xi𝟐 −
xi
𝟐
𝑺𝒙𝒚 → b = r . ?? dan r = b . ?? 𝑺𝒙 𝑺𝒚
𝜕𝑺 =0 𝜕𝒂 𝜕𝑺 =0 𝜕𝒃
?
→ yi = na + b xi ......... (persamaan 1) ?
→ xi yi = a xi + b xi𝟐 ......... (persamaan 2)
Dari persamaan (1) dan (2) diperoleh:
yi xi xi𝟐 yi − xi xi yi xi yi xi𝟐 𝒂= = 𝒏 xi 𝒏xi𝟐 − xi 𝟐 xi xi𝟐 𝒏 yi 𝒏xi yi − xi yi xi xi yi 𝒃= = 𝒏 xi 𝒏xi𝟐 − xi 𝟐 xi xi𝟐
INTERPRETASI KOEFISIEN REGRESI Arah pengaruh: b > 0 → X berpengaruh positif terhadap Y. b < 0 → X berpengaruh negatif terhadap Y b = 0 → ??
Besar pengaruh: b > 0 → untuk setiap X naik (turun) sebesar 1 satuan, maka Y naik (turun) sebesar b satuan. b < 0 → untuk setiap X naik (turun) sebesar 1 satuan, maka Y turun (naik) sebesar b satuan.
Prediksi: Jika diketahui nilai X = c, maka prediksi nilai Y adalah: 𝑌= a + b.c
5
KOEFISIEN REGRESI TERSTANDARISIR
CONTOH SOAL Diketahui data sampel tentang insentif per pekan (X) dalam ratusan ribu rupiah dan jumlah unit yang diproduksi (Y) dalam ratusan unit sebagai berikut: i
X
Y
1
1
2
2
2
4
3
3
5
4
4
7
z xi
KOEFISIEN DETERMINASI (R2) Koefisien determinasi (R2) adalah ukuran kebaikan model regresi (seberapa baik model regresi yang dihasilkan dalam menjelaskan data). Nilai R2 : 0 ‒ 1 R2 = 0 : model sama sekali tidak bisa menjelaskan data R2 = 1 : model regresi secara sempurna dapat menjelaskan data R2 = 0,87 → 87% variabilitas Y dapat dijelaskan oleh variabilitas X.
3 cara menghitung R2:
2
R 2
n
Sum Square Regression (SSR) Total Sum Square (TSS)
rY2Yˆ
R rXY
xi x SX
→ skor terstandarisir
ˆ zY z X
1. Tentukan persamaan regresinya. 2. Bagaimana interepretasinya? 3. Jika seorang karyawan diberi insentif sebesar 500 ribu rupiah per pekan, berapa prediksi dari jumlah unit yang diproduksi oleh karyawan tersebut?
R2
Koefisien regresi terstandarisir diperoleh ketika semua variabel dinyatakan dalam skor terstandarisir (Z).
( yˆ
i
y)
(y
i
y)
i 1 n i 1
z z z X
Y
2 X
→ model regresi terstandarisir
b1
SX rXY → koefisien regresi terstandarisir SY
Jadi, pada regresi linier sederhana berlaku: koefisien regresi terstandarisir = koefisien korelasi pearson
SOAL 1 Diketahui: 𝑿 = 4; 𝒀 = 5; SX = 1; SY = 2; rXY = 0,5 Tentukanlah: 1. Persamaan regresinya. 2. Interpretasi dari persamaan regresi tersebut. 3. Jika diketahui X = 10, tentukanlah berapa perkiraan harga Y.
Jadi, untuk regresi linier sederhana berlaku: 2 2 2 2
R rXY rYYˆ
6
SOAL 2
SOAL 3
Diketahui output SPSS sebagai berikut:
Diketahui output SPSS sebagai berikut: Coeffi cientsa
Coefficientsa
Model 1
(Constant) usia bangunan (dalam bulan)
Unstandardized Coeff icients B Std. Error 280,154 28,811 -1,263
Standardized Coeff icients Beta
,540
-,382
t 9,724
Sig. ,000
-2,339
,026
Model 1
(Constant) bany ak kamar
Unstandardized Coef f icients B St d. Error 63,976 30,049 46,580 7,989
St andardized Coef f icients Beta ,718
t 2,129 5,830
Sig. ,041 ,000
a. Dependent Variable: harga rumah (dalam jut aan rupiah)
a. Dependent Variable: harga rumah (dalam jutaan rupiah)
Tentukanlah: 1. Persamaan regresinya. 2. Interpretasi dari persamaan regresi tersebut. 3. Jika diketahui usian bangunan rumah tersebut 10 tahun, tentukanlah berapa perkiraan harga rumah tersebut.
Tentukanlah: 1. Persamaan regresinya. 2. Interpretasi dari persamaan regresi tersebut. 3. Jika diketahui banyaknya kamar 4 unit, tentukanlah berapa perkiraan harga rumah tersebut.
7
