Magister Manajemen Univ. Muhammadiyah Yogyakarta
Analisis Regresi Linier
Wihandaru Sotya Pamungkas Pendahuluan 1
Magister Manajemen Univ. Muhammadiyah Yogyakarta
Pendahuluan A. Pengertian Regresi dan Korelasi Istilah regresi diperkenalkan oleh Francis Galton tahun 1886 diperkuat oleh Karl Pearson tahun 1903. Pengertian regresi secara umum adalah studi ketergantungan satu variabel tergantung (variabel dijelaskan atau variabel tak bebas) pada satu atau lebih variabel lain (variabel penjelas atau variabel bebas), dengan tujuan untuk menaksir atau memprediksi nilai rata-rata hitung (mean) atau rata-rata (populasi) variabel tak bebas, berdasarkan nilai yang diketahui atau tetap (dalam pengambilan sampel berulang-ulang) dari variabel penjelas (explanatory variable).
Wihandaru Sotya Pamungkas Pendahuluan 2
Magister Manajemen Univ. Muhammadiyah Yogyakarta Menurut Gujarati, tujuan analisis regresi: a. Untuk mengestimasi nilai rata-rata variabel tergantung dan nilai variabel penjelas tertentu. b. Untuk
menguji
hipotesis
mengenai
sifat
alamiah
ketergantungan (interdependentcy) sesuai dengan teori ekonomi. c.
Untuk memprediksi atau meramalkan nilai rata-rata variabel tergantung dan nilai variabel penjelas tertentu. Analisis korelasi digunakan untuk mengukur kekuatan
(strength) atau tingkat hubungan linier (degree of linear association) antara dua variabel. Dalam analisis korelasi baik variabel bebas (variabel penjelas) maupun variabel tergantung (variabel dijelaskan) diperlakukan secara simetris atau seimbang dimana tidak ada perbedaan antara variabel bebas (variabel penjelas) dengan variabel terikat (variabel dijelaskan). Dalam analisis regresi, variabel bebas (variabel penjelas) dengan variabel tergantung (variabel dijelaskan) diperlakukan secara asimetris. Wihandaru Sotya Pamungkas Pendahuluan 3
Magister Manajemen Univ. Muhammadiyah Yogyakarta Hubungan antara X (variabel bebas) dengan Y (variabel tergantung) yang berbentuk fungsi Æ Y= f(X), dikatakan pasti (deteriministik
non-stokastik). Misal, hubungan non-
atau
stokastik: permintaan akan suatu barang A diasumsikan tergantung pada harga barang A itu saja, sementara faktor lain dianggap konstan (ceteris paribus). Æ Q = f(P) = α + βP
B. Pengertian Linier Istilah linier dapat diartikan dengan dua cara yang berbeda, yaitu (Gujarati):
1. Linieritas dalam Variabel Linieritas adalah nilai rata-rata harapan variabel tergatung (variabel dijelaskan) adalah fungsi linear dari variabel bebas (variabel penjelas). E(Y|Xi) =
β0 + β1X1. Secara geometrik,
kurva regresi dalam kasus ini adalah suatu garis lurus. Dalam interpretasi, suatu fungsi regresi seperti 2
E(Y|Xi) = β0 + β1X1 , adalah bukan fungsi regresi linier karena variabel X berpangkat dua (kuadrat). Wihandaru Sotya Pamungkas Pendahuluan 4
Magister Manajemen Univ. Muhammadiyah Yogyakarta
2. Linieritas dalam Parameter Arti linieritas yang kedua adalah bahwa harapan bersyarat dari Y, E(Y|Xi) adalah fungsi linier dari parameter β; fungsi tadi mungkin linear atau tidak linier dalam variabel X. 2
Dalam interpretasi ini, E(Y|Xi) = β0 + β1X1 adalah model regresi linier, tetapi E( Y | X i ) = β0 + β1X1 bukan fungsi linier. Dari dua interpretasi di atas regresi linier selalu diartikan dengan suatu regresi dalam parameter (β); regresi tadi mungkin linier mungkin tidak linier dalam variabel penjelas.
Wihandaru Sotya Pamungkas Pendahuluan 5
Magister Manajemen Univ. Muhammadiyah Yogyakarta
C . R e g r e si L i n i e r B e r s ya r a t B e r g a n d a Untuk memahami regresi linier bersyarat berganda, digunakan model regresi (model estimasi):
Y = b0 + b1X1 + b2X2 + e Keterangan Y
Variabel tergantung
X1 ; X2 b0 ; b1 ; b2
Variabel bebas nilai parameter yang ditaksir menggunakan metode kuadrat
terkecil
dan
menggunakan
sampel
sebanyak “n” e
Faktor gangguan
b1 =
b2 =
∑ ∑
yx 1 ∑ x 22 −
∑
∑
yx
2
∑
x1x1
x 12 ∑ x 22 − ( ∑ x 1 x 2 ) 2
2 x ∑ 2 1 − ∑ yx 1 ∑ x 1 x 1 ∑ x 12 ∑ x 22 − ( ∑ x 1 x 2 ) 2
yx
Wihandaru Sotya Pamungkas Pendahuluan 6
Magister Manajemen Univ. Muhammadiyah Yogyakarta
b0 =
_
Y
_
_
− (b 1 X 1 + b 2 X 2 ) ^
e = Y − Y
D. Sifat-sifat Metode Ordinary Least
Square (OLS) dalam Regresi Linear B e r s y a r a t B e r g an d a Sifat-sifat dan atau ciri-ciri fungsi regresi
Y = b0 + b1X1 + b2X2 + e a. Garis regresi linier bersyarat berganda melewati nilai rata_
_
_
rata: Y , X 1 , X 2 . ^ b. Nilai rata-rata Y yang diestimasi ( = Y ) , sama dengan nilai
rata-rata Y yang sebenarnya. c.
_
∑e =e =0 ^
d. Faktor pengganggu, e, tidak berkorelasi dengan Y , yaitu Wihandaru Sotya Pamungkas Pendahuluan 7
Magister Manajemen Univ. Muhammadiyah Yogyakarta ^
∑ e. Y
=0
e. Faktor pengganggu, e, tidak berkorelasi dengan X1 dan X2, yaitu:
∑ e.X1 = ∑ e.X2 = 0 f.
Untuk tujuan pengujian hipotesis, maka diasumsikan faktor pengganggu, e, didistribusikan secara normal dengan nilai 2
rata-rata 0 dan varian δ , sehingga penaksir-penaksir ^ ^ ^ b0 , b1 , b2
dengan sendirinya didistribusikan secara normal
dengan rata-rata masing-masing dengan b 0 , b 1 , b 2 . g. Dengan asumsi kenormalan dapat ditunjukkan bahwa ^2
(N − 3) δ / δ2 mengikuti distribusi X2 derajad bebas (n – 3) Æ n = jumlah data.
Wihandaru Sotya Pamungkas Pendahuluan 8
Magister Manajemen Univ. Muhammadiyah Yogyakarta
E. M e mi l i h Mo d el Emp i r i s Secara umum dapat dikemukakan bahwa model yang baik adalah: a. Parsimony,
model
ekonometrika
yang
baik
hanya
memasukkan variabel-variabel yang dianggap penting dan dipilih berdasarkan teori ekonomi serta fenomena yang sesuai. b. Data admissibility, model ekonometrika yang baik hendaknya mampu memprediksi besaran-besaran ekonomi yang sesuai dengan teori ekonomi. c.
Data coherency, model yang yang baik hendaknya mampu menjelaskan
data
yang
ada.
Biasanya
kriteria
ini
2
menggunakan koefisien determinasi (R ), khususnya peneliti yang menggunakan analisis regresi linier Æ (pelajari koefisien determinasi). d. Constant parameter, parameter yang diestimasi harus konstan dalam arti bahwa parameter dari model yang baik adalah besaran statistik yang deterministik (pasti) dan bukan Wihandaru Sotya Pamungkas Pendahuluan 9
Magister Manajemen Univ. Muhammadiyah Yogyakarta stokastik. e. Theoritical consistency, model yang baik adalah model yang konsisten dengan teori ekonomi yang dipilih atau teori pesaingnya. Cara sederhana untuk mengidentifikasi apakah hasil estimasi mempunyai indikasi konsisten dengan teori adalah melihat tanda koefisien regresi. Misal harga saham berbanding terbalik dengan beta (risiko), semakin tinggi beta (risiko) semakin rendah harga saham, sehingga tanda [negatif]. f.
Encompassing, model yang digunakan mampu mengungguli model pesaingnya (model yang lain).
F . A s u m s i Kl a s i k Dalam buku ekonometrika ada beberapa asumsi klasik, yaitu (Gujarati, 1999): a. Model regresi adalah linier, yaitu linier di dalam parameter. b. Nilai Xi (variabel penjelas) adalah tetap untuk sampel yang berulang-ulang. Wihandaru Sotya Pamungkas Pendahuluan 10
Magister Manajemen Univ. Muhammadiyah Yogyakarta c.
Conditional expected value dari residual tergatung pada Xi adalah 0.
d. Homoskedastisitas. e. Tidak otokorelasi pada residual. f.
Kovarian antara ei dan Xi adalah 0
g. Jumlah observasi harus lebih banyak dibanding banyaknya parameter yang akan diestimasi (n> Xi). h. Variabilitas pada Xi, yaitu Xi dalam sampel tertentu harus mempunyai nilai yang tidak sama. i.
Spesifikasi dari model regresi (model estimasi) yang digunakan harus benar.
j.
Tidak ada multikolinieritas sempurna.
k.
Unsur pengganggu (ei) berdistribusi normal.
Wihandaru Sotya Pamungkas Pendahuluan 11
Magister Manajemen Univ. Muhammadiyah Yogyakarta
G. K e a n d a l a n E st i m a si Keandalan estimasi parameter dapat dikaji melalui 3 kriteria: a. Kriteria ekonomi, kriteria ini didasarkan pada teori ekonomi dan berhubungan dengan tanda dan magnitude parameter. b. Kriteria statistika, kriteria ini didasarkan pada (a) uji F (uji signifikansi secara serentak), (b) uji t (uji signifikansi secara partial) dan (c) Koefisien determinasi (R2) atau goodness of
fit. c.
Kriteria penyimpangan terhadap asumsi klasik, kriteria ini antara
lain:
(a)
multikolinearitas,
normalitas, (d)
(b)
linieritas,
homoskedastisitas
dan
(c)
non-
(e)
non-
otokorelasi.
Wihandaru Sotya Pamungkas Pendahuluan 12
Magister Manajemen Univ. Muhammadiyah Yogyakarta
H . Sifat BL U a.
Best: sifat varian terkecil secara sendirian tidak dibutuhkan, karena suatu taksiran memiliki varian nol [0], namun memiliki penyimpangan yang besar (enormous bias). Sifat varian minimum dibutuhkan jika dikombinasikan dengan sifat tidak bias (un-biasedness). Sifat ini penting dalam uji statistik (uji signifikansi) baku terhadap konstanta (b0) dan koefisien regresi (b1 .. bk), serta membuat interval keyakinan taksiran-taksiran.
b.
Linear: sifat ini dibutuhkan untuk memudahkan perhitungan dalam penaksiran.
c.
Un-biasedness: secara sendirian sifat ini tidak bergunan, namun akan bergunan jika jumlah sampel sangat besar. Penaksir parameter diperoleh dari sampel besar diharapkan dapat lebih mendekati pada nilai parameter sebenarnya.
Wihandaru Sotya Pamungkas Pendahuluan 13
Magister Manajemen Univ. Muhammadiyah Yogyakarta
Daftar Pustaka Ghozali, Imam (2007), Edisi 4, Aplikasi Analisis Multivariate dengan Program SPSS, BP Universitas Diponegoro, Semarang. Gujarati, Damodar N. (1995), Third Edition, Basics Econometrics, McGraw-Hill, New York. Sumodiningrat,
Gunawan (1998), Pengantar, BPFE, Yogyakarta.
Edisi
I,
Ekonometrika
Wihandaru Sotya Pamungkas Pendahuluan 14