BAB 2
LANDASAN TEORI
2.1 Pengertian Regresi
Istilah regresi diperkenalkan oleh seorang yang bernama Francis Gulton dalam makalah berjudul Regression Towerd Mediacraty in Hereditary Stature. Menurut hasil penelitian beliau, meskipun ada kecendrungan bagi para orang tua yang tinggi mempunyai anak yang tinggi dan orang tuanya pendek mempunyai anak pendek, dengan kata lain bahwa ada kecendrungan bagi rata – rata tinggi anak dengan orang tua yang mempunyai tinggi tertentu untuk bergerak mundur (Regress) kearah tinggi rata – rata seluruh. Penemuan ini ditulis dalam artikel berjudul : “Family Likeness in Stature” ( Proceedings of Royal Society, London, Vol. 40, 1886). Menurut penjelasannya, ada suatu kecendrungan untuk rata – rata anak dari orang tua dengan tinggi tertentu bergerak menuju nilai rata – rata dari seluruh populasi. Hukum regresi universal dari Galton telah dibuktikan oleh sahabatnya yang bernama Karl Pearson, dengan jalan mengumpulkan lebih dari seribu catatan mengenai tinggi dari pada anggota kelompok keluarga. Karl Pearson menemukan bahwa rata – rata tinggi anak laki – laki kelompok orang tua yang tinggi ternyata lebih kecil dari tinggi ayahnya dan rata – rata tinggi anak laki – laki dari kelompok orang tua yang pendek ternyata lebih besar dari pada ayahnya, jadi seolah – olah semua anak laki – laki yang tinggi dan
Universitas Sumatera Utara
anak laki – laki yang pendek bergerak menuju kerata – rata tinggi dari seluruh anak laki – laki, yang menurut istilah Galton : “regression to mediocrity”. Dari uraian diatas dapat disimpulkan bahwa pada umumnya tinggi anak mengikuti tinggi orangtuanya.
Jadi analisa regresi berkenaan dengan studi ketergantungan dari suatu variabel yang disebut variabel tak bebas (dependent variable), pada satu atau lebih variabel, yaitu variabel yang menerangkan dengan tujuan untuk memperkirakan atau meramalkan nilai – nilai dari variabel tak bebas apabila nilai variabel yang menerangkan sudah diketahui. Variabel yang menerangkan sering disebut variabel bebas (independent variable).
2.2 Analisis Regresi Linier
Analisis regresi linier digunakan untuk peramalan, dimana dalam model terdapat variabel bebas X dan variabel Y. Regresi linier adalah menentukan satu persamaan dan garis yang menunjukan hubungan antara variabel bebas dan terikat, yang merupakan persamaan penduga yang berguna untuk menaksir atau meramalkan variabel terikat. Untuk mempelajari hubungan – hubungan antara beberapa variabel. Analisis ini terdiri dari 2 bentuk, yaitu : 1. Analisis sederhana (simple analisis) 2. Analisis berganda (multiple analisis)
Universitas Sumatera Utara
Analisis sederhana merupakan hubungan antara 2 variabel yaitu variabel bebas (independent variable) dan variabel tak bebas (dependent variable). Sedangkan analisis berganda merupakan hubungan antara 3 variabel atau lebih, yaitu sekurang – kurangnya 2 variabel bebas dengan 1 variabel tak bebas.
Variabel bebas merupakan variabel yang peubah – peubah tanpa adanya pengaruh variabel – variabel lain, tetapi perubahan yang terjadi pada variabel bebas akan mengakibatkan terjadinya perubahan pada variabel lain. Variabel tak bebas merupakan variabel yang hanya akan berubah manakala terjadi perubahan pada variabel atau variabel yang lain. Analisis regresi berguna untuk mendapatkan hubungan fungsional antara dua variabel bebas terhadap variabel tak bebas atau meramalkan pengaruh variabel bebas terhadap variabel tak bebas.
2.2.1 Regresi Linier Sederhana
Regresi linier sederhana merupakan suatu prosedur untuk mendapatkan hubungan matematis dalam bentuk suatu persamaan antara variabel tak bebas tunggal dengan variabel bebas tunggal. Regresi linier sederhana hanya ada satu peubah bebas X. Bentuk – bentuk model umum regresi sederhana adalah hubungan variabel – variabel X dan Y sebenarnya dinyatakan :
Y = β 0 + β1 X + ε
Universitas Sumatera Utara
Dimana : Y
= Variabel bebas
X
= Variabel tak bebas
β0
= Intercept Y dari garis, yaitu titik dimana garis itu memotong sumbu Y
β1
= Kemiringan garis
ε
= Kesalahan penggangu
Jika
β 0 , β1 ditaksir oleh b0 dan b1, maka bentuk regresi linier sederhana
untuk sampel adalah sebagai berikut :
∧
Y = b0 + b1 X Dimana : ∧
Y
= Nilai taksiran untuk Y
b0
= Penaksir untuk
β0
b1
= Penaksir untuk
β1
Universitas Sumatera Utara
Untuk menentukan b0 dan b1 adalah :
∑ X i2 ∑ Yi 2 − ∑ X i ∑ X iYi b0 = 2 n ∑ X i2 − (∑ X i )
b1 =
n ∑ X i Yi − ∑ X i ∑ Yi 2 n ∑ X i2 − (∑ X i )
2.2.2 Regresi Linier Berganda
Banyak persoalan penelitian / pengamatan yang terjadi sebagai akibat lebih dari dua variabel, atau dengan kata lain memerlukan lebih dari satu peubah bebas dalam membentuk model regresi. Sebagai salah satu contoh, IPK (Indeks Prestasi Kumulatif) seorang mahasiswa (Y) bergantung pada jumlah jam belajar (X1), banyaknya buku yang dibaca (X2), jumlah uang (X3) dan banyak faktor lainnya. Untuk memberikan gambaran tentang suatu permasalahan / persoalan, biasanya sangat sulit ditentukan sehingga diperlukan suatu model yang dapat memprediksi dan meramalkan respon yang penting terhadap persoalan tersebut, yaitu regresi linier berganda.
Universitas Sumatera Utara
Bentuk umum model regresi linier berganda untuk populasi adalah :
Y = β 0 + β1 X 1 + β 2 X 2 + ... + β k X k + ε
Dimana : Y
= Pengamatan ke i pada variabel tak bebas
Xk
= Pengamatan ke i pada variabel bebas
βk
= Koefisien regresi variabel bebas Xk
ε
= variabel gangguan
Regresi ganda berguna untuk mendapatkan pengaruh dua variabel bebas, atau untuk mencari hubungan fungsional dua variabel tak bebas atau lebih. Dengan taksiran :
∧
Y = b0 + b1 X 1 + b2 X 2 + ... + bk X k Dimana : ∧
Y
= nilai taksiran bagi variabel Y
b0
= taksiran bagi parameter konstanta
b1,b2,...,bk
β0
= taksiran bagi parameter konstanta
β 0 , β1 , β 2 ,......, β k
Universitas Sumatera Utara
Untuk mencari nilai b0, b1, b2,...., bk diperlukan n buah pasang data (X1,X2,....,Xk,Y) yang dapat disajikan dalam tabel berikut :
Tabel 2.1 Data Hasil Pengamatan dari n Responden (X1,X2,....,Xk,Y) Responden X1
X2
........
Xk
Y
1
X11
X21
........
Xk1
Y1
2
X12
X22
........
Xk2
Y2
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
n
X1n
X2n
........
Xkn
Yn
Dari tabel 2.1 dapat dilihat bahwa Y1 berpasangan dengan X11,X21,....,Xk1. Data Y2 berpasangan dengan X21,X22,....,Xk2 dan umumnya data Yn berpasangan dengan X1n,X2n,....,Xkn.
Persamaan regresi berganda dengan dua variabel bebas X1, X2 ditaksir oleh : ∧
Y = b0 + b1 X 1 + b2 X 2
Dan diperoleh tiga persamaan normal yaitu :
∑ Y = b0 n + b1 ∑ X 1 + b2 ∑ X 2
∑ YX 1
=
b0 ∑ X 1 + b1 ∑ X 1 + b2 ∑ X 1 X 2
∑ YX 2
=
b0 ∑ X 2 + b1 ∑ X 2 X 1 + b2 ∑ X 2
2
2
Universitas Sumatera Utara
Sehingga dalam bentuk matriks dapat dituliskan :
∑ X1 ∑ X 2 b0 ∑ Y n ∑ YX = ∑ X ∑ X 2 X X ∑ 1 1 1 1 2 x b1 ∑ YX 2 ∑ X 2 ∑ X 1 X 2 ∑ X 2 b2 2
Dalam penelitian ini, penulis menggunakan regresi linier berganda dengan 4 variabel, yaitu satu variabel tak bebas (dependent variable) dan tiga variabel bebas (independent variable).
Untuk regresi linier berganda dengan tiga variabel bebas X1,X2,X3 ditaksir oleh : ∧
Y = b0 + b1 X 1 + b2 X 2 + b3 X 3
Untuk rumus diatas harus diselesaikan dengan empat persamaan normal yaitu :
∑ Y = b0 n + b1 ∑ X 1 + b2 ∑ X 2 + b3 ∑ X 3
∑ YX 1
=
b0 ∑ X 1 + b1 ∑ X 1 + b2 ∑ X 1 X 2 + b3 ∑ X 1 X 3
∑ YX 2
=
b0 ∑ X 2 + b1 ∑ X 2 X 1 + b2 ∑ X 2 + b3 ∑ X 2 X 3
∑ YX 3
=
b0 ∑ X 3 + b1 ∑ X 3 X 1 + b2 ∑ X 3 X 2 + b3 ∑ X 3
2
2
2
Universitas Sumatera Utara
Sehingga dalam bentuk matriks dapat dituliskan :
∑ X1 ∑ Y n ∑ YX 2 X X ∑ ∑ 1 1 1 = ∑ YX 2 ∑ X 2 ∑ X 1 X 2 YX ∑ 3 ∑ X 3 ∑ X 1 X 3
∑ X2
∑ X3
∑ X1 X 2 ∑ X2
2
∑ X2X3
b0 ∑ X 1 X 3 b1 x ∑ X 2 X 3 b2 2 ∑ X 3 b3
Dengan : ∧
Y
= variabel terikat (nilai duga)
X1,X2,X3
= variabel bebas
b0,b1,b2 dan b3 = koefisien regresi linier berganda b0
= nilai Y, apabila X1=X2=X3
b1
= besarnya kenaikan/penurunan Y dalam satuan, jika X1 naik/turun satu satuan dimana X2,X3 konstan.
b2
= besarnya kenaikan/penurunan Y dalam satuan, jika X2 naik/turun satu satuan dimana X1,X3 konstan.
b3
= besarnya kenaikan/penurunan Y dalam satuan, jika X3 naik/turun satu satuan dimana X1,X2 konstan.
+ atau -
= tanda yang menunjukan arah hubungan antara Y dengan variabel bebas X.
Harga – harga b0, b1, b2 dan b3 yang telah didapat kemudian disubtitusikan ke dalam persamaan sehingga diperoleh model regresi linier berganda Y atas X1,X2,X3. \
Universitas Sumatera Utara
Dalam persamaan model regresi linier yang diperoleh, maka antara nilai Y ∧
dengan
Y akan menimbulkan perbedaan hasil yang sering disebut sebagai kekeliruan.
2 Ukuran tersebut dapat dihitung oleh kekeliruan baku taksiran s y .12....k , yang dapat
ditentukan dengan rumus : ∧
s
2 y .12...k
=
∑(Y − Y ) 2 n − k −1
Dengan : Y
= nilai data hasil pengamatan
∧
Y
= nilai hasil regresi
n
= ukuran sampel
k
= banyak variabel bebas
2.3 Uji Regresi Linier Ganda
Pengujian hipotesis bagi koefisien – koefisien regresi linier berganda dapat dilakukan secara serentak atau keseluruhan. Pengujian regresi linier perlu dilakukan untuk mengetahui apakah variabel – variabel bebas secara bersamaan memiliki pengaruh terhadap variabel tak bebas.
Universitas Sumatera Utara
Langkah – langkah pengujiannya adalah sebagai berikut : 1. Menentukan formulasi hipotesis H0 : b1 = b2 = b3 = ... = bk = 0 (X1,X2,...,Xk tidak mempengaruhi Y) H1 : minimal ada satu parameter koefisien regresi yang tidak sama dengan nol atau mempengaruhi Y. 2. Menetukan taraf nyata α dan nilai Ftabel dengan derajat kebebasan v1= k dan v2= n-k-1. 3. Menetukan kriteria pengujian H0 diterima jika Fhit ≤ Ftab. H0 ditolak Jika Fhit > Ftab. 4. Menentukan nilai statistik F dengan rumus :
F=
JK reg / k JK res /( n − k −1)
Dengan : JKreg
= jumlah kuadrat regresi
JKres
= jumlah kuadrat residu (sisa)
(n-k-1) = derajat kebebasan JKreg
=
b1 ∑ y x1 + b2 ∑ y x2 + ... + bk ∑ y xk
Universitas Sumatera Utara
x1 = X 1 − X 1
Dengan :
x2 = X 2 − X 2 . . .
xk = X k − X k ∧
JKres
2 = ∑(Y − Y )
5. Membuat kesimpulan apakah H0 diterima atau ditolak.
2.4 Koefisien Determinasi
Koefisien determinasi yang dinyatakan dengan R2 untuk pengujian regresi linier berganda yang mencakup lebih dari dua variabel. Koefisien determinasi adalah untuk mengetahui proporsi keberagaman total dalam variabel tak bebas Y yang dapat dijelaskan atau diterangkan oleh variabel - variabel bebas X yang ada di dalam model persamaan regresi linier berganda secara bersama - sama. Maka R2 akan ditentukan oleh rumus :
R2 =
JK reg ∑ y2
Dengan : JKreg
= jumlah kuadrat regresi
∑y
(∑ Y ) 2 = ∑Y − n
2
2
Universitas Sumatera Utara
2.5 Pengertian Korelasi
Analisis korelasi adalah alat statistik yang dapat digunakan untuk mengetahui adanya derajat hubungan linier antara satu variabel dengan variabel yang lain. Hubungan antara satu variabel dengan variabel yang lainnya dapat merupakan hubungan yang kebetulan belaka, tetapi dapat juga merupakan hubungan sebab akibat.
Dua variabel dikatakan berkorelasi apabila perubahan pada satu variabel akan diikuti oleh perubahan variabel lain, baik dengan arah yang sama maupun dengan arah yang berlawanan. Hubungan antar variabel dapat dikelompokkan menjadi 3 jenis hubungan sebagai berikut : 1. Korelasi positif Terjadinya korelasi positif apabila perubahan pada variabel yang satu diikuti dengan perubahan variabel yang lain dengan arah yang sama (berbanding lurus). Artinya, apabila variabel yang satu meningkat, maka akan diikuti dengan peningkatan variabel yang lain. 2. Korelasi negatif Korelasi negatif terjadi apabila perubahan pada variabel yang satu diikuti dengan perubahan variabel yang lain dengan arah yang berlawanan (berbanding terbalik). Artinya, apabila variabel yang satu meningkat, maka akan diikuti dengan penurunan pada variabel yang lain dan sebaliknya. 3. Korelasi nihil Korelasi nihil terjadi apabila perubahan pada variabel yang satu diikuti perubahan pada variabel yang lain dengan arah yang tidak teratur (acak). Artinya, apabila variabel yang satu meningkat, kadang diikuti dengan
Universitas Sumatera Utara
peningkatan pada variabel yang lain dan kadang diikuti dengan penurunan pada variabel yang lain.
2.6 Koefisien Korelasi
Besarnya hubungan antara variabel yang satu dengan variabel yang lain dinyatakan dengan koefisien korelasi yang disimbolkan dengan “r”. besarnya koefisien korelasi berkisar antara -1 ≤ r ≤ +1.
Untuk mencari korelasi antara variabel Y terhadap Xi atau ry.1,2,...,k dapat dicari dengan rumus :
ry .1, 2,...,k =
n ∑ X iY − (∑ X i )(∑ Y )
{n ∑ X
2 i
}{
− (∑ X i ) n ∑ Y 2 − (∑ Y ) 2
2
}
Sedangkan untuk mengetahui korelasi antara variabel bebas dengan tiga peubah variabel bebas adalah : 1. Koefisien korelasi antara X1 dan X2
r12
=
n ∑ X 1 X 2 − (∑ X 1 )(∑ X 2 )
{n ∑ X
2 1
− (∑ X 1 )
2
}{n ∑ X
2 2
2
}
2
}
− (∑ X 2 )
2. Koefisien korelasi antara X1 dan X3
r13
=
n ∑ X 1 X 3 − (∑ X 1 )(∑ X 3 )
{n ∑ X
2 1
− (∑ X 1 )
2
}{n ∑ X
2 3
− (∑ X 3 )
Universitas Sumatera Utara
3. Koefisen korelasi antara X2 dan X3
r23
=
n ∑ X 2 X 3 − (∑ X 2 )(∑ X 3 )
{n ∑ X
2 2
− (∑ X 2 )
2
}{n ∑ X
2 3
− (∑ X 3 )
2
}
Nilai koefisien korelasi adalah -1 ≤ r ≤ +1. Jika dua variabel berkorelasi negatif maka nilai koefisien korelasi akan mendekati -1, jika dua variabel tidak berkorelasi maka koefisien korelasi akan mendekati 0, sedangkan jika dua variabel berkorelasi positif maka nilai koefisien korelasi akan mendekati +1.
Untuk lebih memudahkan mengetahui seberapa jauh derajat keeratan antara variabel tersebut, dapat dilihat pada tabel berikut :
Tabel 2.2 INTERPRETASI DARI NILAI R R Interpretasi 0 Tidak berkorelasi 0.01 – 0.20 Sangat rendah 0.21 – 0.40 Rendah 0.41 – 0.60 Agak rendah 0.61 – 0.80 Cukup 0.81 – 0.99 Tinggi 1 Sangat Tinggi Sumber : Usman Husain, M. Pd Pengantar Statistika
2.7 Uji Koefisien Regresi Ganda
Keberartian adanya variabel – variabel bebas dalam regresi linier ganda perlu diuji untuk menunjukan seberapa besar pengaruh yang diberikan pada variabel tak bebas. Dan cara yang tepat untuk mengujinya adalah dengan menggunakan uji statistik t (tstudent).
Universitas Sumatera Utara
Dimisalkan populasi mempunyai model regresi berganda sebagai berikut :
Y = β 0 + β1 X 1 + β 2 X 2 + ... + β k X k + ε
Yang akan ditaksir oleh regresi berbentuk : ∧
Y = b0 + b1 X 1 + b2 X 2 + ... + bk X k
Adanya kriteria bahwa variabel – variabel bebas tersebut memberikan pengaruh yang berarti atau tidak terhadap variabel tak bebas akan diuji hipotesis H0 melawan hipotesis tandingan H1 dalam bentuk : H0
: bi = 0 dimana i = 1, 2, ...k
H1
: bi ≠ 0 dimana i = 1,2, ....k
Untuk menguji hipotesis tersebut digunakan kekeliruan baku taksiran s y2.12....k . Jadi untuk melihat kekeliruan baku dari koefisien bi adalah :
sbi =
s y2.12...k
(∑ x )(1− R ) 2 i
2
i
Universitas Sumatera Utara
Dengan : Perhitungan ∧
∑(Y − Y ) 2
s y2.12....k
∑ xi2
=
R2
=
=
(
n − k −1
∑ Xi − Xi
)
2
JK reg ∑ y2
Perhitungan statistik t : t i =
bi sbi
Dengan distribusi t-student serta dk = (n-k-1), ttabel = t
(n-k-1, α),
dimana kriteria
pengujian adalah : Terima H0 jika thitung < ttabel, dan Tolak H0 jika thitung > ttabel.
Universitas Sumatera Utara