BAB 2
LANDASAN TEORI
2.1 Analisis Regresi
Perubahan nilai suatu variabel tidak selalu terjadi dengan sendirinya, namun perubahan nilai variabel itu dapat disebabkan oleh berubahnya variabel lain yang berhubungan dengan variabel tersebut. Untuk mengetahui pola perubahan nilai suatu variabel yang disebabkan oleh variabel lain diperlukan alat analisis yang memungkinkan untuk membuat perkiraan (prediction) nilai variabel tersebut pada nilai tertentu variabel yang mempengaruhinya.
Teknik yang umum digunakan untuk menganalisis hubungan antara dua atau lebih variabel adalah analisis regresi. “Analisis regresi (regression analisis) merupakan suatu teknik untuk membangun persamaan garis lurus dan menggunakan persamaan tersebut untuk membuat perkiraan”. (Mason, 1996. Hal: 489).
Model matematis dalam menjelaskan hubungan antarvariabel dalam analisis regresi menggunakan persamaan regresi. “Persamaan regresi (regression equastion) adalah suatu persamaan matematis yang mendefinisikan hubungan antara dua variabel”. (Mason, 1996. Hal: 490).
Universitas Sumatera Utara
Persamaan regresi yang digunakan untuk membuat taksiran mengenai nilai variabel terikat (dependent) disebut persamaan regresi estimasi. “ Persamaan regresi estimasi adalah suatu formula matematis yang menunjukkan hubungan keterkaitan antara satu atau beberapa variabel yang nilainya sudah diketahui (known variable) dengan satu variabel yang nilainya belum diketahui (unknown variable)”.
Regresi pertama kali diperkenalkan pada tahun 1877 oleh Sir Francis Galton, pada penelitiannya terhadap manusia. Penelitian tersebut membandingkan antara tinggi anak laki-laki dan tinggi badan orang tuanya. Istilah regresi pada mulanya bertujuan untuk membuat perkiraan nilai suatu variabel (tinggi badan anak) terhadap suatu variabel yang lain (tinggi orangtua). Pada perkembangan selanjutnya, analisa regresi digunakan sebagai alat untuk membuat perkiraan nilai suatu variabel dengan menggunakan beberapa variabel lain yang berhubungan dengan variabel tersebut.
2.1.1 Regresi Sederhana
Regresi sederhana (simple regression) merupakan bagian regresi yang mencakup hubungan linier antara satu variabel terikat dengan satu variabel bebas. Variabel bebas biasanya disimbolkan dengan X, sedangkan variabel terikat disimbolkan dengan Y. Variabel bebas adalah variabel yang nilai-nilainya tidak bergantung pada variabel lainnya, variabel bebas digunakan untuk meramalkan atau menerangkan nilai variabel yang lain. Variabel terikat adalah variabel yang nilainya bergantung pada variabel lainnya, variabel terikat merupakan variabel yang diramalkan atau diterangkan nilainnya.
Bentuk umum persamaan regresi linier sederhana yang menunjukkan hubungan antara dua variabel, yaitu variabel X sebagai variabel bebas dan variabel Y sebagai variabel terikat dari suatu populasi adalah sebagai berikut: (2.1)
Universitas Sumatera Utara
Keterangan: = Variabel terikat = Variabel bebas = Jarak titik pangkal dengan titik potong garis regresi dengan sumbu Y (intercept) = Kemiringan (slope) garis regresi = Nilai kesalahan
Parameter
dan
diduga dengan menggunakan garis regresi. Bentuk
persamaan garis regresi adalah sebagai berikut : (2.2)
Keterangan: = Intersept, jarak titik pangkal dan titik potong garis regresi dengan sumbu Y = Kemiringan garis regresi
Dalam hal ini: merupakan penduga titik bagi merupakan penduga titik bagi merupakan penduga titik bagi
Universitas Sumatera Utara
Pendugaan dilakukan dengan mengambil contoh acak berukuran n dari suatu populasi. Hasil pengamatan berupa pasangan X dan Y sebagai berikut :
Jika data berpasangan tersebut digambarkan pada sumbu koordinat siku-siku, maka diperoleh gambar sebagai berikut :
Y •
• •
•
•
• •
•
•
• •
•
X
Gambar 2.1 Diagram Pencar
Dengan demikian diperoleh model regresi linier sederhana sebagai berikut: (2.3) Y •
• •
•
•
• •
•
•
• •
•
X Gambar 2.2 Diagram Pencar, Garis Regresi dan Sisa
Universitas Sumatera Utara
Pada umumnya dengan
tidak sama dengan
, perbedaan antara
dan
dinyatakan
yang disebut dengan sisa (residual). Dalam hal ini: (2.4)
Nilai
dan
diperoleh dengan menggunakan metode kuadrat terkecil (least
squares method). Metode kuadrat terkecil merupakan satu cara untuk memperoleh dan
sebagai perkiraan
dan
, dengan meminimumkan jumlah kuadrat sisa
sebagai berikut:
(2.5)
Syarat minimum adalah sebagai berikut:
(2.6)
(2.7)
Untuk menentukan hubungan pengaruh perubahan variabel yang satu terhadap variabel yang lainnya, maka dibutuhkan peranan garis regresi. Selanjutnya, dari hubungan dua variabel ini dapat dikembangkan untuk permasalahan regresi berganda.
Universitas Sumatera Utara
2.1.2 Regresi Berganda
Regresi Berganda (multiple regression) merupakan bagian regresi yang mencakup hubungan linier antara dua atau lebih variabel bebas dengan satu variabel terikat. Variabel bebas disimbolkan dengan X, sedangkan variabel terikat disimbolkan dengan Y. variabel bebas adalah variabel yang nilai-nilainya tidak bergantung pada variabel lainnya, variabel bebas digunakan untuk meramalkan atau menerangkan nilai variabel yang lain. Sedangkan variabel terikat adalah variabel yang nilainnya bergantung pada variabel lainnya, variabel terikat merupakan variabel yang diramalkan atau diterangkan nilainnya.
Bentuk umum persamaan regresi linier berganda yang melibatkan lebih dari yang mempengaruhi variabel terikat Y dari suatu
satu variabel bebas populasi adalah sebagai berikut:
(2.8)
Keterangan: = Variabel terikat = Variabel bebas = Parameter regresi yang belum diketahui nilainya = Nilai kesalahan = 1, 2, . . ., n
Jika
= 0, maka diperoleh persamaan regresi linier ganda dari suatu populasi
adalah sebagai berikut: (2.9)
Universitas Sumatera Utara
Pendugaan garis regresi populasi diatas dapat dilakukan dengan mengambil contoh acak berukuran
dari populasi tersebut. Model populasi diatas dinyatakan
dalam bentuk sebagai berikut : (2.10)
Keterangan: merupakan penduga titik bagi merupakan penduga titik bagi
2.2 Metode Kuadrat Terkecil
Metode kuadrat terkecil (least squares method) adalah salah satu metode yang terbaik untuk memperoleh persamaan linier. Persamaan ini merupakan petunjuk yang terbaik untuk menerangkan diagram pencaran data. Karena setiap garis yang ditarik belum tentu melalui semua titik dalam diagram pencaran. Apabila garis lurus tidak tepat pada titik-titik diagram pencaran, akan terdapat deviasi antara setiap nilai Y dan nilai yang ditunjukkan oleh garis
. Garis yang berdasarkan metode kuadrat terkecil
menunjukkan penyimpangan tiap nilai dengan garis regresi. Metode ini ditemukan oleh Adrien Legendre seorang ahli matematika Perancis pada awal abad ke 19.
Dengan meminimumkan jumlah kuadrat sisa yang dikuadratkan, sehingga diperoleh S sebagai berikut:
(2.11)
Universitas Sumatera Utara
Dengan syarat minimum adalah sebagai berikut:
(2.12)
(2.13)
(2.14) . . .
Universitas Sumatera Utara
(2.15)
Dari persyaratan minimum diatas, menghasilkan suatu kumpulan persamaan normal sebagai berikut:
. . . (2.16)
2.3 Metode Numerik
Metode numerik adalah suatu teknik penyelesaian yang diformulasikan secara matematis dengan cara operasi perhitungan dan dilakukan secara berulang-ulang dengan cara manual atau bantuan komputer. Metode numerik tidak mengutamakan diperolehnya jawaban yang eksak (tepat), tetapi mengusahakan metode pendekatan.(SANGADJI, 2008)
Universitas Sumatera Utara
2.3.1 Perhitungan Parameter dengan Menggunakan Metode Numerik (Gauss Seidel)
Dalam melakukan perhitungan parameter dengan menggunakan metode Gauss Seidel, proses penyelesaiannya dapat dimulai dengan nilai awal untuk
sama
dengan nol. Nilai-nilai awal nol ini dapat dimanfaatkan untuk menghitung variabel berikutnya. Menentukan nilai parameter pada regresi linier berganda dengan menggunakan metode Gauss-Seidel adalah sebagai berikut:
. . .
Sehingga berlaku prosedur iterasi sebagai berikut: Iterasi 0
Iterasi 1
Universitas Sumatera Utara
. . .
Iterasi 2
. . .
(2.17)
Proses ini diulangi hingga mencapai kekonvergenan yang diinginkan. Kemudian hasil hitungan iterasi yang telah diperoleh dapat dibuat dalam bentuk tabel.
Universitas Sumatera Utara
2.4 Metode Matriks
Matriks didefinisikan sebagai suatu himpunan angka, variabel atau parameter dalam bentuk suatu persegi panjang, yang tersusun di dalam baris dan kolom dan diantarai oleh dua buah kurung siku atau kurung biasa. Pada umumnya, matriks di notasikan dalam huruf besar sedangkan elemen-elemennya dalam hurup kecil, sebagai berikut:
atau
dimana: A = Matriks A [ ] atau ( ) = Notasi matriks adalah elemen dari matriks A, dimana kolom. Misalnya:
menyatakan baris dan
menyatakan
adalah elemen dari matriks A yang terletak pada baris ke-1 dan
kolom ke-1. (PUDJIASTUTI,2006)
Jenis-jenis matriks adalah sebagai berikut: 1. Matriks diagonal Adalah suatu matriks bujur sangkar yang semua elemen di luar elemen diagonal utama sama dengan nol, dan paling tidak satu elemen pada diagonal utamanya tidak sama dengan nol. 2. Matriks identitas Adalah suatu matriks bujur sangkar yang elemen-elemen di luar diagonal utamanya sama dengan nol, dan semua elemen pada diagonal utama sama dengan satu. Matriks identitas yang berorde n biasanya diberi simbol In
Universitas Sumatera Utara
3. Matriks segitiga atas Adalah matriks bujur sangkar yang elemen-elemen di bawah diagonal utama bernilai nol. Jadi yang tidak sama dengan nol adalah elemen-elemen pada segitiga atasnya dan paling tidak satu elemen pada diagonal utama tidak sama dengan nol. 4. Matriks segitiga bawah Adalah matriks bujur sangkar yang elemen-elemen di atas diagonal utama bernilai nol. Jadi yang tidak sama dengan nol adalah elemen-elemen pada segitiga bawahnya dan paling tidak satu elemen pada diagonal utama tidak sama dengan nol. 5. Matriks nol Adalah suatu matriks yang semua elemenya bernilai nol. Matriks ini biasanya diberi simbol O dan bentuknya tidak selalu bujur sangkar. 6. Matriks baris Adalah matriks yang hanya terdiri dari satu baris. Matriks ini sering disebut dengan vektor baris. 7. Matriks kolom Adalah matriks yang hanya terdiri dari satu kolom. Matriks ini sering disebut dengan vektor kolom. 8. Matriks simetris Adalah suatu matriks bujur sangkar yang memiliki
, sehingga
transposenya sama dengan matriks semula.
2.4.1 Tranpose suatu matrik
Tranpose suatu matriks adalah merubah ordo suatu matriks dari Jika
atau
menjadi
adalah transpose dari matriks , maka baris pada matriks
kolom pada matriks matriks
x
dan sebaliknya kolom pada matriks
x
.
menjadi
menjadi baris pada
.
Universitas Sumatera Utara
2.4.2 Determinan
Determinan adalah suatu skalar (angka) yang diperoleh dari suatu matriks bujur sangkar selalui operasi khusus. Disebut operasi khusus karena dalam proses penurunan determinan dilakukan perkalian-perkalian. Determinan dinotasikan dengan tanda | |. Salah satu cara dalam perhitungan determinan, adalah dengan cara singkat. Cara singkat yang lazim dikenal untuk menghitung determinan dari matriks adalah dengan menggunakan metode sarrus. Caranya dengan menempatkan elemen-elemen pada dua kolom pertama disebelah kanan notasi determinan sebagai berikut:
2.4.3 Invers Matriks
Invers matriks sering disebut dengan matriks kebalikan. Biasanya dituliskan sebagai berikut: jika A adalah suatu matriks bujur sangkar maka
merupakan
invers matriksnya.
Universitas Sumatera Utara
2.4.4 Perhitungan Parameter dengan Menggunakan Metode Matriks (Invers Matriks)
Nilai parameter
pada regresi linier berganda dapat ditentukan dengan
menggunakan metode matriks. Jika banyaknya peubah bebas adalah , maka model regresi populasi dinyatakan dengan: (2.18)
Keterangan: = Variabel terikat = Variabel bebas = Parameter regresi yang belum diketahui nilainya = Nilai kesalahan
Pendugaan garis regresi populasi diatas dapat dilakukan dengan mengambil contoh acak berukuran n dari populasi tersebut. Model regresi diatas dinyatakan dengan bentuk sebagai berikut: (2.19)
Keterangan: = Variabel terikat = Variabel bebas = Parameter regresi yang belum diketahui nilainya
Universitas Sumatera Utara
Dalam hal ini: merupakan penduga titik bagi merupakan penduga titik bagi
Dengan menggunakan persamaan matriks
(2.20)
Dengan (2.21)
Metode kuadrat terkecil merupakan suatu metode untuk mendapatkan nilainilai vektor
dengan meminimumkan
adalah sebagai berikut:
(2.24)
Universitas Sumatera Utara
Langkah-langkah untuk menentukan nilai koefisien dari parameter pada regresi linier berganda adalah sebagai berikut:
Langkah 1 Menghitung nilai matriks
dengan cara sebagai berikut:
(2.25)
Langkah 2 Menghitung nilai determinan matrik
dengan cara sebagai berikut: (2.26)
Langkah 3 Mencari Adjoint matriks
, dimana:
(2.27)
Universitas Sumatera Utara
Langkah 4 Mencari invers matriks
dengan cara sebagai berikut: (2.28)
Langkah 5 Mencari nilai matriks
dengan cara sebagai berikut:
(2.29)
Sehingga untuk memperoleh nilai koefisien dari
adalah dengan cara
sebagai berikut:
(2.30)
Universitas Sumatera Utara
2.5 Perhitungan Simpangan Baku dari Model Persamaan
(SUDJANA,2002 hal 93) Ukuran simpangan yang paling banyak digunakan adalah simpangan baku atau deviasi standar. Pangkat dua dari simpangan baku disebut varians. Untuk sampel, simpangan baku disimbolkan dengan , sedangkan untuk populasi disimbolkan dengan . Varians untuk sampel
Pada umumnya, nilai-nilai koefisien regresi
dan populasi
.
bervarias dan variansnya dari
dalam bentuk vektor matriks adalah sebagai berikut: (2.31)
Karena umumnya perkiraan varians
tidak diketahui, maka
diduga dengan
, sehingga
adalah:
Keterangan: = Varians dari kesalahan pengganggu = Banyaknya observasi = Banyak variabel bebas dapat dihitung langsung dari observasi
yaitu selisih antara nilai
dengan nilai regresi
Universitas Sumatera Utara
2.6 Interval Kepercayaan Sehubungan dengan Regresi Linier Berganda
Jika simpangan baku populasi tidak diketahui dan ukuran sampel kurang dari 30, maka dugaan selang bagi rataan populasi ditentukan dengan menggunakan sebaran t dan jika ukuran sampel cukup besar, rataan populasi ditentukan dengan menggunakan sebaran data z. untuk menghitung estimasi interval
yang telah ditaksir
. Selang kepercayaan (1-α) 100% bagi
oleh titik
adalah sebagai
berikut: (2.33)
Jika
cukup besar, maka: (2.34)
= diagonal pada baris ke- kolom ke- dari
2.7 Hipotesis
Hipotesis berasal dari kata hipo dan tesis yang berasal dari bahasa Yunani. Hipo berarti di bawah, kurang atau lemah dan tesis berarti teori atau proposisi. Jadi, secara umum hiportesis dapat didefinisikan sebagai asumsi atau dugaan atau pernyataan sementara yang masih lemah kebenarannya tentang karateristik populasi. Oleh karena itu hipotesis perlu di uji kebenarannya. Pengujian hipotesis dilakukan berdasarkan hasil sampel yang diambil dari populasi.
Adapun jenis hipotesis adalah sebagai berikut: 1. Hipotesis penelitian Dalam rangka membuktikan atau pengujian benar atau tidaknya suatu hipotesis penelitian (pernyataan penelitian), maka dilakukan pengujian secara statistik. Pada pengujian ini digunakan hipotesis statistik.
Universitas Sumatera Utara
2. Hipotesis statistik Hipotesis statistik merupakan pernyataan atau dugaan mengenai satu atau lebih populasi. Ada dua jenis hipotesis statistik, yaitu: a. Hipotesis nol atau nihil (
)
Istilah nol atau nihil menunjuk tidak adanya perbedaan pada populasi. akan selalu dituliskan dengan tanda kesamaan, sehingga spesifik pada nilai tunggal. b. Hipotesis alternatif atau tandingan (
)
Merupakan hipotesis tandingan atau isinya berlawanan dengan hipotesis
.
Hipotesis yang mengandung pengertian sama pada pasangan 1.
dan
adalah:
,
2.
3.
4.
Hipotesis yang mengandung pengertian maksimum pada pasangan
Hipotesis yang mengandung pengertian minimum pada pasangan
dan
dan
adalah:
adalah:
Universitas Sumatera Utara
Langkah-langkah uji hipotesis adalah sebagai berikut: 1. Tentukan hipotesis
dan
, melawan salah satu alternatif 2. Tentukan taraf signifikan/taraf nyata α 3. Tentukan uji statistik yang sesuai dan lakukan perhitungan uji statistik berdasarkan data sampel sumber Variasi Regresi Galat Total
Jumlah Kuadrat JKR JKG JKT
Derajat Kebebasan k n-p n-1
Rataan Kuadrat RKR RKG
4. Tentukan wilayah kritis atau wilayah penolakan Tolak Terima
jika Fhitung jika Fhitung
Fhitung
berdasarkan nilai α
Ftabel Ftabel
5. Keputusan uji statistik adalah menolak
atau menerima
6. Kesimpulan akhir
Universitas Sumatera Utara
