Bab 2
LANDASAN TEORI
2.1. Regresi Nonlinier Model Kuadratik
Regresi nonlinier Model Kuadratik adalah model regresi yang parameternya adalah nonlinier artinya apabila diturunkan terhadap parameternya sendiri maka hasil yang didapat masih mengandung parameter. Model regresi kuadratik itu adalah sebagai berikut: Υi = β 0 + β1 Χ i + β 2 Χ i2 + ε i Dengan :
Χ i adalah variabel penjelas Υi adalah variabel terikat
β 0 adalah parameter pertama
β1 adalah parameter kedua ε i adalah galat / penyimpangan
2.2. Metode Kuadrat Terkecil
Metode kuadrat terkecil dipakai untuk menentukan bentuk regresi apakah persamaanya linier atau nonlinier. Cara ini berpangkal pada kenyataan bahwa jumlah pangkat dua (kuadrat) dari pada jarak antara titik - titik dengan garis regresi yang sedang dicari harus sekecil mungkin. Metode kuadrat terkecil atau sering disebut dengan metode OLS (Ordinary Least Square) yang diperkenalkan oleh Carl Friedrich gauss, seorang matematikawan Jerman. Penaksir – penaksir yang dihasilkan berdasarkan metode kuadrat terkecil adalah bersifat takbias dan konsisten. Didalam kenyataannya, salah satu penaksir tak bias linear memiliki varians yang minimum, sehingga disebut penaksir tak bias linear terbaik (Best Linear Unbiasad Estimator / BLUE ). Sifat ini merupakan dasar dari dalil Gauss - Markov theorem), Sebagai berikut:
Universitas Sumatera Utara
Dalil Gauss Markov : Berdasarkan sejumlah asumsi tertentu pendugaan berdasarkan metode kuadrat terkecil akan menghasilkan penduga takbias linear terbaik (Best Linear Unbiasad Estimator / BLUE ), dengan koefisien regresi memiliki varians minimum.
Estimasi regresi dilakukan untuk menentukan estimator parameter regresi. Salah satu metode yang digunakan untuk mengestimasi parameter model regresi nonlinier adalah kuadrat terkecil nonlinier dimana secara konseptual sama dengan metode kuadrat terkecil pada model regresi linier.
2.3. Pendugaan Parameter
Untuk menyelesaikan suatu masalah nonlinier, metode yang seringkali ditempuh dan ternyata berhasil adalah menuliskan persamaan normal secara terinci dan mengembangkan suatu tekhnik iteratif yang digunakan untuk memperoleh taksiran parameter diantaranya adalah: Metode linearisasi (metode deret taylor), Stepest Descent, dan Jalan Tengah Marquadrt. Metode–metode ini dapat diselesaikan dengan menggunakan program komputer.
Metode linearisasi (atau metode deret taylor) menggunakan hasil–hasil kuadrat terkecil pada model yang ditentukan dalam beberapa tahap. Misalkan model yang ditentukan berbentuk Yu = f (ξ , θ ) + ε u . dengan θ10 ,θ 20 ,θ p 0 adalah nilai-nilai awal bagi parameter–parameter θ 0 , θ1 , θ p . Nilai–nilai awal itu merupakan taksiran kasar belaka atau mungkin pula merupakan nilai–nilai dugaan awal berdasarkan informasi yang tersedia. (Misalnya perkiraan berdasarkan informasi yang diperoleh dari perhitungan lain yang serupa atau yang diperkirakan benar oleh peneliti berdasarkan pengalaman dan pengetahuannya). Nilai–nilai awal itu diharapkan akan diperbaiki dalam proses iterasi
yang selanjutnya dilakukan penguraian deret Taylor bagi
f (ξ , θ ) disekitar titik θ 0 = (θ10 , θ 20 , θ p 0 ) dan membatasi penguraian sampai '
turunan pertama. Dapat dikatakan bahwa, bila θ dekat pada θ 0 maka,
Universitas Sumatera Utara
P ∂f (ξ u , θ ) (θ i − θ i 0 ) f (ξ u , θ ) = f (ξ u , θ 0 ) + ∑ ∂θ i θ =θ i =1 0
Bila ditetapkan f u0 = f (ξ u , θ 0 )
β i0 = θ i − θ i 0 ∂f (ξ u , θ ) Z iu0 = ∂θ i θ =θ 0 Maka bentuknya menjadi p
Yu − f u0 = ∑ β i0 Z iu0 + ε u i =1
Dengan kata lain persamaan diatas sudah berbentuk linier. Sekarang penulis dapat menaksir parameter-parameter β i0 , i = 1,2, , p dengan cara menerapkan teori kuadrat terkecil.
Z 110 0 Z 12 Dengan : Z 0 = 0 Z 1u 0 Z 1n
b10 0 b b0 = 2 0 b p
0 Z 21 0 Z 22
Z 20u Z 20n
Z p01 Z p0 2 = Z iu0 , p × n 0 Z pu 0 Z pn
Y1 − Y2 − dan y 0 = Yu − Yn −
{
}
f10 f 20 0 =Y − f f u0 f n0
Misalnya, dengan notasi yang sudah jelas maksudnya, maka taksiran bagi
(
β 0 = (β10 , β 20 ,, β p0 ) diberikan oleh b0 = Z 0 ' Z 0
)
−1
(
Z0 Y − f 0 '
)
dengan demikian vektor b0 akan meminimumkan jumlah kuadrat galat
Universitas Sumatera Utara
2.4. Menghitung Determinan
Salah satu cara untuk menghitung determinan matriks A yang disingkat dengan Α adalah dengan menggunakan aturan cramer. Dengan bentuk sebagai berikut : a11 Α = a 21
a12 a 22
a13 a11 a 23 a 21
a12 a 22
a 31
a 32
a 33 a 31
a 32
= (a11 a 22 a 33 + a12 a 23 a 31 + a13 a 21 a 32 ) − (a13 a 22 a 31 + a11 a 23 a 32 + a12 a 21 a 33 )
2.4.1. Minor dan Kofaktor Suatu Determinan
Andaikan diketahui suatu determinan dari suatu matriks tingkat n. Jika elemen-elemen dari baris ke-i dan kolom ke-j dikeluarkan, maka akan terdapat suatu determinan dari matriks tingkat n-1, yang disebut minor pertama dari matriks A atau determinan A. Yang ditulis dengan Μ ij dan juga dikatakan minor dari elemen a ij . Harga dari minor ditulis dengan (− 1) Μ ij . Yang disebut kofaktor dan disingkat dengan Κ ij dari ij
elemen a ij . Maka Κ ij = (− 1)
i+ j
Μ ij .
Contoh: a11 Minor dari Α = a 21 a 31
Misalkan :
a12 a 22 a 32
a13 a 23 a 33
Μ 11 =
a 22 a 32
a 23 a 33
Μ 12 =
a 21 a 31
a 23 a 33
Μ 13 =
a 21 a 31
a 22 a 32
Dengan Kofaktornya :
Κ 11 = (− 1)
Μ 11 = Μ 11
Κ 12 = (− 1)
Μ 12 = − Μ 12
Κ 13 = (− 1)
Μ 13 = Μ 13
1+1
1+ 2
1+ 3
Universitas Sumatera Utara
Maka :
Α = a11 Μ 11 − a12 Μ 12 + a13 Μ 13
= a11 Κ 11 + a12 Κ 12 + a13 Κ 13 Dari contoh di atas dapat disimpulkan bahwa harga determinan suatu matriks A tingkat n sama dengan jumlah hasil ganda setiap elemen suatu baris atau kolom dari Α dengan kofaktor-kofaktor yang bersesuaian.
Jadi :
Α = a1 j Κ 1 j + a 2 j Κ 2 j + + a nj Κ nj
2.5. Turunan Parsial Misalkan z = f ( x, y ) fungsi 2 variabel yang terdefenisi disekitar titik ( x, y ) . Turunan parsial dari f terhadap x adalah turunan z terhadap x dan y tetap konstan Turunan parsial z = f ( x, y ) terhadap x ditulis: ∂ ∂ z= f ( x, y ) = f (x, y ) didefenisikan sebagai berikut: ∂x ∂x ∂ f ( x + h, y ) − f ( x, y ) f ( x, y ) = f x ( x, y ) = lim h →0 ∂x h
Turunan parsial z = f ( x, y ) terhadap y ditulis:
∂ ∂ z= f ( x, y ) = f (x, y ) didefenisikan sebagai berikut: ∂y ∂y ∂ f ( x, y + k ) − f ( x, y ) f ( x, y ) = f y (x, y ) = lim k →0 ∂y k
2.6. Analisa Varians
Analisa Varians adalah suatu metode untuk menguraikan varians total menjadi komponen-komponen yang mengukur berbagai sumber varians. Didalam analisa ini diasumsikan bahwa sampel acak yang dipilih berasal dari populasi yang normal dengan varians yang sama. Kecuali bila sampelnya besar, asumsi tentang distribusi normal tidak diperlukan lagi.
Universitas Sumatera Utara
Pada pengujian dengan analisa varians, maka dengan mudah akan diketahui apakah terdapat perbedaan yang signifikan atau tidak dari beberapa nilai rata- rata sampel yang diselidiki, yang pada akhirnya diperoleh suatu keyakinan menerima hipotesis nol atau menerima hipotesis alternatifnya.
Untuk menguji ada atau tidaknya perbedaan nilai rata – rata sampel, maka perlulah menguji validitas hipotesis nol dengan memanfaatkan seluruh data yang ada. Ηo :
µ1 = µ 2 = µ 3 µ t yang menyatakan bahwa beberapa nilai rata – rata sampel memiliki nilai parameter populasi yang sama. Bila asumsi ini dipenuhi, maka rata-rata populasi untuk berbagai macam sampel berasal dari satu macam populasi atau dari populasi yang sama.
Ηo :
µ1 ≠ µ 2 ≠ µ 3 µ t yang menyatakan bahwa setidaknya ada nilai rata – rata sampel yang diperoleh dari populasi tertentu memiliki rata rata yang berbeda untuk suatu i ≠ j . Dengan demikian menurut hipotesis alternatifnya, perbedaan antara beberapa sampel sangat signifikan.
Prosedur selanjutnya adalah mengetahui besarnya varians populasi σ 2 . Untuk mengetahui varians populasi ini dilakukan pendugaan besarnya varians antar kelompok dan varians dalam sampel .Bila data sebanyak r kelompok dan tiap-tiap kelompok mempunyai µ ukuran sampel, maka uji statistik distribusi F merupakan rasio: Varians antar kelompok nS x2 F= = 2 Varians dalam sampel Sp
Bila perbedaan kedua varians S x2 dan S p2 sangat kecil atau mendekati satu, kemungkinan hipotesis nol diterima. Sebaliknya bila nilai F terlalu besar, kecenderungan
hipotesis
nol
akan
ditolak
sehinga
ada
kemungkinan µ1 ≠ µ 2 ≠ ≠ µ n sampel, berarti acak yang dipilih bukan berasal dari populasi yang sama sehingga kemungkinan besar hipotesis alternatifnya yang diterima.
Universitas Sumatera Utara
2.7. Inferensia Tentang Parameter Regresi
Matriks Varians Kovarians : σ 2 (b0 ) σ (b0 , b1 ) σ (b0 , bn ) σ (b1 , b0 ) σ 2 (b1 ) σ (b1 , bn ) 2 σ (b ) = 2 σ (bn , b0 ) σ (bn , b1 ) σ (bn )
Yang diberikan oleh:
σ 2 (b ) = σ 2 ( X ′X )−1
Taksiran Matriks Varians Kovarians : s 2 (b0 ) s (b0 , b1 ) s (b0 , bn ) s (b , b ) s 2 (b1 ) s (b1 , bn ) s 2 (b ) = 1 0 2 s (bn , b0 ) s(bn , b1 ) s (bn )
Yang diberikan oleh: s n2×n (b ) = MSE ( X ′X )
−1
Universitas Sumatera Utara