BAB II LANDASAN TEORI. penulisan skripsi yaitu mengenai data panel, beberapa bentuk dan sifat

BAB II LANDASAN TEORI

Pada Bab II ini akan dibahas dasar-dasar teori yang digunakan dalam penulisan skripsi yaitu mengenai data panel, beberapa bentuk dan sifat matriks, matriks partisi, bentuk linier dan bentuk kuadratik beserta ekspektasinya, regresi linear beserta metode penaksirannya, dan juga metode ANOVA.

2.1

Data Panel

2.1.1 Definisi dan Deskripsi Data Panel

Telah diketahui bahwa data cross section merupakan data yang dikumpulkan pada satu waktu terhadap banyak individu. Sedangkan data time series adalah data yang dikumpulkan dari waktu ke waktu terhadap suatu individu. Berdasarkan Nachrowi (2006), data cross section yang dikumpulkan atau diobservasi pada periode waktu tertentu dikenal dengan nama data panel. Dalam analisis perekonomian, data panel ini sangat banyak ditemui. Misalkan data pertumbuhan perekonomian provinsi-provinsi di Indonesia dari tahun 2000 sampai 2007. Data ini merupakan kumpulan informasi terhadap semua provinsi di Indonesia yang berjumlah 33 provinsi dan dikumpulkan selama jangka waktu 8 tahun.

6

Penggunaan Metode..., Rimbun Budiman, FMIPA UI, 2008

7

Data panel terdiri dari dua bentuk, yaitu data panel lengkap (complete panel data) dan data panel tidak lengkap (incomplete panel data). Baik data panel tidak lengkap maupun data panel lengkap mempunyai model regresi yang sama, yakni y it = α + xitk βk + uit . Berdasarkan komponen error uit , model regresi untuk data panel lengkap dan data panel tidak lengkap dibedakan menjadi dua, yaitu model regresi komponen error satu arah (one-way error component regression models), dengan uit = μi + v it dan model regresi komponen error dua arah (two-way error component regression models), dengan uit = μi + λt + v it . Diberikan bahwa μi adalah pengaruh khusus yang tidak teramati (error) dari individu ke-i tanpa dipengaruhi waktu, misalkan kemampuan atau keunggulan khusus dari suatu individu yang tidak dimiliki oleh individu lainnya. λt adalah pengaruh yang tidak teramati pada waktu ke-t tanpa dipengaruhi individu, misalkan pada suatu waktu tertentu ada peristiwa yang tidak terobservasi yang mengakibatkan hasil observasi menjadi tidak lazim dari waktu sebelumnya. Selanjutnya v it adalah pengaruh (error) yang benarbenar tidak diketahui (remainder disturbance). Pada data panel lengkap baik untuk model regresi komponen error satu arah maupun model regresi komponen error dua arah sama-


8

sama memiliki banyak elemen individu i= 1, …, N dan banyak elemen periode atau waktu t= 1, …, T. Dengan kata lain kedua model regresi tersebut memiliki dimensi NT. Namun pada data panel tidak lengkap, untuk model regresi komponen error satu arah banyaknya elemen individu i= 1, …, N dan banyaknya elemen waktu t= 1, …, Ti (sebanyak N individu yang diobservasi, data untuk masing-masing individu tersebut diambil pada periode ke-i, yaitu masing-masing individu memiliki data dengan periode waktu yang berbeda). Sedangkan untuk model regresi komponen error dua arah banyaknya elemen individu i=1,…,Nt (jumlah individu yang diobservasi pada tahun ke-t berbeda-beda) dengan elemen waktu t=1,…,T.

2.1.2 Kelebihan Data Panel

Beberapa kelebihan dari data panel, antara lain: 1.

Data panel dapat memberikan informasi yang lebih jelas tentang keberagaman suatu data. Hal ini disebabkan karena data panel, sesuai dengan definisi sebelumnya, dikumpulkan atau diobservasi dari beberapa individu yang beragam pada periode waktu tertentu. Sedangkan pada data cross section, data diobservasi dari beberapa individu yang beragam, namun pada satu waktu tertentu. Dengan demikian, data panel akan lebih beragam daripada data cross section.


9

Begitu pula dengan data time series, data dikumpulkan dari satu individu pada periode waktu tertentu. Tentunya, data time series kurang beragam daripada data panel. 2.

Menyediakan data yang lebih banyak sehingga data yang ada menjadi lebih informatif, lebih bervariasi, dan efisien. Alasannya, hal ini sesuai dengan definisi data panel, yang merupakan kombinasi dari data cross section dan data time series.

2.1.3 Kekurangan Data Panel

Namun kekurangan dari data panel: 1.

Data panel sering bermasalah dalam hal pengumpulan data. Ini disebabkan karena pengumpulan data panel tidak hanya membutuhkan dana dan tenaga kerja yang besar, tetapi juga waktu yang lama.

2.

Setelah dilakukan pengumpulan data, tentu data panel akan dianalisis lebih lanjut. Hal ini berakibat model yang menggunakan data ini menjadi lebih kompleks karena tidak hanya menganalisa individu saja tetapi juga waktu. Dengan demikian diperlukan teknik tersendiri dalam menganalisis model yang menggunakan data panel.


10

2.2

Notasi dan Terminologi Matriks

Matriks adalah suatu susunan bilangan berbentuk segiempat. Bilangan-bilangan dalam susunan itu disebut entri dalam matriks. Ukuran matriks ditentukan oleh banyaknya baris dan banyaknya kolom yang dimiliki oleh matriks tersebut. Matriks yang hanya terdiri dari satu kolom yaitu berukuran m ×1 disebut matriks kolom (atau vektor kolom), dan matriks yang terdiri dari satu baris yaitu berukuran

1× n disebut matriks baris (atau vektor baris). Dalam tugas akhir ini matriks dinotasikan dengan huruf kapital yang dicetak tebal dan vektor dinotasikan dengan huruf kecil dicetak tebal. Matriks A berukuran m × n adalah matriks yang terdiri dari m

baris dan n kolom dengan entri pada baris ke-i dan kolom ke-j dapat dinyatakan dengan simbol ( A )ij = aij , sehingga ⎡ a11 a12 L a1n ⎤ ⎢a a22 L a2n ⎥⎥ 21 ⎢ A= . ⎢ M M M ⎥ ⎢ ⎥ ⎣am1 am 2 L amn ⎦

(2.2.1)

Persamaan (2.2.1) dapat dituliskan dengan A = ⎡⎣aij ⎤⎦ m×n atau ⎡⎣aij ⎤⎦ . Sebagai contoh, matriks A

⎡ 1 2⎤ A=⎢ ⎥ ⎣3 4 ⎦ memiliki entri ( A )11 = 1, ( A )12 = 2, ( A )21 = 3 dan ( A )22 = 4.


11

Matriks A yang memiliki n baris dan n kolom disebut matriks bujur sangkar berorde n, dan entri a11,a22 ,K,ann disebut sebagai diagonal utama dari A (lihat entri yang dilingkari), dengan ⎡ a11 ⎢a A = ⎢ 21 ⎢ M ⎢ ⎣ an1

a12 a22 M an 2

L L L

a1n ⎤ a2 n ⎥⎥ . M ⎥ ⎥ ann ⎦

Berikut ini akan dibahas beberapa operasi atau sifat matriks dan beberapa matriks bentuk khusus yang dipakai pada tugas akhir ini.

2.3

Trace Matriks

Misalkan A = ⎡⎣aij ⎤⎦ suatu matriks persegi berukuran n × n , maka trace dari A didefinisikan sebagai jumlah dari elemen diagonal A dan

dinotasikan dengan tr ( A ) , yaitu tr ( A ) = a11 + a22 + K + ann . Beberapa sifat dari trace lainnya adalah sebagai berikut: 1. tr ( In ) = n 2. tr ⎡⎣( k ) ⎤⎦ = k 3. tr ( kA ) = k ⋅ tr ( A ) 4. tr ( A + B ) = tr ( A ) + tr (B ) 5. tr ( A′ ) = tr ( A )


(2.3.1)

12

dimana k adalah sembarang skalar, sedangkan A dan B adalah matriks berukuran n × n . Untuk k1 , k 2 , K , k r adalah sembarang skalar dan A1 , A 2 , K , A r adalah matriks berukuran n × n maka

⎛ r ⎞ r tr ⎜ ∑ ki Ai ⎟ = ∑ ki tr ( Ai ). ⎝ i =1 ⎠ i =1 Jika A adalah matriks persegi dengan A11 , A 22 , K , A kk adalah matriks partisi dari ⎛ A11 ⎜ A A = ⎜ 21 ⎜ M ⎜ ⎝ A k1

A12 A 22 M Ak 2

L A1k ⎞ ⎟ L A2k ⎟ maka tr ( A ) = tr ( A11 ) +tr ( A 22 ) + K +tr ( A kk ) . O M ⎟ ⎟ L A kk ⎠

Misalkan A = ⎡⎣aij ⎤⎦ adalah matriks berukuran m × n dan m

n

B = ⎡⎣bij ⎤⎦ adalah matriks berukuran n × m , maka tr ( AB ) = ∑∑ aij b ji i =1 j =1

⎡ n ⎤ dimana AB = ⎢ ∑ aij b ji ⎥ . Berdasarkan persamaan (2.3.1) dan sifat ⎣ j =1 ⎦

transpos matriks maka tr ( AB ) = tr (B′A′ )

(2.3.2)

yang dapat diperluas sebagaimana diberikan pada lemma berikut ini.

Lemma 2.3.1 Untuk sembarang matriks A berukuran m × n dan

matriks B berukuran n × m maka tr ( AB ) = tr (BA ) . Bukti:


13

m

n

n

m

n

m

tr ( AB ) = ∑∑ aij b ji = ∑∑ aij b ji = ∑∑ b ji aij = tr (BA ) i =1 j =1

j =1 i =1

j =1 i =1

Catatan: Berdasarkan persamaan (2.3.2) dan lemma 2.3.1, untuk

sembarang matriks A berukuran m × n dan matriks B berukuran n × m , maka tr ( AB ) = tr (B′A′ ) = tr ( A′B′ ) = tr (BA ) . Bentuk di atas dapat diperluas untuk trace dari perkalian matriks ABC di mana A matriks berukuran m × n , B matriks berukuran n × p , dan

C matriks berukuran p × m sehingga tr ( ABC ) = tr ( CAB ) = tr (BCA ) .

2.4

(2.3.3)

Matriks Partisi

Setiap matriks bisa dibagi atau dipartisi menjadi matriks-matriks yang lebih kecil. Matriks yang lebih kecil itu disebut submatriks. Berikut ini akan diberikan contoh tiga partisi yang mungkin dari sebuah matriks A yang berukuran 3 × 4 , yaitu: ⎡ a11 a12 ⎢ A = ⎢a21 a22 ⎢a ⎣ 31 a32

a13 a23 a33

a14 ⎤ A12 ⎤ ⎥ ⎡A a24 ⎥ = ⎢ 11 A A 22 ⎥⎦ a34 ⎥⎦ ⎣ 21

(2.4.1)

⎡ a11 a12 ⎢ A = ⎢a21 a22 ⎢a ⎣ 31 a32

a13 a23 a33

a14 ⎤ ⎡ r1 ⎤ ⎥ a24 ⎥ = ⎢⎢r2 ⎥⎥ a34 ⎥⎦ ⎢⎣r3 ⎥⎦

(2.4.2)


14

⎡ a11 a12 A = ⎢⎢a21 a22 ⎢⎣a31 a32

a13 a23 a33

a14 ⎤ a24 ⎥⎥ = [c1 c 2 a34 ⎥⎦

c3

c4 ]

(2.4.3)

Jika terdapat dua matriks yang dapat dipartisi yang bersesuaian A dan B, sehingga masing-masing submatriks yang dimiliki juga

bersesuaian. Maka perkalian AB diperoleh menggunakan pola perkalian matriks biasa, yakni contohnya ⎛ A11 A12 ⎞ ⎛ B11 B12 ⎞ AB = ⎜ ⎟⎜ ⎟ ⎝ A 21 A 22 ⎠ ⎝ B21 B22 ⎠

⎛ A B + A12B21 A11B12 + A12B22 ⎞ = ⎜ 11 11 ⎟ ⎝ A 21B11 + A 22B21 A 21B12 + A 22B22 ⎠

2.5

(2.4.4)

Matriks Diagonal

Suatu matriks A = ⎡⎣aij ⎤⎦ yang berukuran n × n yang memiliki elemen diagonal utama a11, a22 ,K, ann dikatakan matriks diagonal, jika elemen selain diagonal utama dari matriks tersebut adalah nol. Contoh, misalkan terdapat matriks ⎛3 2 6 ⎞ ⎛3 0 0⎞ ⎜ ⎟ ⎜ ⎟ A = ⎜ 2 10 −7 ⎟ , maka diag ( A ) = ⎜ 0 10 0 ⎟ . ⎜ 6 −7 9 ⎟ ⎜0 0 9⎟ ⎝ ⎠ ⎝ ⎠


15

Selain itu misalkan B merupakan matriks partisi 0 ⎞ ⎛ B11 B12 B13 ⎞ ⎛ B11 0 ⎜ ⎟ ⎜ ⎟ B = ⎜ B21 B22 B23 ⎟ , maka diag (B ) = ⎜ 0 B22 0 ⎟ . ⎜B ⎟ ⎜ 0 0 B33 ⎟⎠ ⎝ 31 B32 B33 ⎠ ⎝

2.6

Matriks Bentuk Khusus dan Operasinya

2.6.1 Summing Vectors, Matriks – J, dan Matriks – E

Vektor yang tiap elemennya hanya berisikan bilangan 1 disebut summing vectors dan dinotasikan dengan ι , misalkan ι 3 = [1 1 1] ′ .

Ini disebut summing vectors dikarenakan jika x = ⎣⎡ x1

x2

x3 ⎦⎤ ′ ,

ι3′ x = ∑ i =1 xi . 3

Matriks – J merupakan matriks bujur sangkar yang dihasilkan dari perkalian summing vectors ⎛1 ⎜ 1 ιnιn′ = Jn = ⎜ ⎜M ⎜ ⎝1

1 L 1⎞ ⎟ 1 L 1⎟ M O M⎟ ⎟ 1 L 1⎠

dengan vektor ι n berukuran n × 1 dan matriks Jn berukuran n × n . Beberapa sifat dari matriks – J antara lain 1).

J2n = nJn

2).

Jnι n = nι n

3).

tr ( Jn ) = n


16

4).

Jn = n1 Jn

5).

Jn Jn = Jn

6).

tr Jn = 1

7).

Jn2 = Jn .

( )

Kemudian didefinisikan matriks En = In − Jn berukuran n x n, dengan In matriks identitas ukuran n x n. Beberapa sifat dari matriks –

E yakni 1).

tr ( En ) = n − 1

2).

Eι = 0

3).

E2 = E

2.6.2 Matriks – Q, Matriks – P, dan Matriks – Z

Didefinisikan matriks – Q merupakan matriks bujur sangkar yang berbentuk matriks diagonal

⎛ E1 0 ⎜ 0 E2 Q = diag ( Ei ) = ⎜ ⎜ M M ⎜ ⎝0 0

L 0⎞ ⎟ L 0⎟ . O M ⎟ ⎟ L En ⎠

(2.6.1)

Pada model regresi untuk data panel, matriks – Q berperan sebagai matriks deviasi dari mean individu. Misal diberikan suatu vektor u berukuran n × 1 maka Qu = ( ui − u .) , dengan i = 1, ..., n.


17

Kemudian matriks – P didefinisikan sebagai matriks diagonal

⎛ J1 0 ⎜ 0 J2 P = diag Ji = ⎜ ⎜M M ⎜⎜ ⎝0 0

( )

L 0⎞ ⎟ L 0⎟ . O M ⎟ ⎟ L Jn ⎟⎠

(2.6.2)

Dalam model regresi untuk data panel, matriks – P berperan sebagai matriks rata-rata dari observasi sepanjang waktu untuk masing-masing individu. Misalkan diberikan diberikan suatu vektor u, berukuran n × 1 , n

maka Pu = u . = ∑ ui n , dengan i = 1, ..., n. i =1

Selanjutnya untuk matriks – Z didefinisikan ⎛ ι1 0 L 0 ⎞ ⎜ ⎟ 0 ι2 L 0 ⎟ Z = diag (ι i ) = ⎜ . ⎜M M O M⎟ ⎜ ⎟ ⎝ 0 0 L ιn ⎠

(2.6.3)

Pada model regresi untuk data panel, matriks – Z berperan sebagai matriks yang menyederhanakan penulisan pengaruh yang tidak teramati dari individu, μi , dengan periode waktu yang berbeda-beda, t=1,…,Ti.

2.7

Bentuk-bentuk Matriks Lainnya

Definisi 2.7.1 Didefinisikan A adalah matriks yang berukuran n × n , maka A dikatakan matriks simetris jika A = A′ .


18

Definisi 2.7.2 Misalkan A adalah matriks yang berukuran n × n , maka A dikatakan matriks idempotent jika A = AA . Jika A juga merupakan matriks simetris, maka A dikatakan symmetric idempotent. Jika A symmetric idempotent, maka I − A juga symmetric idempotent.

Definisi 2.7.3 Misalkan A adalah matriks yang berukuran n × n , maka A dikatakan matriks ortogonal, jika A′A = I . Maka dapat dinyatakan

bahwa A −1 = A′ .

Lemma 2.7.4 Diketahui suatu matriks X, yang berukuran n × K , dan X

adalah matriks full rank, maka X ( X′X ) X′ merupakan matriks -1

idempotent. Bukti:

( X ( X′X ) X′) ( X ( X′X ) X′) = X ( X′X ) -1

-1

-1

( X′X )( X′X )

= X ( X′X ) In X′ -1

= X ( X′X ) X′ -1


-1

X′

19

2.8

Bentuk Linier dan Bentuk Kuadratik

2.8.1 Notasi Bentuk Linier

Misalkan a = [a1,K , an ] ′ adalah vektor kolom berdimensi n, dan pandang fungsi a′x = ∑ i ai xi , dengan vektor x = [ x1,K , xn ] ′ di

n

.

Fungsi tersebut merupakan fungsi bentuk linier.

2.8.2 Notasi Bentuk Kuadratik, Definit Positif dan Semidefinit Positif

Misalkan matriks A = ⎡⎣aij ⎤⎦ berukuran n × n dan pandang fungsi x′Ax = ∑ aij xi x j = ∑ ai xi2 + ∑ aij xi x j i,j

dengan vektor x = [ x1,K , xn ] ′ di

i

n

(2.8.1)

i , j ≠i

. Fungsi pada persamaan (2.8.1)

merupakan bentuk kuadratik.

Definisi 2.8.2.1 Misalkan x′Ax merupakan bentuk kuadratik dengan A = ⎡⎣aij ⎤⎦ adalah matriks berukuran n × n dan vektor x = [ x1,K , xn ] ′ di n

. Bentuk kuadratik dikatakan definit positif jika

x′A x > 0, untuk setiap x ≠ 0

(2.8.2a)

Bentuk kuadratik dikatakan semidefinit positif jika x′ A x ≥ 0,

untuk setiap x ≠ 0

(2.8.2b)

Matriks definit positif dapat difaktorisasi ke dalam bentuk matriks akar kuadrat yang dikenal dengan Cholesky decomposition. Misalkan A


20

matriks definit positif ukuran n × n , maka matriks tersebut dapat difaktorkan menjadi A = T′ T . Dimana T adalah matriks segitiga atas nonsingular.

Definisi 2.8.2.2 Matriks simetris A disebut matriks definit positif jika x′Ax adalah bentuk kuadratik definit positif.

Definisi 2.8.2.3 Matriks simetris A disebut matriks semidefinit positif jika x′Ax adalah bentuk kuadratik semidefinit positif.

Berikut ini adalah lemma mengenai matriks definit positif yang merupakan matriks nonsingular. Lemma 2.8.2.4 Sembarang matriks definit positif adalah nonsingular. Bukti: Misalkan matriks A berukuran n × n merupakan matriks definit positif. Lemma 2.8.2.4 akan dibuktikan dengan menggunakan kontradiksi. Andaikan A merupakan matriks singular atau secara ekuivalen rank ( A ) < n. Akibatnya, kolom A tidak bebas linier dan terdapat vektor

tidak nol x * , sedemikian sehingga A x * = 0 . Oleh karena itu x′* A x * = x′* ( A x * ) = x′* 0 = 0 .

Padahal A merupakan matriks definit positif, artinya

x′ A x > 0, untuk setiap x ≠ 0 .


21

Sedangkan jika A merupakan matriks singular diperoleh bahwa x′* A x * = x′* ( A x * ) = x′* 0 = 0

Berarti kontradiksi dengan pengandaian yang digunakan. Sehingga sembarang matriks definit positif adalah nonsingular.

2.8.3 Ekspektasi dari Bentuk Kuadratik

Teorema 2.8.3.1 Jika y adalah suatu vektor acak dengan mean μ dan matriks kovarians Σ , dan jika terdapat matriks simetris A, maka E ( y′Ay ) = tr ( AΣ ) + μ ′Aμ

(2.8.3)

Bukti:

(

)

(

)

Diketahui bahwa cov y i , y j = E y i y j − μi μ j , yang jika dibentuk

dalam format matriks menjadi Σ = E ( yy′ ) − μμ ′ . Kemudian dapat diubah ke dalam bentuk E ( yy′ ) = Σ + μμ ′ .

(2.8.4)

Diketahui bahwa y′Ay adalah suatu skalar, yang nilainya sama dengan nilai trace-nya. Selanjutnya didapatkan E ( y′Ay ) = E ⎡⎣tr ( y′Ay ) ⎤⎦

= E ⎣⎡tr ( Ayy′ ) ⎦⎤ = tr ⎡⎣E ( Ayy′ ) ⎤⎦ = tr ⎡⎣ AE ( yy′ ) ⎤⎦


22

= tr ⎡⎣ A ( Σ + μμ ′ ) ⎤⎦ = tr [ AΣ + Aμμ ′ ] = tr ( AΣ ) + tr ( Aμμ ′ ) = tr ( AΣ ) + tr ( μ ′Aμ ) (dari lemma 2.3.1) = tr ( AΣ ) + μ ′Aμ

(2.8.5)

Perlu diperhatikan bahwa y′Ay bukan fungsi linear dari y , sehingga

E ( y′Ay ) ≠ E ( y′ ) AE ( y ) .

2.9

Regresi Linier Berganda

Analisis regresi adalah suatu metode yang digunakan dalam menganalisis satu atau lebih variabel prediktor X dengan satu variabel respon Y. Pola hubungan itu dapat dinyatakan dalam bentuk persamaan regresi. Model regresi linier yang melibatkan lebih dari satu variabel prediktor dengan satu variabel respon disebut model regresi linier berganda.

2.9.1 Model Regresi Linier Berganda

Pola hubungan antar variabel yang terdiri dari satu variabel tak bebas atau variabel respon y dan beberapa variabel bebas atau


23

variabel prediktor ( x1, x2 ,K , xk ) dapat ditunjukkan oleh salah satu model regresi linier. Berikut ini akan diberikan ilustrasi data untuk regresi linier berganda, yaitu: Pengamatan

i

y

x1

x2

K

xk

1

y1

x11

x12

K

x1k

2

y2

x21

x22

K

x2k

M

M

M

M

n

yn

xn1

xn2

M K

xnk

Model regresi linier dapat dituliskan dalam bentuk sebagai berikut

y i = β0 + β1xi 1 + β 2 xi 2 + K + β k xik + ε i , k

(2.9.1)

= β0 + ∑ β j xij + ε i j =1

i = 1, 2,K , n ialah banyaknya pengamatan. Apabila dinyatakan dalam notasi matriks, maka persamaan (2.9.1) menjadi

y = Xβ+ε ⎡ y1 ⎤ ⎢y ⎥ y = ⎢ 2⎥, ⎢M ⎥ ⎢ ⎥ ⎣yn ⎦

⎡1 x11 ⎢1 x 21 X=⎢ ⎢M M ⎢ ⎣1 xn1

x12 L x1k ⎤ x22 L x2k ⎥⎥ , M M ⎥ ⎥ xn 2 L xnk ⎦

(2.9.2) ⎡ β0 ⎤ ⎢β ⎥ β = ⎢ 1⎥, ⎢M ⎥ ⎢ ⎥ ⎣ βk ⎦

⎡ ε1 ⎤ ⎢ε ⎥ ε = ⎢ 2⎥ ⎢M⎥ ⎢ ⎥ ⎣ε n ⎦

dengan y : vektor kolom dari variabel respon yang berukuran n × 1.


24

X : matriks dari variabel prediktor yang berukuran n × p ,

dengan p = k + 1.

β : vektor kolom dari parameter yang berukuran p × 1. ε : vektor kolom dari error yang berukuran n × 1.

Model regresi linier berganda di atas mempunyai asumsi sebagai berikut: 1. E ( ε i ) = 0

untuk i = 1, 2,K , n

2. E ( ε i ε j ) = 0

untuk i ≠ j

= σ 2 untuk i = j 3. ε i

(

N 0,σ 2

)

Dalam notasi matriks dinyatakan dengan: 1. E ( ε ) = 0 2. E ( εε ′ ) = σ 2 I, dengan I merupakan matriks identitas 3. ε mempunyai distribusi normal dengan mean 0 dan variansi σ 2 I.

2.9.2 Taksiran Parameter Dalam Regresi Linier Berganda

Ada banyak metode yang dapat digunakan dalam menaksir parameter pada model regresi linier berganda. Berikut ini pembahasan mengenai beberapa metode taksiran. Pada subbab ini dijelaskan metode taksiran Ordinary Least

Squares (OLS), dan Generalized Least Squares (GLS) yang


25

digunakan untuk menaksir parameter pada model y = X β + ε , dengan X memiliki rank penuh, E ( y ) = X β dan E ( ε ) = 0 .

2.9.2.1 Ordinary Least Squares (OLS)

Untuk menaksir parameter model regresi dengan menggunakan metode ordinary least squares maka asumsi-asumsi (1), (2), (3) yang telah disebutkan pada subbab 2.9.1 harus dipenuhi. Fungsi least squares atau sum of squares of error (SSE) dinyatakan dengan: n

S = S ( β0 , β1,K , β k ) = ∑ ε i2 i =1

k ⎛ ⎞ = ∑ ⎜ y i − β 0 − ∑ β j xij ⎟ i =1 ⎝ j =1 ⎠ n

2

(2.9.3)

Fungsi S akan diminimumkan terhadap β 0 ,β1,K,β k . Taksiran least squares dari β 0 ,β1,K,β k harus memenuhi ∂S ∂β0

βˆ0 ,βˆ1 ,K,βˆk

n ⎛ k ⎞ = −2∑ ⎜ y i − βˆ0 − ∑ βˆ j xij ⎟ = 0 i =1 ⎝ j =1 ⎠

(2.9.4a)

n ⎛ k ⎞ = −2∑ ⎜ y i − βˆ0 − ∑ βˆ j xij ⎟xij = 0 i =1 ⎝ j =1 ⎠

( 2.9.4b)

dan ∂S ∂β j

βˆ0 ,βˆ1 ,K,βˆk

untuk setiap j = 1, 2,K, k .


26

Dengan menguraikan persamaan (2.9.4a) dan (2.9.4b), diperoleh sistem persamaan normal: n βˆ0

n

βˆ1 ∑ xi 1

+

i =1

n

+ βˆ2 ∑ xi 1xi 2

i =1

M

i =1

M

βˆ0 ∑ xik i =1

n

βˆ1 ∑ xi21

i =1

n

βˆ2 ∑ xi 2 i =1

n

βˆ0 ∑ xi 1 + n

+

+ L +

n

i =1

i =1

+ βˆ1 ∑ xik xi 1 + βˆ2 ∑ xik xi 2

n

∑y

=

i =1

n

+ L + βˆk ∑ xi 1xik

i =1

=

i =1

M

n

n

βˆk ∑ xik

n

∑x i =1

M + L +

n

βˆk ∑ xik2 i =1

i

y

i1 i

M =

n

∑x i =1

ik

yi

(2.9.5) Pada persamaan (2.9.5) terdapat p = k + 1 persamaan normal, masing-masing memiliki koefisien regresi yang tidak diketahui. Dalam notasi matriks persamaan (2.9.3) adalah: n

S ( β ) = ∑ ε i2 i =1

= ε ′ε = ( y− X β )′ ( y− X β )

(2.9.6)

= y′y− β′ X′ y− y′ X β + β′ X′ X β = y′y− 2 β′ X′ y+ β′ X′ X β.

Karena β′ X′ y merupakan matriks berukuran 1× 1 atau skalar dan transposnya ( β′ X′ y )′ = y′ X β juga skalar yang sama, maka: ∂S ∂β

= −2 X′ y+ 2 X′ X βˆ = 0 sehingga, X′ X βˆ = X′ y

(2.9.7)

βˆ

disebut sebagai persamaan normal least squares, yang merupakan bentuk matriks dari persamaan (2.9.5).


27

Dengan mengalikan kedua ruas pada persamaan (2.9.7) dengan invers dari matriks X′ X yang nonsingular, didapat penyelesaian sistem persamaan normal yang memberikan taksiran least squares β , yaitu: −1 βˆ = ( X′ X ) X′ y

dengan syarat invers matriks ( X′ X )

−1

(2.9.8)

ada, jika variabel independent

yang ada bersifat linearly independent. Ekspektasi dan kovariansi dari taksiran parameter dengan metode ordinary least squares adalah sebagai berikut: 1.

( )

−1 E βˆ = E ⎡( X′ X ) X′ y ⎤ ⎣ ⎦ −1 = E ⎡( X ′ X ) X ′ ( X β + ε ) ⎤ ⎣ ⎦ −1 −1 = E ⎡( X ′ X ) X ′ X β + ( X ′ X ) X ′ ε ⎤ ⎣ ⎦

= ( X′ X ) X′ X E ( β ) + ( X′ X ) X′ E ( ε ) −1

−1

=β −1 Karena E ( ε ) = 0 dan ( X′ X ) X′ X = I. Sehingga βˆ merupakan

taksiran unbiased untuk β . 2.

Matriks kovariansi untuk βˆ ialah


28

( )) (

(

( ))

⎡ ′⎤ Cov βˆ = E ⎢ βˆ − E βˆ βˆ − E βˆ ⎥ ⎣ ⎦ ⎡ ′⎤ = E ⎢ βˆ − β βˆ − β ⎥ ⎣ ⎦

( )

(

)(

)

(2.9.9a)

Dari persamaan (2.9.8), dengan mensubstitusikan Y = X β + ε diperoleh −1 βˆ = ( X′ X ) X′ ( X β + ε )

= β + ( X′ X ) X′ ε −1

(2.9.9b)

βˆ − β = ( X′ X ) X′ ε −1

Substitusikan persamaan (2.9.9b) ke (2.9.9a), sehingga diperoleh:

(

⎡ −1 Cov βˆ = E ⎢ ( X′ X ) X′ ε ⎣

( )

) ( ( X′ X )

−1

)

′⎤ X′ ε ⎥ ⎦

−1 −1 = E ⎡( X′ X ) X′ εε ′ X ( X′ X ) ⎤ ⎣ ⎦

= ( X′ X ) X′ E ( εε ′ ) X ( X′ X ) −1

= ( X′ X ) X′ σ 2 IX ( X′ X ) −1

= σ 2 ( X′ X )

−1

−1

−1

2.9.2.2 Generalized Least Squares (GLS)

Pada penaksiran dengan OLS, asumsi-asumsi yang digunakan dalam model regresi linier y = X β + ε adalah E ( ε ) = 0 dan V ( ε ) = σ 2 I . Asumsi variansi error σ 2 I disebut asumsi variansi error spherical,


29

yakni error tidak berkorelasi dan mempunyai variansi yang sama (pada diagonal utama terdapat entri yang sama). Namun tidak tertutup kemungkinan variansinya tidak sama, atau dengan kata lain terjadi heteroscedastic, sehingga dapat dinyatakan bahwa V ( ε ) = Σ = σ 2 Ω .

Dengan demikian pada penaksiran dengan GLS, jika diberikan model seperti pada persamaan (2.9.2) y = Xβ+ε

asumsi yang diberikan E ( ε ) = 0 dan V ( ε ) = Σ = σ 2 Ω .

(2.9.10)

Dimana Ω adalah matriks yang diketahui dan berukuran n × n . Asumsi variansi error Σ = σ 2 Ω disebut asumsi variansi error nonspherical. Pada variansi error nonspherical ini terdapat dua

interpretasi. Pertama pengamatan y berkorelasi (jika pada Ω terdapat entri tidak nol selain diagonal utama). Kedua pengamatan y tidak berkorelasi namun memiliki variansi yang tidak sama (jika pada Ω terdapat entri yang tidak sama di diagonal utamanya).

Untuk variansi error nonspherical tidak semua asumsi pada OLS terpenuhi sehingga diperlukan transformasi model untuk kumpulan pengamatan yang baru agar dapat dipenuhi asumsi-asumsi pada metode OLS. Diketahui bahwa Σ = σ 2 Ω adalah matriks kovarians dari error, maka Ω harus nonsingular dan definit positif sehingga berdasarkan Dekomposisi Cholesky, terdapat matriks K yang


30

simetris dan nonsingular berukuran n × n , dimana K′ K = KK = Ω. Dimana matriks K merupakan square root dari Ω . Didefinisikan variabel baru, yaitu z = K −1 y, B = K −1 X, g = K −1 ε

(2.9.11)

sehingga model regresi y = X β + ε menjadi K −1 y = K −1 X β + K −1 ε ,

(2.9.12)

atau

z = Bβ +g

(2.9.13)

Error pada model yang ditransformasi ini memiliki mean nol,

yaitu E ( g ) = K −1 E ( ε ) = 0 . Sedangkan matriks kovariansi untuk g adalah: ⎡ ⎤ V ( g ) = E ⎢( g− E ( g ) ) ( g− E ( g ) )′ ⎥ ⎣ ⎦ = E ( gg′ )

(

= E K −1 εε ′ K −1

)

= K −1 E ( εε ′ ) K −1

= σ 2 K −1 Ω K −1 = σ 2 K −1 KKK −1 = σ2 I

(2.9.14)

Maka elemen dari g memiliki mean nol dan variansi konstan dan tidak berkorelasi. Karena error g dalam model z = B β + g telah memenuhi


31

asumsi tersebut, maka dapat diterapkan OLS. Fungsi Least squaresnya adalah S ( β ) = g′ g = ε ′Ω −1ε

(2.9.15)

= ( y− X β )′ Ω −1 ( y− X β )

dan diperoleh persamaan normal least squares adalah

( X′ Ω

−1

)

X βˆ = X′ Ω −1 y .

(2.9.16)

Penyelesaian untuk persamaan ini adalah

(

βˆ = X′ Ω −1 X

)

-1

X ′ Ω −1 y

(2.9.17)

dimana βˆ pada persamaan (2.9.17) disebut sebagai taksiran generalized least squares untuk β .

Ekspektasi dan kovariansi dari taksiran parameter dengan metode generalized least squares: 1.

( )

-1 E βˆ = E ⎡( X′ Ω −1 X ) X′ Ω −1 y ⎤ ⎣⎢ ⎦⎥

= ( X′ Ω −1 X ) X′ Ω −1E ( y ) -1

= ( X′ Ω −1 X ) X′ Ω −1Xβ -1

= β. -1 Karena itu, βˆ = ( X′ Ω −1 X ) X′ Ω −1 y adalah penaksir yang unbiased

untuk β .


32

2.

Matriks kovariansi untuk βˆ ialah -1 cov ⎡ βˆ ⎤ = cov ⎡( X′ Ω −1 X ) X′ Ω −1 y ⎤ ⎣ ⎦ ⎢⎣ ⎥⎦

(

= ⎡ X′ Ω −1 X ⎢⎣

)

-1

(

X′ Ω −1 ⎤ var ( y ) ⎡ X′ Ω −1 X ⎥⎦ ⎢⎣

)

-1

X′ Ω −1 ⎤ ⎥⎦

′

′ -1 -1 = ⎡( X′ Ω −1 X ) X′ Ω −1 ⎤ σ 2 Ω ⎡( X′ Ω −1 X ) X′ Ω −1 ⎤ ⎣⎢ ⎦⎥ ⎣⎢ ⎦⎥

(

= ⎡ X′ Ω −1 X ⎣⎢

)

-1

(

X′ Ω −1 ⎤ σ 2 Ω ⎡ Ω −1 X X′ Ω −1 X ⎦⎥ ⎣⎢

)

-1

⎤ ⎦⎥

= σ 2 ( X′ Ω −1 X ) . -1

2.10

Effects Models pada Data Panel

2.10.1 Fixed Effects Models pada Data Panel

Suatu effects dikatakan fixed effects, jika level dari faktorfaktornya dipilih tertentu berdasarkan keinginan peneliti dari populasi level yang ada, dan kesimpulan statistiknya terbatas hanya mengenai level-level tersebut. Model yang hanya mempunyai fixed effects disebut fixed effects models. Berarti pada situasi ini akan dilihat effects dari level-level tersebut pada model. Pada model untuk data panel, effects dari level-level antara lain berasal dari individu dan waktu. Oleh karena individu dan waktu dipilih secara fixed maka effects hanya sebatas pada individu dan waktu yang dipilih tersebut. Dengan demikian, effects dari individu dan waktu


33

diasumsikan sebagai fixed parameter yang akan ditaksir dan hasil taksirannya akan berupa nilai atau konstanta yang merupakan intercept pada model. Karena itu pada fixed effects models, perbedaan

karakteristik individu dan waktu diakomodasikan pada intercept sehingga intercept-nya berubah antar individu dan antar waktu.

2.10.2 Random Effects Models pada Data Panel

Sedangkan suatu effects disebut sebagai random effects, jika level dari faktor-faktornya dipilih secara acak dari populasi level yang ada dan kesimpulan statistiknya mengenai populasi level dari faktor di mana data tersebut diasumsikan berasal. Model yang hanya mempunyai random effects disebut random effects models. Berarti pada situasi ini akan dilihat effects dari level-level tersebut pada model. Pada model untuk data panel, effects dari level-level antara lain berasal dari individu dan waktu. Oleh karena individu dan waktu dipilih secara random maka effects dari individu dan waktu diasumsikan suatu variabel acak dan akan dilihat variabilitas masing-masing effects. Dengan demikian, pada random effects models perbedaan karakteristik individu dan waktu diakomodasikan pada error dari model. Mengingat ada dua komponen yang mempunyai kontribusi pada pembentukan error, yaitu individu dan waktu, maka komponen error


34

perlu diurai menjadi error untuk individu, error untuk komponen waktu, dan error gabungan. Hal ini disebut dengan komponen error dua arah. Diasumsikan komponen error μi λt

(

)

(

)

IID 0, σ μ2 , komponen error

IID 0, σ λ2 , dan komponen error v it

(

)

IID 0, σv2 . Dengan μi adalah

komponen error untuk individu, λt adalah komponen error untuk waktu, dan v it adalah komponen error gabungan.

2.11

Metode ANOVA

Metode ANOVA merupakan salah satu metode yang paling banyak digunakan dalam menaksir komponen variansi (variance components). Penaksir ANOVA merupakan penaksir jenis metode

momen untuk model ANOVA, yang berarti menyamakan quadratic sums of squares dengan ekspektasinya kemudian menyelesaikan

sistem persamaan linear yang muncul akibat menyamakan dua hal tersebut. Selanjutnya akan dijelaskan gambaran umum dari metode ANOVA. Misalkan σ 2 adalah vektor dari komponen variansi yang akan ditaksir, kemudian s adalah vektor dari sums of squares. Kemudian untuk masing-masing sums of squares, akan diperoleh nilai ekspektasi yang merupakan fungsi linear dari komponen variansi. Misalkan E(s) adalah vektor dari fungsi linear tersebut yang didefinisikan sebagai


35

E ( s ) = Cσ 2

(2.11.1)

dengan C adalah matriks nonsingular. Kemudian berdasarkan metode penaksiran ANOVA, maka persamaan (2.11.1) menjadi s = Cσˆ 2

dengan σˆ 2 merupakan penaksir dari σ 2 . Dengan demikian, persamaan tersebut dapat diubah menjadi σˆ 2 = C-1 s .

(2.11.2)

Dapat dikatakan bahwa tiap-tiap elemen dari σˆ 2 adalah kombinasi linear dari sums of squares di s. Penaksir pada persamaan (2.11.2) selalu unbiased, sebagaimana yang ditunjukkan

( )

E σˆ 2 = C-1E ( s ) = C-1Cσ 2 = σ 2 .

Untuk memberikan gambaran lebih jelas, misal diberikan random effects model ANOVA untuk data tidak lengkap (incomplete data) y ij = μ + α i + ε ij untuk i = 1,..., a dan j = 1,..., ni

(2.11.3)

dengan yij observasi ke-j pada kelas ke-i, μ adalah general mean, α i adalah pengaruh pada variabel y yang diobservasi dan terdapat pada


36

(

kelas ke-i, dan ε ij adalah residual. Diasumsikan α i

ε ij

(

)

IID 0, σα2 dan

)

IID 0, σ ε2 .

Jika dibentuk ke dalam formulasi matriks maka persamaan (2.11.3) dapat dibentuk menjadi

( )

y = ιN μ + diag ι ni α + ε .

(2.11.4)

Dapat diperoleh bahwa ekspektasi dari y

(

( ) )

E ( y ) = E (ιN μ ) + E diag ι ni α + E ( ε )

( )

= ιN E ( μ ) + diag ι ni E ( α ) + E ( ε )

( )

= ιN E ( μ ) + diag ι ni 0 + 0 = ιN E ( μ ) = ιN μ

dan variansi dari y

(

( )

V = var ( y ) = var ιN μ + diag ι ni α + ε

)

⎛ ′⎞ = E ⎜ diag ι ni α diag ι ni α ⎟ + E ( εε ′ ) ⎝ ⎠

( ) (

( ) )

( )

( )

= diag ι ni E ( αα ′ ) diag ι n′i + E ( εε ′ )

( )

( )

= diag ι ni σ α2Ia diag ι n′i + σ ε2IN

( )

= σ α2diag Jni + σ ε2IN


37

(

= diag σ α2 Jni + σ ε2Ini

(

) (

IID ιN μ , V = diag σ α2 Jni + σ ε2Ini

sehingga diperoleh bahwa y

) ) .(2.11.5)

Didefinisikan Between dan Within Sums of Squares yang merupakan dasar dari analysis of variance untuk persamaan (2.11.3) adalah a

SSA = ∑ ni ( y i . − y.. ) = ∑ i ni y i2. − Ny ..2 2

(2.11.6)

i =1

a

ni

SSE = ∑∑ ( y ij − y i . ) = ∑ i ∑ j y ij2 − ∑ i ni y i2. (2.11.7) 2

i =1 j =1

dengan N = ∑ i ni . Persamaan (2.11.6) dan (2.11.7) jika ditransformasi ke dalam bentuk matriks akan menjadi SSA = ∑ i ni y i2. − Ny ..2

= ∑ i y i .ι n′i y − y ..ιN′ y

( )

= y′diag Jni y − y′JN y = y′A 1 y

( )

untuk A 1 = diag Jni − JN

dan SSE = ∑ i ∑ j y ij2 − ∑ i ni y i2. = y′y − ∑ i y i .ι n′i y


(2.11.8)

38

( )

= y′IN y − y′diag Jni y

( )

= y′A 2 y

untuk A 2 = IN − diag Jni .

(2.11.9)

Selanjutnya akan diperoleh ekspektasi dari masing-masing sum of squares dalam formulasi matriks berdasarkan teorema 2.8.3.1 dan pernyataan (2.11.5) adalah: E ( SSA ) = E ( y ′A1 y ) ′ = tr ( AV 1 ) + E ( y ) A1E ( y )

(

)

( )

(

)

= tr ⎡ diag J ni − JN ⋅ diag σ α2 J ni + σ ε2I ni ⎤ ⎣ ⎦

(

)

( )

+ μιN′ diag J ni − JN ιN μ

(

(

= σ α2 ⎡tr diag J ni J ni ⎣

( (

) ) − tr ( J

⎛ n2 = σα ⎜ ∑ i i − ⎜ ni ⎝ 2

N

∑n i

N

2 i

⎛ ni2 N 2 ⎞ + μ ⎜ ∑i − ⎟ ni N ⎠ ⎝ 2

⎞ n N⎞ 2⎛ ⎟ + σε ⎜ ∑i i − ⎟ ⎟ ni N ⎠ ⎝ ⎠

⎛ n2 ⎞ 2 ∑ 2 i i = ⎜N − ⎟⎟ σ α + ( a − 1) σ ε . ⎜ N ⎝ ⎠ dan E ( SSE ) = E ( y ′A2 y ) = tr ( A2V ) + E ( y ′ ) A2E ( y )


( ) ) ⎤⎦

diag J ni

( ) ) − tr ( J ) )

+σ ε tr diag J ni 2

N

(2.11.10)

39

(

( ) ) ⋅ diag (σ

= tr ⎡ IN − diag J ni ⎣

(

( ) )ι

+ μιN′ IN − diag J ni

(

N

2

α

μ

( ) ) − tr ( diag ( J

= σ α2 ⎡tr IN ⋅ diag J ni ⎣

(

)

J ni + σ ε2I ni ⎤ ⎦

ni

J ni

) ) ⎤⎦

( ) ) − tr ( diag ( J I ) ) ⎤⎦

+σ ε2 ⎡tr IN ⋅ diag I ni ⎣

ni ni

⎛ ni2 ⎞ +μ ⎜ N − ∑i ⎟ ni ⎠ ⎝ 2

⎛ ∑ i ni2 n2 ⎞ = σα ⎜ − ∑ i i ⎟ + σ ε2 ( N − a ) ⎜ N ni ⎟⎠ ⎝ 2

⎛ N2 ⎞ = σ α2 ⎜ − N ⎟ + σ ε2 ( N − a ) ⎝ N ⎠ = σ ε2 ( N − a ) .

(2.11.11)

Berdasarkan prinsip metode momen pada penaksiran ANOVA maka dilakukan penyamaan antara persamaan (2.11.8) dengan persamaan (2.11.10) dan persamaan (2.11.9) dengan persamaan (2.11.11). Kemudian σ ε2 dan σ α2 pada persamaan (2.11.10) dan (2.11.11) disubstitusi dengan σˆε2 dan σˆα2 , sehingga diperoleh ⎛ n2 ⎞ 2 ∑ i i SSA = ⎜ N − σˆα + ( a − 1) σˆε2 ⎟ ⎜ N ⎟⎠ . ⎝ SSE = σˆε2 ( N − a )

Persamaan (2.11.12) menghasilkan penaksir


(2.11.12)

40

σˆε2 =

SSE dan (N - a )

σˆα2 =

SSA

⎛ ∑n ⎜⎜ N − i N ⎝

2 i

⎞ ⎟⎟ ⎠

− ( a − 1)

SSE (N - a )

(2.11.13)

Jika disesuaikan dengan bentuk umum yang sebelumnya diperoleh dari metode ANOVA, maka C σˆ 2 = s ⎡( N − a ) ⎢ ⎢ ⎢ a −1 ⎣

⎤ ⎥ ⎡σˆε2 ⎤ ⎡ SSE ⎤ 2 ⎛ ⎞ n ∑ i ⎥⎢ ⎥ = ⎢ ⎥ ⎜⎜ N − i ⎟⎟ ⎥ ⎣σˆα2 ⎦ ⎣SSA ⎦ N ⎠⎦ ⎝ 0

(2.11.14)

sehingga dengan metode ANOVA diperoleh

σˆ 2 = C-1 s ⎡ ( N1−a ) ⎡σˆε ⎤ ⎢ −(a −1) ⎢ 2 ⎥ = ⎢ ( N −a ) ⎣σˆα ⎦ ⎢ ⎢⎣ 2

⎤ ⎥ ⎡ SSE ⎤ 1 ⎥⎢ ⎛ n2 ⎞ SSA ⎥⎦ ⎜N− ∑i i ⎟ ⎥ ⎣ ⎜ N ⎟⎥ ⎝ ⎠⎦ 0

yang menjadi penaksir untuk komponen variansi σ ε2 dan σ α2 .


(2.11.15)

BAB II LANDASAN TEORI. penulisan skripsi yaitu mengenai data panel, beberapa bentuk dan sifat

Recommend Documents