TAKSIRAN MAKSIMUM LIKELIHOOD PADA MODEL PERSAMAAN STRUKTURAL NONLINEAR. AMRI ILMMA x

TAKSIRAN MAKSIMUM LIKELIHOOD PADA MODEL PERSAMAAN STRUKTURAL NONLINEAR

AMRI ILMMA 030501702x

UNIVERSITAS INDONESIA FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM DEPARTEMEN MATEMATIKA DEPOK 2009

Taksiran maksimum..., Amri Ilmma, FMIPA UI, 2009.

TAKSIRAN MAKSIMUM LIKELIHOOD PADA MODEL PERSAMAAN STRUKTURAL NONLINEAR

Skripsi ini diajukan sebagai salah satu syarat untuk memperoleh gelar Sarjana Sains

Oleh AMRI ILMMA 030501702x

DEPOK 2009


SKRIPSI

: TAKSIRAN MAKSIMUM LIKELIHOOD PADA MODEL PERSAMAAN STRUKTURAL NONLINEAR

NAMA

: AMRI ILMMA

NPM

: 030501702X

SKRIPSI INI TELAH DIPERIKSA DAN DISETUJUI DEPOK,

JULI 2009

Dra. RIANTI SETIADI, M.Si PEMBIMBING I

MILA NOVITA S.Si, M.Si PEMBIMBING II

Tanggal Lulus Ujian Sidang Sarjana : 7 Juli 2009 PENGUJI I

: Mila Novita, S.Si., M.Si.

PENGUJI II : Alhaji Akbar B., S.Si., M.Sc. PENGUJI III : Dra. Siti Nurrohmah, M.Si.


KATA PENGANTAR

Alhamdulillah, segala puji bagi Allah Sang Maha Pengasih dan Penyayang yang telah memberikan nikmat dan karunianya sehingga penulis dapat menyelesaikan tugas akhir ini dengan baik. Tak lupa shalawat dan salam dihaturkan kepada Nabi Muhammad SAW yang telah membawa petunjuk bagi seluruh umat manusia. Penulis menyadari bahwa tugas akhir ini tidak mungkin dapat diselesaikan dengan baik tanpa bantuan dari berbagai pihak. Ungkapan terima kasih secara khusus penulis berikan kepada Mama yang dengan sabar selalu membantu, memotivasi, memberikan kasih sayangnya yang sangat besar kepada penulis. Kepada Papa yang telah pergi lebih dulu menemui Sang Pencipta, penulis sangat berterima kasih atas segala kerja kerasnya ketika Papa masih bersama penulis sehingga penulis bisa menyelesaikan kuliah dan sampai sekarang bisa menjalani kehidupan ini dengan baik. Maafkan penulis belum bisa berbakti lebih banyak kepada Papa, semua kasih sayangmu sangat penulis rindukan. Penulis berharap semua yang telah penulis lakukan dapat membuat kalian bangga, Mama dan Papa. Terima kasih pula kepada Mas Adi dan Mba Achha yang telah banyak memberikan inspirasi bagi penulis. Tak lupa penulis mengungkapkan banyak terima kasih kepada:

i


1.

Ibu Dra. Rianti Setiadi M.Si selaku pembimbing I yang telah memberikan bahan yang sangat menantang kepada penulis. Terima kasih atas bantuan, motivasi, perhatian, kepercayaan, dan inspirasi penulis selama ini. Penulis berharap tugas akhir ini dapat membuat Ibu puas dan bangga.

2.

Mba Mila Novita S.Si, M.Si selaku pembimbing II yang telah sabar dalam memeriksa tugas akhir ini, membantu penulis dalam menemukan pembuktian rumus-rumus, dan memberikan banyak masukan yang baik dalam menyempurnakan tugas akhir ini.

3.

Ibu Rustina selaku pembimbing akademik yang telah banyak membantu penulis dalam mengambil keputusan mulai dari pertama masuk kuliah hingga penulis lulus.

4.

Ibu Sasky yang telah banyak memberikan kasih sayang dan perhatiannya kepada penulis.

5.

Seluruh dosen di Departemen Matematika UI atas semua ilmu yang telah diberikan. Doakan penulis agar ilmu ini berguna bagi bangsa dan agama.

6.

Staf di Departemen Matematika UI yang telah banyak membantu penulis dalam berbagai hal.

7.

Widya Wahyuni tesayang yang selalu memberikan motivasi dan semangat ketika penulis sedang jenuh, selalu memberikan nasihat ketika penulis sedang bingung, dan selalu ada ketika penulis membutuhkan. ii


8.

Teman-teman angkatan 2005: Akmal, Angel, Wicha, Bunda Ardy, Puji, Shally, Gyo, Ratna, Melati, om Teha, Karlina, QQ, Aya, Mery, Miranti, Rani, My Sis Fika, Pute, Aini, Rif’ah, Rara, Yanuar, Ranti, Trian, Ridwan, Aris, Hairu, Yuni, Nafia, Dian, Mia, Hamdan, Raisa, Nisma, Othe, Asep, Sae, serta teman-

teman yang juga mengerjakan skripsi: May, Ida, Stevani, Rifkos, Cungky, Shinta, Ratih, Riesa, Khuri, Syarah, Maul, Uun, Iif, Edi, Gele, Bembi, dan Gunung. 9.

Teman-teman angkatan 2003, 2004, 2006, 2007, dan 2008.

10.

Terima kasih khusus kepada: Yanuar yang telah membantu membuatkan program dengan sabar dan teliti, Hamdan yang telah meminjamkan komputernya untuk menjalankan program, May yang telah membantu mengurus persyaratan kolokium ketika penulis sedang sakit, Ajat ’04 yang telah membantu menurunkan rumus, Novianti ’04 yang telah memberi banyak sekali inspirasi dari skripsinya, Rimbun ’04 yang telah memberikan banyak nasihat dan semangat, dan Bembi ’03 yang turut membantu merevisi program.

Semoga tugas akhir ini dapat memberikan banyak menfaat bagi yang membacanya. Akhirnya, Penulis menyadari bahwa masih terdapat kekurangan dalam karya tulis ini sehingga penulis mengharapkan masukan dan kritik terhadap karya tulis ini dari berbagai pihak.

iii


ABSTRAK

Tugas akhir ini secara umum bertujuan untuk membahas model persamaan struktural nonlinear (Nonlinear Structural Equation Model atau NLSEM), yaitu suatu model yang mengkombinasikan analisis faktor dan analisis regresi untuk tujuan analisis suatu hipotesis yang menyatakan hubungan antara variabel-variabel laten yang diukur oleh variabel-variabel indikator dimana terdapat hubungan yang nonlinear antar variabel latennya. Penaksiran parameter dalam model persamaan struktural nonlinear dicari dengan menggunakan taksiran Maksimum Likelihood melalui Algoritma EM (Expectation Maximization). Karena rumitnya proses komputasi, pada E-Step akan digunakan algoritma Metropolis-Hastings. Metode tersebut akan diterapkan untuk melihat pola hubungan antara kepercayaan beragama, kepuasan dalam pekerjaan, dan interaksi antara keduanya dalam mempengaruhi kepuasan hidup seseorang. Hasil analisis data menunjukkan bahwa meningkatnya tingkat kepercayaan beragama dan kepuasan dalam pekerjaan akan meningkatkan kepuasan hidup, namun dihambat oleh pengaruh interaksinya. Kata kunci: Nonlinear SEM, taksiran Maksimum Likelihood, algoritma EM, algoritma Metropolis-Hastings. ix + 98 hal ; lamp Bibliografi: 20 (1978 - 2009) iv


DAFTAR ISI

Halaman KATA PENGANTAR ....................................................................................i ABSTRAK .................................................................................................. iv DAFTAR ISI ................................................................................................v DAFTAR GAMBAR ................................................................................... vii DAFTAR TABEL ...................................................................................... viii DAFTAR LAMPIRAN ................................................................................. ix

BAB I. PENDAHULUAN ............................................................................. 1 1.1 Latar Belakang ............................................................................ 1 1.2 Perumusan Masalah .................................................................... 2 1.3 Tujuan Penelitian ......................................................................... 2 1.4 Pembatasan Masalah .................................................................. 3 1.5 Sistematika Penulisan ................................................................. 3

BAB II. LANDASAN TEORI........................................................................ 5 2.1 Model Persamaan Struktural ....................................................... 5 2.2 Taksiran Maksimum Likelihood ................................................. 18 2.3 Algoritma EM ............................................................................. 19 2.4 Algoritma EM untuk Regular Exponential Family ....................... 21 v


2.5 Integral Monte Carlo .................................................................. 24 2.6 MCEM........................................................................................ 25 2.7 Rantai Markov ........................................................................... 25 2.8 Algoritma Metropolis Hastings ................................................... 27

BAB III. MODEL PERSAMAAN STRUKTURAL NONLINEAR ................. 33 3.1 Model ......................................................................................... 33 3.2 Taksiran Maksimum Likelihood pada Nonlinear SEM ............... 37 3.3 E-Step Menggunakan Algoritma Metropolis-Hastings ............... 42 3.4 M-Step ....................................................................................... 47

BAB IV. CONTOH APLIKASI ................................................................... 49 4.1 Sumber Data ............................................................................. 49 4.2 Analisis Data.............................................................................. 51 4.3 Hasil Taksiran dan Interpretasinya ............................................ 53

BAB V. PENUTUP ................................................................................... 61 5.1 Kesimpulan ................................................................................ 61 5.2 Saran ......................................................................................... 62

DAFTAR PUSTAKA ................................................................................. 63 LAMPIRAN............................................................................................... 66 vi


DAFTAR GAMBAR

Halaman Gambar 2.1. Contoh diagram model persamaan struktural ....................... 8 Gambar 3.1. Contoh diagram model persamaan struktural nonlinear...... 34 Gambar 4.1. Grafik taksiran parameter 21 , 42 , 63 untuk setiap iterasi .................................................................................. 55 Gambar 4.2. Grafik taksiran parameter  11 ,  12 , dan  13 untuk setiap iterasi .................................................................................. 55 Gambar 4.3. Grafik taksiran parameter 1 sampai  6 untuk setiap iterasi .................................................................................. 56 Gambar 4.4. Grafik taksiran parameter  11 sampai  66 untuk setiap iterasi .................................................................................. 56 Gambar 4.5. Grafik taksiran parameter 11 , 12 ,  22 untuk setiap iterasi .. 57 Gambar 4.6. Grafik taksiran parameter   untuk setiap iterasi ............... 57 Gambar 4.7. Diagram Model Nonlinear SEM dengan hasil taksiran parameter ............................................................................. 58

Gambar 1 Lampiran 6. Contoh output grafik program NLSEM ................ 94

vii


DAFTAR TABEL

Halaman Tabel 4.1. Taksiran Maksimum Likelihood untuk data ICPSR ................. 54

viii


DAFTAR LAMPIRAN

Halaman LAMPIRAN 1: Penurunan MLE SEM Biasa ............................................. 66 LAMPIRAN 2: Pembuktian Algoritma EM ................................................ 69 LAMPIRAN 3: Penurunan Statistik Cukup ............................................... 73 LAMPIRAN 4: Penurunan M-Step............................................................ 76 LAMPIRAN 5: Data ICPSR ...................................................................... 87 LAMPIRAN 6: Program Nonlinear SEM ................................................... 90

ix


BAB I PENDAHULUAN

1.1 LATAR BELAKANG

Model Persamaan Struktural atau Structural Equation Model (SEM) adalah teknik multivariat yang mengkombinasikan analisis faktor dan analisis regresi untuk tujuan analisis suatu hipotesis yang menyatakan hubungan antara variabel-variabel laten yang diukur oleh variabel-variabel indikator. Secara umum, SEM dapat dibagi menjadi dua bagian utama, yaitu model pengukuran yang menggambarkan hubungan antara variabel laten dengan variabel-variabel indikatornya, dan model struktural yang menggambarkan hubungan antara variabel-variabel laten. Selama ini, SEM digunakan lebih kepada hubungan linear antara variabel-variabel laten, tetapi dalam beberapa permasalahan sering terjadi hubungan yang non linear diantara variabel laten. Jika terjadi hubungan yang non linear diantara variabel laten maka SEM yang mengasumsikan hubungan linear diantara variabel laten kurang tepat untuk diterapkan. Karena itu akan dicoba untuk mengembangkan model persamaan struktural yang telah ada dengan memperhitungkan ketidakliniearan hubungan antar variabel laten ke dalam model. Model persamaan struktural yang memperhitungkan hubungan

1


2

nonlinear antar variabel laten ke dalam model dikenal dengan Model Persamaan Struktural Non Linear (Non Linear SEM). Dalam model persamaan struktural yang mengasumsikan hubungan linear antar variabel laten, penaksiran parameter dilakukan dengan berbagai metode sesuai dengan keadaan data. Salah satu metode yang sering digunakan adalah dengan metode Taksiran Maksimum Likelihood. Yang menjadi masalah dalam tugas akhir ini adalah bagaimana mencari taksiran parameter pada model persamaan struktural non linear dengan menggunakan metode taksiran maksimum likelihood. Permasalahan ini yang akan dicoba untuk diselesaikan dalam tugas akhir ini.

1.2 PERUMUSAN MASALAH

Bagaimana cara mencari taksiran parameter dalam model persamaan struktural non linear dengan menggunakan metode taksiran maksimum likelihood.

1.3 TUJUAN PENELITIAN

Mencari taksiran parameter dalam model persamaan struktural non linear dengan menggunakan metode taksiran maksimum likelihood.


3

1.4 PEMBATASAN MASALAH

Permasalahan dalam tugas akhir ini dibatasi hanya pada penaksiran parameter dengan metode taksiran maksimum likelihood dan tidak dilakukan pengujian model.

1.5 SISTEMATIKA PENULISAN

Bab I

Pendahuluan Bab ini berisi latar belakang masalah, perumusan masalah, tujuan penulisan, pembatasan masalah, dan sistematika penulisan.

Bab II Landasan Teori Bab ini berisi pembahasan mengenai konsep dasar yang akan digunakan dalam pembentukan model persamaan struktural nonlinear, meliputi: model persamaan struktural, taksiran maksimum likelihood, algoritma EM (Expectation-Maximization), algoritma EM untuk Regular Exponential Family, integral monte carlo, MCEM, rantai Markov, dan algoritma MH (Metropolis-Hastings). Bab III Model Persamaan Struktural Nonlinear Bab ini berisi pembahasan mengenai model persamaan struktural nonlinear, meliputi: model umum, taksiran maksimum likelihood, dan penerapan algoritma EM pada model persamaan struktural nonlinear


4

Bab IV Contoh Aplikasi Bab ini berisi contoh aplikasi, yaitu mencari model persamaan struktural nonlinear dengan satu variabel laten endogen yang dibentuk oleh dua variabel laten eksogen dan interaksinya. Bab V Penutup Bab ini berisi kesimpulan dan saran.


BAB II LANDASAN TEORI

Bab ini membahas beberapa pengertian dasar yang diperlukan pada pembahasan bab-bab berikutnya, yaitu mengenai model persamaan struktural, taksiran maksimum likelihood, algoritma EM (ExpectationMaximization), algoritma EM untuk Regular Exponential Family, integral monte carlo, MCEM, rantai Markov, dan algoritma MH (Metropolis-Hastings).

2.1 MODEL PERSAMAAN STRUKTURAL

Model persamaan struktural atau Structural Equation Model (SEM) adalah suatu teknik pemodelan statistik yang merupakan penggabungan dari analisis faktor dan analisis regresi yang dapat menyatakan hubungan antara variabel-variabel laten yang diukur oleh variabel-variabel indikator. Karena variabel laten yang digunakan dalam SEM diukur oleh variabel indikator yang sudah tertentu jumlahnya, maka analisis faktor yang digunakan adalah analisis faktor konfirmatori. Dalam SEM bisa terdapat suatu sistem persamaan simultan yang merupakan sistem persamaan dimana suatu variabel dependen dalam suatu hubungan dependensi dapat menjadi variabel bebas pada hubungan dependensi selanjutnya. Sebelum 5


6

mempelajari SEM lebih jauh, akan dijelaskan terlebih dahulu beberapa istilah dan notasi yang digunakan dalam SEM. Jöreskog (1973) dan Bollen (1989) mengemukakan bahwa ada tiga istilah untuk variabel random yang digunakan dalam SEM, yaitu variabel laten, variabel indikator, dan variabel error. Variabel indikator (disebut juga variabel terobservasi / manifes) adalah variabel yang dapat diukur secara langsung, misalnya tinggi badan, IPK, pendapatan, dan sebagainya. Variabel laten (disebut juga variabel konstruk / faktor / tak terobservasi) adalah variabel yang tidak dapat diukur secara langsung, melainkan diukur oleh variabel-variabel indikator. Variabel error adalah variabel yang merepresentasikan variabilitas dari variabel endogen yang tidak dapat dijelaskan oleh variabel eksogen. Berdasarkan peranannya dalam model, variabel-variabel laten yang digunakan dalam SEM dibedakan menjadi variabel laten eksogen dan variabel laten endogen. Variabel laten eksogen adalah variabel laten yang tidak dipengaruhi oleh variabel laten sebelumnya di dalam model. Sedangkan variabel laten endogen adalah variabel laten yang ditentukan oleh variabelvariabel laten sebelumnya/lainnya di dalam model. Tidak seperti model linear, SEM memungkinkan adanya korelasi antar variabel laten eksogen. Notasi-notasi yang digunakan dalam diagram jalur SEM adalah sebagai berikut:


7

Bentuk persegi panjang menunjukkan bahwa variabel y adalah variabel indikator.

Bentuk lingkaran atau elips menunjukkan variabel yang tidak dapat diukur secara langsung. Variabel laten  , error model pengukuran

 , dan error model sruktural  termasuk ke dalam variabel yang tidak dapat diukur secara langsung sehingga diberi lambang lingkaran.

Variabel pada pangkal anak panah mempengaruhi variabel pada ujung anak panah.

Anak panah dua arah melengkung menunjukkan hubungan korelasi antara kedua variabel yang dihubungkan.

Di bawah ini akan diberikan contoh SEM dengan notasi-notasi variabel yang digunakan. Misalkan terdapat diagram jalur SEM sebagai berikut:


8

Gambar 2.1. Contoh diagram model persamaan struktural

Berdasarkan hubungan antar variabel pembentuknya, SEM terdiri dari dua bagian, yaitu: 1)

Model pengukuran yang mewakili komponen analisis faktor konfirmatori, yaitu model yang menyatakan hubungan variabel laten dan variabel indikator yang membentuknya.


9

Dari diagram SEM di gambar 1, dapat dibuat persamaan model pengukuran untuk variabel indikator y (1)   y1 y 2  sebagai berikut:

y1  1  11 1   1 y 2   2  21 1   2 atau dalam bentuk matriks:

 y1   1   11  1   1   2    2         2   y      21    yaitu:

y (1)( 21)  μ (1)( 21)  Λ (1)( 21) ξ (1)(11)  ε (1)( 21) dimana 

y1 dan y 2 adalah variabel-variabel indikator pembentuk variabel

laten  1 , 

 1 dan  2 adalah intercept,



 1 dan  2 adalah variabel-variabel error pengukuran, dan



11 dan 21 adalah faktor loading yang menunjukkan loading dari variabel indikator pada variabel laten yang dibentuknya.

Secara umum, model pengukuran untuk variabel

y (1)   y1 y 2  y p1  ukuran p1 1 yang merupakan variabel indikator  dari variabel laten endogen ξ (1)   1  2   q1  ukuran q1  1 adalah


10

y (1)  μ(1)  Λ(1)ξ(1)  ε(1)

(2.1.1)

dimana μ (1) adalah matriks intercept ukuran p1 1 , Λ (1) adalah matriks dari faktor loading (faktor loading menunjukkan loading dari variabel indikator pada variabel laten yang dibentuknya) ukuran p1  q1 , dan ε (1) adalah matriks ukuran p1 1 dari error pengukuran. Persamaan model pengukuran untuk variabel indikator

y (2)   y 3 y 4 y 5 y 6  adalah: y 3   3  32 2   3 y 4   4  42 2   4 y 5   5  52 3   5 y 6   6  62 3   5

atau dalam bentuk matriks:  y 3    3   32  4  4   y        42  y5    5   0  6   6    y     0

3    2  4         53    3    5   6   63    0 0

yaitu:

y (2)( 41)  μ (2)( 41)  Λ (2)( 42) ξ (2)( 21)  ε(2)( 41) dimana 

y 3, y 4 , y 5 dan y 6 adalah variabel-variabel indikator pembentuk

variabel laten  2 dan  3 , 

 3,  4 ,  5 dan  6 adalah intercept,


11



 3 ,  4 ,  5 dan  6 adalah variabel-variabel error pengukuran, dan



32 , 42 , 53 dan 63 adalah faktor loading yang menunjukkan loading dari variabel indikator pada variabel laten yang dibentuknya.


y (2)   y p1 1 y p1  2  y p1  p2  ukuran p2  1 yang merupakan variabel  indikator dari variabel laten eksogen ξ (2)   q1 1  q1 +2   q1  q2 ukuran





q2 1 adalah

y (2)  μ(2)  Λ(2)ξ(2)  ε(2)

(2.1.2)

dimana μ(2) adalah matriks intercept ukuran p2  1 , Λ (2) adalah matriks dari faktor loading ukuran p2  q2 , dan ε(2) adalah matriks ukuran p2  1 dari error pengukuran. Dari model pengukuran untuk variabel indikator y (1) dan y (2) yang telah dijelaskan sebelumnya, dapat dibuat model pengukuran untuk seluruh variabel indikator y   y (1) y (2)  dalam bentuk matriks:


12

 y1    1   11 0  2  2   y      21 0  y3    3   0  32  4   4   y      0 42  y5    5   0 0       y 6    6   0 0    

0   1     0  1  2    0  2   3      0      4  3 53      5   6   63   

yaitu:

y (61)  μ(61)  Λ(63)ξ(31)  ε(61) dimana 

y1 dan y 2 adalah variabel-variabel indikator pembentuk variabel

laten  1 , 

y 3 dan y 4 adalah variabel-variabel indikator pembentuk variabel

laten  2 , 

y 5 dan y 6 adalah variabel-variabel indikator pembentuk variabel

laten  3 , 

 1 ,  2 ,   6 adalah intercept,



 1 ,  2 , ,  6 adalah variabel-variabel error pengukuran, dan



11 , 21 , , 63 adalah faktor loading yang menunjukkan loading dari variabel indikator pada variabel laten yang dibentuknya.


y   y (1) y (2)    y1 y 2  y p  ukuran p1 (dengan p  p1  p2 ) yang


13

merupakan variabel-variabel indikator dari variabel laten

ξ   ξ (1) ξ (2)    1  2   q  ukuran q1 (dengan q  q1  q2 ) adalah

y  μ  Λξ  ε

(2.1.3)

dimana μ   μ (1) μ (2)  adalah matriks intercept ukuran p1 ,

 Λ(1) Λ  0

0   adalah matriks dari faktor loading ukuran p  q , dan Λ(2) 

ε   ε (1) ε (2)     1  2   p  adalah matriks ukuran p1 dari error pengukuran. Asumsi-asumsi untuk model pengukuran adalah:

2)

1.

E ε (1)   E ε(2)   0

2.

ε (1) tidak berkorelasi dengan ξ (1) , ξ (2) , dan ε(2)

3.

ε(2) tidak berkorelasi dengan ξ (1) , ξ (2) , dan ε (1)

Model struktural adalah model yang menyatakan hubungan kausal antar variabel laten melalui sistem persamaan simultan. Dari diagram SEM di gambar 1, dapat dijelaskan mengenai model struktural sebagai berikut:

 1   12 2   13 3   1 atau dalam bentuk matriks:


14

 2   1 3   

 1    0  1    12  13   yaitu:

ξ (1)(11)  Π (11)ξ (1)(11)  Γ (12) ξ (2)( 21)  δ (11) dimana 

 12 menyatakan pengaruh variabel eksogen  2 terhadap variabel endogen  1 ,






 23 adalah kovarians antara variabel eksogen  2 dan  3 , dan



matriks Π ukuran (11) adalah matriks yang berisi parameter  11 yang menyatakan pengaruh variabel endogen  1 terhadap variabel endogen  1 , berdasarkan diagram SEM di gambar 1, nilai  11  0 karena tidak ada pengaruh variabel endogen  1 terhadap dirinya sendiri.

Secara umum, model struktural mempunyai bentuk sebagai berikut:

ξ (1)  Πξ (1)  Γξ (2)  δ Dimana:


(2.1.4)

15

 1   2  ξ (1) =   adalah matriks ukuran q  1 dari variabel-variabel laten 1     q1    endogen,

  q1 1   q1  2    ξ (2) =     adalah matriks ukuran q2 1 dari variabel-variabel laten  q1  q2    eksogen, Π adalah matriks koefisien untuk variabel laten endogen ukuran

q(1)  q(1) , Γ adalah matriks koefisien untuk variabel laten eksogen ukuran q(1)  q(2) , dan δ adalah matriks error struktural ukuran q(1) 1 . Asumsi-asumsi untuk model struktural adalah: 1.

E δ  0

2.

δ tidak berkorelasi dengan ξ (2)

3.

I  Π 

nonsingular

Dari penjelasan sebelumnya, dapat disimpulkan bahwa SEM secara umum dapat dituliskan dalam dua bentuk model, yaitu:


16

1.

Model pengukuran

y (1)  μ(1)  Λ(1)ξ(1)  ε(1) y (2)  μ(2)  Λ(2)ξ(2)  ε(2) 2.

Model struktural

ξ (1)  Πξ (1)  Γξ (2)  δ Dalam SEM, matriks kovariansi memegang peranan yang sangat penting karena pengujian kecocokan model dilakukan dengan membandingkan matriks kovariansi dari model dengan matriks kovariansi sampel. Misalkan S adalah matriks kovariansi sampel dari variabel-variabel indikator. Matriks S untuk contoh diagram SEM pada gambar 1 adalah:

 var  y1  cov  y1 , y 2    cov  y1 , y 2  var  y 2  S      cov  y1 , y 6  cov  y 2 , y 6  

 cov  y1 , y 6     cov  y 2 , y 6         var  y 6  

Misalkan pula Σ  θ  adalah matriks kovariansi dari model, dimana θ adalah vektor dari parameter dalam model. Pada contoh diagram SEM di gambar 1, Σ  θ  dapat dinyatakan sebagai berikut:

 var  y1   1  11 1   1  cov  y1 , y 2    cov  y1   1  11 1   1 , y 2   2  21 1   2  var  y 2   2  21 1   2  Σ θ        cov  y1   1  11 1   1 , y 6   6  62 3   6  cov  y 2 , y 6  


cov  y1 , y 6 

    cov  y 2 , y 6        var  y 6   6  62 3   6   

17

Dapat ditunjukkan bahwa bentuk umum matriks Σ  θ  di atas adalah sebagai berikut:

 Λ I  Π 1 ΓΦΓ  Ψ I  Π 1 Λ   Ψ    (1) (1)    1 Σ θ   1  Λ(2)ΦΓ  I  Π  Λ (1) 

1 Λ (1)  I  Π  ΓΦΛ (2)   Λ(2)ΦΛ(2)  Ψ 2 

(2.1.5) dimana





Φ ( q2 q2 )  E ξ (2)ξ (2)  matriks kovariansi dari ξ ( 2)

 

Ψ ( q1 q1 )  E δδ  matriks kovariansi dari δ





Ψ  1( p1  p1 )  E ε (1)ε (1)  matriks kovariansi dari ε (1)





Ψ  2( p2  p2 )  E ε (2)ε (2)  matriks kovariansi dari ε(2)

Penurunan persamaan (2.1.5) dapat dilihat pada Bollen (1989) dalam “Structural Equation with Latent Variable”. Parameter-parameter yang tidak diketahui, yaitu Π , Γ , Φ , Ψ , Ψ  1 , dan Ψ  2 akan diestimasi sedemikian sehingga nilai dari entri-entri pada matriks kovariansi Σ  θ  dekat dengan nilai dari entri-entri pada matriks S. Salah satu cara yang biasa digunakan untuk mendapatkan taksiran tersebut adalah taksiran maksimum likelihood atau Maximum Likelihood Estimator (MLE). MLE menaksir parameter dengan memaksimumkan probabilitas (likelihood) bahwa matriks kovariansi populasi sama dengan matriks


18

kovariansi sampel. Fungsi maksimum likelihood dapat dituliskan sebagai berikut:



FML  log Σ  θ   tr SΣ  θ 

1

  log S   p 

(2.1.6)

Untuk lebih jelasnya mengenai pernurunan persamaan di atas, dapat dilihat di lampiran 1.

2.2 TAKSIRAN MAKSIMUM LIKELIHOOD

Misalkan X 1 , X 2 , , X n adalah suatu sampel random berukuran n dari suatu distribusi dengan pdf f  x;  , yang bergantung pada   ,  disebut ruang parameter. Karena X 1 , X 2 , , X n merupakan sample random, pdf bersama dari X 1 , X 2 , , X n dapat dinyatakan sebagai:

f  x1 , x2 ,, xn ;   f  x1;  f  x2 ;  f  xn ; 

(2.2.1)

Pdf bersama dari X 1 , X 2 , , X n mengandung parameter  , sehingga persamaan (2.2.1) dapat dituliskan sebagai suatu fungsi dari  , sebut L   . L    f  x1 , x2 , , xn ;   f  x1 ;  f  x2 ;  f  xn ;  n

  f  xi ;  i 1

L   disebut fungsi likelihood.


(2.2.2)

19

Akan dicari  yang memaksimumkan L   . Untuk mempermudah perhitungan dalam mencari nilai  , L   dapat dimodifikasi ke dalam bentuk ln, karena nilai  yang memaksimumkan ln L   sama dengan nilai  yang memaksimumkan L   . Sehingga persamaan (2.2.2) dimodifikasi menjadi:

 n  ln L    ln   f  xi ;    i 1  n

(2.2.3)

  ln f  xi ;  i 1

Nilai  yang memaksimumkan ln L   , diperoleh dengan mendifferensialkan ln L   terhadap  dan menyamakannya dengan 0, dan memastikan bahwa turunan keduanya kurang dari 0. d ln L   0 d d 2 ln L   0 d 2

(2.2.4)

Nilai   u  X 1 , X 2 ,, X n  yang memaksimumkan ln L   disebut sebagai taksiran maximum likelihood dari  dan dinotasikan dengan ˆ .

2.3 ALGORITMA EM

Algoritma EM merupakan suatu algoritma yang bersifat iteratif yang dapat digunakan untuk mencari MLE dimana terdapat variabel dalam model


20

yang merupakan variabel laten. Misalkan Z adalah suatu variabel laten. Y  Y1 , Y2 , , Yn adalah observed variable, yang mempunyai joint pdf p  y,  .

Sebut L  y ,  adalah fungsi log likelihood dari Y, yaitu: L  y,   log  p  y,  

(2.3.1)

Misalkan p  y, z,   p  x,  adalah pdf bersama dari Y dan Z, dengan

 adalah parameter dalam model. Karena, seperti yang telah dinyatakan pada pemisalan awal, Z adalah variabel laten, maka salah satu cara untuk mencari taksiran  yang memaksimumkan fungsi likelihood dari Y adalah dengan menggunakan algoritma EM. Prinsip dari algoritma EM dapat dijelaskan menjadi 2 bagian sebagai berikut: 1)

E-Step E-step dilakukan untuk mencari





Q  ,t 1   E log  p  y, z,   y,ˆt 1    log  p  y, z,   p z | y,ˆt 1 dz Z

(2.3.2) dimana:

ˆt 1 adalah taksiran  pada iterasi ke-(t-1).  0 adalah suatu nilai taksiran awal yang diberikan. 2)

M-Step


21

Pada M-step, maksimumkan

E log  p  y, z,   y,ˆt 1   E log  p  x,   y,ˆt 1  terhadap  untuk mendapatkan taksiran  pada iterasi ke-t, sebut ˆt . Proses E-step dan M-step ini akan dilakukan terus secara iteratif sampai sebanyak s iterasi, yaitu sampai didapatkan suatu estimasi untuk  yang konvergen atau ˆs  ˆs 1 cukup kecil. Dapat ditunjukkan di lampiran 2 bahwa iterasi algoritma EM seperti yang dijelaskan melalui E-step dan M-step diatas akan meningkatkan nilai L  y,  pada setiap iterasinya.

2.4 ALGORITMA EM UNTUK REGULAR EXPONENTIAL FAMILY

Pada bagian ini akan dibahas tentang algoritma EM untuk regular exponential family pada kasus dimana terdapat lebih dari satu parameter  yang dibentuk menjadi suatu vektor parameter θ . Pdf bersama dari X , yaitu p  x, θ  , dikatakan berasal dari regular exponential family jika: p  x, θ   exp  θt (x)  b(θ)  c(x) 

(2.4.1)

dimana θ adalah transpose dari vektor parameter θ , t(x) adalah statistik cukup, b(θ) dan c(x) adalah fungsi skalar.


22

Akan dicari ekspektasi dari statistik cukup t(x) , pertama perhatikan bahwa: E log  p  y , z , θt     E log exp  θt (x)  b(θ)  c(x)     E θt (x)  b(θ)  c(x) 

(2.4.2)

 θE  t (x)   b(θ)  E  c(x) 

Nilai θ yang memaksimumkan ekspektasi di (2.4.2) dapat dicari dengan menyelesaikan:

 E log  p  y, z, θt     0 θ      θE  t (x)   b(θ)  E  c(x)   0 θ θ θ b(θ) E  t ( x)   0 θ b(θ) E  t ( x)   θ

(2.4.3)

sehingga didapatkan ekspektasi dari statistik cukup t(x) , yaitu

E  t ( x)  

b(θ) . θ

Kemudian dalam mencari ekspektasi pada E-step, perlu dihitung

Q  θ, θt 1   E log  p  y, z, θt  y, θˆ t 1  , yaitu: E log  p  y, z , θt   y, θˆ t 1   E log exp  θt (x)  b(θ)  c(x)   y, θˆ t 1   E θt (x)  b(θ)  c(x) y , θˆ t 1 

(2.4.4)

 θE t (x) y , θˆ t 1   b(θ)  E c(x) | y, θˆ t 1 

Setelah itu pada M-step akan dicari nilai θ yang memaksimumkan ekspektasi di (2.4.4), yaitu dengan menyelesaikan:


23



  E log  p  y , z , θt   y, θˆ t 1   0 θ  



 θE t (x) y , θˆ t 1   b(θ)  E  c(x) | y , θˆ t 1   0 θ     θE t (x) y , θˆ t 1   b(θ)  E c(x) | y , θˆ t 1   0 θ θ θ 

dimana

(2.4.5)

θ    I (matriks identitas) dan E c(x) | y, θˆ t 1   0 karena c(x) tidak θ θ 

bergantung kepada θ . Maka persamaan (2.4.5) menjadi: b(θ) E t (x) y , θˆ t 1   0 θ b(θ)  E t (x) y , θˆ t 1  θ

(2.4.6)

Dengan mensubtitusikan persamaan (2.4.3) ke (2.4.6) didapat:

E t (x)  E t (x) y,ˆt 1 

(2.4.7)

Persamaan (2.4.7) menghasilkan suatu penyederhanaan dalam algoritma EM pada kasus pdf bersama data lengkap X yang berasal dari regular exponential family. Yaitu untuk memaksimumkan Q  θ, θt 1  di setiap iterasinya, hanya perlu menyelesaikan persamaan (2.4.7) dengan menggunakan sisi kanan persamaan, yaitu hanya perlu dihitung nilai ekspektasi dari statistik cukup t(x) bersyarat y saja (tidak perlu untuk menghitung seluruh nilai ekspektasi dari Q  θ, θt 1  ).


24

2.5 INTEGRAL MONTE CARLO

Integral Monte Carlo adalah suatu metode yang digunakan untuk mengaproksimasi nilai integral tentu dari suatu fungsi dengan cara membangkitkan bilangan acak dari suatu populasi dengan distribusi tertentu. Umumnya Integral Monte Carlo digunakan untuk mengaproksimasi nilai integral dari suatu fungsi yang kompleks yang nilai eksak integralnya sulit diperoleh secara analitik. Misalkan ingin dihitung nilai integral tentu dari suatu fungsi h( x) yang kompleks: b

 h( x)dx

(2.5.1)

a

Misalkan fungsi h( x) dapat dituliskan sebagai hasil kali dua buah fungsi f ( x) dan pdf p( x) yang didefinisikan pada interval (a, b) , maka perhatikan bahwa b

b

 h( x)dx   f ( x) p( x)dx  E p ( x )[ f ( x)] a

(2.5.2)

a

yaitu integral pada (2.5.1) dapat dituliskan sebagai expektasi dari f ( x) di sepanjang densitas p( x) . Sehingga jika diambil sejumlah besar bilangan bilangan acak x1 , x2 ,  , xn dari densitas p( x) , maka nilai integral pada (2.5.1) dapat diaproksimasi dengan b

 h( x)dx  E p ( x) [ f ( x)]  a

1 n  f ( xi ) n i 1


(2.5.3)

25

2.6 MONTE CARLO EXPECTATION MAXIMIZATION (MCEM)

Monte Carlo Expectation Maximization (MCEM) adalah suatu algoritma yang menggunakan metode Monte Carlo dalam mengaproksimasi nilai ekspektasi pada E-Step dalam algoritma EM. Seperti yang telah dijelaskan sebelumnya, dalam E-Step akan dicari:





Q  ,t 1   E log  p  y, z,   y,ˆt 1    log  p  y, z,   p z | y,ˆt 1 dz Z

Nilai



Z





log  p  y, z,   p z | y,ˆt 1 dz inilah yang akan dicari dengan

menggunakan integral monte carlo. Untuk melakukannya, pertama





bangkitkan nilai-nilai z1 , z 2 ,  , z n dari distribusi p z | y,ˆt 1 , kemudian nilai ekspektasinya dapat dihitung sebagai berikut:



Z





log  p  y , z ,    p z | y, ˆt 1 dz  E p z|y ,ˆ log  p  y, z ,      t 1  

1 n  log  p  y, z,   n i 1

(2.6.1)

2.7 RANTAI MARKOV

Misalkan X t menyatakan variabel random X pada saat t , dan misalkan hasil nilai-nilai X yang mungkin terdapat di dalam suatu ruang keadaan (state space).


26

Rantai Markov atau Markov Chain adalah suatu barisan dari variabel random X dimana jika terdapat nilai keadaan yang sekarang maka keadaan di masa depan saling bebas dengan keadaan di masa lalu. Dengan kata lain, satu-satunya informasi untuk memprediksi keadaan di masa depan adalah keadaan saat ini saja, sedangkan keadaan-keadaan sebelumnya tidak mempengaruhi, yaitu secara formal: Pr  X t 1  st 1 | X 0  s0 , , X t  st   Pr  X t 1  st 1 | X t  st 

(2.7.1)

Perubahan dari suatu keadaan ke keadaan yang lain disebut dengan transisi, sedangkan probabilitas perubahan dari suatu keadaan ke keadaan lain disebut dengan probabilitas transisi. Probabilitas transisi dari keadaan si ke keadaan s j dalam satu tahap dilambangkan dengan P  i, j   P  i  j  , yaitu

P  i, j   P  i  j   Pr  X t 1  s j | X t  si 

(2.7.2)

Misalkan  j  t   Pr  X t  s j  menyatakan probabilitas bahwa rantai markov berada dalam keadaan j pada saat t , dan π  t  menyatakan vektor baris yang berisi probabilitas-probabilitas yang meliputi seluruh ruang keadaan pada saat t . Probabilitas bahwa rantai memiliki nilai keadaan si pada saat t  1 dapat diberikan oleh persamaan Chapman-Kolomogrov, yaitu:

 i  t  1  Pr  X t 1  si    Pr  X t 1  si | X t  sk  .Pr  X t  sk  k

  P  k  i  k t  k

  P  k , i  k t  k


(2.7.3)

27

Persamaan Chapman-Kolomogrov di atas juga dapat dituliskan dalam bentuk matriks. Misalkan P adalah matriks probabilitas transisi yang elemen

ke  i, j nya adalah P  i, j  , maka persamaan Chapman-Kolomogrov di atas menjadi: π  t  1  π  t  P

(2.7.4)

Rantai markov akan mencapai distribusi π* yang stasioner jika memenuhi:

π*  π*P

(2.7.5)

Syarat cukup pada rantai markov untuk distribusi yang stasioner adalah dipenuhinya persamaan detailed balance, yaitu untuk setiap i dan j berlaku: P  j, k   j*  P  k , j   k *

(2.7.6)

Syarat cukup di atas mengimplikasikan π  πP , karena jika syarat cukup tersebut dipenuhi, maka elemen ke-j dari πP untuk setiap j adalah

 πP  j    i P  i, j     j P  j, i    j  P  j, i    j i

i

i

yang memenuhi definisi distribusi yang stasioner pada persamaan (2.7.5).

2.8 ALGORITMA METROPOLIS-HASTINGS

Salah satu masalah dalam menerapkan Integral Monte Carlo adalah dalam memperoleh sampel dari densitas yang sangat kompleks. Masalah tersebut dapat diatasi dengan menggunakan Algortima Metropolis Hastings


28

(MH). Algoritma MH akan digunakan untuk membangkitkan sampel dari suatu densitas tujuan dengan menggunakan bantuan dari densitas awal yang mudah untuk diambil sampelnya. Algoritma ini pertama kali diperkenalkan oleh Metropolis (1953) kemudian disempurnakan oleh Hastings (1970). Misalkan akan diambil sampel dari suatu populasi dengan pdf p( ) dimana p( )  f ( ) / K , dengan K adalah konstan yang tidak diketahui. Dengan menggunakan Algoritma MH, dapat dihasilkan suatu urutan pengambilan dari distribusi p( ) . Sebelumnya perlu ditentukan suatu distribusi lompatan (jumping distribution) q (1 ,  2 ) yang merupakan probabilitas mengembalikan nilai  2 jika diberikan nilai 1 . Distribusi ini disebut juga sebagai Proposal Distribution atau Candidate-Generating Distribution. Satu-satunya pembatasan pada distribusi lompatan dalam Algoritma Metropolis adalah distribusinya simetrik, yaitu q(1 ,  2 )  q( 2 ,1 ) . Cara kerja Algoritma Metropolis adalah sebagai berikut: 1.

Ambil sembarang nilai awal  0 yang memenuhi f ( 0 )  0 .

2.

Pada iterasi ke-m, yaitu dengan menggunakan nilai  m 1 yang sekarang, hasilkan titik kandidat  * dari q(m1 , * ) .

3.

Ketika titik kandidat  * telah didapatkan, hitung rasio dari densitas pada titik kandidat (  * ) dan titik kandidat yang sekarang (  m 1 ), yaitu:



p( * ) f ( * )  p( m1 ) f ( m1 )


(2.8.1)

29

4.

Jika lompatannya meningkatkan densitas (yaitu  > 1), maka ambil titik kandidat tersebut, yaitu tetapkan t   * , kemudian kembali ke langkah ke-2. Jika lompatannya menurunkan densitas (yaitu  < 1), maka  * diterima dengan probabilitas  . Artinya jika diambil suatu sampel U dari distribusi uniform (0,1) , maka titik kandidat  * tersebut akan diterima jika nilai U   , sebaliknya tolak titik kandidat  * tersebut. Jika titik kandidat  * ditolak, maka ulangi langkah ke-2 dan ambil titik kandidat lain sampai titik kandidat yang dihasilkan diterima.

Kita dapat merangkum Algoritma Metropolis dengan dengan pertamatama menghitung

 f ( * )  ,1 f (  ) m 1  

  min 

(2.8.2)

kemudian mengambil titik kandidat  * dengan probabilitas  . Proses tersebut akan menghasilkan Rantai Markov ( 0 , 1 ,  ,  k , ) , karena probabilitas dari  m 1 ke  m hanya bergantung kepada  m 1 dan bukan ( 0 ,  ,  m  2 ) . Misalkan setelah k iterasi proses tersebut mencapai distribusi

yang stasioner, maka sampel ( k 1 ,  ,  k  M ) adalah M buah sampel yang diambil dari distribusi p( x) .


30

Hastings (1970) mengembangkan Algoritma Metropolis dengan menggunakan sembarang distribusi lompatan q (1 ,  2 ) (tidak harus simetrik) dan menetapkan probabilitas penerimaan untuk suatu titik kandidat sebagai:

 f ( * )q( * ,m1 )  ,1 *  f (m1 )q(m1 , ) 

  min 

(2.8.3)

Algoritma di atas disebut sebagai Algoritma Metropolis-Hastings (MH). Untuk menunjukkan bahwa algoritma Metropolis-Hasting menghasilkan rantai markov yang distribusi stasionernya adalah p  x  , cukup ditunjukkan bahwa probabilitas transisi pada algoritma MH memenuhi persamaan (2.7.6). Dalam algoritma MH, sampel diambil dari q  x, y  dan diterima dengan probabilitas   x, y  , maka probabilitas transisinya diberikan oleh:  p  y  q  y, x   Pr  x  y   q  x, y    x, y   q  x, y  .min  ,1 p x q x , y      

(2.8.4)

Dari persamaan (2.7.6), jika probabilitas transisi pada algoritma MH memenuhi P  x  y p  x  P  y  x p  y

(2.8.5)

atau q  x, y    x , y  p  x   q  y , x    y , x  p  y 

maka dapat disimpulkan bahwa algoritma MH menghasilkan rantai markov yang distribusi stasionernya adalah p  x  . Selanjutnya akan ditunjukkan


31

bahwa persamaan (2.8.5) dipenuhi oleh setiap pasang kemungkinan nilai x dan y pada algoritma MH, yaitu jika: 1.

q  x, y  p  x   q  y , x  p  y  .

Hal ini menyebabkan

q  y, x  p  y     x, y   1 dan q  x, y  p  x 

q  x, y  p  x     y, x   1 , yaitu   x, y     y, x  , yang mengakibatkan: q  y, x  p  y  P  x, y  p  x   q  x, y  p  x  dan P  y, x  p  y   q  y, x  p  y 

sehingga P  x, y  p  x   P  y, x  p  y  , yaitu persamaan (2.8.5) dipenuhi. 2.

q  x, y  p  x   q  y , x  p  y  .

Pada kasus ini,

p  y  q  y, x  p  x  q  x, y   1 dan  1 , yang p  x  q  x, y  p  y  q  y, x 

menyebabkan:

  x, y  

p  y  q  y, x  p  x  q  x, y 

dan   y, x   1

sehingga P  x, y  p  x   q  x, y    x, y  p  x   q  x, y 

p  y  q  y, x  p  x p  x  q  x, y 

 q  y, x  p  y   q  y, x    y, x  p  y   P  y, x  p  y 

yaitu memenuhi persamaan (2.8.5).


32

3.

q  x, y  p  x   q  y , x  p  y  .

Pada kasus ini,

p  y  q  y, x  p  x  q  x, y   1 dan  1 , yang p  x  q  x, y  p  y  q  y, x 

menyebabkan:

  x, y   1 dan   y, x  

p  x  q  x, y  p  y  q  y, x 

sehingga P  y, x  p  y   q  y, x    y, x  p  y   q  y, x 

p  x  q  x, y  p y p  y  q  y, x 

 q  x, y  p  x   q  x, y    x , y  p  x   P  x, y  p  x 

yaitu memenuhi persamaan (2.8.5). Karena persamaan (2.8.5) selalu terpenuhi untuk setiap pasang kemungkinan nilai x dan y , maka terbukti bahwa algoritma MH menghasilkan rantai markov yang distribusi stasionernya adalah p  x  .


BAB III MODEL PERSAMAAN STRUKTURAL NONLINEAR

3.1 MODEL

Model Persamaan Struktural Nonlinear atau Nonlinear Structural Equation Model (Nonlinear SEM) adalah suatu model persamaan struktural yang memperhitungkan hubungan yang nonlinear antar variabel laten. Perhatikan kembali diagram SEM di gambar 1 dengan beberapa perubahan notasi sebagai berikut:

33


34

Gambar 3.1. Contoh diagram model persamaan struktural nonlinear dimana pada model tersebut terdapat satu variabel laten endogen (  1 ) dan dua variabel laten eksogen (  2 dan  3 ). Kemudian pertimbangkan terdapat hubungan nonlinear, misalkan terdapat interaksi antara variabel laten eksogen  2 dan  3 yang mempengaruhi variabel laten endogen  1 . Misalkan interaksi antara variabel laten eksogen  2 dan  3 dilambangkan dengan

 2 3 .


35

Maka dari diagram SEM pada gambar 2 di atas, dapat dijelaskan mengenai model struktural dengan melibatkan interaksi variabel laten eksogen  2 dan  3 sebagai berikut:

 1   11 2   12 3   13 2 3   1 atau dalam bentuk matriks:

    0       1

1

11

 12

 2     13    3    1    2 3   

yaitu:

ξ (1)(11)  Π (11)ξ (1)(11)  Γ (13) H (ξ (2) )(31)  δ (11) dimana 







 13 menyatakan pengaruh interaksi variabel eksogen  2 dan  3 terhadap variabel endogen  1 ,



Π adalah matriks ukuran (11) yang berisi parameter  11 yang

menyatakan koefisien variabel endogen  1 dalam model pada diagram SEM di gambar 2, nilai  11  0 .


36

Secara umum, model struktural untuk nonlinear SEM dapat dituliskan sebagai berikut:

ξ (1)  Πξ (1)  ΓH (ξ (2) )  δ

(3.1.1)

Dimana:

 1   2  ξ (1) =   adalah matriks ukuran q  1 dari variabel-variabel laten endogen, 1     q1      q1 1   q1  2    ξ (2) =     adalah matriks ukuran q2 1 dari variabel-variabel laten  q1  q2    eksogen,

 h1 (ξ (2) )    h2 (ξ (2) )   H (ξ (2) )=    adalah matriks ukuran t 1 dimana t adalah banyaknya   h ( ξ ) t (2)   fungsi dari variabel laten eksogen, h1 , h2 ,  , ht adalah fungsi dari ξ (2) dimana t  q2 , Π adalah matriks koefisien untuk variabel laten endogen ukuran

q1  q1 , Γ adalah matriks koefisien untuk H (ξ (2) ) ukuran q1  t , dan δ adalah

matriks error struktural ukuran q1  1 . Diasumsikan ξ (2) dan δ masing-masing


37

berdistribusi N  0, Φ  dan N  0, Ψ  dimana Φ adalah matriks kovarians dari

ξ (2) dan Ψ adalah matriks kovarians dari δ . Sebut Π0  I q1  Π dimana I q1 adalah matriks identitas ukuran q1  q1 . Model struktural dalam persamaaan (3.1.1) nonlinear dalam variabel laten

ξ (2) tetapi linear dalam matriks parameter Π dan Γ , sehingga parameter dalam model dapat ditaksir.

 ξ (1)  Sebut Λ   Π Γ  dan G(ξ)    , maka (3.1.1) dapat pula ditulis  H (ξ (2) )  sebagai:

ξ (1)  Λ G(ξ)  δ

(3.1.2)

Sedangkan model pengukuran pada nonlinear SEM sama dengan model pengukuran pada SEM biasa, yaitu:

y  μ  Λξ  ε

(3.1.3)

Diasumsikan ε berdistribusi N  0, Ψ   dimana Ψ adalah matriks kovarians dari ε dan ε independen terhadap ξ .

3.2 TAKSIRAN MAKSIMUM LIKELIHOOD PADA NONLINEAR SEM

MLE pada nonlinear SEM akan dicari dengan menggunakan algoritma EM. Sedangkan algoritma EM itu sendiri baru dapat dilakukan untuk mencari MLE jika minimal terdapat satu variabel yang merupakan variabel laten.


38

Misalkan Y   y1 , y 2 , ..., y n  adalah matriks yang berisi sampel acak ukuran n dari variabel indikator yang diambil dari suatu populasi dengan model persamaan struktural nonlinear yang telah didefinisikan pada persamaan (3.1.1) dan (3.1.3), Z   ξ1 , ξ 2 , ..., ξ n  adalah matriks dari variabel laten, dan θ adalah vektor parameter yang mengandung semua parameter yang tidak diketahui dalam μ , Λ , Λ , Φ , Ψ , dan Ψ . Ide dasar dalam penaksiran parameter pada nonlinear SEM ini adalah dengan mempertimbangkan penambahan data dimana data Y yang terobservasi ditambahkan dengan data variabel laten Z , sehingga algoritma EM dapat dilakukan. Misalkan X   Y, Z  adalah himpunan data yang telah ditambahkan dan L  Y, Z, θ   log p  X, θ  adalah fungsi log likelihood dari θ berdasarkan X .

Dari (3.1.1) dan (3.1.3), maka L  X, θ  dapat dijabarkan sebagai berikut: L  X, θ   log  p  X, θ    log  p  Y, Z, θ    log  p  Y | Z, θ  . p  Z, θ  

(3.2.1)

 log  p  Y | Z, θ  . p  ξ (1) | ξ (2) , θ  . p  ξ (2) , θ  

Sebelumnya perhatikan bahwa jika suatu variabel random X yang

X  berdistribusi multivariat normal dipartisi menjadi X   1  dengan mean  X2 


39

μ  Σ μ   1  dan matriks kovariansi Σ   11  Σ21  μ2 

Σ12   , maka distribusi dari X1 Σ22 

bersyarat X 2 adalah multivariat normal  X1 | X2   N  μ, Σ  dimana μ  μ1  Σ12 Σ 22 1  X2  μ 2 

(3.2.2)

Σ  Σ11  Σ12 Σ22 1Σ21

(3.2.3)

μ  Y Selanjutnya partisi X menjadi X    dengan mean μ   Y  dan Z  μZ  Σ matriks kovariansi Σ   YY  ΣZY

ΣYZ   , dimana: ΣZZ 

μ Y  E  Y   E  μ  Λξ  ε   μ  ΛE  ξ   E  ε   μ μZ  E  Z   E ξ   0

Σ YY  E  YY   E  Y  E  Y 





 E  μ  Λξ  ε  μ  Λξ  ε   μμ  E   μ  Λξ  ε  μ  ξΛ  ε    μμ  E  μμ  μξΛ  με  Λξμ  ΛξξΛ  Λξε  εμ  εξΛ  εε   μμ  E  μμ   ΛE  ξξ  Λ  E  εε   μμ

suku lain bernilai nol karena E  ξ   E  ε   0

 μμ  ΛΣ ZZ Λ  Ψ   μμ  ΛΣ ZZ Λ  Ψ  Σ YZ  cov  Y, Z   E  YZ   E  Y  E  Z   E   μ  Λξ  ε  ξ   μ.0  E  μξ  Λξξ  εξ   ΛΣ ZZ


40

Σ ZY  Σ YZ   ΛΣ ZZ   Σ ZZΛ  Σ ZZ Λ

Maka distribusi dari Y bersyarat Z adalah multivariat normal

 Y | Z   N  μ, Σ 

dimana:

μ  μ Y  Σ YZ Σ ZZ 1  Z  μ Z   μ  ΛΣ ZZ ΣZZ 1  ξ  0   μ  Λξ Σ  Σ YY  Σ YZ Σ ZZ 1Σ ZY  ΛΣ ZZ Λ  Ψ   ΛΣ ZZ Σ ZZ 1Σ ZZ Λ  ΛΣ ZZ Λ  Ψ   ΛΣ ZZ Λ  Ψ

Sehingga fungsi likelihood dari Y bersyarat Z adalah:

p  Y | Z, θ   f  Y1 | Z1 , θ  f  Yn | Z n , θ    2 

 p /2

  2    2 

 p /2

 np /2

 1  exp    y1  μ  Λξ  Ψ  1  y1  μ  Λξ    2  1/2  1  Ψ exp    y n  μ  Λξ  Ψ  1  y n  μ  Λξ    2 

Ψ

Ψ

1/2

 n /2

 1 n  exp     y i  μ  Λξ  Ψ  1  y i  μ  Λξ    2 i 1  (3.2.4)

Dengan cara yang sama, diperoleh fungsi likelihood dari ξ (1) bersyarat ξ (2) :

p  ξ (1) | ξ (2) , θ    2 

 nq1 /2

Ψ

 n /2

 1 n  n Π0 exp     ξ i (1)  Λ G  ξ i   Ψ 1  ξ i (1)  Λ G  ξ i     2 i 1  (3.2.5)

Kemudian fungsi likelihood dari ξ (2) adalah:


41

p  ξ (2) , θ   f  ξ1(2) , θ  f  ξ n (2) , θ    2 

 q2 /2

  2    2 

 q2 /2

 nq2 /2

 1  exp   ξ1(2)Φ 1ξ1(2)   2  1/2  1  Φ exp   ξ n (2)Φ 1ξ n (2)   2 

Φ

1/2

Φ

 n /2

(3.2.6)

 1 n  exp    ξ i (2)Φ 1ξ i (2)   2 i 1 

Subtitusikan (3.2.4) - (3.2.6) ke dalam persamaan (3.2.1), sehingga L  X, θ  diberikan oleh:





L  X, θ   log p  Y | Z, θ  . p  ξ (1) | ξ (2) , θ  . p  ξ (2) , θ    np /2 L  X, θ   log  2  Ψ    2 

 nq1 /2

Ψ

  2 

 nq2 /2

Φ

 n /2

 n /2

 n /2

 1 n  exp     y i  μ  Λξ  Ψ 1  y i  μ  Λξ    2 i 1 

 1 n  n Π 0 exp     ξ i (1)  Λ G  ξ i   Ψ 1  ξ i (1)  Λ G  ξ i     2 i 1 

 1 n  exp    ξ i (2)Φ 1ξ i (2)    2 i 1 

  n /2  n /2  n /2 n  n ( p  q1  q2 )/2 L  X, θ   log  2  Ψ Ψ Φ Π0    1 n   1 n   exp    ξ i (2)Φ 1ξ i (2)  exp     y i  μ  Λξ  Ψ  1  y i  μ  Λξ    2 i 1   2 i 1   1 n   exp     ξ i (1)  Λ G  ξ i   Ψ 1  ξ i (1)  Λ G  ξ i      2 i 1 

1 1 1 1  p  q  n log  2   n log Ψ  n log Ψ  n log Φ  n log Π 0 2 2 2 2 n n 1 1   ξ i (2)Φ 1ξ i (2)    y i  μ  Λξ  Ψ  1  y i  μ  Λξ  2 i 1 2 i 1

L  X, θ   



1 n ξ i (1)  Λ G  ξ i   Ψ 1  ξ i (1)  Λ G  ξ i     2 i 1


42

1 L  X, θ     p  q  n log  2   n log Ψ   n log Ψ  n log Φ  2n log Π 0 2 n

n

i 1

i 1



  ξ i (2)Φ 1ξ i (2)    y i  μ  Λξ i  Ψ  1  y i  μ  Λξ i      ξ i (1)  Λ G  ξ i   Ψ 1  ξ i (1)  Λ G  ξ i    i 1  n

(3.2.7) ξ i dalam persamaan (3.2.7) adalah variabel random yang tidak teramati

(variabel laten) sehingga MLE dapat dicari dengan menggunakan algoritma EM. Pada iterasi ke-t dalam algoritma EM, akan dicari nilai









Q  θ, θt 1   E L  X, θ  | Y, θˆ t 1   log  p  X, θ   p Z | Y, θˆ t 1 dZ Z

(3.2.8)

dimana ekspektasi dicari berdasarkan distribusi kondisional dari X diberikan Y dan θ t 1 , kemudian nilai θ t ditentukan dengan memaksimumkan Q  θ, θt 1  .

3.3 E-STEP MENGGUNAKAN ALGORITMA METROPOLIS-HASTINGS

Dapat ditunjukkan dari (3.2.7) bahwa untuk menghitung Q  θ, θt 1  di EStep, perlu dihitung ekspektasi bersyarat dari statistik cukup berikut

ξ , ξ ξ , G ξ  G ξ  , G ξ  ξ i

i i

i

i

i



 , ξ i (2)ξ i (2) ; i  1, , n . Untuk lebih jelasnya

i (1)

lihat lampiran 3.


43

Karena nilai ekspektasi statistik cukup tersebut sulit untuk dicari secara analitik, maka nilainya akan dicari secara numerik menggunakan metode integral monte carlo yang telah dijelaskan di Bab II. Untuk dapat menghitung nilai ekspektasi dengan menggunakan integral monte carlo (persamaan (3.2.8)), maka dibutuhkan nilai-nilai ξ i yang berasal dari distribusi p  Z | Y, θ  , yaitu dari p  ξ i | y i , θ  , i  1, 2, , n . Perhatikan kembali persamaan (3.2.1), p  X, θ  dapat dijabarkan sebagai:

p  X, θ   p  Y, Z, θ   p  Y | Z, θ  . p  ξ (1) | ξ (2) , θ  . p ξ (2) , θ 

(3.3.1)

juga dapat dijabarkan sebagai: p  X, θ   p  Y, Z, θ   p  Z | Y, θ  . p  Y, θ 

(3.3.2)

Dari persamaan (3.3.1) dan (3.3.2), didapat:

p  Z | Y, θ  . p  Y, θ   p  Y | Z, θ  . p  ξ (1) | ξ (2) , θ  . p  ξ (2) , θ  yaitu p  Z | Y, θ   p  Y | Z, θ  . p  ξ (1) | ξ (2) , θ  . p  ξ (2) , θ 



n i 1

p  ξ i | y i , θ    i 1 p  y i | ξ i , θ  p  ξ i (1) | ξ i (2) , θ  p  ξ i (2) , θ  n

Karena ξ i dan y i saling bebas, maka dari (3.2.7), p  ξ i | y i , θ  proporsional dengan


44

1  1 exp  ξ i (2)Φ1ξ i (2)   y i  μ  Λξ i  Ψ 1  y i  μ  Λξ i  2  2 1    ξ i (1)  Λ G  ξ i   Ψ 1  ξ i (1)  Λ G  ξ i    2 

(3.3.3)

Karena sulitnya mengambil nilai-nilai ξ i secara langsung dari p  ξ i | y i , θ  , maka akan digunakan algoritma Metropolis-Hastings (MH) untuk

mensimulasi nilai-nilai ξ i tersebut. Dengan algoritma MH, akan diambil sampel dari densitas tujuan dengan bantuan distribusi proposal (distribusi awal) yang mudah untuk diambil sampelnya. Disini, p  ξ i | y i , θ  digunakan sebagai densitas tujuan. Berdasarkan Roberts (1996) serta Lee dan Zhu (2002), adalah alami untuk menggunakan N ,  2 Ω  sebagai distribusi proposal, dimana  2 adalah nilai yang dipilih, Ω  Σ 1  ΛΨ 1Λ ,  Π 1Ψ 1Π Σ   0  1 0  ΓΨ Π  0 

dan  

H  ξ i (2)  ξ i (2) | ξ i (2)  0

Π 0 1Ψ 1Γ   Φ 1  ΓΨ 1Γ 

(3.3.4)

.

Menurut Gelman, Roberts, dan Gilks (1994), jika digunakan distribusi normal sebagai distribusi proposal, maka parameter  2 harus diatur sedemikian sehingga laju penerimaan (acceptance rate) adalah sekitar 0.45. Untuk distribusi multivariate normal dengan jumlah variabel yang banyak, laju penerimaannya sebaiknya sekitar 0.25. Laju penerimaan dihitung sebagai


45

hasil bagi antara jumlah sampel yang diterima dengan M sampel terakhir yang diambil dari distribusi proposal. Untuk i  1, 2, , n , algoritma MH dilakukan dengan cara berikut: 

Pada iterasi ke-1, ambil sembarang titik ξ i (0)  f  ξ i (0)   0 , dimana f  ξ i  adalah distribusi yang proporsional dengan p  ξ i | y i , θ  seperti

yang diberikan di persamaan (3.3.3). Setiap nilai parameter pada persamaan (3.3.3) untuk iterasi pertama ini juga dipilih secara sembarang. Kemudian bangkitkan ξ * dari distribusi N ξ i (0) ,  2  , maka titik kandidat ξ * akan diterima dengan probabilitas

 f (ξ* )q(ξ* , ξ i (0) )  ,1 . Jika diterima tetapkan ξi (1)  ξ* , sebaliknya (0) (0) * f ( ξ ) q ( ξ , ξ ) i i  

  min 

jika ditolak bangkitkan titik kandidat baru sampai titik kandidat yang dihasilkan diterima. 

Lanjutkan proses di atas, pada iterasi ke-m, bangkitkan ξ * dari distribusi

N ξ i ( m1) ,  2 , maka titik kandidat ξ * akan diterima dengan probabilitas



 f (ξ* )q(ξ* , ξ i ( m1) ) ,1 . Jika diterima tetapkan ξi ( m)  ξ* , ( m 1) ( m 1) * )q(ξ i ,ξ )   f (ξ i

  min 

sebaliknya jika ditolak bangkitkan titik kandidat baru sampai titik kandidat yang dihasilkan diterima. 

Misalkan setelah k iterasi proses tersebut mencapai distribusi yang stasioner, maka sampel (ξi ( k 1) , , ξi ( k  M ) ) adalah M buah sampel yang


46

diambil dari distribusi p  ξ i | y i , θ  . Secara keseluruhan

ξ

( m) i

, m  k  1,, k  M , i  1, , n adalah sampel acak yang

dibangkitkan oleh algoritma MH dari distribusi p  ξ i | y i , θ  .

Setelah didapatkan sampel acak yang diambil dari distribusi p  ξ i | y i , θ  , maka nilai ekspektasi kondisional dari statistik cukup yang dibutuhkan untuk mengevaluasi E-Step dapat dihitung dengan menggunakan metode integral monte carlo sebagai berikut: M

E  ξ i | y i , θ   M 1  ξ i ( m ) m 1





M

E ξ i ξ i | y i , θ  M 1  ξ i ( m )ξ i ( m)





m 1 M

E G  ξ i  G  ξ i  | y i , θ  M 1  G  ξ i ( m )  G  ξ i ( m ) 





m 1 M

E G  ξ i  ξ i (1) | y i , θ  M 1  G  ξ i ( m )  ξ i (1) ( m )





m 1 M

E ξ i (2)ξ i (2) | y i , θ  M 1  ξ i (2) ( m )ξ i (2) ( m ) m 1


(3.3.3)

47

3.4 M-STEP

Di M-Step kita perlu memaksimumkan Q  θ, θ t 1  terhadap θ . Permasalahan ini ekivalen dengan menyelesaikan sistem persamaan berikut:  Q  θ, θt 1      E L  X, θ  | Y, θˆ t 1   0 θ  θ  

(3.4.1)

untuk k  1, , p dan j  1,  , q1 Misalkan Λ k adalah baris ke-k dari Λ dan Λ j adalah baris ke-j dari

Λ . Dapat ditunjukkan bahwa: n L  X, θ   Ψ 1   y i  μ  Λξ i  μ i 1

L  X, θ  1 1 n  Φ  ξ i (2)ξ i (2)  Φ Φ1 Φ 2 i 1





n L  X, θ   Ψ k 1   y ki  μ k  Λ k ξ i ξ i  Λk i 1 n L  X, θ   Ψ j 1   ξ ji (1)  Λ j G  ξ i   G  ξ i   Λ j i 1

n L  X, θ  1    diag Ψ 1   y i  μ  Λξ i  y i  μ  Λξ i   Ψ  Ψ 1      diag (Ψ ) 2 i 1    n L  X, θ  1      diag Ψ 1   ξ i (1)  Λ G  ξ i    ξ i (1)  Λ G  ξ i    Ψ  Ψ 1   diag (Ψ ) 2  i 1   

(3.4.2)


48

Untuk lebih jelasnya mengenai penurunan persamaan di atas, dapat dilihat di lampiran 4. Kemudian masing-masing nilai taksiran parameter di atas dihitung nilainya. Setelah mendapatkan seluruh taksiran nilai parameternya, maka kembalilah ke E-Step dengan menggunakan nilai taksiran parameter baru yang didapatkan di M-Step. Ketika seluruh proses E-Step dan M-Step yang telah dijelaskan di atas telah dilakukan, maka algoritma EM telah dijalankan sebanyak satu kali (satu iterasi). Lakukan algoritma EM ini sebanyak s iterasi, yaitu sampai didapatkan suatu taksiran parameter θ yang konvergen atau θˆ s  θˆ s1 cukup kecil. Maka, taksiran parameter pada iterasi ke-s (iterasi terakhir), yaitu θˆ s adalah taksiran parameter dari model persamaan struktural nonlinear yang didapatkan menggunakan algoritma EM.


BAB IV CONTOH APLIKASI

Dalam bab ini akan diberikan contoh dalam mencari taksiran parameter pada Model Persamaan Struktural Non Linear dengan menggunakan metode taksiran Maksimum Likelihood yang dihitung menggunakan Algoritma EM.

4.1 SUMBER DATA

Data yang akan dianalisa adalah data dari Inter-university Consortium for Political and Sosial Research (ICPSR) yang dikumpulkan di dalam proyek World Value Survey (WVS) tahun 1981-1984 dan tahun 1990-1993. Seluruh himpunan data dikumpulkan oleh 45 lembaga yang tersebar di seluruh dunia dalam berbagai bidang seperti pekerjaan, kepercayaan beragama, makna dan tujuan hidup, dan lain sebagainya. Dalam contoh analisis ini, akan dilihat pola hubungan antara kepercayaan beragama, kepuasan dalam pekerjaan, dan interaksi antara kepercayaan beragama dan kepuasan pekerjaan dalam mempengaruhi kepuasan hidup seseorang. Terdapat tiga veriabel laten yang akan digunakan, yaitu: 1.

 1 = kepuasan hidup, yang diukur oleh indikator: 49


50

a.

y1 = tingkat kepuasan dengan kehidupan di rumah.

Variabel ini diukur oleh skala 10 poin mulai dari sangat tidak puas (poin 1) sampai sangat puas (poin 10). b.

y 2 = tingkat kepuasan akan hidup.

Variabel ini diukur oleh skala 10 poin mulai dari sangat tidak puas (poin 1) sampai sangat puas (poin 10). 2.

 2 = kepercayaan beragama, yang diukur oleh indikator: a.

y 3 = tingkat kepentingan kepercayaan beragama sebagai alasan

kerja sukarela. Variabel ini diukur oleh skala 5 poin mulai dari tidak penting (poin 1) sampai sangat penting (poin 5). b.

y 4 = tingkat kepentingan Tuhan dalam hidup.

Variabel ini diukur oleh skala 10 poin mulai dari sama sekali tidak penting (poin 1) sampai sangat penting (poin 10). 3.

 3 = kepuasan pekerjaan, yang diukur oleh indikator: a.

y 5 = kepuasan akan pekerjaan.

Variabel ini diukur oleh skala 10 poin mulai dari sangat tidak puas (poin 1) sampai sangat puas (poin 10). b.

y 6 = kebebasan dalam mengambil keputusan di pekerjaan.


51

Variabel ini diukur oleh skala 10 poin mulai dari sangat tidak bebas (poin 1) sampai sangat bebas dalam mengambil keputusan (poin 10). Dari seluruh data ICPSR, hanya data dari kawasan Great Britain yang akan digunakan. Setelah menghilangkan seluruh pengamatan yang hilang (missing data), ukuran sampel yang didapat adalah sebanyak 196.

4.2 ANALISIS DATA

Karena akan dilihat pola hubungan antara kepercayaan beragama, kepuasan dalam pekerjaan, dan interaksi antara kepercayaan beragama dan kepuasan pekerjaan dalam mempengaruhi kepuasan hidup seseorang, maka variabel laten endogennya adalah kepuasan hidup ( ξ (1)  ( 1 ) ), sedangkan variabel eksogennya adalah kepercayaan beragama dan kepuasan dalam pekerjaan ( ξ (2)  ( 2  3 ) ). Kemudian juga akan dilihat pola hubungan interaksi antara kepercayaan beragama dan kepuasan dalam pekerjaan dalam mempengaruhi kepuasan hidup, sehingga H  ξ (2)    2  3  2 3  . Dalam mencari taksiran parameter dengan menggunakan Algoritma EM, perlu diberikan nilai awal untuk seluruh parameter yang akan ditaksir, yaitu:


52

1.

ij (elemen dari matriks Λ ), untuk setiap i dan j, yaitu: 0  1   21 0  0 1 Λ  0 42  0 0  0  0

2.

 ij (elemen dari matriks Γ ), untuk setiap i dan j, yaitu: Γ    11  12

3.

0   0  0   , dimana 21  42  63  0 0  1   63 

 13  , dimana  11   12   13  0

Matriks Φ , yaitu matriks kovariansi dari variabel ξ (2) , yaitu:

   1 0 Φ   11 12      21 22   0 1  4.

 kk (elemen diagonal dari matriks Ψ ), untuk k = 1, …, 6, yaitu: 0 0 0 0   11 0   0 0 0   0  22 0  0 0  33 0 0 0  Ψ    , dimana  11     66  1 0 0  44 0 0   0  0 0 0 0  55 0    0 0 0 0  66   0

5.

  (elemen dari matriks Ψ ), yaitu Ψ      1 .

6.

i untuk i = 1, …, 6, yaitu:


53

 1     2    μ   3  , dimana 1    6  1  4   5     6  Nilai parameter yang akan ditaksir dan diperbaharui nilainya di setiap iterasi pada Algoritma EM adalah 21 , 42 , 63 ,  11 ,  12 ,  13 , 11 , 12 ,  22 ,  11 ,

 22 ,  33 ,  44 ,  55 ,  66 ,   , 1 ,  2 ,  3 ,  4 , 5 , dan  6 , yaitu sebanyak 22 parameter. Nilai  pada distribusi proposal ditetapkan sama dengan 1 yang memberikan laju penerimaan sebesar 0.35. Algoritma EM tersebut dijalankan sebanyak 70 iterasi (s = 70) dimana dalam setiap iterasinya dijalankan algoritma MH hingga mencapai distribusi yang stasioner, baru kemudian dijalankan lagi sebanyak 40 iterasi (M = 40) untuk diambil sampelnya.

4.3 HASIL TAKSIRAN DAN INTERPRETASINYA

Ketika seluruh algoritma di atas dijalankan, didapatkan nilai-nilai taksiran parameter sebagai berikut:


54

Parameter Nilai taksiran

Parameter Nilai taksiran

21

0.7405

 11

1.2689

42

1.6265

 22

1.5075

63

0.768

 33

0.8899

 11

0.303

 44

4.0807

 12

0.6617

 55

2.6121

 13

-0.1302

 66

4.1521

1

8.426

11

2.1942

2

7.8325

12

-0.1004

3

2.3404

 22

2.942

4

5.504



1.595

5

7.5621

6

7.3845

Tabel 4.1. Taksiran Maksimum Likelihood untuk data ICPSR Dimana grafik taksiran parameter untuk setiap iterasi EM ditampilkan pada gambar 4.1 sampai 4.6 di bawah.


55

Gambar 4.1. Grafik taksiran parameter 21 , 42 , 63 untuk setiap iterasi

Gambar 4.2. Grafik taksiran parameter  11 ,  12 , dan  13 untuk setiap iterasi


56

Gambar 4.3. Grafik taksiran parameter 1 sampai  6 untuk setiap iterasi

Gambar 4.4. Grafik taksiran parameter  11 sampai  66 untuk setiap iterasi


57

Gambar 4.5. Grafik taksiran parameter 11 , 12 ,  22 untuk setiap iterasi

Gambar 4.6. Grafik taksiran parameter   untuk setiap iterasi


58

Dari gambar 4.1 – 4.6 dapat dilihat bahwa sebagian besar taksiran parameter akan stasioner setelah 20 iterasi. Di bawah disajikan diagram nonlinear SEM dengan hasil taksiran parameternya.

Gambar 4.7. Diagram Model Nonlinear SEM dengan hasil taksiran parameter Berdasarkan hasil dari tabel 4.1 dan gambar 4.7 didapat:


59

1.

Pada model struktural Diperoleh taksiran model struktural:

ˆ1  0.303 2  0.6617 3  0.1302 2 3 yaitu pengaruh kepercayaan beragama dan kepuasan pekerjaan terhadap kepuasan hidup adalah positif, sedangkan pengaruh interaksi keduanya adalah negatif, artinya jika kepercayaan beragama atau kepuasan pekerjaan meningkat, maka kepuasan hidup juga akan meningkat

namun

dihambat

oleh

pengaruh

interaksi

antara

kepercayaan beragama dan kepuasan pekerjaan. 2.

Pada model pengukuran, yaitu taksiran faktor loading dari: 

tingkat kepuasan akan hidup ( y 2 ) pada kepuasan hidup (  1 ),

21  0.7405 

tingkat kepentingan Tuhan dalam hidup ( y 4 ) pada kepercayaan beragama (  2 ), 42  1.6265



kebebasan dalam mengambil keputusan di pekerjaan ( y 6 ) pada kepuasan pekerjaan (  3 ), 63  0.768

Nilai faktor loading di atas menandakan kovariansi antara variabel laten dengan variabel indikatornya.

3.

Nilai 11 = 2.1942 dan  22 = 2.942 masing-masing adalah variansi dari variabel laten kepercayaan beragama (  2 ) dan kepuasan pekerjaan


60

( 3 ) . Sedangkan 12 = – 0.1004 adalah kovariansi antara variabel laten

 2 dan  3 . Nilai korelasi antara

12 

 2 dan  3 dapat dihitung sebagai

12  0.8638 . Nilai negatif pada korelasinya menandakan 1122

bahwa jika salah satu variabel meningkat maka yang lain akan berkurang. Nilai korelasi yang cukup besar tersebut (mendekati -1) menandakan hubungan korelasi antara kedua variabel laten tersebut cukup besar. Dalam kaitannya dengan contoh analisis data ini, nilai korelasi yang negatif tersebut menandakan bahwa jika kepuasan pekerjaan seseorang tinggi, maka kepercayaan beragama orang tersebut cenderung kurang, sebaliknya jika orang tersebut mempunyai kepercayaan beragama yang tinggi, maka kepuasan akan pekerjaannya cenderung kurang.


BAB V PENUTUP

5.1 KESIMPULAN

Dari pembahasan dalam tugas akhir ini, dapat disimpulkan: 

Taksiran parameter dalam model persamaan struktural nonlinear dilakukan dengan metode taksiran maksimum likelihood, dengan fungsi log-likelihood: 1   p  q  n log  2   n log Ψ  n log Ψ  n log Φ  2n log Π 0 2 n

n

i 1

i 1




dimana: 

Taksiran maksimum likelihood dicari dengan menggunakan algoritma EM (Expectation Maximization).



E-Step pada algoritma EM dilakukan dengan algoritma MH (Metropolis Hastings).



Taksiran Maksimum Likelihood yang dikembangkan dengan algoritma EM adalah konvergen sehingga metode ini cukup efektif dalam mencari taksiran parameter dalam Nonlinear SEM. 61


62



Berdasarkan analisis data yang dilakukan pada aplikasi Nonlinear SEM dalam tugas akhir ini, dapat disimpulkan bahwa: 

Meningkatnya tingkat kepercayaan beragama dan kepuasan dalam pekerjaan akan meningkatkan kepuasan hidup, namun dihambat oleh pengaruh interaksinya.



Nilai korelasi yang negatif menandakan bahwa jika kepuasan pekerjaan seseorang tinggi, maka kepercayaan beragama orang tersebut cenderung kurang, sebaliknya jika orang tersebut mempunyai kepercayaan beragama yang tinggi, maka kepuasan akan pekerjaannya cenderung kurang.

5.2 SARAN



Tugas akhir ini dapat dilanjutkan dengan pengujian kococokan model dan mencari variabel indikator mana yang signifikan dalam membentuk variabel latennya.



Program yang digunakan pada tugas akhir ini dibuat khusus untuk contoh aplikasi dalam tugas akhir ini. Program tersebut dapat diperumum untuk menaksir parameter untuk setiap jenis model nonlinear SEM.



Program dapat dikembangkan lagi untuk mencari taksiran parameter yang telah distandarisasi (standardized estimates).


DAFTAR PUSTAKA

Bollen, Kenneth A. 1989. Structural Equations with Latent Variables. New York: Wiley. Chib, S., & Greenberg E. 1995. Understanding the Metropolis-Hastings Algorithm. The American Statistician, Vol 49, No. 4, 327-335. Givens, Geof H., & Hoeting, Jennifer A. 2005. Computational Statistics. New York: Wiley. Hogg. Robert V., & Allen T. Craig. 1978. Introduction to Mathematical Statistics. New Jersey: Prentice-Hall International. Inc. Lee, S.Y. 2007. Handbook of Latent Variable and Related Models. Oxford: Elsevier. Lee, S.Y. 2007. Structural Equation Modeling, a Bayesian Approach. Chichester: Wiley. Lee, S.Y., Song, X.Y., & Lee, John C.K. 2002. Maximum Likelihood Estimation of Nonlinear Structural Equation Models with Ignorable Missing Data. Department of Statistics, Chinese University of Hong Kong. Lee, S.Y., & Zhu, H.T. 2002. Maximum Likelihood Estimation of Nonlinear Structural Equation Models. Psychometrika. 67: 189-210. Martinez, Wendy L., & Martinez, Angel L. 2002. Computational Statistics Handbook with MATLAB. Florida: Chapman and Hall. 63


64

Mattos , Rogério Silva de, & Veiga, Álvaro. 2000. Estimating King’s ecological inference normal model via the EM Algorithm. McLachlan, G.J., & Krishnan, T. 2007. The EM Algorithm and Extensions. New York: Wiley. Nielsen, Heino B. 2005. Introduction to Vector and Matrix Differentiation. Econometrics 2. Petersen, K.B., & Pedersen, M.S. 2008. The Matrix Cookbook. http://matrixcookbook.com, 14 November 2008. Priyanto, Agus. 2008. Pendugaan Parameter Model Faktor dengan Menggunakan Metode Maksimum Likelihood. Departemen Matematika Universitas Negeri Jakarta. Santoso, Singgih. 2007. Structural Equation Modeling, Konsep dan Aplikasi dengan AMOS. Jakarta: Elex Media Komputindo. Walsh, B. 2004. Markov Chain Monte Carlo and Gibbs Sampling. Lecture Notes for EEB 581. Wei, Greg C.G., Tanner, Martin A. 1990. A Monte Carlo Implementation of the EM Algorithm and the Poor’s Man Data Augmentation Algorihtms. Journal of the American Statistical Association, Vol. 85, No. 411, page 699 – 704. Wijanto, Setyo Hari. 2008. Structural Equation Modeling dengan LISREL 8.8. Yogyakarta: Graha Ilmu.


65

Wikipedia. 2009. Metropolis-Hastings Algorithm. http://en.wikipedia.org/wiki/Metropolis-Hastings_algorithm, 3 Juni 2009, pk. 14.18. Wikipedia. 2009. Multivariate Normal Distribution. http://en.wikipedia.org/wiki/Multivariate_normal_distribution, 14 Juni 2009, pk. 08.56.


LAMPIRAN

LAMPIRAN 1

Penurunan fungsi Maximum Likelihood SEM biasa Dalam menurunkan FML , asumsikan himpunan N pengamatan yang saling bebas dari variabel random y (1) dan y (2) yang berdistribusi multivariat normal. Jika y (1) dan y (2) digabung dalam suatu vektor Z berukuran p1 , dimana Z sudah terstandarisasi, pdf-nya adalah:

f  z, Σ  θ     2 

 p /2

1 Σ  θ  exp  ½  z ' Σ  θ  z   

(1)

Untuk suatu sampel random dengan N pengamatan yang saling bebas dari Z , pdf bersamanya adalah:

f  z1 , z 2 ,  z n ; Σ  θ    f  z1; Σ  θ   f  z 2 ; Σ  θ   f  z n ; Σ  θ  

dengan fungsi likelihood:

L  θ    2 

 Np /2

Σ θ

 N /2

N 1 exp  ½  i 1 zi Σ  θ  z i   

(2)

Log dari fungsi likelihood di atas adalah:

log L  θ   

Np N 1 N 1 log  2   log Σ  θ    zi Σ  θ  z i 2 2 2 i 1

Suku terakhir dari persamaan di atas dapat ditulis dalam bentuk:

66


(3)

67







1 N 1 N 1 1 zi Σ  θ  z i    tr zi Σ  θ  z i  2 i 1 2 i 1 N N 1    tr N 1zi Σ  θ  z i 2 i 1 N N 1    tr S* Σ  θ  2 i 1

 

dimana

S*



(4)



adalah penaksir matriks kovariansi dari sampel dengan

memasukkan nilai N dalam penyebut. Langkah pertama dalam persamaan (4) didapat karena tracenya sama dengan suatu skalar. Langkah kedua persamaan

(4)

menggunakan

tr  ABC   tr  CAB  .

sifat

Dengan

menggunakan persamaan (4) di atas, log L  θ  dapat dinyatakan sebagai:



N N 1 log Σ  θ   tr S* Σ  θ  2 2 N 1  konstanta  log Σ  θ   tr S* Σ  θ  2

log L  θ   konstanta 









(5)

Bandingkan dengan FML :



FML  log Σ  θ   tr SΣ  θ 

1

  log S   p 

(6)

Persamaan log L  θ  dan FML berbeda dalam beberapa hal yang tidak berpengaruh besar dalam proses penaksiran θˆ , yaitu: 

Suku konstanta pada persamaan

log L  θ 

tidak mempengaruhi

pemilihan θˆ , sehingga tidak adanya suku konstanta pada FML tidak mengakibatkan apa-apa.


68



Demikian juga, suku  log S   p  pada persamaan FML yang tidak ada pada persamaan log L  θ  tidak mempengaruhi pemilihan θˆ , karena untuk suatu sampel tertentu, S dan  p  adalah suatu konstanta.



Pengaruh 

N yang ada pada persamaan log L  θ  mengakibatkan: 2

jika ingin memaksimumkan log L  θ  , maka harus meminimumkan FML . Dari poin-poin di atas, dapat disimpulkan bahwa hasil taksiran θˆ dengan memaksimumkan log L  θ  adalah sama dengan hasil taksiran θˆ dengan meminimumkan FML .


69

LAMPIRAN 2

Akan ditunjukkan bahwa iterasi algoritma EM seperti yang dijelaskan melalui E-step dan M-step pada Bab II akan meningkatkan nilai L  y,  pada setiap iterasinya.

Bukti: Misalkan q(z) adalah suatu pdf sebarang dari Z, dimana

 q  z  dz  1 . Maka Z

persamaan (2.3.1) dapat dituliskan sebagai: L  y ,    log  p  y,      q  z  log  p  y ,    dz z

 p  y, z,  q  z     q  z  log    dz z  p  z | y,  q  z     q  z      q  z  log  p  y , z ,     log  q  z    log    dz z  p  z | y ,       q z    q  z  log  p  y , z ,    dz   q  z  log  q  z   dz   q  z  log   dz z z z  p  z | y,  

(7) Definisikan: Q  q || p joint    q  z  log  p  y , z ,    dz

(8)

H  q || q     q  z  log  q  z   dz

(9)

 q z  KL  q || ppost    q  z  log   dz z p z | y ,     

(10)

z

z


70

Jadi, persamaan (2.3.1) dapat dituliskan kembali menjadi: L  y,   Q  q || p joint   H  q || q   KL  q || ppost 

(11)

Pandang persamaan (11), dapat dibuktikan bahwa bagian terakhir, KL, bersifat: a) KL  q || ppost   0

q

b)  p sedemikian sehingga KL  p || ppost   0

(12)

Bukti: a)

Akan dibuktikan KL  q || ppost   0

 q z  KL  q || ppost    q  z  log   dz z  p  z | y,     p  z | y,      q  z    log    dz z  q z     

(13)

Berdasarkan pertidaksamaan Jensen, untuk f suatu fungsi konveks  p  z | y,   E  f  z    f  E  z  , dan karena  log   adalah suatu fungsi  q z 

konveks, maka berlaku:

   p  z | y,     p  z | y,    E   log      log  E    q z q z               p  z | y,     p  z | y,    q z  log dz   log q z            dz  z    z q z q z            

(14)

Berdasarkan (13) dan (14), maka KL  q || p  dapat dituliskan sebagai berikut:


71

  q z   p  z | y,    KL  q || p    q  z  log  dz   q  z    log     dz z z   p  z | y,    qz      p  z | y,      log   q  z    dz  q z    z      log   p  z | y,  dz    log 1  z  0

(15)

Jadi, KL  q || p   0, q .

b)

Akan dibuktikan  p sedemikian sehingga KL  p || ppost   0 Misal pilih q  z   p  z | y,   , maka

 p  z | y,  dz  1 , dan: z

 qz   p  z | y,   log    log    p  z | y,    p  z | y,    log 1 0

Maka KL  q || ppost  sesuai dengan persamaan (10), dapat dituliskan sebagai berikut:  q z  KL  q || ppost    q  z  log   dz z  p  z | y,     p  z | y ,   dz  0 z

0

Jadi, untuk q  z   p  z | y,   , nilai KL  q || ppost   0


(16)

72





Misal q  z   p z | y,ˆt 1 , maka KL  0 . Kemudian, sebut:





Qˆ   p z | y,ˆt 1 log  p  z, y,t  dz t 1 z









Hˆ   p z | y,ˆt 1 log  p z | y,ˆt 1  dz t 1 z  

(17) (18)

Dengan mensubstitusikan (17), dan (18) ke (11), maka berlaku: L  y,t   Qˆ  Hˆ  0 t 1

t 1

 Qˆ  Hˆ t 1

(19)

t 1

dimana Hˆ tidak bergantung pada  t (seperti terlihat pada (18)). Misalkan t 1

ˆt adalah taksiran  yang memaksimumkan Qt1 , maka: L  y , t   Qˆ  Hˆ t 1

t 1

 Qˆ  Hˆ t

t

 L  y , t 1   KLt

(20)

 L  y , t 1   0  L  y , t 1 

Jadi, L  y,t   L  y,t 1  . Jadi, terbukti bahwa dengan menggunakan algoritma EM akan didapatkan taksiran  yang memaksimumkan fungsi likelihood dari Y.


73

LAMPIRAN 3

Penurunan Statistik Cukup Dari fungsi log likelihood dari θ berdasarkan X (persamaan (3.2.7)), yaitu 1 L  X, θ     p  q  n log  2   n log Ψ   n log Ψ  n log Φ  2n log Π 0 2 n

n

i 1

i 1




dapat diturunkan statistik cukup

ξ , ξ ξ , G ξ  G ξ  , G ξ  ξ i

1.

i i

i

i

i



 , ξ i (2)ξ i (2) ; i  1, , n , yaitu:

i (1)

Misalkan a jk adalah elemen dari matriks Φ 1 , dimana j  1,  , q2 , k  1,  , q2 , maka berdasarkan persamaan 1 pada lampiran 5, n

ξ i 1

Φ1ξ i (2) dapat dituliskan sebagai:

i (2)

n

n

q2

q2

 ξi (2)Φ1ξi (2)   a jki q1  ji q1 k i 1

i 1 j 1 k 1

Dapat dilihat bahwa statistik cukupnya adalah i q1  ji q1 k untuk seluruh j dan k, yaitu elemen dari matriks ξ i (2)ξ i (2) . 2.

Misalkan b jk adalah elemen dari matriks Ψ 1 , dimana j  1, , p ,

k  1, , p , dan sebut εi  y i  μ  Λξ i , maka berdasarkan persamaan 1


74

pada lampiran 5,

n

y i 1

i

 μ  Λξ i  Ψ 1  y i  μ  Λξ i  dapat dituliskan

sebagai: n

n

p

p

  y i  μ  Λξi  Ψ 1  y i  μ  Λξi    b jk  j k i 1

i 1 j 1 k 1

dimana elemen ke-j,k dapat dijabarkan sebagai berikut: n

b i 1

n

j j j k k k jk  j  k   b jk  yi     j i  yi    k  i  i 1 n

  b jk  yi j yi k   k yi j  k yi ji k   j yi k   j  k i 1

  j k i k   j yi k i j   k  ji j   j k i ji k 

Karena berlaku untuk setiap j dan k, maka statistik cukupnya adalah  k dan  j k , yaitu masing-masing adalah elemen dari matriks ξ i dan ξ i ξ i . 3.

Misalkan c jk adalah elemen dari matriks Ψ 1 , dimana j  1,  , q1 , k  1,  , q1 , dan sebut δi  ξ i (1)  Λ G  ξ i  , maka berdasarkan

persamaan 1 pada lampiran 5,

n

 ξ i 1

i (1)

 Λ G  ξ i   Ψ 1  ξ i (1)  Λ G  ξ i  

dapat dituliskan sebagai: n

 ξ i 1

n

p

p

 1 ξ  Λ G ξ   i (1)   i    c jk j k i (1)  Λ  G  ξ i   Ψ  i 1 j 1 k 1

dimana elemen ke-j,k dapat dijabarkan sebagai berikut:


75

n

c i 1

n

j j l k k m jk  j k   c jk i   jk i   jk i i   jk i   jk i  i 1 n

  c jk i ji k   jk i ji k   jk i ji m   jk i ji k   jk  jk i ji k   jk  jk i ji m i 1

 jk i k i l   jk  jk i k i l   jk  jk i li m 

dimana l , m  q1  1,  , q1  t . Karena berlaku untuk setiap j, k, l, dan m, maka statistik cukupnya adalah i li k dan i li m , yaitu masing-masing adalah elemen dari matriks G  ξ i  ξ i (1) dan G  ξ i  G  ξ i  .


76

LAMPIRAN 4

Penurunan M-step Di M-Step kita perlu memaksimumkan

Q  θ | θ( t ) 

terhadap

θ.

Permasalahan ini ekivalen dengan menyelesaikan sistem persamaan berikut:

 Q  θ | θ( t )  θ

    E L  X | θ  | Y, θ(t )   0  θ 

Dapat ditunjukkan bahwa: 1.

n L  X | θ   Ψ 1   y i  μ  Λξ i  μ i 1

2.

L  X | θ  1 1 n  Φ  ξ i (2)ξ i (2)  Φ Φ1 Φ 2 i 1

3.

n L  X | θ    Ψ 1    y ki  μ k  Λ k ξ i ξ i k  Λk i 1





dimana Λ k adalah baris ke-k dari Λ , dengan k  1, , p . 4.

n L  X | θ    Ψ 1    ξ ji (1)  Λ j G  ξ i   G  ξ i  j  Λ j i 1

dimana Λ j adalah baris ke-j dari Λ , dengan j  1,  , q1 . 5.

n L  X | θ  1    diag Ψ 1   y i  μ  Λξ i  y i  μ  Λξ i   Ψ  Ψ 1      diag (Ψ ) 2 i 1   

6.

n L  X | θ  1      diag Ψ 1   ξ i (1)  Λ G  ξ i    ξ i (1)  Λ G  ξ i    Ψ  Ψ 1   diag (Ψ ) 2  i 1   


77

Bukti: Misalkan terdapat suatu matriks ukuran 1  1 yang berbentuk YAY , dimana Y ukuran p1 , Y ukuran 1 p , A ukuran p  p dan A adalah matriks

kovariansi dari Y . Matriks tersebut dapat dijabarkan sebagai berikut:

 a11  a1 p  y1      y p         a    p1  a pp  y p 

YAY   y1

  y1

 a11 y1    a1 p y p     yp     a y   a y  pp p   p1 1

  y1

 p    a1k yk   k 1    yp    p   a y    pk k   k 1  p

p

k 1

k 1

 y1  a1k yk    y p  a pk yk p

p

j 1

k 1

  y j  a jk yk p

p

YAY   a jk yk y j j 1 k 1

1. Akan dibuktikan

n L  X | θ   Ψ 1   y i  μ  Λξ i  μ i 1


(21)

78

L  X | θ    1      p  q  n log  2   n log Ψ  n log Ψ  n log Φ  2n log Π 0 μ μ  2  n

n

i 1

i 1

  ξ i (2)Φ 1ξ i (2)    y i  μ  Λξ i  Ψ  1  y i  μ  Λξ i  n     ξ i (1)  Λ G  ξ i   Ψ 1  ξ i (1)  Λ G  ξ i    i 1  n   1      y i  μ  Λξ i  Ψ 1  y i  μ  Λξ i    μ  2 i 1 

 a11  a1 p  yi1  1  ( )1  1  n        y i  μ  Λξ i         2 μ i 1 a    p1  a pp  yip   p  ( ) p   p    a1k  yik  k  ( ) k    k 1  1  n     y  μ  Λξ     i i 2 μ i 1  p   a  y    (  )   k k    pk ik  k 1  p n  1      yi1  1  ( )1   a1k  yik  k  ( ) k    2 μ i 1  k 1 p    yip   p  (  ) p   a pk  yik  k  (  ) k   k 1  p n  p  1      yij   j  ( ) j  a jk  yik  k  ( ) k    2 μ i 1  j 1 k 1   1  n  p p    a jk  yik  k  ( ) k   yij   j  ( ) j    2 μ i 1  j 1 k 1   1 n   p p      a jk  yik  k  ( ) k   yij   j  ( ) j   2 i 1 μ  j 1 k 1 




79

  p p  a jk  yik  k  ( )k   yij   j  ( ) j      1 j 1 k 1  1 n       2 i 1  p p       a jk  yik  k  ( ) k   yij   j  ( ) j    p j 1 k 1        a  y         y           1 i1 1 1 1   11 i1      p       a1k  yik  k    k   yi1  1    1     1  k  2   p         a j1  yi1  1    1  yij   j     j    j  2    1 n        2 i1       a pp yip   p      yip   p     p p       p 1      a pk  yik  k    k  yip   p     p     p  k 1   p  1     a y      y        jp ip   p ij j   j   p     j  1  





















(suku yang lain = 0)



 

p p   2 a y       a y        1   1k  ik k  k   a j1 yij   j     j 11  i1 1  k 2 j 2 1 n     2 i 1  p 1 p 1  2a y      a y       a jp yij   j     j         pp ip p pk ik k p k  k 1 j 1  p  p   a y        k   a j1 yij   j     j  k   1k  ik k 1 j 1  1 n      2 i 1  p  p   a y      k    a jp yij   j     j  pk  ik k   j 1  k 1 


















     

80







 









p  p  a y       a j1 yij   j     j    j   1 j ij j j  1 j  1 1 n      2 i 1  p p   a y      a jp yij   j     j     j j  j 1 pj ij j 1 

  p      a1 j  a j1  yij   j     j   j 1 1 n     2 i 1    p      a pj  a jp  yij   j     j   j 1





     



  

     



  a  a   y            a  a  y       i1 1 1p p1 ip p 1 p  11 11 1     2 i 1    a p1  a1 p   yi1  1          a pp  a pp  yip   p     1 p  n



  a11  a11  a1 p  a p1    yi1  1    1  1          2 i 1    a p1  a1 p  a pp  a pp   yip   p     p  n





1 n  1 1     Ψ   Ψ    y i  μ  Λξ i  2 i 1  



1 n 2Ψ 1   y i  μ  Λξ i    2 i 1



     

n

 Ψ 1   y i  μ  Λξ i  i 1

Sehingga terbukti bahwa

L  X | θ  μ

n

 Ψ 1   y i  μ  Λξ i  i 1


  

   

81

2.

L  X | θ  1 1 n  Φ  ξ i (2)ξ i (2)  Φ Φ1 Φ 2 i 1





L  X | θ    1     p  q  n log  2   n log Ψ  n log Ψ  n log Φ  2n log Π 0 Φ Φ 2 n

n

i 1

i 1

  ξ i (2)Φ 1ξ i (2)    y i  μ  Λξ i  Ψ  1  y i  μ  Λξ i      ξ i (1)  Λ G  ξ i   Ψ 1  ξ i (1)  Λ G  ξ i    i 1  n   1    n log Φ  ξ i (2)Φ 1ξ i (2)     Φ 2 i 1  (suku lain sama dengan nol) n

 1   n   n log Φ  ξi (2)Φ1ξ i (2)   2  Φ  Φ i 1  dimana 

 log Φ  n log Φ  n Φ Φ  n  Φ 1 

(lihat The Matrix Cookbook, sifat no.51)

 nΦ1 



n  n  ξ i (2)Φ 1ξ i (2)   ξ i (2)Φ 1ξ i (2)   Φ i 1 i 1  Φ







n       Φ1 ξ i (2)Φξ i (2) Φ1  Φ i 1  

(karena X1   X1  X  X1 )

n     q2 q2 k j  1    Φ 1    jk i (2) i (2)  Φ   Φ  j 1 k 1 i 1    

(dari persamaan (21))




82

     q2 q2    q2 q2 k j  k j        jk i (2) i (2)      jk i (2) i (2)    11  j 1 k 1  1q2  j 1 k 1       n  1  1      Φ    Φ    i1      q2 q2    q2 q2 k j       jk i (2) k i (2) j          jk i (2) i (2)    q 1  j 1 k 1  q2q2  j 1 k 1      2     i (2)1i (2)1  i (2)1i (2) q2   1   1     Φ     Φ  i 1 q q q 1    i (2) 2 i (2)  i (2) 2 i (2) 2      n

n





   Φ 1 ξ i (2)ξ i (2) Φ 1    i 1   n   Φ 1   ξ i (2)ξ i (2)  Φ 1  i 1 

sehingga

L  X | θ   1   n   n log Φ  ξ i (2)Φ 1ξ i (2)   Φ 2  Φ  Φ i 1   1  n     nΦ 1  Φ 1   ξ i (2)ξ i (2)  Φ 1  2  i 1    1  n     Φ 1   ξ i (2)ξ i (2)  Φ 1  nΦ 1ΦΦ 1  2  i 1   

1  1  n  1 1 1  Φ   ξ i (2)ξ i (2)  Φ  nΦ ΦΦ  2  i 1  



1  1  n  1  Φ   ξ i (2)ξ i (2)  nΦ  Φ  2  i 1  





n 1  Φ 1  ξ i (2)ξ i (2)  Φ Φ 1 2 i 1

Sehingga terbukti bahwa

L  X | θ  1 1 n  Φ  ξ i (2)ξ i (2)  Φ Φ1 Φ 2 i 1






83

3.

n L  X | θ    Ψ 1    y ki  μ k  Λ k ξ i ξ i k  Λk i 1

L  X | θ     Λk Λ k

 1    p  q  n log  2   n log Ψ  n log Ψ  n log Φ  2n log Π 0  2

n

n

i 1

i 1

  ξ i (2)Φ 1ξ i (2)    y i  μ  Λξ i  Ψ  1  y i  μ  Λξ i      ξ i (1)  Λ G  ξ i   Ψ 1  ξ i (1)  Λ G  ξ i    i 1  n   1      y i  μ  Λξ i  Ψ 1  y i  μ  Λξ i    Λ k  2 i 1  n

(suku lain sama dengan nol)



 1 n   p p   a jl  yil  l  ( Λξ i )l   yij   j  ( Λξ i ) j   (dari persamaan (21))  2 i 1 Λ k  j 1 l 1 

  p p    a jl  yil  l  (Λξi )l   yij   j  (Λξi ) j   k1 j 1 l 1   1 n       2 i 1  p p       a jl  yil  l  ( Λξ i )l   yij   j  ( Λξ i ) j    kq j 1 l 1 




84

    a  y     Λξ    y     Λξ   k i k ik k i k   kk ik    p     akl  yil  l   Λξ i l   yik  k   Λξ i k   k1  l 1,l  k   p     a jk  yik   k   Λξ i k  yij   j   Λξ i  j   j 1, j  k n  1     2 i 1     a  y     Λξ    y     Λξ    k i k ik k i k  kk ik  p     akl  yil  l   Λξ i l   yik  k   Λξ i k   kq  l  1,l  k   p    a jk  yik  k   Λξ i k  yij   j   Λξ i  j    j  1, j  k  









                       

Kemudian perhatikan bahwa:

 i1  q    Λξ i k  Λ k ξ i   k1  kq       kmi m  i q  m 1   q    kmi m  k1i1    kqi q   i1  Λξ i k    k 1 k 1 m 1 k 1   kq

 Λξ i k 

 kq

q

 m 1

m 

km i

 kq



    kqi q   i q

1 k1 i

maka:


85

p p   1 1  2 a y    Λ ξ   a y    Λ ξ   a jk  yij   j  Λ j ξi  i1        kk ik k k i i kl il l l i i  l 1,l  k j 1, j  k  1 n      2 i 1   p p  2a y    Λ ξ  q  q q a jk  yij   j  Λ j ξi  i   akl  yil  l  Λl ξi  i  j  kk  ik k k i i  l 1,l  k 1, j  k    p  p 1 1    akl  yil  l  Λ l ξ i  i   a jk  yij   j  Λ j ξ i  i  l 1 j 1  n  1      2 i 1  p  p  a y    Λ ξ  q  a y    Λ ξ  q   kl  il l l i i jk  ij j j i i    l  1 j 1  

  p 1  a  a y    Λ ξ  jk  ij j j i i     kj j 1  n  1      2 i 1  p   q  akj  a jk  yij   j  Λ j ξi  i     j 1    p 1 a  a y    Λ ξ  jk  ij j j i i     kj j 1  n  1     2 i 1  p   q  akj  a jk  yij   j  Λ j ξi  i    j 1 

 1 1 n  p      akj  a jk  yij   j  Λ j ξ i   i  i q  2 i 1  j 1   1 n  p      akj  a jk  yij   j  Λ j ξ i  ξ i 2 i 1  j 1 







1 n   ak1  a1k  yi1  1  Λ1ξi      akp  a pk  yip   p  Λ pξi  ξi 2 i 1


86



n



1   ak1  a1k   2 i 1

a

kp

 a pk 



 y  Λ ξ   1 1 i  i1     ξ i     yip   p  Λ p ξ i    

 y  Λ ξ   1 1 i  i1   1 n    1 1      Ψ     Ψ       ξ i k 2 i 1   k      yip   p  Λ p ξ i    





1 n 2  Ψ 1   k 2 i 1

  Ψ 1 

4.

n

k

y i 1

i

  y  μ  Λξ  ξ  i

i

i

 μ  Λξ i  ξ i

n L  X | θ    Ψ 1    ξ ji (1)  Λ j G  ξ i   G  ξ i  j  Λ j i 1

Pembuktian ini sama dengan pembuktian poin (3).

5.

n L  X | θ  1    diag Ψ 1   y i  μ  Λξ i  y i  μ  Λξ i   Ψ  Ψ 1      diag (Ψ ) 2 i 1   

Pembuktian ini sama dengan pembuktian poin (2), namun di sini hanya diambil elemen diagonalnya saja.

6.

n L  X | θ  1      diag Ψ 1   ξ i (1)  Λ G  ξ i    ξ i (1)  Λ G  ξ i    Ψ  Ψ 1   diag (Ψ ) 2  i 1   

Pembuktian ini sama dengan pembuktian poin (2), namun di sini hanya diambil elemen diagonalnya saja.


87

LAMPIRAN 5 Data dari Inter-university Consortium for Political and Sosial Research (ICPSR) yang dikumpulkan di dalam proyek World Value Survey (WVS) tahun 1981-1984 dan tahun 1990-1993 dari kawasan Great Britain.

No. 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29

y1

y2

y3

y4

y5

y6

8 7 9 10 10 10 10 9 7 9 8 7 10 9 10 10 8 8 7 9 9 7 8 7 9 9 8 10 8

6 8 8 9 10 10 4 10 6 8 7 5 7 9 7 9 8 10 8 10 8 3 8 6 9 9 7 9 8

3 1 2 5 2 5 1 3 2 3 2 1 5 1 5 5 5 2 2 2 1 1 1 2 5 2 5 4 2

3 3 4 9 6 10 10 9 6 4 5 5 8 1 10 7 10 4 5 3 2 1 1 2 8 7 10 9 6

8 4 9 10 5 10 1 10 8 8 7 6 7 6 10 9 9 9 9 5 9 5 7 3 9 6 8 9 9

9 4 6 6 7 10 10 10 6 8 8 4 7 1 10 8 8 9 7 9 8 5 8 10 10 9 10 9 9

No. 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58

y1

y2

y3

y4

y5

y6

9 10 10 8 8 10 7 7 7 9 10 9 10 9 9 10 10 10 10 6 8 8 9 9 10 10 8 7 10

8 9 10 9 8 10 5 7 8 9 9 9 9 9 7 6 10 10 8 8 8 7 9 9 10 10 7 7 8

5 4 1 1 2 5 1 1 1 3 2 3 2 4 1 2 1 1 4 3 3 1 1 1 1 2 1 1 1

10 10 3 3 7 10 1 1 5 10 8 7 1 8 7 2 5 7 7 4 8 7 9 2 7 5 2 2 3

8 10 9 4 8 1 10 8 6 10 9 10 10 10 8 10 10 10 8 5 8 7 8 4 9 10 8 9 7

1 10 9 3 8 1 8 5 5 8 10 9 10 3 8 8 8 7 10 8 3 8 7 8 10 9 7 10 6


88

No. 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96

y1

y2

y3

y4

y5

y6

7 7 7 8 4 10 3 9 3 10 10 10 6 10 10 7 7 8 10 9 10 8 9 8 10 8 9 9 8 9 10 8 10 8 8 10 8 7

6 5 8 8 4 9 7 7 5 10 9 8 5 10 10 7 10 8 10 8 10 6 10 6 9 7 8 8 8 8 10 8 8 8 8 9 7 4

1 1 1 3 1 1 1 3 1 3 1 1 1 5 5 2 1 1 5 1 1 1 1 5 1 2 1 1 4 3 1 1 1 1 2 5 4 1

3 4 1 8 2 1 1 7 1 10 10 1 1 10 10 4 5 7 10 5 1 5 1 10 3 4 5 1 4 6 10 9 1 4 5 10 8 2

8 7 8 4 6 10 5 6 3 10 10 8 7 10 10 1 9 8 10 8 9 7 9 6 8 8 9 8 6 8 8 7 9 8 9 8 7 10

10 3 10 7 6 10 10 7 7 9 9 5 8 10 10 3 9 9 4 10 9 4 9 8 9 9 8 9 7 8 7 2 9 5 10 9 8 8

No. 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134

y1

y2

y3

y4

y5

y6

10 10 10 9 10 5 8 8 2 10 10 6 8 7 10 9 8 6 7 7 8 10 5 9 9 3 10 9 10 8 10 7 10 10 10 10 10 10

10 8 10 9 10 10 7 7 2 10 10 6 9 8 10 8 8 5 8 6 7 9 8 9 7 5 8 9 10 6 8 7 7 10 10 9 9 9

3 5 4 4 1 5 2 5 1 5 1 1 1 1 1 5 5 1 1 1 1 4 3 1 1 4 5 1 1 2 5 1 3 5 1 1 5 1

6 10 5 7 3 10 5 7 6 10 1 6 2 1 1 10 10 6 5 5 2 10 9 5 3 8 10 1 3 3 7 6 10 7 3 2 10 1

10 3 5 9 10 5 6 7 6 10 10 8 8 8 10 9 8 3 5 9 7 9 9 9 9 2 10 9 10 8 9 7 7 10 10 10 4 10

8 3 9 7 10 1 4 8 7 8 10 7 7 9 10 7 8 7 5 1 8 8 10 5 6 7 9 8 10 9 10 10 8 8 10 10 6 9


89

No. 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165

y1

y2

y3

y4

y5

y6

10 8 5 8 8 8 8 10 8 7 10 9 8 8 8 9 6 8 10 7 9 8 10 10 10 10 10 8 10 8 10

10 7 7 5 9 7 7 6 7 5 8 8 5 4 6 7 6 8 10 6 8 8 10 9 8 10 10 8 10 8 8

1 1 1 1 2 4 5 1 3 5 4 5 2 4 5 3 1 1 1 3 1 4 1 5 1 1 3 1 1 4 3

1 3 5 1 7 8 10 5 9 8 10 10 6 10 10 6 4 6 4 7 1 3 5 10 3 8 7 6 3 7 8

7 3 5 7 10 7 7 9 8 7 6 8 8 1 7 9 7 8 3 4 7 5 5 9 8 10 10 8 10 7 9

10 2 8 9 3 6 4 9 5 8 8 7 6 2 6 8 10 6 2 6 8 3 10 9 3 7 10 8 10 7 10

No. 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196

y1

y2

y3

y4

y5

y6

9 7 5 8 10 4 8 9 10 10 10 10 3 8 8 7 8 10 7 9 10 7 6 10 10 9 9 10 10 6 8

7 8 7 9 9 4 6 9 10 8 7 10 2 7 7 8 8 9 7 9 9 8 6 8 10 5 6 8 6 7 8

1 4 2 1 5 2 2 5 3 5 1 1 1 1 4 1 1 2 4 2 5 1 2 5 1 5 3 2 1 1 1

1 5 7 4 10 2 3 9 8 10 5 1 5 1 9 5 1 6 10 4 10 3 7 10 1 10 6 6 1 1 2

9 7 3 10 10 8 10 6 1 10 7 10 3 7 6 9 8 6 7 8 8 7 6 6 10 2 10 7 8 8 8

9 7 1 10 10 7 9 5 4 8 7 10 2 6 8 9 5 9 3 9 10 3 7 10 10 8 10 7 7 7 8


90

LAMPIRAN 6

Program Nonlinear SEM Program untuk menaksir parameter pada model persamaan struktural nonlinear (Nonlinear SEM) yang dibuat dalam tugas akhir ini terdiri dari 4 bagian, yaitu bagian utama dengan nama nlsem.m yang akan memanggil 3 fungsi, yaitu estep.m, estep2.m, dan mstep.m. Program ini dibuat dengan menggunakan perangkat lunak MATLAB 7.4.0 (R2007a). Program ini secara khusus dibuat dan dikembangkan untuk menaksir parameter pada model persamaan struktural yang ada pada contoh aplikasi dalam tugas akhir ini. Berikut adalah source code dan penjelasan dari masing-masing program: 1.

Program utama, nlsem.m Program nlsem.m ini adalah program induk yang berfungsi untuk membaca data dan menjalankan semua fungsi yang dibutuhkan dalam menaksir parameter pada Nonlinear SEM. Program nlsem.m ini juga berfungsi untuk membuat grafik untuk setiap taksiran parameter dari iterasi pertama sampai iterasi terakhir. Source code:

_____________________________________________________________ function [Lambda Gamma Mu Psi_eps Phi Psi_delta] = nlsem(O, M, n) % Nonlinear SEM tic; % M = 40; % n = 196;


91

Y = xlsread('data.xls'); Lambda = [1 0 0;0 0 0;0 1 0;0 0 0;0 0 1;0 0 0]; Gamma = [0 0 0]; Phi = eye(2); Psi_eps = eye(6); Psi_delta = 1; Mu = ones(6,1); Pi = 0; hasil = []; for o=1:O Lambda_xi = [Pi Gamma]; [Xi G_Xi] = estep(Y, M, n, Lambda, Gamma, Phi, Psi_eps, ... Psi_delta, Mu, Pi); [E_xi E_xixi E_gxigxi E_xi1gxi E_xi2xi2 E_gxixi1 E_e] = estep2(M,n,Xi,G_Xi,Lambda_xi); [Lambda Gamma Mu Psi_eps Phi Psi_delta] = mstep(Y, Lambda, ... Lambda_xi, Mu, Psi_eps, n, E_xi, E_xixi, E_gxigxi, ... E_xi1gxi, E_xi2xi2, E_gxixi1, E_e); toc fprintf('Iterasi ke-%d\n\n', o); display(Lambda); display(Gamma); display(Mu); display(Psi_eps); display(Phi); display(Psi_delta); hasil = [hasil; Lambda(2,1) Lambda(4,2) Lambda(6,3) ... Gamma(1,1) Gamma(1,2) Gamma(1,3) Mu' Psi_eps(1,1) ... Psi_eps(2,2) Psi_eps(3,3) Psi_eps(4,4)Psi_eps(5,5) ... Psi_eps(6,6) Phi(1,1) Phi(1,2) Phi(2,2) Psi_delta]; end display(hasil); figure; subplot(2,2,1), subplot(2,2,2), subplot(2,2,3), figure; subplot(2,2,1), subplot(2,2,2), subplot(2,2,3), figure; subplot(3,2,1), subplot(3,2,2), subplot(3,2,3), subplot(3,2,4), subplot(3,2,5), subplot(3,2,6), figure; subplot(3,2,1), subplot(3,2,2), subplot(3,2,3),

plot(hasil(:,1)); xlabel('Lambda(2,1)'); plot(hasil(:,2)); xlabel('Lambda(4,2)'); plot(hasil(:,3)); xlabel('Lambda(6,3)'); plot(hasil(:,4)); xlabel('Gamma(1,1)'); plot(hasil(:,5)); xlabel('Gamma(1,2)'); plot(hasil(:,6)); xlabel('Gamma(1,3)'); plot(hasil(:,7)); xlabel('Mu(1)'); plot(hasil(:,8)); xlabel('Mu(2)'); plot(hasil(:,9)); xlabel('Mu(3)'); plot(hasil(:,10)); xlabel('Mu(4)'); plot(hasil(:,11)); xlabel('Mu(5)'); plot(hasil(:,12)); xlabel('Mu(6)'); plot(hasil(:,13)); xlabel('Psi_eps(1,1)'); plot(hasil(:,14)); xlabel('Psi_eps(2,2)'); plot(hasil(:,15)); xlabel('Psi_eps(3,3)');


92

subplot(3,2,4), plot(hasil(:,16)); xlabel('Psi_eps(4,4)'); subplot(3,2,5), plot(hasil(:,17)); xlabel('Psi_eps(5,5)'); subplot(3,2,6), plot(hasil(:,18)); xlabel('Psi_eps(6,6)'); figure; subplot(2,2,1), plot(hasil(:,19)); xlabel('Phi(1,1)'); subplot(2,2,2), plot(hasil(:,20)); xlabel('Phi(1,2)'); subplot(2,2,3), plot(hasil(:,21)); xlabel('Phi(2,2)'); figure; plot(hasil(:,22)); xlabel('Psi_delta'); time = toc; fprintf('Waktu: %f seconds\n', time); fprintf('Iterasi ke-%d\n\n', O);

_____________________________________________________________ 

Contoh hasil output program nlsem.m untuk iterasi pertama: >> [Lambda Gamma Mu Psi_eps Phi Psi_delta] = nlsem(70, 40, 196); Elapsed time is 144.276676 seconds. Iterasi ke-1 Lambda = 1.0000 1.2325 0 0 0 0

0 0 1.0000 0.7442 0 0

0 0 0 0 1.0000 0.4462

-0.1643

0.3080

0 31.1870 0 0 0 0

0 0 3.0213 0 0 0

Gamma = -0.9797 Mu = 4.8990 3.4692 1.7302 5.0782 4.4460 5.9956 Psi_eps = 44.8839 0 0 0 0 0

0 0 0 28.7090 0 0

0 0 0 0 35.8501 0


0 0 0 0 0 44.1815

93

Phi = 1.7791 2.0352

2.0352 11.8335

Psi_delta = 14.3580



Contoh hasil output program nlsem.m untuk iterasi terakhir (iterasi ke70): Elapsed time is 13321.659708 seconds. Iterasi ke-70 Lambda = 1.0000 0.7405 0 0 0 0

0 0 1.0000 1.6265 0 0

0 0 0 0 1.0000 0.7680

0.6617

-0.1302

0 1.5075 0 0 0 0

0 0 0.8899 0 0 0

Gamma = 0.3030 Mu = 8.4260 7.8325 2.3404 5.5040 7.5621 7.3845 Psi_eps = 1.2689 0 0 0 0 0

0 0 0 4.0807 0 0

0 0 0 0 2.6121 0

Phi = 2.1942

-0.1004


0 0 0 0 0 4.1521

94

-0.1004

2.9420

Psi_delta = 1.5950



Contoh output grafik taksiran parameter 11 , 12 , dan  22 :

Gambar 1 Lampiran 6. Contoh output grafik program NLSEM


95

2.

Program ke-2, estep.m Program estep.m ini adalah sebuah fungsi yang bertugas untuk melakukan perhitungan E-Step menggunakan algoritma MetropolisHastings. Source Code:

_____________________________________________________________ function [Xi G_Xi] = estep(Y, M, n, Lambda, Gamma, Phi, Psi_eps, Psi_delta, Mu, Pi) syms xi_1 xi_2 Xi = zeros(3,M,n); G_Xi = zeros(4,M,n); xi2 = [0;0]; Lambda_xi = [Pi Gamma]; f=inline('exp(-1/2*transpose(xi2)*inv(Phi)*xi2 1/2*transpose(transpose(Y) - Mu Lambda*xi)*inv(Psi_eps)*(transpose(Y) - Mu - Lambda*xi) 1/2*transpose(xi1-Lambda_eps*G_xi)*inv(Psi_delta)*(xi1Lambda_eps*G_xi))'); Pi0 = eye(1) - Pi; Delta = [1 0;0 1;0 0]; Sigma_xi = [inv(Pi0)*inv(Psi_delta)*Pi0 inv(Pi0)*inv(Psi_delta)*Gamma*Delta;... -Delta'*Gamma'*inv(Psi_delta)'*Pi0 inv(Phi)+Delta'*Gamma'*inv(Psi_delta)*Gamma*Delta]; Omega = inv(Sigma_xi)+Lambda'*inv(Psi_eps)*Lambda; sigma2 = 1; % E-Step for i=1:n Xi0 = zeros(1,3); G_Xi0 = [Xi0 Xi0(2)*Xi0(3)]; while(f(G_Xi0',Lambda,Lambda_xi,Mu,Phi,Psi_delta,Psi_eps,Y(i,:),Xi0' ,Xi0(1),Xi0(2:3)') <= 0) Xi0 = rand(1,3); end for m=m=1:2*M flag = 1; while((flag == 1)) Xi_star = mvnrnd(Xi0,sigma2*Omega,1); G_Xi_star = [Xi_star Xi_star(2)*Xi_star(3)];


96

p1 = f(G_Xi_star(1,:)',Lambda,Lambda_xi,Mu, ... Phi,Psi_delta,Psi_eps,Y(i,:),Xi_star', ... Xi_star(1),Xi_star(2:3)')*... mvnpdf(Xi0, Xi_star, sigma2*Omega); p2 = f(G_Xi0(1,:)',Lambda,Lambda_xi,Mu, ... Phi,Psi_delta,Psi_eps,Y(i,:), ... Xi0',Xi0(1),Xi0(2:3)')*... mvnpdf(Xi_star, Xi0, sigma2*Omega); p = min(1,p1/p2); alpha = min(1,p); if alpha == 1 flag = 0; else p_ = unifrnd(0,1); if p_ <= p flag = 0; end end end Xi0 = Xi_star; G_Xi0 = [Xi_star Xi_star(2)*Xi_star(3)]; Xi(:,m+1,i) = Xi0; G_Xi(:,m+1,i) = G_Xi0; end end

_____________________________________________________________

3.

Program ke-3, estep2.m Program estep2.m ini adalah sebuah fungsi yang bertugas untuk melakukan perhitungan nilai ekspektasi statistik cukup pada E-Step. Source code:

_____________________________________________________________ function [E_xi E_xixi E_gxigxi E_xi1gxi E_xi2xi2 E_gxixi1 E_e] = estep2(M,n,Xi,G_Xi,Lambda_xi) E_xi = reshape(mean(Xi,2),3,196); E_xixi = zeros(3,3,n); E_gxigxi = zeros(4,4,n); E_xi1gxi = zeros(n,4); E_xi2xi2 = zeros(2,2,n); E_gxixi1 = zeros(4,n); E_e = zeros(n,1); for i = 1:n


97

for m = M+1:2*M % matriks 3x3x196 (3x3) E_xixi(:,:,i) = E_xixi(:,:,i) + Xi(:,m,i)*Xi(:,m,i)'; % matriks 4x4x196 (4x4) E_gxigxi(:,:,i) = E_gxigxi(:,:,i) + G_Xi(:,m,i)*G_Xi(:,m,i)'; % matriks 196x4 (1x4) E_xi1gxi(i,:) = E_xi1gxi(i,:) + Xi(1,m,i)*G_Xi(:,m,i)'; % matriks 2x2x196 (2x2) E_xi2xi2(:,:,i) = E_xi2xi2(:,:,i) + Xi(2:3,m,i)*Xi(2:3,m,i)'; % matriks 4x196 (4x1) E_gxixi1(:,i) = E_gxixi1(:,i) + G_Xi(:,m,i)*Xi(1,m,i); % skalar E_e(i) = E_e(i) + (Xi(1,m,i) - Lambda_xi*G_Xi(:,m,i))^2; end end E_xixi = E_xixi/M; E_gxigxi = E_gxigxi/M; E_xi1gxi = E_xi1gxi/M; E_xi2xi2 = E_xi2xi2/M; E_gxixi1 = E_gxixi1/M; E_e = E_e/M;

_____________________________________________________________

4.

Program ke-4, mstep.m Program mstep.m ini adalah sebuah fungsi yang bertugas untuk melakukan perhitungan nilai ekspektasi statistik cukup pada E-Step. Source code:

_____________________________________________________________ % M-Step function [Lambda_cap Gamma_cap Mu_cap Psi_eps_cap Phi_cap Psi_delta_cap] = mstep(Y, Lambda, Lambda_xi, Mu, Psi_eps, n, E_xi, E_xixi, E_gxigxi, E_xi1gxi, E_xi2xi2, E_gxixi1, E_e) Phi_cap = mean(E_xi2xi2,3); % compute Lambda_xi_cap Lambda_xi_star = Lambda_xi(2:4); B = rand(4,3); while (rank(B) ~= 3) B = rand(4,3); end b = Lambda_xi' - B*Lambda_xi_star'; sum1 = zeros(4,1); for i=1:n


98

sum1 = sum1 + (E_gxixi1(:,i) - E_gxigxi(:,:,i)*b); end Lambda_xi_star = (inv(B'*sum(E_gxigxi,3)*B)*B'*sum1)'; Lambda_xi_cap = (B*Lambda_xi_star' + b)'; % compute Psi_delta_cap Psi_delta_cap = mean(E_e); % compute Lambda_cap Lambda_cap = Lambda; for k=2:2:6 Lambda_star = Lambda(k,k/2); A = rand(3,1); a = Lambda(k,:)' - A*Lambda_star'; sum2 = zeros(3,1); for i=1:n sum2 = sum2 + (E_xi(:,i)*(Y(i,k) - Mu(k)) - ... E_xixi(:,:,i)*a); end Lambda_cap_star = (inv(A'*sum(E_xixi,3)*A)*A'*sum2)'; Lambda_cap_ki = (A*Lambda_cap_star + a)'; Lambda_cap(k,k/2) = Lambda_cap_ki(k/2); end % compute Mu_cap Mu_cap = mean(Y'-(Lambda_cap*E_xi),2); % compute Psi_eps_cap Psi_eps_cap = Psi_eps; for k=1:6 Psi_kk = 0; for i=1:n Psi_kk = Psi_kk + ((Y(i,k) - Mu(k))^2 - 2*(Y(i,k) – ... Mu_cap(k))*Lambda_cap(k,:)*E_xi(:,i) + ... Lambda_cap(k,:)*E_xixi(:,:,i)*Lambda_cap(k,:)'); end Psi_kk = Psi_kk/n; Psi_eps_cap(k,k) = Psi_kk; end % compute Gamma_cap Gamma_cap = Lambda_xi_cap(2:4);

_____________________________________________________________


TAKSIRAN MAKSIMUM LIKELIHOOD PADA MODEL PERSAMAAN STRUKTURAL NONLINEAR. AMRI ILMMA x

Recommend Documents