Non-Linear Estimation Sanjoyo[8605000103] April 2006
Daftar Isi 1 Pendahuluan 1.1 Latar Belakang . . . 1.2 Perumusan Masalah 1.3 Tujuan . . . . . . . . 1.4 Metode Eksperimen .
. . . .
. . . .
. . . .
. . . .
. . . .
. . . .
. . . .
. . . .
. . . .
. . . .
. . . .
. . . .
. . . .
2 Teori Pendukung 2.1 Model Statistik Non-Linier . . . . . . . . . . 2.2 Nonlinier Least Square . . . . . . . . . . . . 2.2.1 Iterasi Gause-Newton . . . . . . . . . 2.2.2 Iterasi Newton-Rhapson . . . . . . . 2.2.3 Iterasi Marquardt-Levenberg . . . . . 2.2.4 Metoda Quadratic-Hill Climbing . . . 2.3 Non-Linear Maximum Likelihood . . . . . . 2.3.1 Irerasi Newton-Rhapson . . . . . . . 2.3.2 Metoda Scoring . . . . . . . . . . . . 2.3.3 Iterasi Berndt, Hall, Hall & Hausman 3 Prosedur Eksperimen
. . . .
. . . .
. . . .
. . . .
. . . .
. . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . (BHHH) .
. . . .
. . . . . . . . . .
. . . .
. . . . . . . . . .
. . . .
. . . . . . . . . .
. . . .
1 1 2 3 3
. . . . . . . . . .
4 4 5 6 9 11 11 12 14 15 16 18
4 Hasil dan Analisis 20 4.1 Input Data . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20 4.2 Hasil dan Analisis . . . . . . . . . . . . . . . . . . . . . . . . 22 4.2.1
Fungsi Produksi Cobb-Douglas . . . . . . . . . . . . . 22
i
DAFTAR ISI
ii
4.2.2 4.2.3
Fungsi Produksi CES . . . . . . . . . . . . . . . . . . . 28 Model Terbaik . . . . . . . . . . . . . . . . . . . . . . . 31
5 Kesimpulan
32
Lampiran
34
Bab 1 Pendahuluan 1.1
Latar Belakang
Pada umumnya pendekatan yang digunakan untuk melakukan penaksiran suatu parameter dalam model ekonometrik linier adalah memfokuskan fungsi tujuan (objective function), misalnya meminimumkan sum of squre function atau memaksimumkan likelihood function terhadap parameter yang tidak diketahui. Bila diberikan suatu sample data set, penaksiran parameter dapat dilakukan berdasarkan nilai optimal objective function. Problem optimasi tersebut diselesaikan dengan first order condition sehingga diperoleh hasil penaksiran parameter dalam model linier. Proses perhitungan tersebut memudahkan bagi para econometrician untuk melakukan penaksiran parameter model linier suatu keterkaitan hubungan funsional aspeka-spek perekonomian. Pendekatan model linier untuk mengambarkan hubungan variabel ekonomi dapat diterima dengan alasan bahwa: (a) pada umumnya realitas situasi perekonomian dapat dilakukan pendekatan secara linier; (b) banyak model nonlinier dapat ditarnformasikan dalam bentuk linier. Namun demikian, kondisi linieritas tidak selalu dapat diaplikasikan sehingga spesifikasi nonlinier tidak dapat dihindarkan. Misalkan bila kita akan melakukan penaksikan fungsi produksi Cobb-Douglas atau CES dari suatu data sample yang tersedia, maka tidak dapat dihindarkan dilakukan dengan pendekatan model nonlinier. Misalkan fungsi produksi Cobb-Douglass
1
BAB 1. PENDAHULUAN β
2
β
(CD), Yi = β 1 X2i2 X3i3 eui dimana Y = output, X2 = input tenaga kerja, dan X3 = input kapital. Persamaan Cobb-Duglas dapat ditulis dalam bentuk linier, ln Yi = α + β 2 ln X2i + β 3 ln X3i + ui ,dimana α = ln β 1 . Selanjutnya β β bila format CD adalah Yi = β 1 X2i2 X3i3 + ui , maka bentuk tersebut tidak memungkinkan parameternya ditransformasikan dalam bentuk linier. Contoh lain adalah fungsi produksi constant elasticity of substitution (CES), −1/β , dimana Y =output, A =skala parameter, Yi = A[δKi−β + (1 − α)L−β i ] K =input kapital, L = input tenaga kerja, δ = parameter distribusi (0 < δ < 1) dan β = substitusi parameter (β ≥ −1). Dalam fungsi produksi CES tersebut, walaupun dimasukkan stochastic error term ui dalam bentuk apapun ke dalam fungsi produksi tersebut, parameternya tetap tidak dapat ditransformasikan ke dalam bentuk linier. Dengan perkataan lain, harus didekati dengan non-linier model. Selanjutanya dalam paper akan melaporkan hasil ekperimen model nonlinier untuk menaksir fungsi produksi Cobb-Douglas dan CES dengan mengunakan metoda Nonlinier Least Square dan Non-Linier Maksimum Likelihood.
1.2
Perumusan Masalah
Sesuai dengan panduan tugas yang diberikan, pada ekperimen ini dapat dirumuskan beberapa masalah sebagai berikut: 1. Data yang tersedia adalah tentang produksi suatu komoditi (Y), input labor (L) dan kapital (L) yang berdimensi 30x3. Dengan data tersedia tersebut bagaimana fungsi produksi yang paling sesuai antara fungsi produksi Cobb Dauglas atau CES? untuk memilih fungsi produksi yang paling cocok akan digunakan pertimbangan Akaike information Criteria (AIC) dan Schwart Criteria (SC). 2. Dengan menggunakan dua metoda penaksiran parameter yaitu Nonlinier Least Square Estimation dan Maximum Likelihood Estimation, bagaimana perbandingan hasil estimasi tersebut?
BAB 1. PENDAHULUAN
3
3. Bila dilakukan perubahan pada initial value dari parameter dalam menentukan titik optimum, perubahan panjang step dari parameter dan perubahan jumlah iterasi bagaimana perbandingan estimasi kedua metoda penaksiran tersebut?
1.3
Tujuan
Tujuan eksperimen ini adalah: 1. Menentukan fungsi produksi yang sesuai dengan input data yang diberikan. 2. Membandingkan aplikasi variasi metode iterasi (Gauss-Newton Algorithm dan Marquardt-levenberg) dalam menentukan titik optimum. 3. Mengamati pengaruh perubahan nilai awal parameter, panjang langkah dan jumlah iterasi dalam proses menentukan titik optimum 4. Mengamati penerapan metode least squares rule dan maximum likelihood dalam penaksiran bentuk non-linier.
1.4
Metode Eksperimen
Metode yang akan digunakan pada eksperimen ini adalah metode literatur dengan menggunakan data-data eksperimental. Data yang diberikan adalah berupa matriks berdimensi 30x3, yang diaplikasikan kedalam dua fungsi produksi yaitu fungsi produksi CD dan fungsi produksi CES. Adapun estimasi non linier dilakukan melalui percobaan simulasi Montecarlo dengan program MATLAB versi 7.0.1. dan beberapa formula model-model penaksiran dengan variasi iterasi. Hasil eksperimen tersebut, kemudian akan dianalisa apakah memenuhi kondisi seperti yang telah dinyatakan dalam literatur dan teori.
Bab 2 Teori Pendukung 2.1
Model Statistik Non-Linier
Walaupun pada umumnya realitas situasi perekonomian dapat dilakukan pendekatan secara linier atau ditranformasikan dalam bentuk linier, Namun demikian, banyak juga model non linier yang tidak bisa ditangani oleh model linier, oleh karena itu diperlukan model non linier dalam pemecahannya. Tidak berbeda dengan model linier, estimasi model non linier didasarkan pada minimisasi atau maksimisasi fungsi objektif. Berdasarkan teori, terdapat dua jenis fungsi objektif, yaitu the sum squared errors dan the likelihood function. Namun demikian, berbeda dengan model linier, dalam memecahkan parameter model non-linier adalah merupakan tugas yang sulit. Hal ini disebabkan banyaknya pertimbangan yang harus dilibatkan dalam proses menentukan titik optimum secara statis (static optimization). Pertimbanganpertimbangan tersebut yaitu perlu atau tidaknya pembatas observasi (constraint) yang akan mendefinisikan letak titik optimum dan sufficient conditions untuk local atau global minimum. Penaksiran terhadap parameter model non-linear akan menghasilkan nilai yang berbeda untuk penaksir yang sama karena error random-nya mempunyai power function. Oleh karena itu, berbeda dengan least square rule pada model linear, penaksir atau estimator pada least square rule yang diterapkan pada model non-linear ditentukan dengan melakukan suatu prosedur atau algoritma yang dapat menjamin bahwa 4
BAB 2. TEORI PENDUKUNG
5
penaksir tersebut secara nyata memenuhi kriteria dari fungsi tujuan, yaitu memberikan the sum of squares error pada titik yang paling minimum atau memberikan titik maksimum pada likelihood function. Dengan perkataan lain, dalam penentuan penaksir pada model non-linear diperlukan pengetahuan mengenai static optimization theory. Berdasarkan teori, untuk menentukan titik optimum yang diyakini sebagai solusi dalam penentuan penaksir model non-linear akan digunakan operasi first dan second derivative test. First derivative test digunakan dalam prosedur iterasi sebagaimana diterapkan dalam Gauss-Newton Algorithm, Marquardt-Levenberg Iterative Model, sedangkan second derivative test digunakan dalam prosedur iterasi Newton-Rhapson Algorithm dan Quadratic-Hill Climbing Model. Sementara itu, dalam penaksiran maximum likelihood akan digunakan pendekatan Berndt, Hall, Hall and Hausman algorithm yang menggunakan operasi second derivative test pada prosedur iterasinya.
2.2
Nonlinier Least Square
Secara umum model Nonlinier adalah sebagai berikut: y = f (X, β) + e,
(2.1)
dimana y = (y1 , y2 , ..., yT )0 , f(X, β) = [f (x1 , β), f (x2 , β), ..., f (xT , β)]0 , X = (x01 , x02 , ..., x0T )0 ,adalah vektor dari independent variabel, dan e = (e1 , e2 , ..., eT )0 adalah random error (independent identical distributed serta distibusinya tidak diketahui), maka untuk menaksir parameter yang tidak diketahui diperoleh melalui optimasi objective function. Dengan spesifikasi tersebut dapat digunakan least square estimation, yaitu residual sum of squares function adalah: (2.2) S = e0 e = [y − f (X, β)]0 [y − f (X, β)] dengan meminimumkan objective function S tersebut maka akan dikakukan penaksiran parameter β. First order condition atau normal equation untuk nilai minimum objective function adalah:
BAB 2. TEORI PENDUKUNG
6
∙ ¸ ∂f (X, β)0 ∂S = −2 [y − f (X, β)] = 0 ∂β ∂β
(2.3)
dimana ∂f (X, β)0 /∂β adalah matrik derivatif (K xT ) dengan (k x t) elemen yaitu ∂f (xt , β)/∂β k . Bila fungsi f (X, β) adalah non-linier dalam arti kata koefisiennya, maka menaksir nilai β yang meminimumkan objective function tidak dapat diperoleh secara langsung sebagaimana dalam model yang linier. Dengan perkataan lain, yang dimaksud dengan penaksiran β dari model non linier adalah mencari solusi dari persamaan [2.3] yang memberikan global minimum dari persamaan [2.2]. Seperti yang telah dijelaskan sebelumnya, maka akan digunakan pendekatan prosedur iterasi sebagaimana diterapkan dalam Gauss-Newton Algorithm, Marquardt-Levenberg Iterative Model untuk first derivative test. Sedangkan second derivative test digunakan dalam prosedur iterasi Newton-Rhapson Algorithm dan Quadratic-Hill Climbing Model.
2.2.1
Iterasi Gause-Newton
Bila kita misalkan Z(β) adalah transpose matrik ∂f (X, β)0 /∂β yaitu:
Z(β) =
⎡
∂f (X, β) ⎢ =⎢ ⎣ ∂β 0
∂f (x1 ,β) ∂β 1
.. .
∂f (xT ,β) ∂β 1
··· ...
∂f (x1 ,β) ∂β K
···
∂f (xT ,β) ∂β K
.. .
⎤ ⎥ ⎥ ⎦
(2.4)
Bila matrik derivatif tersebut mengevalusi untuk nilai tertentu misalnya β 1 dapat ditulis dengan Z(β 1 ). Dengan menggunakan persamaan (2.4) ,maka first order condition untuk meminimumkan objective function dapat ditulis sebagai berikut: Z(β)0 [y − f (X, β)] = 0
(2.5)
Salah satu metode algoritma untuk menentukan step pada penaksiran nonlinear least squares menuju titik global minimum dikembangkan oleh Gauss dan Newton dan dikenal sebagai Gauss-Newton Algorithm atau Iteration. Pada iterasi ini mula-mula fungsi f (xt , β) diaproksimasi dengan first order Taylor Series disekitar initial value β (1) .
BAB 2. TEORI PENDUKUNG
7
f (xt , β) = f (xt , β (1) ) +
∂f (xt , β) |β (1) (β − β (1) ) ∂β 0
(2.6)
Jika β (1) adalah initial value maka:
z(β (1) ) =
∂f (xt , β) |β = β (1) ∂β 0
(2.7)
Jadi persamaan (2.7)menjadi: f (xt , β) = f (xt , β (1) ) + z(β (1) ) · β − z(β (1) ) · β (1) Sehingga; f (xt , β) = f (xt , β (1) ) + z(β (1) ) · β − z(β (1) ) · β (1) + e dan menjadi:
y(β (1) ) = z(β (1) )β + e
(2.8)
persamaan [2.8 ]adalah Pseudo Linier Model. Jika dari model tersebut ditaksir β dengan OLS maka akan diperoleh β (2) adalah: ³ ´ (1) β = [z(β ) z(β )] z(β ) y β maka; h ³ ´ i β (2) = [z(β (1) )0 z(β (1) )]−1 z(β (1) )0 y − f x, β (1) + z(β (1) )β (1) (2)
(1) 0
(1)
−1
(1) 0
= β (1) + [z(β (1) )0 z(β (1) )]−1 z(β (1) )0 (yt − f (xt , β (1) )
Jika β (2) digunakan sebagai aproksimasi f (x, β) seperti di (2.6) dan akhirnya akan didapat β (3) : β (3) = β (2) + [z(β (2) )0 z(β (2) )]−1 z(β (2) )0 (yt − f (xt , β (2) ) dan seterusnya, sehingga secara umum didapat sebagai berikut:
β (n+1) = β (n) + [z(β (n) )0 z(β (n) )]−1 z(β (n) )0 (yt − f (xt , β (n) )
(2.9)
BAB 2. TEORI PENDUKUNG
8
Secara umum iterasi Gauss-Newton dapat dinyatakan dengan β (n+1) = β (n) −
1 2
h
i−1 (n) 0 (n) Z(β ) Z(β )
Ã
¯ ! ∂S ¯¯ ∂β ¯β (n)
(2.10)
Bila β (n+1) = β (n) maka iterasi disebut konvergen. Maka akan diperoleh ∂f (xt , β) z(β (n) )0 (yt − f (xt , β (n) ) = 0 atau |β (n) (y − f (xt , β (n) ) = 0, yang ∂β 0 merupakan pemenuhan persyaratan first order condition. Pada prakteknya β (n+1) = β (n) terlalu ideal. Biasanya digunakan kriteria konvergen sebagai berikut: ° ° ° ° Norm(β (n+1) − β (n) ) = °β (n+1) − β (n) ° < ε
(2.11)
Misalnya ε = 10−9
° ° r³ ´2 ³ ´2 ´2 ³ ° (n+1) ° (n+1) (n) (n+1) (n) (n) β1 − β (n) ° = − β1 + β2 − β2 + ... + β (n+1) − β °β n n (2.12)
β
(n+1)
=β
(n)
! ∙ ³ ¸−1 à ¯ ´0 ∂s ¯¯ (n) (n) − Z β Zβ ∂β ¯β (N ) 1 2
β (n+1) = β (n) − tn · P γ·n
(2.13)
(2.14)
tn = step length P = Positive definite matrix γ n = Gradient dari objective function Pada metode ini masih terdapat kelemahan, yaitu perubahan nilai permulaan mungkin akan mengarahkan pada titik minimum tetapi tidak dapat menjamin keyakinan sebagai lokal atau global minimum. Dengan mengubahubah nilai permulaan dari parameter dan dihasilkan konvergensi pada titik yang sama pada setiap waktu, maka dapat dikatakan bahwa kita memperoleh kesempatan untuk mengasumsikan bahwa operasi iterasi mencapai global
BAB 2. TEORI PENDUKUNG
9
minimum. Setiap langkah (step) di mana nilai awal parameter diubah dan menyebabkan penurunan pada the sum of squares error, S (β), disebut sebagai iterasi (Iteration).Namun demikian, dengan mengubah nilai awal parameter tetapi konvergensi terjadi pada titik yang berbeda, maka kita harus memilih nilai terendah dari sekian banyak sum of squares error yang diperoleh dan selanjutnya kita harus mengidentifikasi nilai tersebut pada titik yang bukan local minimum. Permasalahan lain adalah kemungkinan tidak terjadi konvergensi karena bentuk fungsi dari sum of squares sulit mencapai titik minimum. Pada kondisi seperti ini, nilai permulaan harus diubah-ubah atau mencobanya dengan menggunakan prosedur yang lain.
2.2.2
Iterasi Newton-Rhapson
Sebagaimana model non-linier pada persamaan [2.1] dan fungsi objektif meminimumkan persamaan [2.2], pada iterasi ini mula-mula fungsi objektif S(β) akan diapproksimasi dengan second order Taylor series disekitar initial value β (1) .
S(β) ' S(β (1) )+
2 ∂S 1 (1) (1) 0 ∂ S (β − β | (β − β )+ ) | (1) (β − β (1) ) (2.15) (1) ∂β 0 β 2 ∂β∂β 0 β
Turunan pertama dari persamaan tersebut adalah sebagai berikut:
∂S(β) =0+ ∂β
µ
∂S(β) | (1) ∂β 0 β
¶0
+
∂2S | (1) (β − β (1) ) = 0 ∂β∂β 0 β
(2.16)
Persamaan menurut β (2) secara implisit adalah: ∂S ∂2S (2) − β (1) ) = 0 |β (1) + 0 |β (1) (β ∂β ∂β∂β ∂S ∂2S (2) | (1) − β (1) ) = − 0 |β (1) (β ∂β β ∂β∂β
(2.17)
BAB 2. TEORI PENDUKUNG
10
¶−1 ∂S ∂ 2S | (1) (β − β ) = − 0 |β (1) ∂β β ∂β∂β ¶−1 µ 2 ∂S ∂ S (2) (1) β =β − | (1) 0 |β (1) ∂β β ∂β∂β Bila pada persamaan [2.16], β (2) menggantikan β (1) maka akan diperoleh β (3) dan seterusnya. Sehingga persamaan umumnya dapat dituliskan sebagai berikut: (2)
µ
(1)
β
(n+1)
=β
(n)
−
µ
∂2S | (n) ∂β∂β 0 β
¶−1
∂S | (n) ∂β β
(2.18)
Persamaan [2.18] inilah yang disebut dengan Newton-Raphson Iteration. Jika iterasi sudah konvergen, yaitu β (n+1) = β (n) maka dari persamaan [2.18] ∂S | (n) = 0, dimana memenuhi persyaratan first order dapat disimpulkan ∂β β condition di persamaan [2.17]. Algoritma pada Newton-Rhapson akan menuntun pada arah yang benar (menuju ke titik minimum) dari posisi nilai permulaan parameter β n jika turunan kedua S (β n ) positif. Oleh karena S (β n ) akan selalu positif pada kondisi di sekitar titik minimum, maka algoritma akan menuju pada arah yang benar jika β n cukup dekat dengan nilai minimumnya. Namun ada kemungkinan akan berjalan melampaui titik minimumnya, sehingga untuk menghindari ini terlampau jauh, variabel panjang langkah tn digunakan ¡ ¢ dalam algoritma. Pada setiap proses iterasi tn akan diperoleh apabila S β n+1 < S (β n ) . Sesuai dengan hal ini, apabila kita melangkah dari titik β 1 yang dekat dengan suatu titik minimum dimana pn menjadi negatif, maka tanpa memasukkan variabel panjang langkah tn , akan mengarahkan pada arah yang salah, yaitu justru pada titik maksimum. Perhatikan pada persamaan [2.10] di Gauss Newton Iteration dan persamaan [2.18] di Newton-Raphson Iteration akan memperoleh penaksir β yang dapat dituliskan sebagai bentuk berikut: β (n+1) = β (n) − t.Pn γ n
(2.19)
dimana t adalah skalar, Pn adalah matriks simetris dan γ n adalah gradient dari fungsi objektif.Sehingga persamaan [2.10] dari Gauss Newton Iteration
BAB 2. TEORI PENDUKUNG
11
sebagai berikut: ∂S 1 β (n+1) = β (n) − [z(β (n) )0 z(β (n) )]−1 | (n) 2 ∂β β 1 tn = 2 Pn = [z(β (n) )0 z(β (n) )]−1 ∂S γn = | (n) ∂β β Sedangkan persamaan [2.18] dari Newton-Raphson Iteration dapat dituliskan sebagai bentuk ¶−1 µ berikut: ∂S ∂2S (n+1) (n) =β − β | (n) 0 |β (n) ∂β β ∂β∂β tn = 1µ ¶−1 ∂2S Pn = | (n) ∂β∂β 0 β ∂S | (n) γn = ∂β β
2.2.3
Iterasi Marquardt-Levenberg
Metode Marquardt-Levenberg mengaplikasikan metode iterasi seperti halnya Gauss-Newton Method, yaitu menggunakan FOC dari persamaan Sum of Least Square Error, bedanya dengan menambahkan perkalian skalar dan Identity Matrix,λIK , serta bebas dalam menentukan panjang langkahnya, tn . ¡ ¢−1 dS (β) |β n β n+1 = β n − tn z (β n )0 z (β n ) + λn IK dβ t = bebas ¢−1 ¡ Pn = z (β n )0 z (β n ) + λn IK ∂S γn = | (n) ∂β β
2.2.4
Metoda Quadratic-Hill Climbing
Metode ini sama seperti Newton-Rhapson Iteration, yaitu menggunakan SOC dari persamaan Sum of Least Square Error, perbedaannya terletak pada penambahan perkalian antara skalar dan Identity Matrix, serta panjang langkahnya bernilai sembarang.
BAB 2. TEORI PENDUKUNG µ
∂ 2 S (β) |β + λn IK β n+1 = β n − ∂β∂β 0 n t = bebas ¶−1 µ 2 ∂ S (β) |β + λn IK Pn = ∂β∂β 0 n ∂S γn = | (n) ∂β β
2.3
12 ¶−1
dS (β) |β n dβ
Non-Linear Maximum Likelihood
Model umum pada estimasi maximum likelihood adalah: y = f (X, β) + ε
(2.20)
di mana ε ∼ N (0, σ 2 I) . Fungsi likelihood dari model (2.20) dinyatakan sebagai berikut: ³ ´ ¡ ¢ 1 − 12 yt −fσ(xt ,β) 2 2 f y|xt , β, σ = e (2.21) 2πσ Persamaan (2.21) dapat dituliskan kembali menjadi persamaan berikut:
¡ ¢ ¡ ¢− 1 ¢ 1 ¡ l β, σ 2 = 2πσ 2 2 exp − 2 yt − f (xt − β)2 (2.22) 2σ Operasi matematika selanjutnya untuk menguraikan persamaan (2.21) dinyatakan sebagai berikut: R∞ f (yt |xt , β, σ 2 ) dyt = 1 −∞ R ∞ ∂ f (yt |xt , β, σ 2 ) dyt = 0 ∂β −∞ R∞ ∂ f (yt |xt , β, σ 2 ) = 0 −∞ ∂β ∂ R ∞ ∂β f (yt |xt ,β,σ 2 ) .f (yt |xt , β, σ 2 ) dyt = 0 −∞ f (yt |xt ,β,σ 2 ) R ∞ ∂ ln f (yt |xt ,β,σ2 ) .f (yt |xt , β, σ 2 ) dyt = 0 −∞ ∂β 2 Lt = ln Lt (β, σ 2 ) = ln f (yt |xt , β, ³ σ )´ R ∞ ∂Lt t .f (yt |xt , β, σ 2 ) dyt = E ∂L =0 ∂β −∞ ∂β hR i ∞ ∂Lt ∂ .f (yt |xt , β, σ 2 ) dyt = 0 ∂β 0 −∞ ∂β R ∞ ∂ 2 Lt R∞ t ∂Lt .f (yt |xt , β, σ 2 ) dyt + −∞ ∂L . f (yt |xt , β, σ 2 ) dyt = 0 ∂β ∂β 0 −∞ ∂β∂β 0
BAB 2. TEORI PENDUKUNG E
h
h
∂ 2 Lt ∂β∂β 0 ∂ 2 Lt
i i
+E
h
∂Lt ∂Lt . ∂β ∂β 0
h
i
13
=0 i
t ∂Lt E ∂β∂β 0 = −E ∂L . ∂β ∂β 0 Hasil operasi tersebut di atas akan digunakan untuk menjelaskan algoritma iterasi pada fungsi likelihood. Pada operasi dengan model berbentuk matriks, persamaan (2.21) dituliskan sebagai berikut:
) ( T X T ¢ ¡ ¢ ¡ 1 − 2 (2.23) (yt − x0t β) f y|β, σ 2 = 2πσ 2 2 exp − 2 2σ t=1 ½ ¾ ¡ ¢ T 1 0 2 −2 = 2πσ exp − 2 (yt − xt β) (yt − xt β) 2σ dan log-likelihoodnya adalah: L = log l (β, σ 2 |y, x) = − T2 log 2π− T2 log σ 2 − 2σ1 2 (y − xβ)0 (y − xβ) T P L = log l (β, σ 2 |y, x) = − T2 log 2π− T2 log σ 2 − 2σ1 2 (yt − x0t β)2 t=1
disederhanakan menjadi:
T X Lt L=
(2.24)
t=1
Untuk memenuhi kondisi optimum, maka fungsi log lokelihood diturunkan terhadap variansinya, sehingga diperoleh estimator varian sebagai berikut: T P ∂L T 1 1 1 = − + (yt − x0t β)2 = 0 2 2 4 ∂σ 2 σ 2σ t=1
σ b2 =
T P 1
T
t=1
(yt − x0t β)2 =
1 T
(yt − xt β)0 (yt − xt β)
Varian estimator disubstitusikan ke dalam persamaan (2.24), sehingga dinyatakan kembali: ∙ T ¸ T P P T T 1 T 0 (yt − xt β) − 12 P (yt − x0t β)2 L = − 2 log 2π − 2 log T T t=1
(yt −x0t β)2 t=1
t=1
dan diperoleh persamaan log likelihood yang akan digunakan untuk menaksir parameter
BAB 2. TEORI PENDUKUNG
L=−
T T T log 2π − log (y − xβ)0 (y − xβ) /T − 2 2 2
14
(2.25)
Terlihat pada persamaan (2.25) jika dikatakan bahwa S (β) = (y − xβ)0 (y − xβ), e yang memaksimumkan L∗ (β|y, X) ternyata maximum likelihood estimator β identik dengan estimator pada non-linear least square yang meminimumkan S (β) . Tetapi kesamaan ini bukan merupakan hasil umum yang berlaku untuk semua model non-linear. Kondisi ini hanya berlaku jika modelnya berbentuk (2.20). Tiga algoritma yang digunakan pada penaksiran model non-linear untuk memperoleh maximum likelihood, yaitu Newton Rhapson, Method of Scoring dan Berndt, Hall,Hall & Hausman (BHHH).
2.3.1
Irerasi Newton-Rhapson
Pada iterasi ini fungsi objektif L(β) diapproksimasi dengan second order Taylor series disekitar initial value (β (1) ). Secara umum metode ini melakukan aproksimasi dengan Taylor order kedua untuk likelihood di sekitar nilai parameter permulaan, yaitu: ³ ´ 1³ ´0 ∂ 2 L ³ ´ ∂L (1) (1) (1) β − β β − β + β − β | | (1) (1) 2 ∂β 0 β ∂β∂β 0 β (2.26) Untuk memperoleh kondisi optimum, fungsi tersebut diturunkan terhadap parameter β dengan operasi sebagai berikut: L (β) = L|β (1) +
¸0 ∙ ´ ³ ∂L ∂2L ∂L (1) = =0 | (1) + | (1) . β − β ∂β ∂β 0 β ∂β∂β 0 β
Dari [2.26] dan ¸[2.27] secara implisit maka dapat ditaksir β (2) ∙ 0 ´ ³ ∂L ∂L ∂2L (2) (1) =0 = | + | . β − β (1) (1) ∂β ∂β 0 β ∂β∂β 0 β ¶−1 ∙ ¸ µ 2 ∂L ∂ L (2) (1) | (1) | (1) β =β − ∂β β ∂β∂β 0 β Bentuk umumnya menjadi:
(2.27)
BAB 2. TEORI PENDUKUNG
β β
(n+1)
=β
(n)
(n+1)
∙
=β
∂2L − | (n) ∂β∂β 0 β
di mana, tn = 1∙ ¸−1 ∂2L pn = | (n) ∂β∂β 0 β ∂L γn = |β n . ∂β
(n)
¸−1
15 ∙
∂2L − | (n) ∂β∂β 0 β
¸−1
∂L | (n) ∂β β
(2.28)
∂L | (n) ∂β β
Bila iterasi sudah konvergen β (n+1) = β (n) , maka dipenuhilah first order condition.
2.3.2
Metoda Scoring
Dengan metode Newton-Rhapson, algoritma iterasi, pn dinyatakan den∂2L gan |β n dan panjang langkah tn = 1. Sementara pada metode scoring, ∂β∂β 0 algoritma iterasi digunakan nilai ekspektasi SOC dari fungsi likelihood yang diperoleh melalui operasi matematika sebelumnya, sehingga algoritmanya dinyatakan sebagai berikut: ¶¸−1 ∙ µ 2 ∂L ∂ Lt |β n =β +1 E β 0 |β n ∂β ∂β∂β ¶¸−1 ∙ µ 2 ∂L ∂ Lt n+1 n β =β +1 E |β n 0 |β n ∂β ∂β∂β di mana, tn = 1 ∙ ¸ ∂ 2 Lt |β pn = −E ∂β∂β 0 n ∂L |β n . γn = ∂β n+1
n
(2.29)
BAB 2. TEORI PENDUKUNG
2.3.3
16
Iterasi Berndt, Hall, Hall & Hausman (BHHH)
Metode ini mengeksploitasi algoritma iterasi dari method of scoring, namun dalam BHHH iteration ditambahkan dengan the law of large number dan information matrix equilibrium. Diketahu pn dari method of scoring adalah sebagai berikut:¸ ∙ −1 ∂ 2 Lt n |β pn = −E ∂β∂β 0 ⎛ T ⎡ ⎞⎤−1 P 2 ⎜ ∂ t=1Lt ⎟⎥ ⎢ ⎢ ⎟⎥ = ⎣−E ⎜ ⎝ ∂β∂β 0 |β n ⎠⎦ ¶¸−1 T ∂2L P t = −E 0 |β n t=1 ∂β∂β Selanjutnya, ¸−1 ∙ T P ∂ 2 Lt pn = − E 0 |β n t=1 ∂β∂β ´i−1 h ³ 2 ∂ Lt = −T.E ∂β∂β |β 0 n ¸−1 ∙ T P 1 ∂ 2 Lt = −T. T . ∂β∂β 0 |β n ∙
µ
t=1
Akhirnya diperoleh
#−1 T X ∂ 2 Lt = − 0 |β n ∂β∂β t=1 #−1 " T X ∂Lt ∂Lt = − |β ∂β ∂β 0 n t=1 "
pn
Bentuk umum dari BHHH method dinyatakan dengan menggunakan algoritma iterasi sebagai berikut::
β
n+1
"
T X ∂Lt ∂Lt = β + 1. − |β ∂β ∂β 0 n t=1 n
#−1
∂L |β n ∂β
BAB 2. TEORI PENDUKUNG
17
atau β n+1 = β n +
" T X ∂Lt ∂Lt t=1
∂β ∂β
0 |β n
#−1
∂L |β n ∂β
(2.30)
£ ¤−1 ∂L |β n = β n + z ∗ (β n )0 z ∗ (β n ) ∂β
Dengan menambahkan perkalian antara skalar dan matrik identitas pada algoritma iterasinya, akan diperoleh metode yang sama dengan QuadraticHill Climbing pada penaksiran non-linear least square. β n+1 = β n +
" T X ∂Lt ∂Lt t=1
∂β ∂β
0 |β n
+ λIK
#−1
∂L |β n ∂β
(2.31)
Bab 3 Prosedur Eksperimen Prosedure eksperimen yang dilakukan adalah sebagai berikut: 1. Pembahasan identifikasi non-linearity pada model dan pendekatan optimasi untuk menentukan kondisi optimum. Dari hasil pembahasan ini kemudian dikembangkan ke dalam metode-metode yang digunakan dalam penaksiran estimator pada model non-linear. Hal ini perlu untuk mengetahui perbedaan dari metode yang digunakan dan konsekuensi yang akan dihasilkan dari metode-metode yang berbeda. 2. Memasukkan data berupa matriks 30x3 untuk masing-masing variabel pada kedua model produksi dalam bentuk umum matriks, y = output; L = input tenaga kerja dan K = input kapital. 3. Membangun matriks parameter berdimensi 3x1 untuk CD dan 4x1 untuk CES, serta menentukan nilai permulaan dari parameter tersebut untuk proses iterasi. 4. Membentuk model Least Square Error dan Maximum Likelihood sebagai fungsi obyektif dengan menggunakan matriks variabel dan matriks parameter. Dari sini akan diperoleh persamaan, S (β) yang akan ditentukan kondisi optimal dengan first order condition. 5. Membangun operasi optimasi FOC (Gauss-Newton) dengan menggunakan metode Least Square Error dan Maximum Likelihood (Berndt, 18
BAB 3. PROSEDUR EKSPERIMEN
19
Hall, Hall, dan Hausman) pada model CD dan CES. 6. Membangun persamaan yang menentukan nilai parameter berikutnya, yaitu: β n+1 = β n − tn .pn .γ n Apabila iterasi menunjukkan kondisi konvergen, maka nilai parameter berikutnya akan sama dengan nilai parameter sebelumnya, sehingga dianggap sebagai kondisi optimum. 7. Menjalankan proses iterasi dengan memasukkan nilai permulaan parameter pada persamaan 6, sehingga akan diperoleh nilai parameter berikutnya. Mengulang-ulang proses ini hingga diperoleh nilai parameter dari proses iterasi yang sudah konvergen. 8. Mengubah nilai permulaan β n dari parameter dan panjang langkah tn untuk melihat apakah kondisi optimum akan berubah. 9. Memasukkan pendekatan Marquardt-Levenberg pada metode Least Square Error dan pendekatan Quadratic Hill Climbing pada metode Maximum Likelihood sebagai variasi. Hasil dari penggunaan kedua pendekatan tersebut dibandingkan dengan pendekatan Gauss-Newton pada Least Squares dan pendekatan BHHH pada Maximum Likelihood. 10. Membangun persamaan Akaike Information Criteria (AIC) dan Schwart Criteria (SC) untuk menentukan model yang paling sesuai atau efisien untuk masing-masing pendekatan. Perhitungan AIC dan SC akan menggunakan rumus berikut ini:
AIC = −2 log(max imum likelihood) + 2(#parameters) SC = −2 log(max imum likelihood) + (log(T ))(#parameters)
Bab 4 Hasil dan Analisis 4.1
Input Data
Berdasarkan panduan tugas yang telah diberikan dikelas, eksperimen ini akan menggunakan data produksi suatu komoditi (y) dengan input yang digunakan adalah kapital (K) dan tenaga kerja (L). Sesuai dengan teori pendukung yang telah dijabarkan dalam Bab 2, model statistik non-linier berbentuk: y = f (x, β) + e. Data matriks di atas akan diuji dalam fungsi produksi Cobb Douglas (CD) dan Constant Elasticity of Substitution (CES). Baik untuk fungsi Cobb-Dauglas maupun CES, dimana e ∼ N(0, σ 2 IT ). Fungsi produksi CD adalah sebagai berikut: y = β 1 Lβ 2 K β 3 sedangkan untuk fungsi CES dalam bentuk berikut:
y = β 1 [β 2 Lβ 3 + (1 − β 2 )K β 3 ]β 4 /β 3
Data masing-masing variabel L, K dan y diberikan dalam bentuk matriks yang berukuran 30x3, sebagai berikut:
20
BAB 4. HASIL DAN ANALISIS ⎛ 5.4293 ⎜ ⎜5.5530 ⎜ ⎜6.7105 ⎜ ⎜ ⎜6.6425 ⎜ ⎜6.2046 ⎜ ⎜ ⎜6.1883 ⎜ ⎜6.5191 ⎜ ⎜ ⎜6.6174 ⎜ ⎜6.5889 ⎜ ⎜ ⎜6.5439 ⎜ ⎜6.1269 ⎜ ⎜ ⎜6.8886 ⎜ ⎜6.6931 ⎜ ⎜ ⎜6.0615 ⎜ ⎜5.4424 ⎜ LKy = ⎜ ⎜6.4983 ⎜ ⎜6.4473 ⎜ ⎜ ⎜4.0775 ⎜ ⎜6.6983 ⎜ ⎜ ⎜6.6307 ⎜ ⎜3.9120 ⎜ ⎜ ⎜6.7130 ⎜ ⎜6.1800 ⎜ ⎜ ⎜6.5250 ⎜ ⎜4.7536 ⎜ ⎜ ⎜6.0868 ⎜ ⎜6.1225 ⎜ ⎜ ⎜5.8348 ⎜ ⎜5.8805 ⎝ 5.0876 L = LKy (:, 1); K = LKy (:, 2);
6.6871 5.5175 6.6477 6.2364 6.6307 6.0521 6.1137 6.7056 6.7393 6.8648 4.4308 3.0445 5.6870 5.6240 6.3026 4.8598 2.8332 6.8090 5.4072 4.9767 5.0814 1.7918 6.7286 6.2558 6.8352 6.2046 5.2204 4.5218 6.1841 6.8395
⎞ 8.1879 ⎟ 7.4104⎟ ⎟ 8.9496⎟ ⎟ ⎟ 8.3695⎟ ⎟ 8.5519⎟ ⎟ ⎟ 8.3299⎟ ⎟ 8.4877⎟ ⎟ ⎟ 9.1260⎟ ⎟ 8.7961⎟ ⎟ ⎟ 8.7941⎟ ⎟ 6.8657⎟ ⎟ ⎟ ⎟ 5.7132⎟ 8.1641⎟ ⎟ ⎟ 7.9482⎟ ⎟ 8.1264⎟ ⎟ ⎟ 7.2432⎟ ⎟ 5.2521⎟ ⎟ ⎟ 7.7220⎟ ⎟ 8.0002⎟ ⎟ ⎟ 7.3157⎟ ⎟ 5.9833⎟ ⎟ ⎟ 4.4132⎟ ⎟ 8.7229⎟ ⎟ ⎟ 8.6233⎟ ⎟ 7.8589⎟ ⎟ ⎟ 8.0981⎟ ⎟ 7.5533⎟ ⎟ ⎟ 6.8249⎟ ⎟ 8.2967⎟ ⎠ 8.1922
21
BAB 4. HASIL DAN ANALISIS
22
y = LKy (:, 3); x = LKy (:, 1 : 2); Data tersebut dengan replikasinya dimasukan kedalam masing-masing fungsi produksi untuk mengestimasi β dengan menggunakan iterasi algoritma. Untuk mengestimasi parameter dengan Nonlinier Least Square, replikasi kedua fungsi produksi CD dan CES digunakan melalui dua metoda, Gause-Newton dan Marquardt- Levenberg. Dalam suatu proses iterasi akan dibuat simulasi dengan perubahan nilai awal parameter serta perubahan panjang langkah. Demikian pula, untuk mengestimasi parameter dengan maximum likelihood dilakukan dengan proses iterasi yang sama yaitu metoda BHHH dan Quadratic-Hill Climbing. Selanjutnya, akan ditentukan fungsi produksi mana yang paling cocok dalam merepresentasikan data dengan menghitung dan membandingkan Akaike Criteria Information dan Schwart Criteria dari masing-masing fungsi produksi tersebut.
4.2 4.2.1
Hasil dan Analisis Fungsi Produksi Cobb-Douglas
Non-Linear Least Square Untuk melakukan estimasi parameter β dengan mengunakan non-linear least square, akan digunakan proses optimisasi dengan fungsi objektifnya adalah meminimumkan sum of square error (least square error). Untuk itu, digunakan iterasi Gauss Newton dan Iterasi Marquandt-Levenberg, sebagai pembanding untuk menaksir parameter yang memenuhi fungsi objektifnya. Hasil eksperimen-eksperimen disajikan dalam tabel-tabel berikut ini:
Tabel 1. Hasil Iterasi Gauss Newton untuk Fungsi Produksi Cobb-Douglas
BAB 4. HASIL DAN ANALISIS
23
Initial Value
tn
Optimal Value
β1
1
1
1.4781
β2
1
1
0.3741
β3
1
1
0.5725
S (β)
0.5443
Jumlah Iterasi
9
AIC
33.8285
SC
38.0321
Tabel 1 di atas, dengan menggunakan Iterasi Gauss Newton diperoleh nilai optimum pada iterasi ke 9. Adapun nilai awal parameter yang diberikan adalah β 1 = 1, β 2 = 1, β 3 = 1. Sedangkan panjang langkah tidak berubah atau sama dengan 1, karena konstanta pengali dari Gauss Newton adalah 1/2. Selanjutnya akan ditunjukkan juga jika nilai awal parameter yang diubah-ubah, yang akan disajikan pada Tabel 2.
Tabel 2. Hasil Iterasi Gauss Newton dengan Fungsi Produksi Cobb-Douglas (perubahan initial value) Initial Value tn Optimal Value S (β) Jumlah AIC SC b1 b2 b3 β1 β2 β3 Iterasi β β β 0.5
0.5
0.5
1
1.4781
0.3741
0.5725
0.5443
8
33.8285
38.0321
0.3
0.3
0.3
1
1.4781
0.3741
0.5725
0.5443
13
33.8285
38.0321
0.7
0.7
0.7
1
1.4781
0.3741
0.5725
0.5443
7
33.8285
38.0321
0.2
0.2
0.2
1
0
-0.0148
-0.0004
1.8301
132
41.9488
46.1524
Jika kita melakukan perubahan nilai awal parameter maka jumlah iterasi juga akan berubah (lihat Tabel 2). Nilai awal parameter yang semula diberikan pada Tabel 1 diubah menjadi (0.5, 0.3, 0.7). Berdasarkan hasil ekperimen terlihat juga bahwa ⎛ nilai⎞optimum yang dihasilkan tetap sama 1.4781 ⎜ ⎟ seperti pada Tabel 1, yaitu ⎝0.3741⎠.Khusus untuk nilai awal sebesar (0.2) 0.5725
BAB 4. HASIL DAN ANALISIS
24
atau sebenarnya adalah (0.262) diperoleh nilai yang berbeda. Oleh karena itu, tidak ada jaminan akan mencapai nilai optimum tersebut adalah global minimum. ⎛ ⎞Namun demikian, jelas kita tidak menghendaki set parameter 0 ⎜ ⎟ ⎝−0.0148⎠ ,karena β1 adalah nol sehingga menyebabkan total output nol. −0.0004 Dengan demikian, model CD yang dianggap optimum menurut iterasi Gauss Newton adalah sebagai berikut: y = 1.4781L0.3741 K 0.5725 Selanjutnya bila digunakan jenis iterasi lain, yaitu iterasi MarquandtLevenberg. Hasil estimasi dari Marquandt-Levenberg akan ditunjukkan di bawah ini: Tabel 3. Hasil iterasi Marquandt-Levenberg dengan Fungsi Produksi Cobb-Douglas Initial Value tn Optimal Value S(β) Jumlah AIC SC b1 b2 b3 β1 β2 β3 Iterasi β β β
1.0
1.0
1.0
1
1.4781
0.3741
0.5725
0.5443
86
33.8285
38.0321
0.5
0.5
0.5
1
1.4781
0.3741
0.5725
0.5443
85
33.8285
38.0321
0.3
0.3
0.3
1
1.4781
0.3741
0.5725
0.5443
88
33.8285
38.0321
0.2
0.2
0.2
1
1.4781
0.3741
0.5725
0.5443
89
33.8285
38.0321
0.5
0.5
0.5
3
1.4781
0.3741
0.5725
0.5443
31
33.8285
38.0321
0.3
0.3
0.3
3
1.4781
0.3741
0.5725
0.5443
31
33.8285
38.0321
0.2
0.2
0.2
3
1.4781
0.3741
0.5725
0.5443
34
33.8285
38.0321
0.5
0.5
0.5
6
1.4781
0.3741
0.5725
0.5443
32
33.8285
38.0321
0.3
0.3
0.3
6
1.4781
0.3741
0.5725
0.5443
29
33.8285
38.0321
0.2
0.2
0.2
6
1.4781
0.3741
0.5725
0.5443
30
33.8285
38.0321
Dengan melakukan iterasi Marquandt-Levenberg memungkinkan untuk mengubah panjang langkah (tn ). Dengan perkataan lain, selain mengubah nilai awal parameter, panjang langkah juga dapat diubah. Panjang langkah dan nilai awal parameter ditentukan secara bebas. Berdasarkan Tabel 3, dapat disimpulkan beberapa hal:
BAB 4. HASIL DAN ANALISIS
25
• Jika nilai awal parameter diubah, namun panjang step yang diberikan tetap, tidak akan banyak memberikan perubahan yang signifikan dalam hal jumlah iterasi. • Jika nilai awal parameter tetap, namun panjang step yang diberikan berubah, maka memberikan perubahan yang signifikan dalam julah iterasi, yaitu ada kecenderungan semakin besar tn (panjang langkah) maka makin kecil iterasinya. • Metoda iterasi Marquandt-Levenberg lebih baik iterasi Gauss Newton contohnya untuk mengestimasi nilai awal parameter masing -masing (0.262). Dengan cara iterasi Gauss Newton diperoleh set parame⎛ ⎞ 0 ⎜ ⎟ ter ⎝−0.0148⎠ ,namun dengan iterasiMarquandt-Levenberg diperoleh −0.0004
⎛ ⎞ 1.4781 ⎜ ⎟ angka yang lebih baik yaitu ⎝0.3741⎠ yang merupakan nilai kovergen 0.5725 pada umumnya.
Nilai optimum yang dihasilkan oleh Marquandt-Levenberg bernilai sama dengan nilai optimum yang dihasilkan oleh Iterasi Gauss Newton, sehingga model yang dibentuk juga sama yaitu; y = 1.4781L0.3741 K 0.5725 Non-Linear Maximum Likelihood
Selanjutnya, akan digunakan proses optimisasi dengan fungsi objektif yaitu memaksimumkan likelihood.Tidak berbeda dengan non-linier least square, maximum likelihood juga menentukan parameter-parameter, β 0 s , tetapi yang dapat memaksimumkan likelihood. Pada penaksiran maximum likelihood akan digunakan iterasi Berndt, Hall,Hall dan Hausman (BHHH) dan metode Hill Climbing sebagai pembanding untuk menaksir parameter
BAB 4. HASIL DAN ANALISIS
26
yang memenuhi fungsi objektif. Hasil iterasi BHHH dengan fungsi produksi Cobb-Dauglas adalah: Tabel 4. Hasil Iterasi BHHH dengan Fungsi Produksi Cobb-Douglas Initial Value tn Optimal Value S (β) Jumlah AIC b1 b2 b3 β1 β2 β3 Iterasi β β β
1.0
1.0
1.0
1
1.4781
0.3741
0.5725
0.0181
-13.9143
968
33.8285
Pada awalnya, panjang langkah belum diperhitungkan, yaitu hanya memberikan nilai sebesar 1 sebagai konstanta pengali dari persamaan algoritma iterasinya. Dari Tabel 4, dapat disimpulkan bahwa nilai optimum yang dihasilkan dengan menggunakan penaksiran dengan fungsi objektif yang meminimumkan sum of square error (least square error) dan penaksiran dengan fungsi objektif yang memaksimumkan maximum likelihood akan menghasilkan nilai yang sama. Selanjutnya, nilai awal parameter dirubah-ubah sesuai dengan sewaktu digunakan metoda Marquandt-Levenberg sehingga dapat dibandingan antar metoda. Selain nilai awal parameter yang diubah, panjang langkah juga akan mengalami perubahan. Adapun hasil perhitungan akan disajikan dalam Tabel 5.
SC 38.0321
BAB 4. HASIL DAN ANALISIS
27
Tabel 5. Hasil Iterasi Hill Climbing dengan Fungsi Produksi Cobb-Douglas Initial Value tn Optimal Value S (β) Jumlah AIC b1 b2 b3 β β β β1 β2 β3 Iterasi
SC
1.0
1.0
1.0
1
1.4781
0.3741
0.5725
0.0181
-13.9143
1096
33.8285
38.0321
0.5
0.5
0.5
1
1.4781
0.3741
0.5725
0.0181
-13.9143
1069
33.8285
38.0321
0.3
0.3
0.3
1
1.4781
0.3741
0.5725
0.0181
-13.9143
1083
33.8285
38.0321
0.2
0.2
0.2
1
1.4781
0.3741
0.5725
0.0181
-13.9143
1085
33.8285
38.0321
0.5
0.5
0.5
3
1.4781
0.3741
0.5725
0.0181
-13.9143
375
33.8285
38.0321
0.3
0.3
0.3
3
1.4781
0.3741
0.5725
0.0181
-13.9143
380
33.8285
38.0321
0.2
0.2
0.2
3
1.4781
0.3741
0.5725
0.0181
-13.9143
381
33.8285
38.0321
0.5
0.5
0.5
6
1.4781
0.3741
0.5725
0.0181
-13.9143
190
33.8285
38.0321
0.3
0.3
0.3
6
1.4781
0.3741
0.5725
0.0181
-13.9143
193
33.8285
38.0321
0.2
0.2
0.2
6
1.4781
0.3741
0.5725
0.0181
-13.9143
193
33.8285
38.0321
Berdasarkan Tabel 5, dapat disimpulkan bahwa nilai optimal adalah sebagai berikut; (a). jika nilai awal parameter diubah, namun panjang step yang diberikan tetap, tidak akan banyak memberikan perubahan yang signifikan dalam hal jumlah iterasi; (b). jika nilai awal parameter tetap, namun panjang step yang diberikan berubah, maka memberikan perubahan yang signifikan dalam julah iterasi, yaitu ada kecenderungan semakin besar tn (panjang langkah) maka makin kecil iterasinya; dan (c). Bila dibandingkan, metoda iterasi Hill Climbing (maxsimum likelohood) memberikan iterasi yang lebih panjang dari pada metoda iterasi Marquandt-Levenberg (least Square). Nilai optimum yang dihasilkan oleh iterasi Berndt, Hall,Hall dan Hausman (BHHH) dan metode Hill Climbing Hill bernilai sama dengan nilai optimum yang dihasilkan oleh Iterasi nonlinier least square, sehingga model yang dibentuk juga sama yaitu; y = 1.4781L0.3741 K 0.5725
BAB 4. HASIL DAN ANALISIS
4.2.2
28
Fungsi Produksi CES
Non-Linear Least Square Untuk melakukan estimasi parameter fungsi produksi CES dilakukan prosedur yang sama. Dengan mengunakan metoda Gause Newton diperoleh taksiran parameter sebagai berikut:
Tabel 6. Hasil Iterasi Gauss Newton dengan Fungsi Produksi CES In itia l Va lu e tn O p tim a l Va lu e S (β) J u m la h A IC b b b b β1 β2 β3 β4 β1 β2 β3 β4 Ite ra si
SC
0 .9
0 .9
0.9
0.9
1
1 .3 7 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .5 0 7 3
13
3 5 .7 5 8 0
4 1 .3 6 2 8
0 .7 5
0 .7 5
0 .7 5
0 .7 5
1
1 .3 7 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .5 0 7 3
14
3 5 .7 5 8 0
4 1 .3 6 2 8
1 .0
0 .5
0.8
0.8
1
1 .3 7 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .5 0 7 3
10
3 5 .7 5 8 0
4 1 .3 6 2 8
1 .0
0 .5
0.6
0.6
1
2000
tid a k
ko g e rg en
Seperti telah diketahui bahwa parameter pada fungsi produksi CES memiliki parameter yang lebih banyak dari fungsi produksi CD. Dengan menggunakan panjang langkah yang tetap yaitu bernilai 1 dan nilai awal parameter yang diubah-ubah, dan dicoba juga nilai parameter yang menghasilkan tidak konvergen sampai dengan iterasi ke 2000 untuk dapat membandingkan dengan ⎛ metoda ⎞ lain. Namun secara umum, diperoleh nilai optimal sebe1.3724 ⎜ ⎟ ⎜0.3894⎟ ⎟ sar ⎜ ⎜0.3100⎟ . Sehingga model yang dibentuk dari hasil penaksiran dengan ⎝ ⎠ 0.9869 fungsi CES melalui metode Iterasi Gauss Newton dapat dituliskan sebagai berikut : y = 1.3724(0.3894L0.3100 (1 − 0.3894)K 0.3100 )0.9869/0.3100
BAB 4. HASIL DAN ANALISIS
29
Selanjutnya, akan digunakan juga Iterasi Marquandt-Levenberg, yang akan disajikan pada Tabel 7
Tabel 7. Hasil Estimasi Marquandt-Levenberg dengan Fungsi Produksi CES In itia l Va lu e tn O p tim a l Va lu e S (β) J u m la h A IC SC b1 b2 b3 b4 β1 β2 β3 β4 Itera si β β β β 0 .9
0 .9
0.9
0.9
1
1.37 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .5 0 7 3
452
3 5 .7 5 8 0
4 1 .3 6 2 8
0 .7 5
0 .7 5
0 .7 5
0 .7 5
1
1.37 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .5 0 7 3
446
3 5 .7 5 8 0
4 1 .3 6 2 8
1 .0
0 .5
0.8
0.8
1
1.37 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .5 0 7 3
448
3 5 .7 5 8 0
4 1 .3 6 2 8
1 .0
0 .5
0.6
0.6
1
1.37 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .5 0 7 3
440
3 5 .7 5 8 0
4 1 .3 6 2 8
0 .9
0 .9
0.9
0.9
3
1.37 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .5 0 7 3
55
3 5 .7 5 8 0
4 1 .3 6 2 8
0 .7 5
0 .7 5
0 .7 5
0 .7 5
3
1.37 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .5 0 7 3
51
3 5 .7 5 8 0
4 1 .3 6 2 8
1 .0
0 .5
0.8
0.8
3
1.37 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .5 0 7 3
55
3 5 .7 5 8 0
4 1 .3 6 2 8
1 .0
0 .5
0.6
0.6
3
1.37 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .5 0 7 3
41
3 5 .7 5 8 0
4 1 .3 6 2 8
0 .9
0 .9
0.9
0.9
6
1.37 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .5 0 7 3
57
3 5 .7 5 8 0
4 1 .3 6 2 8
0 .7 5
0 .7 5
0 .7 5
0 .7 5
6
1.37 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .5 0 7 3
61
3 5 .7 5 8 0
4 1 .3 6 2 8
1 .0
0 .5
0.8
0.8
6
1.37 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .5 0 7 3
60
3 5 .7 5 8 0
4 1 .3 6 2 8
1 .0
0 .5
0.6
0.6
6
1.37 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .5 0 7 3
59
3 5 .7 5 8 0
4 1 .3 6 2 8
Berdasarkan Tabel 7 diatas, dengan merubah-ubah nilai awal parameter dan panjang langkah yang ditentukan secara bebas maka dapat disimpulkan bahwa; (a). perubahan nilai awal parameter dan panjang langkah tetap, maka tidak berpengaruh yang significant terhadap jumalh iterasi; (b). bila nilai awal tetap dan jika nilai panjang langkah makin besar, maka makin kecil jumlah iterasinya, namun mencapai titik terrendah pada saat panjang langkah 3 (bila diubah lebih besar maka ada kecenderungan jumlah iterasi cenderung meningkat); (c) Metoda Marquant-Levenberg dapat menghasilkan nilai yang konvergen yang mana dengan metoda Gause Newton tidak dapat konvergen pada nilai parameter [1.0 0.5 0.6 0.6] (lihat tabel 6 dan tabel 7). Non-Linear Maximum Likelihood
BAB 4. HASIL DAN ANALISIS
30
Selanjutnya prosedur yang sama dilakukan untuk estimasi fungsi produksi CES, yang akan disajikan pada Tabel 8.
β1 0 .9
Tabel 8. Hasil Iterasi BHHH dengan Fungsi Produksi CES In itia l Va lu e tn O p tim a l Va lu e S (β) J u m la h b1 b2 b3 b4 β2 β3 β4 Ite ra si β β β β 0 .9
0.9
0 .9
1
1 .3 7 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .0 1 6 9
-1 3 .8 7 9 0
686
A IC
SC
3 5 .7 5 8 0
4 1 .3 6 2 8
Dari Tabel 8, dapat disimpulkan bahwa nilai optimum yang dihasilkan pada fungsi produksi CES dengan menggunakan penaksiran dengan fungsi objektif yang meminimumkan sum of square error (least square error) dan penaksiran dengan fungsi objektif yang memaksimumkan maximum likelihood akan menghasilkan nilai yang sama. Tabel 8 dilakukan tanpa memasukkan panjang langkah sebagai konstanta pengali dari persamaan iterasi. Selanjutnya, akan dilakukan iterasi Hill Climbing dengan fungsi produksi CES yang mengubah-ubah nilai awal parameter dan panjang langkah. Hasilnya akan disajikan pada tabel di bawah ini: Tabel 9. Hasil Estimasi Iterasi Hill Climbing dengan Fungsi Produksi CES In itia l Va lu e tn O p tim a l Va lu e S (β) J u m la h A IC b1 b2 b3 b4 β β β β β1 β2 β3 β4 Itera si
SC
0 .9
0 .9
0.9
0.9
1
1.37 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .0 1 6 9
-1 3 .8 7 9 0
929
3 5 .7 5 8 0
4 1 .3 6 2 8
0 .7 5
0 .7 5
0 .7 5
0 .7 5
1
1.37 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .0 1 6 9
-1 3 .8 7 9 0
931
3 5 .7 5 8 0
4 1 .3 6 2 8
1 .0
0 .5
0.8
0.8
1
1.37 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .0 1 6 9
-1 3 .8 7 9 0
912
3 5 .7 5 8 0
4 1 .3 6 2 8
1 .0
0 .5
0.6
0.6
1
1.37 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .0 1 6 9
-1 3 .8 7 9 0
899
3 5 .7 5 8 0
4 1 .3 6 2 8
0 .9
0 .9
0.9
0.9
3
1.37 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .0 1 6 9
-1 3 .8 7 9 0
324
3 5 .7 5 8 0
4 1 .3 6 2 8
0 .7 5
0 .7 5
0 .7 5
0 .7 5
3
1.37 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .0 1 6 9
-1 3 .8 7 9 0
325
3 5 .7 5 8 0
4 1 .3 6 2 8
1 .0
0 .5
0.8
0.8
3
1.37 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .0 1 6 9
-1 3 .8 7 9 0
317
3 5 .7 5 8 0
4 1 .3 6 2 8
1 .0
0 .5
0.6
0.6
3
1.37 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .0 1 6 9
-1 3 .8 7 9 0
312
3 5 .7 5 8 0
4 1 .3 6 2 8
0 .9
0 .9
0.9
0.9
6
1.37 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .0 1 6 9
-1 3 .8 7 9 0
161
3 5 .7 5 8 0
4 1 .3 6 2 8
0 .7 5
0 .7 5
0 .7 5
0 .7 5
6
1.37 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .0 1 6 9
-1 3 .8 7 9 0
167
3 5 .7 5 8 0
4 1 .3 6 2 8
1 .0
0 .5
0.8
0.8
6
1.37 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .0 1 6 9
-1 3 .8 7 9 0
159
3 5 .7 5 8 0
4 1 .3 6 2 8
1 .0
0 .5
0.6
0.6
6
1.37 2 4
0 .3 8 9 4
0 .3 1 0 0
0 .9 8 6 9
0 .0 1 6 9
-1 3 .8 7 9 0
163
3 5 .7 5 8 0
4 1 .3 6 2 8
BAB 4. HASIL DAN ANALISIS
31
Berdasarkan Tabel 9, ditunjukkan bahwa perubahan nilai awal parameter tidak mempengaruhi perubahan pada nilai optimal, sedangkan perubahan panjang langkah mempengaruhi perubahan jumlah iterasi tercapainya kondisi konvergen. Dapat juga disimpulkan bahwa semakin besar panjang langkah akan menghasilkan jumlah iterasi yang semakin mengecil untuk mencapai kondisi konvergen.
4.2.3
Model Terbaik
Selanjutnya,untuk mengetahui fungsi produksi mana yang sesuai dengan data yang diberikan, apakah fungsi produksi CES atau fungsi produksi CD, maka akan dibandingkan nilai AIC dan SC yang dihasilkan oleh fungsi produksi CD dan CES. Berdasarkan eksperimen-eksperimen di atas ditunjukkan bahwa dalam fungsi CD menghasilkan nilai AIC sebesar 33.8285 dan SC sebesar 38.0321. Sedangkan dalam fungsi CES menghasilkan nilai AIC sebesar 35.7580 dan SC sebesar 41.3628. Berdasarkan nilai-nilai tersebut, terlihat bahwa fungsi CD memiliki nilai AIC dan SC yang lebih kecil, sehingga dapat disimpulkan bahwa, input data yang telah diberikan lebih sesuai dengan fungsi CD. Atau dengan perkataan lain, berdasarkan data yang ada, fungsi CD lebih efisien dengan data yang diberikan dibandingkan dengan fungsi CES. Jika dibandingkan dengan model Cobb-Douglass, dapat disimpulkan bahwa fungsi produksi CES memberikan nilai optimal yang lebih kecil, namun memberikan nilai AIC dan SC yang lebih besar. Dengan perkataan lain, dengan metode non linier maximum likelihood, input data yang digunakan dalam eksperimen ini lebih efisien untuk fungsi produksi Cobb-Douglass dibandingkan dengan fungsi produksi CES karena nilai AIC dan SC dengan fungsi produksi CD lebih kecil. Hasil melalui penaksiran maximum likelihood ini sama dengan hasil melalui penaksiran least square.
Bab 5 Kesimpulan Beberapa kesimpulan dapat diperoleh berdasarkan hasil perhitungan dan analisa untuk dua fungsi produksi sebagai berikut; 1. Dengan mengubah nilai awal parameter maupun panjang langkah, ditunjukkan bahwa perubahan nilai awal parameter tidak terlalu berpengaruh pada jumlah iterasi. Sedangkan panjang langkah sangat berpengaruh pada jumlah iterasi pada kondisi konvergen. 2. Bila dibandingkan dari keempat metoda iterasi, Metoda Gause-Newton mempunyai kelemahan dalam melakukan iterasi nilai parameter yang kadang kala tidak mencapai konvergensi, namun bila digunakan metoda lain (misalnya Marquardt-Levenberg atau Hill Climbing) dapat diperoleh nilai konvergensi. 3. Nilai optimum yang diperoleh oleh fungsi CD baik yang dilakukan melalui penaksiran least square dan maximum likelihood menghasilkan nilai yang sama, dimana nilai optimal tersebut lebih besar dari nilai optimal yang dihasilkan oleh fungsi produksi CES. Tidak berbeda dengan fungsi CD, dengan fungsi produksi CES juga menghasilkan nilai optimal yang sama jika dilakukan dengan penaksiran least square dan penaksiran maximum likelihood. Bentuk dari fungsi produksi CD yang dihasilkan dalam eksperimen ini adalah sebagai berikut: y = 1.4781L0.3741 K 0.5725 . Sementara itu, bentuk dari fungsi produksi CES 32
BAB 5. KESIMPULAN
33
yang dihasilkan dalam ekperimen ini adalah sebagai berikut: y = 1.3724(0.3894L0.3100 (1 − 0.3894)K 0.3100 )0.9869/0.3100 . 4. Berdasarkan input data yang telah ditentukan dalam eksperimen ini, maka fungsi produksi CD lebih sesuai atau efisien dengan data tersebut dibandingkan dengan fungsi produksi CES. Hal ini disebabkan nilai AIC dan SC yang dihasilkan dengan fungsi produksi CD lebih kecil dengan nilai AIC dan SC yang dihasilkan dengan fungsi produksi CES. Kesimpulan ini atau hasil ini sama jika dilakukan dengan penaksiran least square maupun dengan penaksiran maximum likelihood.
Lampiran Daftar Lampiran 1. Program dan Output MATLAB untuk Non-Linear Least Square fungsi produksi Cobb-Douglas dengan Iterasi Gauss-Newton. 2. Program dan Output MATLAB untuk Non-Linear Least Square fungsi produksi Cobb-Douglas dengan Iterasi Marquandt-Levenberg. 3. Program dan Output MATLAB untuk Maximum Likelihood fungsi produksi Cobb-Douglas dengan Iterasi Berndt, Hall, Hall & Haussman. 4. Program dan Output MATLAB untuk Maximum Likelihood fungsi produksi Cobb-Douglas dengan Hill Climbing. 5. Program dan Output MATLAB untuk Non-Linear Least Square fungsi produksi CES dengan Iterasi Gauss-Newton. 6. Program dan Output MATLAB untuk Non-Linear Least Square fungsi produksi CES dengan Iterasi Marquandt-Levenberg. 7. Program dan Output MATLAB untuk Maximum Likelihood fungsi produksi CES dengan Iterasi Berndt, Hall, Hall & Haussman. 8. Program dan Output MATLAB untuk Maximum Likelihood fungsi produksi CES dengan Iterasi Hill Climbing.
34
Daftar Pustaka [1] Judge, George G., W.E. Griffiths, R.C. Hill, H. Lütkepohl, and T.C. Lee (1988), "Introduction to The Theory and Practice of Econometrics", 2nd Ed. New York, Wiley [2] Judge, George G., W.E. Griffiths, R.C. Hill, H. Lütkepohl, and T.C. Lee (1980), "The Theory and Practice of Econometrics", New York, Wiley [3] Griffith, WE.,R.C. Hill., GG Judge (1993), "Learning and Practising Econometrics", New York, Wiley. [4] Greene, William H., (2003), Econometric Analysis", 5th Ed., New Jersey, Prentice Hall. [5] Syamsuddin, M., (2006), Catatan Kuliah Ekonometrika 3, Pascasarjana, Fakultas Ekonomi, Universitas Indonesia, Depok.
35