Konsistensi dan Asimtotik Normalitas Model Multivariate Adaptive Regression Spline (Mars) Respon Biner

Jurnal ILMU DASAR, Vol. 10 No. 2, Juli 2009 : 133-140

133

Konsistensi dan Asimtotik Normalitas Model Multivariate Adaptive Regression Spline (Mars) Respon Biner Consistency and Asymptotic Normality of Maximum Likelihood Estimator in MARS Binary Response Model Bambang Widjanarko Otok Jurusan Statistika FMIPA Institut Teknologi Sepuluh Nopember

ABSTRACT A good estimator has to fulfill some propertries such as unbiased, efficient and consistent. This research aims to study consistency and asymptotic normality of maximum likelihood estimator in MARS binary response model of Friedman, for predicting the continue response variable, y , at p predictor variables, x  ( x1i , , x pi ) with linear combination of spline truncated. Let response variable, y  (0,1) , be MARS binary response. Using penalized log-likelihood method to look for MARS binary response estimator, obtained the following result K ˆ ( L)(ˆ )  BT [y  L (Bˆ )] with B  [1, {( xv ,( k , m)  tkm )}1 ] . Asymptotic properties for consistency is absolute minimum ˆ from probability to

 y , L

(from ln L absolute maximum), this is not only unique but also convergence in

ˆ , n   , while asymptotic normality is ˆ    O( p n )(1/( apn (B, ˆ ))2 )

and si2  'L ( BiT ˆ )  14 .

Keywords : Asymptotic normality, maximum likelihood estimator, MARS binary response PENDAHULUAN Analisis regresi memperlihatkan hubungan dan pengaruh variabel prediktor terhadap variabel respon. Misalnya y adalah variabel respon dan xi   x 1i , , x pi  adalah variabel prediktor, untuk n buah pengamatan, secara umum hubungan antara y dan xi   x 1i , , x pi  dapat ditulis sebagai berikut : yi  f (xi )  i , i  1,..., n dengan  i adalah kesalahan random dan f (xi ) merupakan kurva regresi. Untuk mengestimasi kurva atau parameter regresi, ada dua pendekatan yaitu parametrik dan nonparametrik. Pendekatan parametrik digunakan jika ada informasi sebelumnya tentang bentuk kurva, yang diperoleh berdasarkan teori atau pengalaman masa lalu, sehingga dapat dikatakan bahwa mengestimasi kurva ekuivalen dengan mengestimasi parameter, dimana hasil estimasi mengikuti model tertentu. Sedang pendekatan nonparametrik digunakan jika tidak ada informasi tentang bentuk kurva f (xi ) , tidak tergantung pada asumsi bentuk kurva tertentu, sehingga memberikan fleksibilitas yang lebih besar (Eubank 1988, Emond & Steven 1997, Hardle 1990), jika kurva regresi merupakan model parametrik maka disebut sebagai

regresi parametrik dan apabila model yang diasumsikan ini benar, maka pendugaan parametrik sangat efisien, tetapi jika tidak, menyebabkan interpretasi data yang menyesatkan. Ada beberapa teknik estimasi dalam regresi nonparametrik antara lain pendekatan histogram, estimator spline, estimator kernel, estimator deret orthogonal, analisis wavelet dan lain-lain. Pendekatan estimator spline ada bermacam-macam antara lain spline original, spline type M, spline relaxed, spline terbobot dan lain-lain. Pendekatan spline mempunyai suatu basis fungsi. Basis fungsi yang biasa dipakai antara lain spline truncated dan Bspline. (Friedman 1990). Model MARS Friedman (1990), bertujuan untuk prediksi, yang merupakan kombinasi recursive partition regression dengan spline truncated yang telah dimodifikasi. Holmes & Denisson (2002), secara khusus membahas penerapan statistika Bayesian pada pembentukan model MARS klasifikasi. Green (1995) dalam Holmes & Denisson (2002), mengembangkan penggunaan MCMC dalam statistika inferensia Bayesian MARS. Selanjutnya Xiang & Meullenet (2002), membandingkan regresi logistik dan MARS pada efek aktivitas air, pH dan potassium.

Konsistensi dan Asimtotik……….(Bambang Widjanarko)

134

Tujuan paper ini mencari estimator kurva dari model MARS respon biner, dan selanjutnya mengkaji sifat-sifat asimtotik estimatornya.

( x ) 

ez  ( x )[1  e z ]  e z 1  ez  ( x )  ( x)e z  e z  ( x )  e z  ( x )e z

HASIL DAN PEMBAHASAN

 ( x )  [1  ( x)]e z

MARS respon biner Pertimbangkan y suatu variabel random berdistribusi Bernoulli, y ~ Ber (1, (x)) dengan y p  (0, 1) dan x  , maka P (Y i  1)  (x) dan P (Y i  0)  1  (x) .

x  p adalah vektor dari p variabel prediktor dan P (Y  1|x)  (x) . Misalkan model ditulis sebagai, y  (x)  r maka r  y  (x)

sehingga,

= E( y )  E( ( x))  ( x)  ( x)  0

Var(r )  Var( y  (x))  (x)(1  (x))

Jadi invers dari  L dapat dikatakan sebagai transformasi logit, yaitu:  ( x )  logit ( x)  ln  z  1  ( x )  Selanjutnya jika Lemma 1 terpenuhi dan z  fˆ ( x ) , yaitu M

Km

m 1

k 1

z  fˆ ( x )  0   m [ skm .( xv( k ,m )  tkm )] Km M  ( x )  logit ( x)  ln    0   m [ skm .( xv( k ,m )  tkm )] m 1 k 1  1  ( x) 

(1)

dan dalam bentuk matriks,

(2)

dengan,   (0 , 1 ,

Lemma 1: Jika hubungan dengan model logistik, L : R  (0,1) , L  (x )  [e z /(1  e z )] maka inver dari

dari  L dapat dikatakan sebagai transformasi logit, logit (x )  ln[(x )/(1  ( x )]  z Bukti:

ez e z /e z 1   z z z 1 e (1  e )/ e 1  e z Turunan pertama dari  L yang dinotasikan  'L adalah:  L  ( x ) 

  ez  z  1  e z

 ( x )  ( x )  e z  ln  z 1  ( x )  1  ( x ) 

maka dapat ditulis dalam model,

E( r )  E( y  ( x))

'L ( z ) 



 e z (1  e z )  (e z )2   (1  e z )2  

ez  0, (1  e z )2

Invers dari  L yaitu:

z  

(3)

logit ( x)  B

(4)

, M )T

K1  1  s1m ( x1(1,m )  t1m )  k 1 K1  1  s1m ( x2(1,m )  t1m )  B  k 1   K1 1  s1m ( xn(1,m )  t1m )  k 1

  sMm ( x1( M ,m )  tMm )     sMm ( x2( M ,m )  tMm )  k 1    KM  sMm ( xn( M ,m )  tMm )  k 1 

KM

k 1 KM

Persamaan (4) dikatakan sebagai model MARS respon biner, dan dalam bentuk fungsi probabilitas dapat dinyatakan sebagai, ( x)  L (BT ) Untuk mencari estimasi maksimum likelihood.

 digunakan metode

Estimator MARS respon biner Misalkan variabel random Y, y ~ Ber (1, L (Bi )) dan dinyatakan dalam y  L (B)  r model, maka r  y  L (B) . Jika fungsi L diterapkan pada vektor z  (z 1 , , z n )T  R n mempunyai interpretasi sebagai L (z )  (L (z 1 ), , L (z n ))T . Analog Persamaan (1) dan (2) diperoleh,

Jurnal ILMU DASAR, Vol. 10 No. 2, Juli 2009 : 133-140

E (r )  0 , si2

dan

 Var ( ri )  Var ( y   L (B i )) T

=

e

BTi 

1  e Bi  T

  L ( B i )(1   L ( B i )) T

T

T T  e Bi   e Bi  1   T BTi   1  e  1  eBi 

e Bi 

 1  eBTi   eBTi     T  1  eBi  

(1  e

BTi 

)2

 'L (BTi )

n

L()   P( y  yi ) i 1

n  1  yi     [ L ( BTi )] [(1   L ( BTi )]1 yi i 1  yi  n yi 1  [ L ( BTi )] [(1   L ( BTi )]1 yi i 1 yi !(1  yi )!

n

   

n

   Bir Bis 'L ( BTi ) i 1

 BT D()B

dan diperoleh matriks Hessian, H ln L ()  p , yaitu: Hln L ()  BT D()B

eBi  yi T

i 1 1  eBi  T

dimana D ()  d ij n matrik diagonal yang didefinisikan sebagai, ' (BT ) , jika i  j  dij   L i , jika i  j  0

dan fungsi log-likelihoodnya adalah  n eBTi  yi ln L()  ln    i 1 1  eBTi   n

   

(7) dan H ln L () semi definit negatif untuk setiap n

  ln(exp( BTi  yi ))   ln(1  exp( BTi )) i 1 n

i 1

T

i 1

uT H ln L ()u  uT BT D()Bu    (BTi u)2 'L (BTi )

T

i 1

i 1

n

 y B   ln(1  exp( B i )) T

i 1

(5) Untuk

menunjukkan

  p . Sehingga diperoleh: n

n

  B i yi   ln(1  exp( B i )) T



n  n  T   Bir y i   Bir  L ( Bi )]  s  i 1 i 1  n  T    Bir  L ( B i ) s i 1

yi

 1  eBTi   eBTi    1  eBTi  

Jika turunan pertama disamadengankan nol, maka ˆ adalah estimator maksimum likelihood dari  , yaitu: BT [y  L (Bˆ )] = 0 (6) Untuk membuktikan ˆ adalah estimator yang memaksimumkan Persamaan (4) dicari turunan kedua dari fungsi log-likelihood, yaitu:



n T  1  =  ( eBi  ) yi   T i 1  1  e Bi  

=

i



n   L ( B i )   (1   L ( BTi ) =  T i 1  (1   L ( B i )   

      

Bi

T i 1 (1  exp( B )

2  ln L()  BT [ y   L ( B)] s r s

yi

T  e Bi   T n 1  e Bi  =   T T i 1 1  eBi   eBi   T  1  e Bi  

exp(BTi )

n

 BT y  

 BT [ y   L (B)]

Sehingga fungsi likelihood dapat dinyatakan sebagai

T

n    T  T ln L()   y B   ln(1  exp( B i ))   a  i 1 

 BT y  BT  L (B)

T



135

fungsi

maksimum, diturunkan fungsi log-likelihood terhadap  , yaitu sebagai berikut:

(8) Jadi turunan pertama selalu positip, sedangkan dari Persamaan (8) bahwa uT H ln L ()u  0 untuk semua u  p dan   p . Jadi dapat dikatakan bahwa ˆ adalah estimator yang memaksimumkan. Sifat asimtotik estimator MARS respon biner Sifat konsistensi pada ˆ dapat ditunjukkan bahwa  konvergen pada nilai ˆ untuk n

Konsistensi dan Asimtotik……….(Bambang Widjanarko)

136

observasi pada suatu model. Pandang fungsi error,  y , ()  1Tn H  (B)  yT B (9) dimana, 1n  (1, ,1)T n dan H  adalah matrik Hat dari  :   n . Turunan pertama dari fungsi error,  ( y , ())  BT (B)  BT y  BT ((B)  y ) 

  ln L()   ( y ,L ())  

berarti

estimator

n 

ˆ

yang memaksimumkan fungsi log-likelihood ln L  y ,L () . meminimumkan fungsi error Pandang H  (z )  ln(1  e z ) , dan dari Persamaan (5) dan (9) menunjukkan bahwa  y ,L ()   ln L () .

Asumsi 1.  pj 1 in1 B ij2  Knp untuk beberapa konstanta K  0 . Asumsi 2. Jika  * sebagai eigen value terkecil dari matrik simetris BT B  p , ada konstanta k positif k  0 sedemikian hingga  *  kn untuk semua n. Teorema 1. Jika   p , dan y  L (Bˆ )  r vektor random, dengan r  (r1 , , rn ) dan r saling independen pada setiap i sedemikian hingga E (ri )  0 dan E (ri2 )  s i2  0 untuk i {1, , n } . semua Misalkan p Ber (ˆ , )   adalah bola terbuka dengan T

 (B , ˆ )  radius  terpusat pada ˆ , dan a pn

min 'L ( )  0 .

BBer (ˆ , ) i 1, , n

akar

unik

dari

adalah konvergen

ˆ dalam probabilitas ke nilai  .

Bukti: Pertimbangkan fungsi G ()    ( y , ()) , L akan ditunjukkan keberadaan bola Ber (ˆ , )   p , yang mana konvergen dalam probabilitas ke 1 untuk n   , yang terdiri dari akar ˆ dari G untuk perubahan kecil   0. Misalkan G () j adalah komponen ke-j dari vektor G () . Maka, G() j  (BT ( y  (B)) j n

  Bij ( yi   L ( BiT )) i 1 n

Selanjutnya untuk menyelidiki kekonsistensian, diperlukan asumsi dan teorema berikut:

inf

dan

  ( y ,L ())   ln L ()  



hal ini sama dengan,

yang

1,

Selanjutnya,

diasumsikan bahwa p  p (n ) tergantung pada n sedemikian hingga, p 1 n   0 n apn (B , ˆ ) (10) untuk semua   0 , maka minimum absolut ˆ dari  y ,L konvergen dalam probabilitas ke-

  Bij ( yi   L ( BiT ˆ  BiT  )) i 1

    ˆ

dimana

dan

didefinisikan

η  (1 , , n )  Bˆ , dengan mempertimbangkan Y T

variabel

random,

y ~ Ber (1, L (Bi )) (i  1, , n ) , maka n

G () j   B ij (L (i ))  ri  (L (i  B iT  )) i 1

sedemikian hingga sebagai hasil teorema, bahwa keberadaan i  i  i B iT  dengan i  (0,1) n

G() j   Bij ( ri  'L (i )BiT  ) i 1

Selanjutnya, akan ditunjukkan T G ()  0 untuk semua     ˆ

bahwa dengan

 

. Misalkan

Ber *  Ber (ˆ , )

adalah

bola

terbuka dalam  dengan pusat pada ˆ dan radius Diasumsikan bahwa   0. p

kontinu dan G : Ber   p   p adalah T ˆ (  ) G ()  0 untuk semua   Ber , maka G mempunyai akar dari Ber . Hal ini dapat ditunjukkan dengan Ber  Ber ( 0 ,  ) mempertimbangkan dan o didefinisikan

Go : Bero  n

yaitu ˆ Go (  )    G (   ) . Jika G kontinu maka Go

Jurnal ILMU DASAR, Vol. 10 No. 2, Juli 2009 : 133-140

juga 

2

kontinu.

  Bero

Misalkan

 2 . Kemudian   ˆ  Ber

yaitu dan ini

untuk setiap   1 , T (  Go (  ))   T ((  1)  G(   ˆ ))  (  1) T    T G(   ˆ )

 (  1)    G(   ˆ )  0 (11) 2

T

Sekarang ditunjukkan bahwa Go mempunyai

137

n

| A1 |  ri BTi  i 1

n    ri BTi  i 1 (12)

n

dan moment kedua dari  ri B Ti diperoleh, i 1

 n E   ri Bi  i 1 

2

titik tetap ˆ  Bero yaitu Go ( ˆ )  ˆ . Hasil ini mempunyai arti bahwa G ( ˆ  ˆ )  0 dan   ˆ  ˆ  Ber adalah akar dari G.

Diasumsikan bahwa Go mempunyai titik tetap dalam Letak Bero . (Go (  )   ) Gˆ (  )  adalah kontinu dalam Go (  )  

tidak

Bero , dan Gˆ (  )   untuk semua   Bero .

Gˆ mempunyai titik tetap  * dalam Bero dan  *  Gˆ (  * )   . Jadi (G (  * )   * )  *  Gˆ (  * )   o Go (  * )   *

dengan, Go (  * ) 

n n  T T     ri Bi    ri Bi  i 1 i 1 

2   p n     E     ri Bij     j 1  i 1        n n  p n   E     ri 2 Bij2    ri rk Bij Bkj   j 1  i 1 i 1 k 1   k i      p n n n      E( ri 2 ) Bij2    E( ri rk ) Bij Bkj  j1  i 1 i 1 k 1  k i  

dimana, variabel random ri adalah saling independen dan ekspektasinya sama dengan nol, E (ri )E (rk )  0 dan s i2  'L (BTi ˆ )  14 untuk semua i  n E   ri B i  i 1 

2

p p  n n    E (ri 2 )  B ij2   s i 2  B ij2  i 1 j 1 i 1 j 1 

dengan menggunakan Asumsi (1), diperoleh 2  n 1 n p Knp (13) E   ri B i     B ij2   i 1  4 i 1 j 1 4  

* * * Go (  * )   *   *  (1  1 Go (  * )   * ) *   untuk  beberapa konstanta positip K  0 . Dari 

. Hasil ini,  *T (*  *  Go ( * ))  0 kontradiksi dengan Persamaan (11). Sehingga sebagai,

 G () T

dapat diekspresikan

p

T G()    j G() j j 1

p n     j   Bij ( ri  'L (i )BiT  )  j 1  i 1 

 p  n p    ri    j Bij       j Bij  'L (i )BiT  i 1  j 1  i 1  j 1  n

n

n

i 1

i 1



  ri BTi    BiT 



2

'L (i )

 A1  A2

Dengan pertidaksamaan Cauchy-Schwarz, diperoleh batas atas |A1| sebagai berikut:

Persamaan (12) dan (13) bahwa E (A1 )  14 2 Knp . Jika digunakan Ketidaksamaan Tchbychev diperoleh: P (|A1| t )  t 2 E (A12 )  t 2 14 2 Knp

t  0

dan ekuivalen dengan, P(| A1| t )  1  t 2 14  2 Knp  1    Knp  P | A1|   1  2   

t  0 t  0 t  0

Misalkan K *  K / 2 maka diperoleh   K * np np  P | A1 | K *   P | A1 |      Jika n  n / untuk setiap   0 maka

   

P( A1  K * n p )  1  

untuk semua   0 , ada sejumlah n  N sedemikian hingga n  n dan diberikan

K *  0 , maka diperoleh

Konsistensi dan Asimtotik……….(Bambang Widjanarko)

138

P( A1  K * np )  1  

(14)

Sedangkan untuk A 2 , misal Z  {i n |i  BiT ˆ  i BiT  , i  (0,1)} .

Jika dikombinasikan dengan Persamaan (12), untuk setiap   0 diperoleh P( A  A  K * np  a (B, ˆ )kn2 )  1   1

2

pn

untuk semua n  n . Misalkan T G ()  A1  A2  0 , ketidaksamaan,  K * np  a pn (B , ˆ )kn  2  0

Pandang, setiap vektor ξ  Z diperoleh,  'L (i )  apn (B, ˆ ) 

'L (*i *

)

BBer (ˆ , ) i 1, , n

*

i  {1,

sedemikian

untuk

i  {1, , n }

diperoleh,

inf

'L (i

bahwa *

min

BBer (ˆ , ) i 1, , n

*i *  B iT ˆ  i B iT  .

),

dengan

Misalkan

 K * np  a pn ( B , ˆ )kn  2

, n}

ξ Z

Diasumsikan hingga

min 'L (i )

inf

ditentukan

  Bˆ  i * B  B(ˆ  i *  ) dan i *      maka diperoleh  *  BBer (ˆ , ) . *

Hasil

min 'L ( *i )  'L ( *i )  'L ( BiT*ˆ  i * BiT*  )  'L (*i )

i 1, , n

adalah kontradiksi.

dan

K* k

p 1   n a pn (B , ˆ )

(17) Sebagai konsekuensi dari Persamaan (10), dan untuk setiap   0 dan sejumlah n  , n  n dengan  dan  positip, maka Persamaan (17) dapat dinyatakan sebagai, P ( T G ()  0)  1   untuk semua dan n  max(n , n )

 Ber (0, ) Selanjutnya pandang Persamaan (15), yang analog dengan Persamaan (8), yaitu: n

uT H ln L ()u    (BTi u )2 'L (BTi )

Sekarang pandang, n

 

n

 

2 A2   BTi  'L (i )  apn (B, ˆ )  BiT  i 1

i 1

i 1

2

 apn (B, ˆ ) B

(15) dimana B  (B ) (B )   B B , dan BT B adalah simetris dan dengan Asumsi (2) adalah matrik definit positip. Misalkan {v 1 , ,v p } adalah eigenvektor ortonormal dari 2

T

T

,  p } dari

 p , maka   ip1 i*v i dan 2

 p   p      *i vi  BT B    *j v j  j  1  i 1    p

p

p

p

p

i 1 j 1

p

  *    *i  *j viT  j v j i 1 j 1 p

p

i 1

j 1

  *   *i viT   *j v j   * T    * 

dimana  *

i 1

 a pn (B , ˆ )kn u

2



2

2

 * 2

(16) adalah eigenvalue terkecil dari

T

 a pn (B , ˆ ) B

2

nN

 na pn (B, ˆ )

 0, u  0

konvergen

ke-0 dengan n   , diperoleh, pn p 1 n       ˆ n a pn (B , ) na pn (B , ˆ )

hal ini kontradiksi. Jika  dipilih sedemikian hingga, K* k

p 1 n a pn (B , ˆ ) maka menunjukkan konvergen probabilitas ke1 pada n   ,

p 1 ˆ    O    n ( a pn (B , ˆ ))2  dengan n p

   

  Ber (ˆ , ) . Dengan

 (a pn (B, ˆ ))2 ˆ  

adalah

matrik B B . Hal ini menunjukkan bahwa  A2  apn (B, ˆ )* 2 , dan karena Asumsi (2), dan

probabilitas. Pandang matrik Hessian

k  0 suatu konstanta positip  (B, ˆ )kn 2 . hingga A2  apn

definit positip dan

sedemikian

2

 inf a pn ( B , ˆ )kn u

Dari Persamaan (8), jika

  n 

    *i  *j viT BT Bv j     *i  *j viT  j v j i 1 j 1



 a pn (B , ˆ )  BTi 

T

eigenvalue yang bersesuaian {1 ,

B

n

2

 y , L

kata lain,

dalam H  y , () L

batas yang

konvex dalam

Ber (ˆ , ) , dan dibawah Asumsi (1) dan

Jurnal ILMU DASAR, Vol. 10 No. 2, Juli 2009 : 133-140

139

Asumsi (2), maka minimum absolut ˆ dari  y ,L (maksimum absolut dari ln L ) tidak

  Bij ˆ i 'L (i )   L (  i0 )  yi  0

hanya unik tetapi konvergen dalam probabilitas ke ˆ pada n   .



Sifat asimtotik kenormalan ˆ diperlukan asumsi dan teorema sebagai berikut:

Misalkan e  p dengan e  1 , diperoleh:

i 1

n

, n} , j  {1,

, p}

'

ij

i 1

i

L

,j



(i )  ri  0 ,j

e j  i 1 Bij (ˆ i 'L (i )  ri ) n

p

i  {1,



 B  ˆ 

0

Asumsi 3. B adalah variabel random berdistribusi uniform, ada konstanta positif K sedemikian hingga |B ij | K untuk semua



n

 Be

j 1

e j  i 1 Bij (ˆ i 'L (i   i0   i0 )  ri ) n

p



 Be

j 1

p

 

e j  i 1 Bij ri n

 Be

j 1

p



e j  i 1 Bij ˆ i ('L (i )  'L (  i0 )) n

 Be

j 1

A3

p



e j  i 1 Bij ˆ i 'L (  i0 ) n

 Be

j 1

A4

A5

 A3  A4  A5

 * adalah eigenvalue terkecil

Asumsi 4. Jika

dari matrik B B  p  p , ada konstanta positif k  0 sedemikian hingga  *  kn untuk semua n. Teorema 2. Jika D (ˆ )  d ij  'L (B iT ˆ ) dan T

  s ij  'L (B iT ˆ ) untuk

i  j , maka

eT BT D (ˆ )B(  ˆ ) n   N (0,1)  Be

Persamaan (18) dapat ditulis kembali sebagai, BT (  L ( B(ˆ   - ˆ ))  y )  0 BT ( ( Bˆ  B( - ˆ ))  y )  0



i 1



nilai

L ( i0



n



0  Bij  L (  i

i 1

0  ˆ )  y   0

BiT ( - ˆ ))  yi i

teorema

 ˆ i )  'L ( i0 )  ˆ i L (i

i

,j ,j

utama,

)

dimana

 i ˆ i dengan i (0,1) . Kondisi ini ekuivalen dengan, i  i0

j 1

 Be



eT BT r n  N (0,1)  Be

(20)

Untuk A4 dapat ditunjukkan sebagai,

max |i   i0 | max | i0  i ˆ i   i0 | max |i BiT (  ˆ )|

i{1, , n}

i{1, , n}

i{1, , n}

 BiT* (  ˆ ) untuk setiap i *  {1,

p

2  Bi * j   ˆ 

j 1

dan,  adalah konsisten,

, n}

pK   ˆ

P   ˆ  0 n 

dari sini diikuti, P max |i  i0 |  0 n 

(21)

i {1, , n }

Selanjutnya, p

e j  in1 Bij ˆ i ('L (i )  'L (  i0 ))

j 1

 Be

A4   

e

p

 Be 1   Be 1   Be

L

Bij  L ( BiT ˆ 

e j  in1 Bij ri

BiT* (  ˆ )  Bi   ˆ 

Bukti: Dari Teorema 1 diketahui bahwa probabilitas mendekati 1 pada n   , estimator ˆ mempunyai penyelesaian yang unik dari,   ln L ()  BT (L (B)  y )  0  yang dapat disederhanakan untuk semua n, BT (L (B)  y )  0 (18)

n

p

 A3  

Dengan pertidaksamaan Cauchy-Schwarz dan asumsi (3).,

untuk semua e  p dengan e  1 .



(19) Untuk A3 dapat ditunjukkan sebagai,

n

' ' 0   Bij ˆ i ( L (i )   L (  i ))

2

j 1 i 1

pn 2 K 2 ˆ 2 max ( 'L ( i )  'L (  i0 ))2 i{1, , n}

pnK ˆ max |'L ( i )  'L (  i0 )| i{1, , n}

dimana, ˆ  max |ˆ i |. Untuk penyebutnya, i {1, , n }

 Be 

n

' T 2  L ( B i ˆ )(Be)i  Be

i 1

min

i {1, , n }

'L ( B iT ˆ ) si

dan ruas kiri dan dengan Asumsi (3), |B iT ˆ | B i ˆ  p K ˆ sedemikian hingga, s i2  'L ( p K ˆ )  k 0 . Sedangkan

Konsistensi dan Asimtotik……….(Bambang Widjanarko)

140

ruas lainnya, Be  kn (yaitu, kombinasi Persamaan (16) dan Asumsi (4), ditunjukkan dalam persamaan,  Be  ko kn (22) sehingga, 1 A4  ko kn

pK nˆ max |'L (i )  'L (  i0 )| i{1, , n }

(23) Dengan 'L kontinu dan persamaan (21) diperoleh, P max |'L (i )  'L ( i0 )|  0 n i{1, , n} (24) Digunakan lagi Cauchy-Schwarz, ˆ  max |ˆ | max | BT (  ˆ )| pK   ˆ i

i{1, , n}

i{1, , n}

i

Karena p tetap dan BBer (ˆ , ) terbatas, K konstanta positif K  0 sedemikian hingga, a pn (B , ˆ ) 

BBer (ˆ , ) i{1, , n}

. ˆ n    adalah terbatas dalam

probabilitas, dan Persamaan (23) dan (24), P 0 . maka, A 4  n  Sedangkan untuk A5 diperoleh sebagai, p

A5 



ej



ej



n i 1

p





Bij ˆ i 'L (  i0 )

 Be

j 1

n i 1

Bij BiT (  ˆ )'L ( BiT ˆ )

 Be

j 1



eT BT D(ˆ )B(  ˆ )

 Be

Dari Persamaan (19), merupakan, P A3  A5  0 n

(25)

dimana

 Br  eBr   Be  Be p

 A3

ej

n

n

2

i

i 1

i

i 1 n



2 2

i

 ( Be) i 1

i 1

2 i

  Be

i

i

2

Dengan menggunakan teorema limit pusat dari Linderberg’, untuk semua t  0 , maka, n

E(2i i  t  Be )

i 1

 Be



n   0

(26)

Sehingga, Var(i )  Be

2



si2 ( BiT e)2  Be

2



si2 Bi

2

 Be

e 2

2

n    0

(27)

Persamaan ini adalah konsekuensi dari Asumsi (3), dan menunjukkan bahwa s i2  'L (B iT ˆ )  14 . DAFTAR PUSTAKA

min 'L (i )  K

inf

Selanjutnya

n

Var( )   (Be) Var(r )   (Be) s

n i 1 ij i

T

T

n    N (0,1)

j 1

dan dari Persamaan (25) menunjukkan bahwa A5   N (0,1) n . Selanjutnya, pandang eT BT r  i  (Be)i ri pada A3, maka:

Dudoit S, Fridlyand J & Speed TP. 2002. Comparison of Discriminantion Methods for the Classifications of Tumors Using Gene Expression Data. Journal of the American Statistical Association. 97(457): 77 – 87. Emond M & Steven G. 1997. An Efficient Estimator for the Generalized Semi linear Model, Journal of the American Statistical Association. 92, 1033-1040. Eubank R. 1988. Spline Smoothing and Nonparametric Regression. New York: Marcel Dekker. Friedman JH. 1990. Estimating functions of mixed ordinal and categorical variables using Multivariate Adaptive Regression Splines. Technical Report LCS 107. Statistics Department. Stanford University. Friedman JH. 1990. Multivariate Adaptive Regression Splines (with discussion). Ann. Statist. 19: 1 – 141. Hardle W. 1990. Smoothing Techniques With Implementation in S. Springer-Verlag: New York. Holmes CC & Denison DGT. 2002. Classification with Bayesian MARS. Department of Mathematics. Imperial college. London. sw7.2BZ, UK. Xiang R & Meullenet JF. 2002. Comparasion of Logistic Regression and MARS in modeling the effects of water activity, pH and potassium sorbate on growth – no growth of Saccharomyces cerevisiae. Food Science Department. University of Arkansan.