ISSN: X 45 SIFAT ASIMTOTIK ESTIMATOR NADARAYA-WATSON DENGAN KERNEL ORDE TAK HINGGA. Maria Suci Apriani a, Sri Haryatmi b

ISSN: 2088-687X

45

SIFAT ASIMTOTIK ESTIMATOR NADARAYA-WATSON DENGAN KERNEL ORDE TAK HINGGA Maria Suci Apriania, Sri Haryatmi b Program Studi Pendidikan Matematika FKIP USD Kampus 3 Paingan, Yogyakarta 55282, [email protected] b Jurusan Matematika FMIPA UGM Sekip Utara Yogyakarta, [email protected] a

ABSTRAK Artikel ini menjelaskan sifat kenormalan dan kekonsistenan dari estimator Nadaraya Watson dengan menggunakan kernel berorde tak hingga secara asimtotik. Penelitian ini menggunakan metode studi literatur berdasarkan artikel berjudul Minimally Biased Nonparametric Regression and Autoregression yang dibahas oleh Timothy dan Dimitris. Hasil penelitian ini menunjukkan bahwa estimator Nadaraya Watson dengan menggunakan kernel orde tak hingga memiliki sifat normal dan konsisten secara asimtotik. Kata kunci: Regresi nonparametrik, transformasi Fourier, deret Taylor

ABSTRACT This article investigated the normality and consistency of Nadaraya Watson estimator with infinite order kernel asymptotically. This research used literature study method based on the article entitle “Minimally Biased Nonparametric Regression and Autoregression” by Timothy and Dimitris. The result showed that Nadaraya Watson estimator with infinite order kernel has normal and consistent characteristics asymptotically. Key words: Nonparametric regression, Fourier transformation, Taylor series

dan fungsi kepadatan r mempunyai

Pendahuluan Mengestimasi fungsi regresi r(Xi) pada model regresi Yi = r(Xi) + εi dengan pendekatan nonparametrik, dilakukan jika tidak ada asumsi tentang fungsi r(Xi). Salah satu teknik yang dapat digunakan untuk

mengestimasi

fungsi

tersebut

dengan pendekatan nonparametrik adalah teknik

penghalusan

dengan

kernel.

Kernel berdasarkan ordenya dibedakan menjadi kernel berorde hingga dan tak hingga. Menurut Timothy dan Dimitris (2003) jika kernel K mempunyai orde v AdMathEdu | Vol.5 No.1 | Juni 2015

turunan kontinu sebanyak k kali maka: Bias ( rˆ  x  ) = CK,r(x) hn + o(hn). Ketika fungsi r cukup mulus atau dapat dideferensialkan sebanyak k kali dimana v ≥ k, maka bias rˆ  x  dapat direduksi menjadi

o(hk)

dengan

secara

tepat

memilih kernel dengan orde yang lebih besar dari banyaknya diferensial. Namun kita kesulitan untuk menentukan orde kernel berapakah yang harus dipilih. Sehingga ditetapkan suatu kernel yang

Sifat Asimtotik … (Maria Suci Apriani)

46

ISSN: 2088-687X

memiliki “infinite orde”. Sifat asimtotik

dari

5.

Mempelajari performance (bias dan

Nadaraya

variansi)

Watson dengan kernel orde tak hingga

penyebut

yaitu:

Watson dengan infinite orde kernel.

1. memiliki

estimator

secara

sifat

konsisten

secara

probabilitas

6.

dari

pembilang

estimator

dan

Nadaraya-

Menyusun laporan penelitian.

Hasil dan Pembahasan

2. berdistribusi normal dengan rata-rata

 K  s  ds   x  2

nol dan variansi

yang

bahwa

2

f  x

Hasil

,

diperoleh

estimator

Watson

sifat konsisten secara probabilitas dan normal

Metode Penelitian

pembahasannya: yang

Nadaraya

dengan Kernel orde tak hingga memiliki

akan dibahas lebih dalam pada artikel ini.

Metodologi

menunjukkan

digunakan

secara

asimtotik.

Berikut

1. Estimator Nadaraya Watson

dalam penelitian ini adalah studi literatur.

Estimator fungsi regresi yang

Langkah-langkah yang dilakukan penulis

diusulkan oleh Nadaraya-Watson untuk

adalah sebagai berikut:

fungsi densitas f yang tidak diketahui

1.

Mencari dan menentukan jurnal yang

adalah:

akan dijadikan bahan acuan.

1 n  Kh  x  X i  Yi gˆ  x  n i 1 rˆ  x   .  ˆ  x 1 n f  Kh  x  X k  n k 1

2.

Mengumpulkan

jurnal-jurnal

lain

yang relevan dengan materi dalam jurnal acuan. 3.

Mempelajari buku-buku pendukung yang

berkaitan

dengan

topik

permasalahan penelitian. 4.

Mempelajari dan membahas topik penelitian yang meliputi: teori regresi nonparametrik, ide dasar smoothing,

Menurut Hardle (1991) nilai-nilai statistik

pembilang

Nadaraya-Watson

dari

estimator

dengan

fungsi

kernelnya mempunyai orde dua adalah sebagai berikut: Bias  gˆ  x   

h2 g ''  x  2  K   o h 2 , h  0 2

 

estimator kernel, estimasi fungsi dalam regresi nonparametrik, sifatsifat fungsi kernel, estimasi densitas kernel, fungsi estimator Nadaraya

var  gˆ  x     nh  f  x  s 2  x  K 2  1



o  nh 

2

1

,

untuk nh  

Watson, kernel dengan infinite orde.


AdMathEdu | Vol.5 No.1 | Juni 2015

ISSN: 2088-687X

47

MSE  gˆ  x     nh 

1

f  x s2 K 2 

Xn P X   Yn Y

2

4

2 h g ''  x  2  K     4

P Yn  0  P Y  0   0 .

 

o   nh    o h , 1

4

Suatu kernel dikatakan berorde v

h  0, nh  

jika memenuhi syarat sebagai berikut:

dengan s 2  x   E Y 2 X  x  . Diperoleh

nilai

K  x   0 , untuk semua nilai

MSE

dari

estimator Nadaraya-Watson yaitu: MSE  rˆ  x     nh 

1

 2  x 2 K 2 f  x

j

2

 2  2  K   

 

o   nh    o h 4 , h  0, nh  

x ,

 K  x  dx  1 ,  x K  x  dx  

r ' x f ' x h4   r ''  x   2 4 f  x 1

dimana

j

 0, j  1,   0, j  v

, v 1

.

Teorema 2.1.1 (Hardle, 1991) Andaikan kernel

K

berorde

tinggi,

fˆh  x 

merupakan estimator dari fungsi densitas 2. Estimasi Densitas Kernel Dengan

f yang mempunyai turunan kontinu terbatas p dan v adalah orde kernel,

Kernel Berorde Tinggi Teorema 2.1 (Roussas, 1973) Bila X

maka bias dari fungsi f tersebut adalah

variabel

t

random

P  X  a 

EX  a

tak

negatif

maka

.

ht  t  f  x   o ht , h  0 dimana t t!

 

= min{p,v} dengan asumsi sebagai

Teorema 2.2 (Roussas, 1973) Bila X

berikut:

variabel random dengan E(X) = μ, var(X)

(i)

= σ2 maka P  X        2 ,   0 . 

terintegralkan secara kuadrat

Definisi 2.1 (Roussas, 1973) Barisan

lim h  0 dan lim nh  

2

variabel

random

{Xn}

dikatakan

konvergen ke X (dalam probabilitas), dinotasikan setiap

P X n  X ,

jika

untuk

  0, P  X n  X     0 untuk

n  .

n 

bersifat kontinu dan

n 

Fungsi kernel K merupakan fungsi kepadatan probabilitas yang terbatas dan simetri di sekitar daerah aslinya.

Jika

Asimtotik

Estimator

Nadaraya Watson Dengan Kernel Orde Tak Hingga

maka 3.1


f

Bandwidth h memenuhi asumsi

3. Sifat

Lemma 2.1 (Roussas, 1973) P P X n   X dan Yn  Y

(ii)

Fungsi

Kernel orde tak hingga


48

ISSN: 2088-687X

Menurut Berg (2008) fungsi Kernel

data

dikatakan

iid dengan densitas f.

mempunyai

orde

v

memenuhi:  x K  x  dx   v

jika dan

R 



xi K  x  dx  0,

3.1.1

dikatakan

(Berg,

berorde

tak

Asumsi 3.2.1 Ketika n   , bandwidth h  0 dan nh   .

Asumsi 3.2.2 εi adalah random error

i  1, 2,..., v  1 .

dengan



Definisi

yang

asumsi

independen,





2008).

K(x)

E  i X i  x   0 dan E  2i X i  x   2

hingga

jika

.

memenuhi:

Asumsi

3.2.3



 x K  x  dx  0, i

i  1, 2,...



berdistribusi identik dan independen

Definisi 3.1.2 (McMurry dan Politis,

dengan densitas f.

2003). Sebuah flat-top Kernel K dengan

Lemma 3.2.1 Jika x berada dalam

orde tak hingga secara umum dibentuk

interval

melalui Transformasi Fourier λ, yaitu untuk nilai tetap c > 0

1 jika s  c  s    g  s  jika s  c Dimana

fungsi

g

dipilih

sehingga

membuat   s  ,  2  s  dan s   s  dapat diintegralkan. Flat-top Kernel diberikan

dimana

f  x

mempunyai turunan kontinu terbatas p dan r  x  mempunyai turunan kontinu terbatas q, maka berdasarkan asumsi 3.2.1 dan 3.2.2:

 

a.

E  fˆ  x   f  x   o h p  

b.

E  gˆ  x   g  x   o hk ,

 

dimana

k = min{p,q}.

sebagai berikut:

1 K  x  2

terbuka



  se

Bukti:  isx

ds



a. Bias penyebut estimator NadarayaWatson dengan kernel orde tak hingga

3.2 Sifat asimtotik estimator Nadaraya Watson dengan kernel orde tak hingga Akan

diuji

perilaku

dari

estimator

Nadaraya-Watson dengan kernel orde tak hingga untuk n pengamatan pasangan


Diketahui,





  K  s  f  x  sh  ds

E fˆh  x  



 f  x  





f

p 1

 x    sh   p  1!

p 1

K  s  ds


ISSN: 2088-687X

49

g  x  r  x f  x

bias  fˆ  x    f  x     



f

p 1



 x    sh   p  1!

p 1

K  s  ds 

E  gˆ  x    g  x  

 vh   k 1   k  1!  rf   x    K  v  dv k 1



f  x.

Berdasarkan Berdasarkan

asumsi

3.2.1

maka

 

maka

asumsi

3.2.1

maka

 

E  gˆ  x    g  x   o hk .

bias  fˆ  x   o h p .  

Asumsi 3.2.4 Titik x merupakan titik

b. Bias pembilang estimator Nadaraya-

kontinu dari  2  x  , f  x   C untuk C >

Watson dengan kernel orde tak hingga

0 dan fungsi r serta fungsi f masing-

1 n  E  gˆ  x   E   K h  x  X i  Yi   n i 1  







masing terdiferensial di sekitar x.



Lemma 3.2.2 Jika x berada dalam



interval

K h  x  u  f  u   y f  y u  dy du





f  x

dimana

 K  x  u  f u  r u  du

mempunyai turunan kontinu terbatas p

 r u  f u  K  x  u  du

terbatas q, berdasarkan asumsi 3.2.1 –

h

dan r  x  mempunyai turunan kontinu

 



terbuka

h



Andaikan  rf  terturunkan kontinu pada selang

tertutup

, 

dan

3.2.4 maka:

 rf  a.

f  x  2 ˆ   var f  x    K  z  dz    nh   1  1 o   O   nh  n

mempunyai turunan kontinu terbatas k pada interval terbuka

 ,  

yang

memuat nilai x dengan k = min{p,q} dan andaikan

 rf



2



  rf  x  

vh  rf  '  x  

 a.

k 1

Ketika K terintegralkan ke satu, semua nol

nh



 K  z  dz  2



Bukti:

 vh  rf  k 1    k  1!  x    K  v  dv. adalah

2

 1  1 o   O   nh   n 





momennya



b.

pada semua bilangan real ℝ, maka:

E  gˆ  x   

 r  x     x  f  x  var  gˆ  x  

merupakan fungsi mulus

dan

ketika






1 n  var fˆ  x   var   K h  x  X i   n i 1 





 n1 E  K h2  x  u   E  K h  x  u 

 2

Dimana, Sifat Asimtotik … (Maria Suci Apriani)

50

ISSN: 2088-687X

E  K



2 h

 x  u    Kh2  x  u  f u  du







1   K 2  s  f  x  sh  ds h 

Dimana,

1  2   K  s   f  x   sh f '  x   h   



h2 s 2 f ''  x   2 h p 1s p 1 f  p  1!

p 1



2 1 E  K 2 h  x  u  y 2   E  K h  x  u  y     n

h ps p f p! 







p

 x 

 

E  K 2h  x  u  y 2  

  K  x  u y f u, y  du dy 2

2

h

 

 K  x  u  f u  E  r u    





2

h

2

i



X  u du



 x    ds  .





 K  x  u  f u   r u    u  du . 2

2

2

h



Sehingga:





var fˆ  x   n 1  E  K h2  x  u   





2 E  K h  x  u    





Sehingga didapatkan:

1 var  gˆ  x      K 2 h  x  u  f  u  n   

 r  u    u   du   g  x   o  h  

1 K 2  s  f  x ds   nh 

2

1  2   K  s   sh f '  x   nh   

h2 s 2 f ''  x   2

h ps p  f p!

k



 x 

2



3.2.1

2

Berdasarkan asumsi 3.2.1 dan dengan maka



var fˆ  x  

deret Taylor maka:

var  gˆ  x   



1  1  1 K 2  s  f  x  ds  o    O    nh   nh  n

b.

2

k

 

asumsi

1 2  K  s  f  x  sh  nh 

 r  x  sh     x  sh   ds 1   g  x   o  h  . n

  h s f p 1  x     ds    p  1!   2 1 f  x  o h p n

Berdasar

2



p

p 1 p 1



2

1 n  var  gˆ  x    var   K h  x  X i  Yi   n i 1 

2

2

nh 

 1  1  K  s  ds  o  nh   O  n  . 2



Lemma 3.2.3 Berdasarkan asumsi 3.2.1 –3.2.4 serta lemma 3.2.1 dan 3.2.2 maka: a.


 r  x     x  f  x 

p fˆ  x    f  x


ISSN: 2088-687X b.

51

p gˆ  x    g  x

Berdasarkan

Bukti: a.

Akan dibuktikan

fˆ  x  konvergen

dalam probabilitas ke f  x  . Dengan menggunakan ketaksamaan Chebychev, maka:



     



P fˆ  x   f  x   o h p

1  1  1 K 2  s  f  x  ds  o    O    nh   nh  n . 2 





gˆ  x  p g  x     r  x . f  x fˆ  x 

Terbukti rˆ  x  merupakan estimator yang konsisten secara asimtotik pada kurva regresi r  x  .

interval

terbuka

dimana

mempunyai turunan kontinu terbatas p

terbatas q maka berdasarkan asumsi hal

ini bahwa

p fˆ  x    f  x .

3.2.1 – 3.2.4,



  

nh rˆ  x   r  x   o h q

Akan dibuktikan gˆ  x  konvergen

  2  x  2  N  0, K  z  dz  .   f  x    

dalam probabilitas ke g  x  .

Bukti:

Dengan menggunakan ketaksamaan

Yi  r  X i    i

Chebychev dan berdasarkan lemma 3.2.1 serta lemma 3.2.2 maka:







1 n  Kh  x  X i  n i 1



 r  X   r  x  



 r2  x   2  x f  x   K 2  z  dz   nh    1   1  o    O   1 2 .  nh   n  

hal

ini

menunjukkan

i

1 n  K h  x  X i  i . n i 1

Dapat ditulis:

Ketika n   maka var  gˆ  x    0 ,

D

1 n 1 n K x  X Y     h  Kh  x  X i  r  x   i i n i 1 n i 1

P gˆ  x   g  x   o(h k   



f  x

maka

menunjukkan

b.

maka

dan r  x  mempunyai turunan kontinu

n 

var fˆ  x   0 ,

2.1

Teorema 3.2.1 Jika x berada dalam



Ketika

rˆ  x  

Lemma

rˆ  x   r  x  

aˆ1  x  aˆ2  x   . fˆ  x  fˆ  x 

bahwa

p gˆ  x    g  x .

1. Akan dibuktikan aˆ2  x  berdistribusi normal secara asimtotik.



52

ISSN: 2088-687X

 x  Xi K h Andaikan bi  x    h

1 n  bi  x  . Kita dapatkan n i 1

nh aˆ2  x  

E  bi  x    0 ,

var  bi  x     K 2  s  ds 

2

 x f  x .

Akan dibuktikan bahwa bi  x  memenuhi syarat Liapunov. 2   1  E b x      i i 1  n  n

 1  x  Xi E K   i 1  nh  h n

 

 

 f  x  o hq

b.

Nilai variansi dari aˆ1  x  .

 1 n  x  Xi   var  aˆ1  x    var   K  r  X i   r  x      nh i 1  h  

 2 2  K  s   r  x  sh   r  x      1     nh  2 q  f  x  sh  ds   f  x  o h    1   O   nh 

 

Menggunakan ketaksamaan Chebychev

 i 

2 

  

dan ketika n   maka:

var  aˆ1  x    0 ,



sehingga

 

 1   O  .  nh  Ketika

 

 o hk  f  x  o hq

  i  , maka

P aˆ1  x   f  x  o hq  0

n 

diperoleh

2   1  E bi  x    0 .  i 1  n 



   0 .

nh aˆ1  x   f  x  o hq

dibuktikan

n

akibatnya P

Telah

p fˆ  x    f  x ,

bahwa

sehingga:

 aˆ  x   P nh  1  o hq   0  fˆ  x    

 

Sehingga

  D nh aˆ2  x    N  0,  K 2  s  ds  2  x  f  x    

3. Membuktikan

estimator

rˆ  x 

berdistribusi normal secara asimtotik. 2. Akan

dibuktikan

   0 .

aˆ1  x   f  x  o h

a.

P

q

Nilai ekspektasi dari aˆ1  x  . E  aˆ1  x   

1  n  x  Xi  E K nh  i 1  h 



  

nh rˆ  x   r  x   o h q

 aˆ  x   nhaˆ2  x  nh  1  o hq    fˆ  x   fˆ  x   

 

Berdasarkan poin 1 dan 2 maka:

 r  X   r  x   i



ISSN: 2088-687X

53



   

nh rˆ  x   r  x   o h q

Pustaka

D

Berg,

  2 2   K  s  ds   x    N  0,   f  x     Terbukti

bahwa

Arthur.

2008.

Nonparametric

Function Estimation with InfiniteOrde Kernels. Department of Statistics, University of Florida.

rˆ  x 

estimator

berdistribusi normal secara asimtotik.

Hardle,

Wolfgang.

1991.

Smoothing

Techniques With Implementation in S. Springer-Verlag, New York.

Kesimpulan Secara asimtotik estimator Nadaraya

McMurry, T.L and Politis, D.N. 2003.

Watson dengan Kernel orde tak hingga

Nonparametric Regression with

memiliki

Infinite Orde Flat-Top Kernel,

probabilitas kenormalan

sifat

konsisten

dan dari

secara

normal. estimator

Sifat tersebut

tersedia

di

www.math.ucsd.edu/~politis/PAP

dengan menggunakan kernel orde tak

ER/McMurryPolitis04.pdf,

hingga memiliki rata-rata nol dan variansi

diakses pada tanggal 13 Februari 2013.

2 2  K  s  ds   x 

f  x

.

Roussas, G.G. 1973. A First Course in Mathematical Statistics. AddisonWesley Publishing Company, Inc. Taiwan.



54


ISSN: 2088-687X


ISSN: X 45 SIFAT ASIMTOTIK ESTIMATOR NADARAYA-WATSON DENGAN KERNEL ORDE TAK HINGGA. Maria Suci Apriani a, Sri Haryatmi b

Recommend Documents