PENDUGAAN PARAMETER MODEL HIDDEN MARKOV * BERLIAN SETIAWATY DAN LINDA KRISTINA Departemen Matematika Fakultas Matematika dan Ilmu Pengetahuan Alam Institut Pertanian Bogor Jl Meranti, Kampus IPB Darmaga, Bogor 16680 Indonesia ABSTRAK. Pendugaan parameter untuk model Hidden Markov Elliott et. al. (1995) dilakukan mengunakan Metode Maximum Likelihood dan pendugaan ulang menggunakan metode Expectation Maximization yang melibatkan perubahan ukuran. Dari metode tersebut diperoleh algoritma untuk menduga parameter model. Kata kunci: Rantai Markov, model Hidden Markov, perubahan ukuran. metode Expectation Maximization.
1. PENDAHULUAN
Tulisan ini merupakan kajian pustaka tentang pendugaan parameter untuk model Hidden Markov Elliott, et. al. (1995). Pendugaan parameter menggunakan metode Maximum Likelihood dan pendugaan ulangnya menggunakan metode Expectatition Maximization (Metode EM) yang melibatkan perubahan ukuran. Dari kedua metode tersebut kemudian diturunkan suatu algoritma yang dapat dipakai secara umum untuk menduga parameter model Hidden Markov Elliott, et. al. (1995). Tulisan ini dimulai dengan definisi model Hidden Markov beserta karakteristiknya. Pada bagian 3 dibahas Pendugaan Parameter model dan terakhir pada bagian 4 diturunkan algoritmanya.
*Tulisan ini merupakan bagian dari hasil penelitian yang didanai oleh Hibah Penelitian PHK A2 Departemen Matematika IPB tahun 2006
23
24
BERLIAN SETIAWATY DAN LINDA KRISTINA
2. MODEL HIDDEN MARKOV 2.1 Definisi Pasangan proses stokastik {( X k , Yk ) : k } yang terdefinisi pada ruang peluang (, F , P) dan mempunyai nilai pada S Y disebut model hidden Markov apabila {X k } adalah rantai Markov dengan state berhingga dan diasumsikan bahwa rantai Markov {X k } tidak diamati. Sehingga {X k } tersembunyi (hidden) di balik proses observasi Yk . Banyaknya elemen dari S disebut ukuran (orde) dari model hidden Markov.
Pada tulisan ini dibahas model hidden Markov Elliot, et. al. (1995) yang berbentuk: X k 1 AX k Vk 1 Yk 1 c( X k ) ( X k ) k 1
di mana {X k } adalah rantai Markov yang homogen dengan ruang state
S {e1 , e2 ,..., eN } , dengan ei vektor satuan di N dan A (a ji ) N N merupakan matriks transisinya, dengan aji = P(Xk = ej│Xk-1 = ei)
i, j = 1, 2, ..., N
{k } adalah barisan peubah acak yang bebas stokastik identik dengan sebaran N(0,1) dan c( X k ) c, X k
dan
(Xk ) , Xk
dengan
c (c1 , c2 ,..., cN ) N , ( 1 , 2 ,..., N ) N .,. perkalian dalam di N . Asumsikan i 0, untuk i 1, 2,..., N. Misalkan {F k }k adalah filtrasi lengkap yang dibangun oleh {X k }k, {Yk } adalah filtrasi lengkap yang dibangun oleh {Yk } dan {Gk }kadalah filtrasi lengkap yang dibangun oleh {X k }kdan {Yk } . Catatan 2.1.1 Karena k , k adalah peubah acak yang bebas stokastik identik, maka k bebas dari Gk . Akibatnya k juga bebas dari F k .
2.2 Nilai Harapan Bersyarat Untuk sebarang t , berlaku
JMA, VOL. 4, NO. 1, JULI, 2005, 23-39
25
N
P(Yk 1 t | Yk ) P(Yk 1 t , X k ei | Yk ) i 1 N
P (Yk 1 t | X k ei , Yk ) P ( X k ei | Yk ) i 1 N
P (Yk 1 t | X k ei ) P ( X k ei | Yk ) i 1 N
P (c ( X k ) ( X k )k 1 t | X k ei ) P( X k ei | Yk ) i 1 N
P (ci ik 1 t ) P ( X k ei | Yk ) i 1 N
P ( ik 1 t ci ) P ( X k ei | Yk ). i 1
Misalkan Xˆ k : E X k | Yk dan i ( x)
1
x 1 e 2 i (fungsi kepadatan N (0, i ) ) 2 i 2
maka Xˆ k , ei E X k | Yk , ei
N
e j 1
j
P X k e j | Yk , ei
P X k e j | Yk e j ,ei P X k ei | Yk . N
j 1
Sehingga diperoleh N
N
t ci
i 1
i 1
P( yk 1 t | Yk ) P( ik 1 t ci ) P( X k ei | Yk ) Xˆ k , ei
( x)dx. i
(2.1) Jadi fungsi kepadatan bersyarat dari Yk 1 diketahui Yk adalah N
j 1
Xˆ k , e j j (t c j ).
Adapun sebaran gabungan dari X k dan Yk 1 diketahui Yk adalah P( X k ei , Yk 1 t | Yk ) P(Yk 1 t | X k ei , Yk ) P( X k ei | Yk ) P (ci ik 1 t ) P ( X k ei | Yk ) Xˆ k , ei
t ci
( x)dx. i
Sehingga diperoleh fungsi kepadatan gabungan bersyarat dari X k dan Yk 1 diketahui Ykk adalah Xˆ k , ei i (t ci ). Berdasarkan aturan Bayes, diperoleh E X k , ei | Yk 1 P X k ei | Yk 1 , Yk
P X k ei , Yk 1 | Yk P Yk 1 | Yk
Xˆ k , ei i (Yk 1 ci ) N
j 1
ibatnya didapat
Xˆ k , e j j (Yk 1 c j )
. Ak
26
BERLIAN SETIAWATY DAN LINDA KRISTINA N
E X k | Yk 1 E X k , ei ei Yk 1 E X k , ei Yk 1 ei i 1 i 1 N
N
Xˆ k , ei i ( yk 1 ci ) ei
Xˆ k , e j j ( yk 1 c j )
i 1 N
j 1
.
Teorema 2.2.1 (Elliot et. al. 1995) N
Xˆ k 1 E X k 1 | Yk 1
i 1
Xˆ k , ei i ( yk 1 ci ) A ei
N
j 1
.
Xˆ k , e j j ( yk 1 c j )
Dari persamaan di atas diperoleh bahwa penduga Xˆ k 1 bergantung pada Xˆ k secara tidak linear. Catatan 2.2.2
2.3 Perubahan Ukuran Pada Model Hidden Markov Misalkan () adalah peubah acak yang terdefinisi pada (, F , P) dengan fungsi kepadatan ( ) dan c, adalah konstanta yang diketahui. Diketahui Y () c () . Akan dikonstruksi ukuran peluang baru P pada (, F ) sedemikian sehingga: dP a. dP b. Di bawah P peubah acak y mempunyai fungsi kepadatan . Karena t
P (Y t )
( y) dy I
{Y t }
dP I{Y t } dP I
t c
( ) ( ) d
t c
( ) ( ) d
t
1
( ) ( )
dy
( y ) ( ) ( ) . atau ( ) ( ) Pada (, F , P) proses observasi Yk mempunyai bentuk maka diperoleh ( y )
Yk 1 c, X k , X k k 1 di mana k bebas stokastik identik menyebar N(0,1). Misalkan () adalah fungsi kepadatan peluang N(0,1) dan k , X l 1 yl l , l ; 0 1; k l , k 1. l l 1
JMA, VOL. 4, NO. 1, JULI, 2005, 23-39
Definisikan ukuran peluang P pada (, F ) sebagai berikut
27
dP k . dP Gk
Eksistensi k dijamin oleh Teorema Radon-Nikodym dan eksistensi P dijamin oleh Teorema Perluasan Kolmogorov (Wong and Hajek, 1985). Lemma 2.3.1 (Elliot et. al. 1995) Di bawah P , Yk adalah barisan peubah acak yang bebas stokastik identik menyebar N(0,1). Sebaliknya, dimulai dengan ukuran peluang P pada (, F ) , di mana di bawah P berlaku: a. X k adalah rantai Markov dengan matriks transisi A sehingga
X k 1 AX k Vk 1 , dengan E Vk 1 | F k 0
b. Yk adalah barisan peubah acak yang bebas stokastik identik menyebar N(0,1) dan bebas dari X k , akan dikonstruksi P dari P sehingga di bawah P berlaku: Y c, X k k 1 k 1 , k , X k 0 , Xk adalah barisan peubah acak yang bebas stokastik identik dan menyebar N(0,1). Untuk mengkonstruksi P dari P , definisikan l
1
l
k l , l ; 0 1; k l , k 1; , X l 1 yl l 1
dP k . dP Gk
Lemma 2.3.2 Di bawah P , k adalah barisan peubah acak yang bebas stokastik identik menyebar N(0,1). Catatan 2.3.3 (, F , P ) .
Untuk selanjutnya kita akan bekerja pada ruang peluang
3. PENDUGAAN PARAMETER Sifat statistik model Hidden Markov ditentukan secara lengkap oleh himpunan parameter
(a ji ),1 i, j N ; ci ,1 i N ; i ,1 i N . Pada bagian ini dibahas proses pendugaan parameter tersebut menggunakan Algoritma EM (Expectation maximization algorithm). 3.1 Pendugaan Rekursif
28
BERLIAN SETIAWATY DAN LINDA KRISTINA
Definisi 3.1.1 (Elliot et. al. 1995) Barisan peubah acak k disebut adapted-
G , atau adapted terhadap filtrasi Gk , apabila untuk setiap k, k terukur- Gk . Definisi 3.1.2 Jika H k adalah barisan peubah acak yang adapted terha-dap Gk , definisikan k H k : E k H k Y k dan Hˆ k : E H k Y k . Menurut Teorema Bayes bersyarat
E k H k Y k k H k Hˆ k : E H k Y k , k 1 E k Y k
sehingga
X Xˆ 0 E X 0 Y 0 0 0 0 X 0 1 0
karena 0 1 1 .
Catatan 3.1.3 Pada proses pendugaan rekursif, 0 X 0 E X 0 diambil sebagai nilai awal. Lemma 3.1.4. (Elliot et. al. 1995) Misalkan H k adalah barisan peubah acak bernilai skalar, maka a.
k Hk k Hk X k , 1
b.
k 1 k X k , 1 .
Catatan 3.1.5 Dari persamaan di atas diperoleh bahwa pendugaan k 1 H k 1 bergantung pada k H k X k . Definisi 3.1.6 Barisan peubah acak k disebut predictable terhadap filtrasi
Gk , apabila untuk setiap k, k Teorema 3.1.7 Misalkan
terukur- Gk1 .
H k
adalah proses bernilai skalar yang adapted
terhadap filtrasi Gk dan mempunyai bentuk a. H 0 terukur- F 0 b. H k 1 H k k 1 k 1 ,Vk 1 k 1 f ( yk 1 ), di mana Vk 1 X k 1 AX k f adalah fungsi bernilai skalar , , adalah proses yang predictable- G
k 1
JMA, VOL. 4, NO. 1, JULI, 2005, 23-39
29
adalah proses bernilai vektor berdimensi-N
maka
k 1 H k 1 X k 1 : k 1,k 1 H k 1 N
k H k X k , i yk 1 ai k k 1 X k , i yk 1 i 1
k k 1 X k , i yk 1
f (y
k 1
y
mana ai Aei dan yk :
di
i
) ai diag(ai ) ai aiT k k 1 X k , i yk 1
c
k
a
e .
yk
3.2 Penduga Parameter 3.2.1 Penduga untuk State Teorema 3.2.1 (Elliott et. al. 1995) N
k 1 ( X k 1 ) k ( X k ), i ( yk 1 ) ai .
(3.1)
i 1
Bukti: Dengan mengambil H k H0 1, k 0, k 0 dan k 0 pada Teorema 3.1.7 N
diperoleh k 1 ( X k 1 ) k ( X k ), i ( yk 1 ) ai . i 1
Catatan 3.2.2 Persamaan (3.1) menunjukkan bahwa k 1 ( X k 1 ) bergantung pada k ( X k ) secara linear. 3.2.2 Penduga untuk Number of Jumps Jika rantai Markov melompat dari state er pada waktu ke-k, ke state es pada waktu ke- k 1, 1 r , s N , maka
X k , er
X k 1 , es 1 , sehingga banyaknya
lompatan (number of jumps) dari state er ke state es pada waktu ke- k 1 adalah k 1
J
rs k 1
: X n 1 , er n 1
X n , es
J
rs k
X k , er
X k 1 , es
J
rs k
X k , er
AX k Vk 1 , es
J
rs k
X k , er
J
rs k
X k , er asr X k , er Vk 1 , eS
AX k , es X k , er Vk 1 , es
.
30
BERLIAN SETIAWATY DAN LINDA KRISTINA
Teorema 3.2.2 (Elliott et. al. 1995)
k 1,k 1 (J
N
rs k 1
) k ,k (J i 1
rs k
), i ( yk 1 ) ai k ( X k ), r ( yk 1 ) asr es .
(3.2)
Bukti: Dengan mengambil H k 1 J krs1 , H 0 0, k 1 X k , er asr , k 1 X k , er es dan k 1 0 pada Teorema 3.1.7 diperoleh k 1,k 1 J
J N
rs k 1
k
i 1
rs k
X k , i yk 1 ai k
0 diag(ai ) ai aiT k
X k , er asr X k , i yk 1
X k , er es X k , i yk 1
.
X k , i yk 1
a
a
i
Sedangkan N
k i 1
X k , er asr X k , i yk 1
N
ai k i 1
k
X k , er
a
X k , r yk 1
sr
a
sr i
ar
dan
diag(a ) a a N
T i i
i
i 1
N
k i 1
k k
X k , er es X k , i yk 1
k
X k , i yk 1
X k , er
i
T i i
s
diag(a ) a a e a e a a .
X k , r yk 1 X k , r yk 1
diag(a ) a a e
r
sr s
sr
r
T r
X k , r ( yk 1 ) asr es
s
r
Sehingga k 1,k 1 (J
N
rs k 1
) k (J i 1
rs k
X k ), i ( yk 1 ) ai k
N
k ,k (J i 1
rs k 1
), i ( yk 1 ) ai k ( X k ), r ( yk 1 ) asr es .
3.2.3 Penduga untuk Occupation Time Banyaknya kejadian rantai Markov berada pada state er , 1 r N sampai waktu ke-k didefinisikan sebagai berikut. k 1
Okr1 : X n 1 , er Okrs X k , er . n 1
Teorema 3.2.3 (Elliott et. al. 1995) N
k 1,k 1 (Okr1 ) k ,k (Okr ), i ( yk 1 ) ai k ( X k ), r ( yk 1 ) ar . i 1
(3.3)
JMA, VOL. 4, NO. 1, JULI, 2005, 23-39
31
Bukti: Dengan mengambil H k 1 Okrs1 , H 0 0, k 1 X k , er , k 1 0 dan k 1 0 pada Teorema 3.1.7 diperoleh k 1,k 1 Okr1 k Okr X k , i yk 1 ai k N
i 1
k Okr X k , i yk 1 ai k N
i 1
X ,e k
r
X k , i yk 1
X k , r yk 1
a
i
a
.
r
k ,k Okr , i yk 1 ai k ( X k ), r ( yk 1 ) ar . N
i 1
3.2.4 Penduga untuk Proses Observasi Untuk menduga parameter 1 , 2 ,..., N dan c c1 , c2 ,..., cN pada T
T
proses observasi yk 1 c, X k , X k k 1 , definisikan k 1
kr 1 ( f ) : X l 1 , er f ( yl )
1 r N
l 1
kr ( f ) X k , er f ( yk 1 ) di mana f ( y) y atau f ( y) y 2 .
Teorema 3.2.4 (Elliott et. al. 1995) N
k 1,k 1 ( kr 1 ( f )) k ,k ( kr ( f )), i ( yk 1 ) ai k ( X k ), r ( yk 1 ) f ( yk 1 ) ar . (3.4) i 1
Bukti: Dengan mengambil H k 1 kr 1 ( f ), H 0 0, k 1 0, k 1 0 dan k 1 X k , er pada Teorema 3.1.7 diperoleh k 1,k 1 kr1 ( f ) k kr ( f ) X k , i yk 1 ai k N
i 1
k kr ( f ) X k , i yk 1 ai k N
i 1
X ,e k
r
X k , i yk 1
X k , r yk 1
f (y
k 1
f (y
k 1
)ai
)ar
k ,k kr ( f ) , i yk 1 ai k X k , r yk 1 f ( yk 1 )ar . N
i 1
3.3 Expectation Maximization Algorithm (Algoritma EM) Algoritma EM dikembangkan oleh Baum and Petrie (1966) dengan ide dasar sebagai berikut.
32
Misalkan
BERLIAN SETIAWATY DAN LINDA KRISTINA
P :
adalah koleksi ukuran peluang yang terdefinisi pada
ruang (, G) dan kontinu absolut terhadap P0 . Misalkan Y G . Definisikan fungsi likelihood untuk menentukan penduga parameter berdasarkan informasi Y sebagai dP L( ) E0 Y dP0 dan penduga maksimum likelihood didefinisikan sebagai ˆ arg max L( ) .
Secara umum penduga maksimum likelihood ˆ sulit dihitung secara langsung. Algoritma EM memberikan suatu metode iteratif untuk mengaproksimasi ˆ , dengan prosedur sebagai berikut. Set p 0 dan pilih ˆ0 . [Langkah-E]
Langkah 1: Langkah 2:
dP Set ˆp dan hitung Q , E log Y . dP
Langkah 3:
[Langkah-M] Tentukan ˆp 1 arg max Q , .
Langkah 4:
p p 1 Ulangi langkah 2 sampai kriteria berhenti dipenuhi.
Catatan 3.3.1 1. Barisan ˆp : p 0 memberikan barisan L ˆp : p 0 yang tak turun.
2. Menurut ketaksamaan Jensen, Q ˆp 1 ,ˆp log L(ˆp 1 ) log L(ˆp ) .
3. Q , disebut pseudo-loglikelihood bersyarat. Model Hidden Markov yang akan diduga parameternya berbentuk X k 1 AX k Vk 1 yk 1 c, X k , X k k 1
k
di mana Vk 1 adalah martingale increments dan k adalah peubah acak yang bebas stokastik identik menyebar N(0,1). Parameter model diberikan oleh himpunan (a ji ),1 i, j N ; ci ,1 i N ; i ,1 i N
JMA, VOL. 4, NO. 1, JULI, 2005, 23-39 N
di mana
a i 1
ji
33
1, 1 i N .
Akan ditentukan himpunan parameter baru ˆ(k ) (aˆ ji (k )),1 i, j N ; cˆi (k ),1 i N ; ˆ i (k ),1 i N N
di mana
aˆ i 1
ji
(k ) 1, 1 i N yang memaksimumkan pseudolog-likelihood
bersyarat. Untuk mengubah parameter a ji menjadi aˆ ji (k ) pada rantai Markov X, misalkan aˆ ( k ) k sr r , s 1 a sr N
X k , es X k 1 , er
aˆ ( k ) k sr l 1 r , s 1 a sr dan definisikan peluang Pˆ sehingga k
N
dPˆ dP F k
X l , es X l 1 , er
k .
Lemma 3.3.2 Di bawah Pˆ , jika X k er , maka Eˆ X k 1 , es | F k aˆsr (k 1) .
Teorema 3.3.3 (Elliott et. al. 1995) rs J ˆ krs k J k . aˆsr (k ) r Or Oˆ k
k
(3.5)
k
Bukti: Berdasarkan definisi k N aˆ ( k ) log k log sr l 1 r , s 1 asr k
N
X l , es l 1 r , s 1
N
J
r , s 1
X l , es X l 1 ,er
rs k
X l 1 , er
log aˆsr (k ) log asr
log aˆsr (k ) R(a )
di mana R(a) tidak bergantung pada aˆ . bersyaratnya menjadi
Sehingga pseudo-loglikelihood
34
BERLIAN SETIAWATY DAN LINDA KRISTINA
E log k | Yk
N
Jˆ
r , s 1
rs k
log aˆ sr ( k ) Rˆ ( a ).
(3.6)
Parameter aˆsr (k ) harus memenuhi N
aˆ
sr
s 1
(k ) 1
atau dalam bentuk dinamik k
N
l 1 s 1
X l 1 , er aˆsr (k ) k .
Bentuk dinamik di atas dapat dituliskan dalam bentuk bersyarat N
Oˆ aˆ r k
r , s 1
sr
(k ) k .
(3.7)
Masalah optimasinya sekarang menjadi memilih aˆsr (k ) yang memaksimumkan (3.7) dengan kendala (3.8). Definisikan fungsi Lagrange N N L(aˆ , ) J ˆ krs log aˆ sr (k ) Oˆ kr aˆ sr (k ) k r , s 1 r , s 1 L L Dari 0 dan 0 diperoleh aˆsr (k ) N
Oˆ aˆ
r , s 1
r k
sr
(k ) k
(3.8)
J ˆkrs (3.9) Oˆ kr 0. aˆsr (k ) Dari persamaan (3.8) dan (3.9) diperoleh 1 . Dari persamaan (3.9) diperoleh J ˆ rs (J rs ) k (Okr ) k (J krs ) aˆsr (k ) kr k k . k (1) k (1) k (Okr ) Oˆ k Untuk mengubah parameter ci menjadi cˆi (k ) , misalkan
k1 ( X k , yk 1 ) exp
1
2 , Xk
c, X
2 k
cˆ, X k
2
2 yk 1 c, X k 2 yk 1 cˆ, X k
k
k l ( X l 1 , yl ) l 1
dan definisikan peluang P sehingga dP
dP G k
Lemma 3.3.4 Di bawah P , yk cˆ, X k 1
k .
k adalah barisan peubah acak yang bebas
stokastik identik menyebar N(0, ).
JMA, VOL. 4, NO. 1, JULI, 2005, 23-39
35
Bukti: Menurut Teorema Bayes bersyarat P
y
k 1
cˆ, X k t Gk E I yk 1 cˆ, X k
E k 1 I yk 1 cˆ, X k t Gk Gk t E k 1 Gk
E k k1 I yk 1 cˆ , X k t Gk k E k1 I yk 1 cˆ , X k t Gk E k1I yk 1 cˆ , X k t Gk . E k k 1 Gk k E k 1 Gk E k 1 Gk
yk 1 c, X k c, X k k 1 dengan k 1 menyebar N(0,1),
Di bawah P,
sehingga yk 1 c, X k menyebar N c, X k , , X k
cˆ, X k
2 yk 1 c, X k 2 yk 1 cˆ, X k
2
1 exp 2 , Xk
1 2 , X k
1 exp 2 , Xk
2 , X k
2 k
k
1
c, X
1
exp 2 , X
E k1 Gk
. Jadi
y
k 1
y
k 1
c, X k
cˆ, X k
2
2
dyk 1
dyk 1 1.
Sehingga P yk 1 cˆ, X k t | Gk E k1I yk 1 cˆ, X k t Gk
2 , X k
t cˆ, X k
1
2 , X k
t
1 2 , X k
2 k
cˆ, X k
2 yk 1 c, X k 2 yk 1 cˆ, X k
2
k
1
c, X
1
exp 2 , X
1 exp 2 , Xk
y
1 exp 2 , Xk
y
k 1
k 1
c, X k
I yk 1 t cˆ, X k dyk 1
cˆ, X k
dyk 1
2
2
1 exp u 2 du 2 , Xk
P U t P yk 1 cˆ, X k t .
Teorema 3.3.5 (Elliott et. al. 1995) r ˆkr ( y ) k k ( y ) cˆr (k ) . Or Oˆ r k
Bukti: Dari definisi
k
k
(3.10)
36
BERLIAN SETIAWATY DAN LINDA KRISTINA k
log k
c, X l 1
2
cˆ, X l 1
N
X l 1 , er
c
2 yl c, X l 1 2 yl cˆ, X l 1
2 , X l 1
l 1 k
2
2 r
cˆr2 (k ) 2 yl c 2 yl cˆr (k ) 2 r
l 1 r 1
2 ( y ) cˆr ( k ) O cˆ (k ) R (c ) 2 r r 1 di mana R(c) tidak bergantung pada cˆ . Jadi N 2ˆ r ( y) cˆr (k ) Oˆ kr cˆr2 (k ) ˆ E log k | Yk k R (c ) 2 r r 1 sehingga 2ˆ r ( y ) 2Oˆ kr cˆr (k ) d E log k | Yk k 0 dcˆr (k ) 2 r memberikan 2ˆkr ( y) 2Oˆ kr cˆr (k ) 0 r k
N
cˆr (k )
r k
ˆkr ( y) Oˆ kr
2 r
k (Okr ) k ( kr ( y)) . k (1) k (Okr )
k ( kr ( y)) k (1)
Untuk mengubah parameter i menjadi ˆ i (k ) (ambil ci tetap), definisikan k 1 ( X k , yk 1 )
, Xk ˆ , X k
exp 2 exp 2
ˆ , X k 2 1 yk 1 c, X k , Xk 1
y
k 1
c, X k
2
k
k l ( X l 1 , yl ) l 1
dan definisikan peluang P sehingga dP
dP G
k .
k
Teorema 3.3.6 (Elliott et. al. 1995) i 2 i 2 i ˆki ( y 2 ) 2ciˆki ( y ) ci2Oˆ ki k k ( y ) 2ci k k ( y ) ci k Ok . ˆ i (k ) k Oki Oˆ ki Bukti: Dari definisi
yl c, X l 1 1 log k log ˆ , X l 1 2 2 ˆ , X l 1 l 1 di mana R(c, ) tidak bergantung pada ˆ . Karena k
2
R ( c, )
(3.11)
JMA, VOL. 4, NO. 1, JULI, 2005, 23-39
37
k N 1 X ,e E log k | Yk E X l 1 , ei log ˆ i (k ) l 1 i yl2 2 yl ci ci2 Yk Rˆ (c, ) 2ˆ i ( k ) l 1 i 1 2
1 N ˆi 1 ˆki ( y 2 ) 2ciˆki ( y ) ci2Oˆ ki Rˆ (c, ), Ok log ˆ i (k ) ˆ 2 i 1 i (k )
maka Oˆ i d 1 1 E log k | Yk k ˆki ( y 2 ) 2ciˆki ( y) ci2Oˆ ki 0 dˆ i (k ) 2 ˆ i (k ) ˆ i (k )
memberikan Oˆ ki 1 2 ˆki ( y 2 ) 2ciˆki ( y ) ci2Oˆ ki ˆ ˆ i (k ) i (k )
atau k ( ki ( y 2 )) k ( ki ( y )) 2 k (Oki ) 2 c ci i ˆi ( y 2 ) 2ciˆki ( y ) ci2Oˆ ki k (1) k (1) k (1) ˆ i (k ) k i i ˆ ( O ) Ok k k k (1)
k ( ki ( y 2 )) 2ci k ( ki ( y)) ci2 k (Oki ) . k (Oki )
Catatan 3.3.7 Berdasarkan observasi sampai waktu ke-k, parameter model yang baru yaitu (aˆ ji (k )),1 i, j N ; cˆi (k ),1 i N ; ˆ i ( k ),1 i N diberikan oleh persamaan (3.5), (3.10) dan (3.11). Nilai k J krs , k Okrs , k kr ( y) , k kr ( y 2 ) dan k X k kemudian dapat dihitung kembali menggunakan parameter yang baru dan data pengamatan yang baru.
4. ALGORITMA MENDUGA PARAMETER MODEL Diketahui parameter berbentuk (a ji ), 1 i, j N ; ci , 1 i N ; i ,1 i N . Akan ditentukan parameter ˆ(k ) (aˆ ji (k )), 1 i, j N ; cˆi (k ), 1 i N ; ˆ i (k ),1 i N yang memaksimumkan pseudo-loglikelihood bersyarat seperti pada bagian 3. Algoritma untuk memperoleh parameter tersebut adalah sebagai berikut. Algoritma untuk menentukan parameter ˆ(k ) Langkah 1: Tetapkan N (banyaknya state) M (banyak data) Input data { yk } .
38
BERLIAN SETIAWATY DAN LINDA KRISTINA
Langkah 2: Tetapkan Nilai awal ( i ) N 1 A ( a ji ) N N c (ci ) N 1
( i ) N 1.
Catatan: E X 0 dan memenuhi A Langkah 3: Lakukan untuk l 0 sampai dengan M 1. Tetapkan ai Aei
0 X0
0
0 J
rs s 0 r
0 O0r 0 0 0 ( y ) 0
0 0 ( y 2 ) 0.
2. Lakukan untuk k 0 sampai dengan l 1 a. Hitung penduga rekursif N
k 1 ( X k 1 ) k ( X k ), i ( yk 1 ) ai i 1
N
) k ,k (J
k 1,k 1 (J
rs k 1
k 1 (J
) k 1,k 1 (J
rs k 1
rs k
i 1
rs k 1
), i ( yk 1 ) ai k ( X k ), r ( yk 1 ) asr es
), 1
N
k 1,k 1 (Okr1 ) k ,k (Okr ), i ( yk 1 ) ai k ( X k ), r ( yk 1 ) ar i 1
k 1 (Okr1 ) k 1,k 1 (Okr1 ), 1 N
k 1,k 1 ( kr1 ( y )) k ,k ( kr ( y )), i ( yk 1 ) ai k ( X k ), r ( yk 1 ) yk 1ar i 1
k 1 (
r k 1
( y )) k 1,k 1 ( kr1 ( y )), 1 N
k 1,k 1 ( kr1 ( y 2 )) k ,k ( kr ( y 2 )), i ( yk 1 ) ai k ( X k ), r ( yk 1 ) yk21ar i 1
k 1 ( kr 1 ( y 2 )) k 1,k 1 ( kr 1 ( y 2 )), 1 .
b. Hitung penduga parameter aˆ sr (k 1) cˆr (k 1)
ˆ i (k 1)
c. Tuliskan
k 1 J
k 1 O
rs k 1
r k 1
k 1 kr 1 ( y ) k 1 Okr1
k 1 ki 1 ( y 2 ) 2ci k 1 ki 1 ( y ) ci2 k 1 Oki 1 k 1 Oki 1
.
JMA, VOL. 4, NO. 1, JULI, 2005, 23-39
39
Aˆ (k 1) aˆsr (k 1) cˆ(k 1) cˆr (k 1)
ˆ (k 1) ˆ i (k 1) . d. Tentukan ˆ (k 1) dari persamaan Aˆ (k 1)ˆ (k 1) ˆ ( k 1) . e. Ulangi langkah a sampai dengan d untuk k berikutnya. 3. Beri nilai A Aˆ (k ) c cˆ( k ) ˆ (k ). 3. Ulangi langkah 1 s/d 3 untuk l berikutnya. Langkah 4: Untuk k 1 sampai dengan M , cetak Aˆ (k ), ˆ (k), cˆ(k ), ˆ (k ), k ( X k )
DAFTAR PUSTAKA [1].Baum, L. E. and Petrie, T. 1966. Statistical inference for probabilistic functions of finite state Markov chains. Annals of the Institute of Statistical Mathematics, 37:1554-1563. [2]. Elliot, R. J., Aggoun, L. dan Moore, J. B. 1995. Hidden Markov models, Springer Verlag, New York. [3]. Wong, E and Hajek, B. 1985. Stochastic Process in Engineering System. Springer Verlag, Berlin.
