BAB III MODEL HIDDEN MARKOV KONTINU DENGAN PROSES OBSERVASI ZERO DELAY 3.1 State dan Proses Observasi Semua
proses ;
didefinisikan
pada
ruang
peluang
Ω, ,
.
Misalkan
adalah rantai Markov dengan state berhingga yang bersifat
homogen
dan
;
diasumsikan
tidak
diamati
secara
langsung,
adalah proses observasinya. Pasangan proses stokastik
sedangkan ,
merupakan model Hidden Markov. ,
Ruang state dari X adalah yaitu himpunan vektor satuan
di
,…,
0, … ,0,1,0, … ,0 ,
dengan
, di mana hanya elemen ke-i yang bernilai
1 dan lainnya 0. ;
Misalkan dan
;
adalah filtrasi lengkap yang dibangkitkan oleh X adalah filtrasi lengkap yang dibangkitkan oleh Y sedangkan
;
adalah filtrasi lengkap yang dibangkitkan oleh X dan Y.
Karena X merupakan rantai Markov homogen, maka berdasarkan sifat rantai Markov berlaku ,
,…, .
Lema 3.1.1 (Elliot et al. 1995) ,
Bukti: Karena
,
1, untuk 0, untuk
,
.
16
maka ,
, .
Jika
,
, maka vektor
dari X, yaitu ∑
■
,…,
merupakan nilai harapan
dan untuk X yang ergodic memenuhi
dan
1.
Lema 3.1.2 (Elliot et al. 1995) merupakan
Misalkan
peluang
adalah matriks peluang transisi yang memenuhi ∑
transisi
dan
1, maka
.
Bukti: Misalkan
maka │
│
,
,…,
. Sehingga dapat ditulis . Jadi , .
,…, ■
17
Definisikan ,
(3.1)
dengan dan ,
,…,
0. Sehingga dapat diperoleh suatu persamaan state .
(3.2)
Proses state X tidak diamati secara langsung namun terdapat proses observasi Y yang bernilai skalar dan kontinu pada suatu selang, yaitu: (3.3) yang disebut juga sebagai proses observasi zero delay, di mana
adalah
barisan peubah acak yang bebas stokastik identik menyebar normal dengan rataan nol dan ragam satu N(0,1), dan pada
dan
didefinisikan sebagai vektor serta
perkalian dalam pada
,
dan
dengan
bebas stokastik. Karena ,
,…,
dan
,
di mana
0 untuk 1
maka c , ,
,…, merupakan
.
Jadi, model hidden Markov yang dibahas pada karya ilmiah ini berbentuk: .
(3.4)
18
3.2 Nilai Harapan Bersyarat |
Misalkan diketahui 0,
dan
jika
merupakan nilai harapan bersyarat dari exp
√
merupakan fungsi kepekatan peluang jika diketahui
. Akan ditentukan nilai harapan bersyarat
.
Lema 3.2.1 |
,
.
Bukti: |
,
, ,
,
, |
.
■
Berdasar Lemma 3.1.1 diperoleh |
,
|
.
Akibatnya |
,
Fungsi sebaran bersyarat dari |
jika diketahui
| dengan
|
,
|
|
,
,
,
|
adalah
.
19
|
;
Karena
.
merupakan barisan peubah acak yang bersifat bebas
stokastik identik, maka dan
|
,
bebas terhadap
akibatnya
juga bebas terhadap
.
Sehingga diperoleh |
|
|
,
,
,
.
jika diketahui
Jadi fungsi kepekatan bersyarat dari
.
,
Adapun fungsi sebaran bersama dari |
,
| | , ,
adalah
dan
jika diketahui
,
|
|
, |
adalah
,
20
,
.
Sehingga diperoleh fungsi kepekatan bersama dari
dan
jika diketahui
adalah ,
.
Dengan menggunakan aturan Bayes diperoleh ,
|
| | , |
, | , ∑
.
,
Teorema 3.2.2 ∑
|
,
∑
.
,
(3.5)
Bukti: Misal
adalah filtrasi lengkap yang dibangkitkan oleh proses observasi , maka
dengan |
Karena
| |
|
|
|
.
bersifat bebas stokastik identik maka |
|
,
Sehingga diperoleh |
| |
|
,
0.
21
|
|
,
0. Akibatnya |
|
0
|
,
dengan |
| |
| ,
| ,
|
, ∑
,
∑
.
,
Sehingga |
∑
,
∑
,
∑
,
∑
.
,
Jadi, |
∑ ∑
,
merupakan nilai harapan bersyarat persamaan (3.5),
.
,
jika diketahui
adalah tak linear terhadap
. Pada
. Sehingga untuk
22
memudahkan dalam perhitungan secara matematik dilakukan perubahan ukuran peluang.
3.3 Perubahan Ukuran Perubahan ukuran peluang diperoleh dengan mengubah ukuran peluang asal menjadi peluang baru. Dari ukuran peluang baru akan diinterpretasikan kembali ke dalam peluang asal. Perubahan ukuran ini dibatasi oleh turunan RadonNikodym. Teorema 3.3.1 Teorema Bersyarat Bayes (Elliot et al. 1995) Misalkan Ω, , Misalkan
merupakan ruang peluang dan
adalah sub-medan
dari
.
adalah ukuran peluang lain yang kontinu absolut terhadap P dengan
. Jika
turunan Radon-Nikodymnya dan terukur- maka berlaku
adalah peubah acak terintegralkan |
|
|
.
Bukti: Menurut definisi 2.1.28 harus ditunjukkan: |
terukur-
|
|
Karena |
|
merupakan nilai harapan dari |
terukur- , juga untuk
dengan syarat
|
|
dan
, sehingga
|
terukur- . Akibatnya karena
Definisikan:
0
|
, untuk , untuk
|
maka
yang merupakan nilai harapan dari
terukur- .
|
.
dengan syarat
merupakan pembagian dari dua nilai harapan yang terukur-
|
,
0 0
.
maka
| | | |
23
|
Maka
. Jadi
terukur- .
Akan ditunjukkan: |
:
Definisikan |
|
0 , sehingga
0
dan :
pasti di G. Selanjutnya mana
,
dan
.
. Maka dari definisi 2.1.28
0. Berakibat P(G) = 0 atau |
0 . Misal
= 0 hampir
, maka
di
, sehingga
|
3.6
Fungsi
= 0 hampir pasti pada
, maka 0
Selanjutnya | | | | | |
.
24
| | |
|
| |
.
Sehingga .
Akibatnya persamaan (3.6) menjadi |
.
Jadi, |
| |
,
.
Lema 3.3.2 (Elliot et al. 1995) Jika
adalah barisan peubah acak yang terintegralkan, maka |
Bukti: serupa dengan bukti Teorema 3.3.1.
.
25
Di bawah ukuran P: -
X merupakan rantai Markov yang homogen dan memenuhi , di mana
-
adalah barisan peubah
acak bersifat bebas stokastik identik menyebar N(0,1). peubah acak yang bergantung pada dari
merupakan
dengan fungsi kepekatan peluang
adalah 1 √2
exp
Akan dikontruksi ukuran peluang baru turunan Radon-Nikodymnya
1 t c 2 σ
.
yang kontinu absolut terhadap P dengan
, sehingga di bawah :
-
X merupakan rantai Markov yang homogen dan memenuhi
-
Y merupakan barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1).
Berarti harus dikontruksi , sehingga di bawah : -
X merupakan rantai Markov yang homogen dan memenuhi
-
Y merupakan barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1).
Misalkan
adalah fungsi kepekatan peluang N(0,1) maka
26
1
.
Karena
3.7
adalah fungsi kepekatan peluang N(0,1) maka .
3.8
Dari persamaan (3.7) dan (3.8) diperoleh
.
Misalkan ,
,
,
Definisikan ukuran peluang baru terhadap
yaitu
∏
1, dan
,
1.
dengan batasan turunan Radon-Nikodym
.
Lema 3.3.3 merupakan barisan peubah acak bersifat bebas stokastik
Di bawah ukuran , identik menyebar N(0,1).
Bukti: |
|
dengan menggunakan Lema 3.3.2, diperoleh |
|
| ·
| |
27
| |
.
Sedangkan | ,
,
,
1. Sehingga |
|
, ,
. Jadi, di bawah ukuran
,
merupakan barisan peubah acak bersifat bebas
stokastik identik menyebar N(0,1).
■
Di bawah ukuran : -
X merupakan rantai Markov yang homogen dan memenuhi , di mana
-
0.
Y merupakan barisan peubah acak bersifat bebas stokastik identik menyebar N(0,1).
28
Jadi harus dikontruksi kembali ukuran peluang P yang kontinu absolut terhadap , sehingga di bawah P:
dengan turunan Radon-Nikodymnya -
X merupakan rantai Markov yang homogen
-
, di mana
adalah barisan peubah
acak bersifat bebas stokastik identik menyebar N(0,1). Jadi harus dikontruksi , sehingga di bawah P: -
X merupakan rantai Markov yang homogen
-
, di mana
adalah barisan peubah
acak bersifat bebas stokastik identik menyebar N(0,1). Misalkan
adalah fungsi kepekatan peluang N(0,1) maka
.
Karena
3.9
adalah fungsi kepekatan peluang N(0,1) maka .
3.10
Dari persamaan (3.9) dan (3.10) diperoleh . Misalkan ,
,
,
1, dan
∏
,
1.
29
Definisikan ukuran peluang P dengan batasan turunan Radon-Nikodym terhadap
. Syarat yang harus dipenuhi adalah
yaitu
,
0.
Lema 3.3.4 Di bawah P,
;
merupakan barisan peubah acak bersifat bebas stokastik
identik menyebar N(0,1).
Bukti: |
|
.
Dengan menggunakan Lema 3.3.2, diperoleh |
|
| |
·
|
Sedangkan
, ,
,
1. Sehingga |
|
.
30
, ,
,
. Jadi di bawah P,
merupakan barisan peubah acak bersifat bebas stokastik
identik menyebar N(0,1)
■
3.4 Pendugaan Rekursif Pendugaan rekursif diperlukan untuk menduga parameter baru. Pendugaan rekursif meliputi pendugaan untuk state, banyaknya lompatan, lamanya waktu kejadian dan proses observasi. Notasi 3.4.1 (Elliot et al. 1995) Jika
;
, merupakan sebarang barisan adapted terhadap jika diketahui
unnormalized conditional expectation dari
|
.
Dengan menggunakan Lema 3.3.2, maka |
| |
dengan nilai awal Jika 1
1
,
.
1,1, … ,1
∑
,1
, maka
Akibatnya ,1
| ,1
,1
,
1.
. Notasikan sebagai
31
,1 ,1 ,1 . Jadi jika pendugaan unnormalized
diketahui, maka pendugaan untuk
diperoleh dengan menjumlahkan semua komponen
.
1, maka persamaan di atas menjadi
Untuk 1
,1 ,1 |
.
Notasi 3.4.2 Notasikan ·
·
·
· .
Lema 3.4.3 (Elliot et al. 1995) Misalkan diag(z) adalah matriks diagonal dengan vektor z pada diagonalnya, maka diag
diag
diag
, dan
diag
Bukti:
diag
.
32
. Sehingga diperoleh
diag
diag
diag
diag
diag dan karena
diag
diag |
diag 0, maka
diag
diag
diag
diag
,
.
Notasi 3.4.4 (Elliot et al. 1995) ;
Untuk sebarang proses
, yang adapted- , notasikan |
,
.
Teorema 3.4.5 ;
Misalkan proses
adalah adapted- yang berbentuk:
merupakan terukur
-
,
-
, f fungsi bernilai skalar dan adalah proses predictable- , ,
Maka ,
, , ,
,
bernilai skalar dan
berdimensi N.
∑,
1 di mana
,
, merupakan vektor
33
,
diag ,
, dan
di mana
,
.
Bukti: Lihat lampiran 2.
3.4.1 Penduga untuk State 1,
Dengan menggunakan Teorema 3.4.5 dan memilih
0,
0,1, … maka penduga untuk state adalah .
, ,
Dapat juga ditulis dalam bentuk pendugaan rekursif untuk unnormalized conditional
expectation |
,
,
dari
jika
diketahui
,
yaitu
1, bentuk ini disebut unnormalized smoother.
,
,
Dengan memilih
,
0, maka
,
dari Teorema 3.4.5 diperoleh ,
,
,
, ,
,
,
.
,
,
3.4.2 Penduga Banyaknya Lompatan Jika rantai Markov berpindah dari state 1, 1
,
Misalkan
, maka
,
pada waktu k ke state ,
1.
adalah banyaknya lompatan dari
1 , maka ,
,
pada waktu
ke
sampai waktu ke-
34
,
,
,
,
,
,
,
,
,
,
, ,
,
, ,
.
,
Menurut Teorema 3.4.5 dengan ,
,
0,
,
,
,
0, maka penduga untuk banyaknya lompatan adalah:
,
,
, ,
,
, ,
diag
,
, ,
,
,
diag
,
,
Suku kedua sebelah kanan persamaan (3.11) adalah: ,
,
,
,
,
, ,
,
.
3.11
35
,
,
,
.
3.12
Suku ketiga sebelah kanan persamaan (3.11) adalah: ,
diag
,
diag
,
,
diag
,
diag
, ,
diag
,
,
diag
,
diag
,
.
Karena diag
, maka diperoleh
diag
,
,
,
,
,
.
3.13
36
Dari persamaan (3.12) dan (3.13), maka persamaan (3.11) diperoleh ,
, ,
,
,
,
,
,
.
,
Karena
,
,
,
, maka ,
, ,
,
.
Bentuk unnormalized smoother |
untuk
jika diketahui
adalah
1.
,
Dengan memilih
,
0, maka dari
,
Teorema 3.4.5 diperoleh ,
,
,
.
,
3.4.3 Penduga untuk Waktu Kejadian Misalkan
adalah lamanya X berada di state ,
sampai waktu ke-k, maka ,
.
37
Menurut Teorema 3.4.5 dengan
0,
,
,
,
0, maka penduga untuk lamanya waktu kejadian adalah:
0,
,
, ,
,
, ,
, ,
,
,
,
,
,
.
,
,
Karena
,
,
, maka ,
, ,
,
Bentuk
unnormalized |
.
smoother
jika
untuk
,
. Dengan memilih
diketahui
adalah 0,
,
maka berdasarkan Teorema 3.4.5 diperoleh ,
,
,
.
,
3.4.4 Penduga untuk Proses Observasi Untuk menduga ulang vektor varian ,
,
observasi dalam bentuk
dan vektor drift c pada proses observasi
, maka ditentukan penduga untuk proses
38
,
,
1
, di mana
.
atau
Dengan menggunakan Teorema 3.4.5 dan nilai 0,
,
,
0,
, maka diperoleh penduga untuk proses
observasi sebagai berikut ,
, ,
,
, ,
, ,
,
,
,
, ,
,
Karena
,
,
,
.
, maka ,
, ,
,
.
Bentuk unnormalized smoother untuk |
.
Dengan
adalah
jika diketahui
memilih
0, maka berdasarkan Teorema 3.4.5 diperoleh
,
,
39
,
.
,
, ,
3.5 Pendugaan Parameter Pendugaan parameter dilakukan menggunakan Metode Expectation Maximization (Metode EM). Hasilnya berupa parameter dalam bentuk pendugaan rekursif. Misalkan Ω,
:
adalah koleksi ukuran peluang yang terdefinisi pada ruang
dan kontinu absolut terhadap
. Misalkan
likelihood untuk menentukan penduga parameter
. Definisikan fungsi berdasarkan informasi
sebagai , dan penduga maksimum likelihood didefinisikan sebagai .
arg max
Secara umum penduga maksimum likelihood
sulit dihitung secara langsung,
maka biasanya digunakan algoritma Expectation Maximization (EM). Algoritma EM memberikan suatu metode iteratif untuk mengaproksimasi , dengan prosedur sebagai berikut: 1.
Set p = 0 dan pilih
2.
[Langkah-E] Set
3.
[Langkah-M] Tentukan
4.
Ganti p dengan p+1 (
. dan hitung
.
,
arg max
,
.
1 ) dan ulangi langkah 2 sampai kriteria
penghentian terpenuhi. Parameter yang digunakan pada model (3.4) adalah ,1
,
, ,1
, ,1
.
Dengan menggunakan algoritme EM, akan ditentukan himpunan parameter baru ,1
,
, ̂ ,1
, ,1
yang memaksimumkan fungsi log-likelihood bersyaratnya.
,
40
3.5.1 Pendugaan Parameter Untuk mengganti parameter
pada rantai Markov, definisikan
dengan ,
,
,
, dan
.
,
Lema 3.5.1 Di bawah ukuran
dan misalkan
, maka |
,
1 .
Bukti: ,
|
,
|
| |
, | ∏
, ∏
,
,
1
∑
,
1
∑
, 1
, 1
∑ 1 ∑
,
1
, |
, 1
,
|
,
,
,
1
∏ ,
,
1
∏
,
,
1
41
1
∑ 1
∑
| ∑
|
1
| 1
∑
|
1 1
∑ 1 ∑ Karena ∑
1
1
Fungsi log-likelihood dari
.
1, maka |
,
1 .
adalah ,
log
,
log ,
,
,
log
log
,
log
log
,
log
,
,
di mana
tidak bergantung pada
dengan log ,
Nilai harapan dari fungsi log-likelihood
,
adalah
.
,
42
|
log
|
log ,
|
|
log ,
log
,
3.14
,
dengan
memenuhi 1,
dan ,
,
,
1 . Karena ∑
,
, maka dapat ditulis dalam bentuk
, ,
,
.
3.15
,
yang memaksimumkan persamaan (3.14) sebagai fungsi
Akan ditentukan
objektif dengan persamaan (3.15) sebagai fungsi kendala. Misalkan
adalah penggali Lagrange, maka ,
log ,
dengan menggunakan
, ,
43
,
,
0 dan
0,
diperoleh: 1
0 3.16
dan 0 ,
.
3.17
,
Substitusi persamaan (3.16) ke persamaan (3.17) didapat
,
1 ,
1
,
,
,
,
,
1 ,
1
| 1 1.
Sehingga didapatkan nilai optimum dari
, 1
, .
yaitu
44
3.5.2 Pendugaan , dengan turunan Radon-Nikodymnya
Misalkan ukuran peluang baru
dengan ̂ , didefinisikan
. Untuk mengganti parameter
,
,
dengan faktor 1 , 1 ,
2
,
2 exp
1
exp exp
,
2 ,
log ,
,
̂,
̂, ,
2 2 , ,
,
2
̂,
̂,
2
,
2 2 , ,
2 2 ,
2
2
2
̂
2
,
2
1 2
, ̂ 2
, ̂
̂
̂,
̂,
2 2 ̂
,
,
2 2
̂,
,
,
2
,
2
adalah
1 2 ,
exp
,
2 ,
̂,
Fungsi log-likelihood dari log
̂,
2 ,
,
2 ̂
̂,
̂,
.
45
bebas terhadap ̂ , dengan
di mana
,
2
.
2
Nilai harapan dari log log
jika diketahui
2
|
adalah
̂ ̂ 2
Sehingga untuk
0 diperoleh ̂
2
2
̂
0
2
. ̂
3.5.3 Pendugaan Parameter Misalkan ukuran peluang baru . Untuk mengganti parameter
, dengan turunan Radon-Nikodymnya dengan
, didefinisikan ,
,
dengan faktor 1 , 1 ,
2
,
2 , ,
log
exp
, ,
2 ,
,
2 ,
,
2 ,
1
exp
Fungsi log-likelihood dari log
exp
1
,
2 ,
adalah exp
1 2 ,
1 2 ,
,
.
46
1 log , 2
1 log , 2 1 log , 2 ,
di mana
2 , ,
dengan syarat
, 2 ,
,
log ,
1 2
,
log
1 2
,
,
,
2 ,
1 log , 2
1 2
.
diketahui adalah
1 log , 2
|
,
dengan 1 log , 2
,
2 ,
2 ,
,
log
,
,
bebas terhadap
Nilai harapan dari log
,
,
,
2 , ,
,
,
2 ,
,
2
2
,
log
1
,
2
,
,
, 1 2 1 2
1
log 1
log
Sehingga untuk
2
|
2
0 diperoleh
,
,
.
47
1
2
0
2
0 2
.
Sehingga diperoleh nilai optimum dari
adalah 2
.
3.6 Nilai Dugaan Nilai dugaan
dihitung dengan menggunakan nilai harapan bersyarat dari
, jika diketahui
dengan
.
Lema 3.6.1 Nilai harapan dari
, jika diketahui
adalah
| |
dengan
,
.
Bukti: | | ,
,
,
Ф
Ф 1 √2
exp
2
,
48
1
,
√2 1
, 1 1 √2
exp
√2 1 √2
exp
,
2
2
2 1
,
,
exp
√2
2
exp
√2
,
exp
exp
2
2
0
.
3.7 Algoritma Pendugaan Parameter Diketahui parameter model berbentuk ,1
,
, ,1
,
,1
.
Akan ditentukan parameter baru ,1
,
, ̂
,1
,
,1
yang memaksimumkan pseudo-loglikelihood bersyaratnya. Algoritma untuk memperoleh parameter tersebut:
Langkah 1: Tetapkan N (banyaknya state penyebab kejadian), T (banyaknya data) dan input data
49
Langkah 2: Tentukan nilai awal
dengan
dan ∑
dan memenuhi
1.
Langkah 3: Lakukan untuk l=1 sampai T. 1. Tetapkan ,
dan
, dimana
vektor satuan di
0 0 0 0 2. Lakukan untuk k =0 sampai dengan l-1 a. Hitung penduga rekursif , ,
,
, ,
, ,1
,
,
, ,
,
50
, ,1
,
,
,
, ,
, ,1
,
,
,
, ,
.
, ,1 ,
,
di mana ·
·
·
.
·
· adalah fungsi kepekatan peluang N(0,1) :
,
1,1, … ,1
, 1 dengan 1 b. Lakukan untuk m =0 sampai dengan k Hitung penduga rekursif smoother ,
,
,
, ,
,
,
, , ,
,1
,
.
51
,
,
, ,
,1
,
,
,
, ,
,1
,
,
,
, ,
,1 .
,
c. Hitung penduga parameter 1 1 ̂
2
1 1 ̂
1 2
1
.
d. Tuliskan 1
1
1
1 .
1 dari
e. Hitung dari
1
1
1
1 1 .
1 dan
1
52
f. Ulangi langkah a sampai dengan e untuk k berikutnya. 3. Ulangi langkah 1 sampai dengan 3 untuk l berikutnya.
Langkah 4: Hitung nilai
∑
1 ̂
1 dan
1 .
Langkah 5: Untuk k=1 sampai dengan T, cetak
dan
.
∑
1 ̂
