PENGEMBANGAN METODE BACKPROPAGATION DENGAN MENGGUNAKAN ADAPTIVE LEARNING RATE DAN PARALLEL TRAINING DALAM PENGENALAN HURUF ATAU ANGKA PADA CITRA DIGITAL
TESIS
MUFIDA KHAIRANI 117038079
PROGRAM STUDI (S2) TEKNIK INFORMATIKA FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA MEDAN 2013
Universita Sumatera Utara
PENGEMBANGAN METODE BACKPROPAGATION DENGAN MENGGUNAKAN ADAPTIVE LEARNING RATE DAN PARALLEL TRAINING DALAM PENGENALAN HURUF ATAU ANGKA PADA CITRA DIGITAL
TESIS Diajukan untuk melengkapi tugas dan memenuhi syarat memperoeh ijazah Magister Teknik Informatika MUFIDA KHAIRANI 117038079
PROGRAM STUDI (S2) TEKNIK INFORMATIKA FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA MEDAN 2013
Universita Sumatera Utara
Universita Sumatera Utara
PERNYATAAN
PENGEMBANGAN METODE BACKPROPAGATION DENGAN MENGGUNAKANADAPTIVE LEARNING RATE DAN PARALLEL TRAINING DALAM PENGENALAN HURUF ATAU ANGKA PADA CITRA DIGITAL
TESIS
Saya mengakui bahwa tesis ini adalah benar hasil karya sendiri, kecuali beberapa kutipan dan ringkasan yang masing – masing telah disebutkan sumbernya.
Medan, 30 Ocktober 2013
Mufida Khairani 117038079
Universita Sumatera Utara
PERNYATAAN PERSETUJUAN PUBLIKASI KARYA ILMIAH UNTUK KEPENTINGAN AKADEMIS
Sebagai civitas akademik Universitas Sumatera Utara, saya yang bertanda tangan dibawah ini : Nama
: Mufida Khairani
Nim
: 117038079
Program Studi
: Teknik Informatika
Jenis Karya Ilmiah
: Tesis
Demi pengembangan ilmu pengetahuan, menyetujui memberikan kepada Universitas Sumatera Utara Hak Bebas Royaliti Non – Ekslusif (Non-Exclusive Royality Fre Right) atas tesis saya yang berjudul :
PENGEMBANGAN METODE BACKPROPAGATION DENGAN MENGGUNAKANADAPTIVE LEARNING RATE DAN PARALLEL TRAINING DALAM PENGENALAN HURUF ATAU ANGKA PADA CITRA DIGITAL Beserta perangkat yang ada (jika diperlukan).Dengan hak bebas Royaliti Non-Exclusive ini, Universitas Sumatera Utara berhak menyimpan, mengalih media, memformat, mengelola dalam bentuk database,merawat dan mempublikasikan tesis saya tanpa meminta izin dari saya selama tetap mencantumkannama saya sebagai penulis dan sebagai pemegang dan/atau sebagai pemilik hak cipta Demikian pernyataan ini dibuat dengan sebenarnya. Medan, 30 0cktober 2013
Mufida Khairani 117038079
Universita Sumatera Utara
Telah di uji pada 30 Ocktober 2013
PANITIA PENGUJI TESIS Ketua : Prof.Dr.Tulus Anggota : 1. Dr.Marwan Ramli,M.Si 2. Prof.Dr.Muhammad Zarlis 3. Prof.Dr.Herman Mawengkang 4. Dr.Zakarias Situmorang
Universita Sumatera Utara
RIWAYAT HIDUP
DATA PRIBADI Nama Lengkap Tempat dan Tanggal Lahir Alamat Rumah Telepon Rumah/Faks/Hp E-mail Instansi Tempat Bekerja Alamat Kantor
: Mufida Khairani,ST : Tg.Morawa, 19 Desember 1989 : Jl.Dahlan Tanjung no.69 Tanjung morawa : (061) 7940856 / - / 0853 5858 5503 :
[email protected] : - Sekolah Tinggi Teknik Harapan Medan - Smk Swasta Nur Azizi : - Jl.H.M Joni No.70C Medan - Jl.Pahlawan Tg.Morawa
DATA PENDIDIKAN SD SMP SMA S1 S2
: SD Negeri I 101896 : SMP Swasta Nur Azizi : SMA Swasta Nur Azizi : Sekolah Tinggi Teknik Harapan Medan : Teknik Informatika USU
TAMAT TAMAT TAMAT TAMAT TAMAT
: 2001 : 2003 : 2007 : 2011 : 2013
Universita Sumatera Utara
KATA PENGANTAR
Puji syukur penulis panjatkan kehadirat Allah SWT atas berkat, rahmat dan karunianya berupa pengetahuan, kesehatan dan kesempatan yang diberikan kepada penulis sehingga dapat
menyelesaikan
TESIS
dengan
judul
“PENGEMBANGAN
METODE
BACKPROPAGATION DENGAN MENGGUNAKAN ADAPTIVE LEARNING RATE DAN PARALLEL TRAINING DALAM PENGENALAN HURUF ATAU ANGKA PADA CITRA DIGITAL”. Penulis dalam penyusunan untuk menyelesaikan TESIS ini banyak mendapati kesulitan dan kendala–kendala yang dihadapi, namun berkat bantuan, dorongan, nasehat dari berbagai pihak terutama dari dosen pembimbing serta dari para dosen, maka tugas tesis ini dapat diselesaikan dengan baik. Terutama tidak lepas dari dorongan orang tua, kakak,adik dan aswar aghi yang juga telah banyak memberikan bantuan dan dorongan hingga penulis dapat sampai pada TESIS ini. Untuk itu penulis ingin menyampaiakan ucapan terimakasih yang sebesar– besarnya kepada : 1. Kedua Orangtua saya Ayahanda H.Ibrahim dan Ibunda Hj.Nazmah Nasution,S.Pd tercinta yang telah memberikan kasih sayangnya, doa yang tak pernah putus serta dorongan moril maupun materil kepada saya sehingga dapat menyelesaikan TESIS ini dengan baik. 2. Bapak Prof.Dr.Muhammad Zarlis, selaku
Ketua Program Studi
Pascasarjana Teknik Informatika Fakultas Ilmu Komputer dan Teknologi Informasi Sumatera Utara Medan.
Universita Sumatera Utara
3. Bapak Prof.Dr.Tulus selaku Pembimbing I yang telah bersedia memberikan bimbingan serta pengarahan hingga selesainya penulisan tesis ini. 4. Bapak Dr.Marwan Ramli,M.Si selaku Dosen Pembimbing II yang telah bersedia memberikan bimbingan serta pengarahan hingga selesainya penulisan tesis ini. 5. Bapak Dosen Penguji yang telah memberikan saran untuk perbaikan dan penyelesaian tesis ini. 6. Bapak dan Ibu Dosen yang telah memberikan materi perkuliahan dan ilmu pengetahuan selama penulis menyelesaikan Program Studi Pascasarjana Teknik Informatika 7. Segenap civitas akademika Program Studi Pascasarjana Teknik Informatika Sumatera Utara 8. Saudara kandung saya Syarah Aisha,S.Pd,Nazliza Ramadhani,Helmi Munawar yang telah memberikan support dan semangatnya dalam perkuliahan saya juga yang mendorong saya sehingga saya bersemangat untuk menyelesaikan TESIS ini. 9. Teristimewa Aswar Aghi,ST beserta keluarga yang telah memberikan kasih sayang, support dan semangatnya kepada penulis sehingga terselesaikan TESIS ini. 10. STTH-Medan yang telah membesarkan nama saya dan membuat saya menjadi seseorang yang berarti dalam pekerjaan saya. Serta semangat dan dorongan dari rekan – rekan dilingkungan STTH-Medan
Universita Sumatera Utara
11. SMK SWASTA NUR AZIZI yang telah membesarkan nama saya dan membuat saya menjadi seseorang yang berarti dalam pekerjaan saya. Serta semangat dan dorongan dari rekan – rekan dilingkungan SMK SWASTA NUR AZIZI. 12. Teman – teman seperjuangan Angkatan 2011 Kom-C yang telah memberikan dukungan dalam penyelesaian TESIS ini.
Tentulah tiada yang sempurna di dunia ini begitu pula dalam penulisan TESIS ini, Untuk itu, penulis mengharapkan kritik dan saran dari pembaca demi kesempurnaan TESIS ini selanjutnya. Akhir kata penulis berharap semoga laporan ini dapat bermanfaat bagi semua pihak, khususnya dalam bidang pendidikan.
Medan, 30 Ocktober 2013 Penulis
Mufida Khairani 117038079
Universita Sumatera Utara
ABSTRAK
Identifikasi karakter pada media digital menjadi salah satu perhatian utama di era perkembangan teknologi saat ini. Latar belakang munculnya upaya untuk mengidentifikasi karakter menjadi bentuk digital adalah tidak terlepasnya aktifitas manusia dari dokumen atau berkas manual dalam kegiatan sehari-hari. Proses transformasi manual dengan cara menginputkan data dan informasi secara manual membutuhkan waktu lama, sehingga dianggap perlu adanya sebuah mekanisme untuk mentransformasikan data dan informasi manual tersebut ke dalam bentuk digital secara otomatis. Kegiatan identifikasi tidak terlepas dari proses klasifikasi. Jaringan syaraf tiruan telah lama digunakan dalam proses klasifikasi, dimana jaringan syaraf tiruan menawarkan fleksibilitas terhadap fitur dari objek yang akan diklasifikasikan dan ruang penyimpanan yang kecil. Salah satu metode jaringan syaraf tiruan yang terkenal adalah metode backpropagation. Kelemahan terbesar dari jaringan backpropagation adalah waktu yang dibutuhkan oleh jaringan untuk belajar menjadi sangat lama untuk kondisi data pembelajaran yang besar dan kondisi dimana fitur antara objek yang berbeda memiliki perbedaan yang kecil. Untuk mengatasi kelemahan itu maka dilakukan implementasi pengembangan dengan menerapkan konsep adaptvie learning rate dan parallel training dalam rangka meningkatkan kemampuan jaringan dalam proses pembelajaran.
Keywords : Identifikasi Karakter, Klasifikasi, Jaringan Syaraf Tiruan, Backpropagatio, Adaptive Learning Rate, Parallel Training.
Universita Sumatera Utara
BACKPROPAGATION DEVELOPMENT METHOD USING ADAPTIVE LEARNING RATE AND PARALLEL TRAINING IN RECOGNITION LETTERS OR NUMBERS ON THE DIGITAL IMAGE ABSTRACT
Identification of characters in digital media to be one of the major concerns in the current era of technological development . Background of attempts to identify characters into digital form is not human activities release of documents or files manually in daily activities . Transformation process manually by way of input data and the information manually takes a long time , so it is considered a need for a mechanism to transform data and manual information into digital form automatically. The identification can’t be separated from the process of classification . Artificial neural networks have long been used in the classification process , which offers the flexibility of neural networks to the features of the object to be classified and small storage space . One method which is wellknown artificial neural network is backpropagation method . The biggest drawback of the backpropagation network is the time taken by the network to learn to be very long for large data conditions of learning and the conditions in which the features between different objects have small differences . To overcome the weaknesses of the implementation of the development is carried out by applying the concept of parallel adaptive learning rate and training in order to improve the ability of the network in the learning process.
Keywords : Character Identification, Classification, Artificial Neural Network, Backpropagation, Adaptive Learning Rate, Parallel Training.
Universita Sumatera Utara
DAFTAR ISI
Halaman HALAMAN JUDUL PERSETUJUAN PERNYATAAN ORISINALITAS PERSETUJUAN PUBLIKASI PANITIA PENGUJI RIWAYAT HIDUP KATA PENGANTAR ABSTRAK ABSTRACT DAFTAR ISI DAFTAR GAMBAR DAFTAR TABEL BAB I
i ii iii iv v vi vii x xi xii xiv xv
PENDAHULUAN 1.1 Latar Belakang 1.2 Rumusan Masalah 1.3 Tujuan Masalah 1.4 Batasan Masalah 1.5 Metodologi Penelitian 1.5.1 Tahap pengumpulan Data
1 1 3 3 3 4 4
BAB II DASAR TEORI 2.1. Citra Digital 2.2 Sifat Citra Digital 2.3. Citra Grayscale 2.4. Image Thinning 2.5. Jaringan Syaraf Tiruan 2.6. Jaringan Syaraf Tiruan Backpropagation 2.7. Adaptive Learning Rate 2.8. Perbandingan Backpropagation Konvensional dan Adaptive Learning Rate. 2.9. Parallel Training
5 5 5 7 7 9 10 13
BAB III MOTODOLOGI PENELITIAN 3.1. Rancangan Penelitian 3.1.1 Analisis Proses Identifikasi Karakter atau Huruf Pada Citra Digital 3.2 Alat Penelitian dan Bahan 3.2.1 Alat Penelitian 3.2.2 Bahan Penelitian 3.2.2.1 Bahan Penelitian Karakter Huruf dan Angka
23 23
14 19
24 25 25 26 26
Universita Sumatera Utara
3.2.2.2 Parameter Jaringan Backpropagation 3.2.2.3 Target Output Backpropagation
29 30
BAB IV HASIL DAN PEMBAHASAN 4.1 Pengantar 4.2 Data dan Konfigurasi Pengujian 4.3 Hasil dan Pengujian 4.3.1 Hasil Pelatihan Pengujian Pertama 4.3.2 Hasil Pelatihan Pengujian Kedua 4.4 Pembahasan 4.4.1 Pembahasan Hasil Pengujian pertama 4.4.2 Pembahasan Hasil Pengujian Kedua
34 34 38 40 41 43 45 46 47
BAB V KESIMPULAN DAN SARAN 5.1 Kesimpulan 5.2 Saran
48 48 48
DAFTAR PUSTAKA LAMPIRAN
Universita Sumatera Utara
DAFTAR GAMBAR
Gambar 2.1 Gambar 2.2 Gambar 2.3 Gambar 2.4 Gambar 2.5 Gambar 2.6 Gambar 2.7 Gambar 2.8 Gambar 2.9 Gambar 3.1. Gambar 3.2 Gambar 4.1 Gambar 4.2 Gambar 4.3 Gambar 4.4 Gambar 4.5 Gambar 4.6 Gambar 4.7
Gambar 4.8
Proses Akuisisi Citra Representasi Citra Digital Arsitektur Multilayer Neural Network Ilustrasi Pembelajaran Karakter Angka Ilustrasi Lokal Minimal dan Global Minimal Perbandingan Laju Error Pada Percobaan Learning Rate. Grafik Perbandingan Implementasi Learning Rate Ilustrasi Parallel Training pada Data Input Karakter dan Angka Presentasi Skema Pelatihan Pada Jaringan Diagram Flowchart Proses Identifikasi Karakter Huruf atau Angka Pada Citra Digital Karakter A Tampilan Output Aplikasi Pengenalan Karakter Menggunakan Metode Jaringan Syaraf Backpropagation Tampilan Data Karakter Tampilan Input Data karakter Proses Pelatihan Jaringan Backpropagation Proses Pelatihan Pada Pengujian Pertama Proses Pelatihan Pada Pengujian Kedua Perbandingan Laju Error Jaringan Backpropagation Normal dengan Backpropagation Pengembangan Pada Pelatihan Pengujian Pertama Perbandingan Laju Error Jaringan Backpropagation Normal dengan Backpropagation Pengembangan Pada Pelatihan Pengujian Kedua
Halaman 5 6 10 14 15 18 19 21 22 24 26 35 36 36 37 41 43
45
46
Universita Sumatera Utara
DAFTAR TABEL
Tabel 3.1 Tabel 3.2 Tabel 4.1 Tabel 4.2 Tabel 4.3 Tabel 4.4 Tabel 4.5
Bagian dari karakter akan diberi nilai 1dan 0 Jumlah Partisi dan Unit Jaringan pada pelatihan paralel Atribut Citra Digital Hasil Pengujian Pelatihan Pertama Nilai Alpha Dari Pengujian Pertama Hasil Pengujian Pelatihan Kedua Nilai Alpha Dari Pengujian Kedua
Halaman 28 30 38 42 42 44 44
Universita Sumatera Utara