ANALISIS KOMBINASI MESSAGE-DIGEST ALGORITHM 5 (MD5) DAN AFFINE BLOCK CIPHERTERHADAP SERANGAN DICTIONARY ATTACK UNTUK KEAMANAN ROUTER WEBLOGIN HOTSPOT
TESIS AIDIL HALIM LUBIS 137038029
PROGRAM STUDI S2 TEKNIK INFORMATIKA FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA MEDAN 2016
Universitas Sumatera Utara
ANALISIS KOMBINASI MESSAGE-DIGEST ALGORITHM 5 (MD5) DAN AFFINE BLOCK CIPHER TERHADAP SERANGAN DICTIONARY ATTACK UNTUK KEAMANAN ROUTER WEBLOGIN HOTSPOT
TESIS Diajukan untuk melengkapi tugas dan memenuhi syarat memperoleh ijazah Magister Teknik Informatika
AIDIL HALIM LUBIS 137038029
PROGRAM STUDI S2 TEKNIK INFORMATIKA FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA MEDAN 2016
Universitas Sumatera Utara
PERSETUJUAN
Judul
:
ANALISIS
KOMBINASI
MESSAGE-DIGEST
ALGORITHM 5 (MD5) DAN AFFINE BLOCK CIPHER TERHADAP
SERANGAN
DICTIONARY
ATTACK
UNTUK KEAMANAN ROUTER WEBLOGIN HOTSPOT Kategori
:
TESIS
Nama
:
AIDIL HALIM LUBIS
Nomor Induk Mahasiswa
:
137038029
Program Studi
:
S2 TEKNIK INFORMATIKA
Fakultas
:
ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA
Komisi Pembimbing
:
Pembimbing 2
Pembimbing 1
Dr. Poltak Sihombing, M.Kom
Prof. Dr. Opim Salim Sitompul, M.Sc
Diketahui / disetujui oleh Program Studi S2 Teknik Informatika Ketua,
Prof. Dr. Muhammad Zarlis NIP. 19570701 198601 1 003
Universitas Sumatera Utara
PERNYATAAN
ANALISIS KOMBINASI MESSAGE-DIGEST ALGORITHM 5 (MD5) DAN AFFINE BLOCK CIPHER TERHADAP SERANGAN DICTIONARY ATTACK UNTUK KEAMANANROUTER WEBLOGIN HOTSPOT
TESIS
Saya mengakui bahwa tesis ini adalah hasil karya saya sendiri, kecuali beberapa kutipan dan ringkasan yang masing-masing telah disebutkan sumbernya.
Medan,
Agustus 2016
Aidil Halim Lubis Nim. 137038029
Universitas Sumatera Utara
PERNYATAAN PERSETUJUAN PUBLIKASI KARYA ILMIAH UNTUK KEPENTINGAN AKADEMIS
Sebagai sivitas akademika Universitas Sumatera Utara, saya yang bertanda tangan
di
bawah ini : Nama
: AIDIL HALIM LUBIS
NIM
: 137038029
Program Studi
: S2 TEKNIK INFORMATIKA
Jenis Karya Ilmiah
: TESIS
Demi pengembangan ilmu pengetahuan, menyetujui untuk memberikan kepada Universitas Sumatera Utara Hak Bebas Royalti Non-Eksklusif (Non-Exclusive Royalty Free Right) atas tesis saya yang berjudul : ANALISIS KOMBINASI MESSAGE-DIGEST ALGORITHM 5 (MD5) DAN AFFINE BLOCK CIPHER TERHADAP SERANGAN DICTIONARY ATTACK UNTUK KEAMANANROUTER WEBLOGIN HOTSPOT Beserta perangkat yang ada (jika diperlukan). Dengan Hak Bebas Royalti Non-Eksklusif ini, Universitas Sumatera Utara berhak menyimpan, mengalih media, memformat, mengelola dalam bentuk database, merawat dan mempublikasikan tesis saya tanpa meminta izin dari saya selama tetap mencantumkan nama saya sebagai penulis dan sebagai pemegang dan/atau sebagai pemilik hak cipta.
Demikian pernyataan ini dibuat dengan sebenarnya.
Medan, 26 Agustus 2016
Aidil Halim Lubis NIM. 137038029
Universitas Sumatera Utara
Telah diuji pada Tanggal : 26 Agustus 2016
PANITIA PENGUJI TESIS Ketua
: 1. Prof. Dr. Opim Salim Sitompu, M.Sc 2. Dr. Poltak Sihombing, M.Kom 3. Prof. Dr. Muhammad Zarlis 4. Dr. Erna Budhiarti Nababan, M.IT
Universitas Sumatera Utara
RIWAYAT HIDUP
DATA PRIBADI Nama Lengkap
: Aidil Halim Lubis, S.Kom
Tempat dan Tanggal Lahir
: Binjai, 27 Mei 1988
Alamat Rumah
: Jl. Hah. Hasan No.82 A Binjai
Telepon
: 081397214108
E-mail
:
[email protected]
Instansi Tempat Bekerja
: SMK Negeri 2 Binjai
Alamat Kantor
: Jl. Bejomuna
DATA PENDIDIKAN SD
: SDN 023907 Binjai
Tamat : 2000
SLTP
: SMPN 5 Binjai
Tamat : 2003
SLTA
: SMKS Tunas Pelita Binjai
Tamat : 2006
DIPLOMA
: D-III Politeknik Negeri Medan
Tamat : 2010
S1
: Universitas Pembangunan Panca Budi
Tamat : 2013
S2
: Teknik Informatika USU
Tamat : 2016
Universitas Sumatera Utara
i
KATA PENGANTAR
Assalamu’alaikum Wr.Wb Puji dan syukur penulis panjatkan Kehadirat Allah SWT karena atas berkah dan rahmat serta karunia-Nya sehingga tesis ini dapat diselesaikan tepat pada waktunya. Pada kesempatan ini pula penulis ingin mengucapkan terima kasih yang sebesar-besarnya kepada berbagai pihak yang telah banyak membantu peneliti baik secara moril maupun materil, langsung maupun tidak langsung. Untuk itu penulis ingin mengucapkan terimakasih kepada : 1. Rektor Universitas Sumatera Utara, Prof. Dr. Runtung, S.H., M.Hum atas kesempatan yang diberikan kami untuk mengikuti dan menyelesaikan pendidikan Program Magister. 2. Bapak Prof. Dr. Opim Salim Sitompu, M.Sc, selaku Pembimbing Utama, Dekan Fakultas Ilmu Komputer dan Teknologi Informasi yang penuh perhatian telah memberikan dorongan, bimbingan dan arahan. 3. Bapak Prof. Dr. Muhammad Zarlis, selaku ketua komisi pembanding, Ketua Program Studi Magister Teknik Informatika Universitas Sumatera Utara atas kesempatan yang diberikan kepada saya menjadi mahasiswa Program Magister. 4. Bapak M. Andri Budiman, M.Comp.Sc., M.E.M selaku sekretaris Program Studi Magister Teknik Informatika. 5. Bapak Dr. Poltak Sihombing, M.Kom selaku Pembimbing Anggota yang telah membimbing penulis hingga selesainya penelitian ini. 6. Ibu Dr. Erna Budhiarti Nababan selaku anggota komisi pembanding 7. Seluruh Dosen Pengajar Pascasarjana Program Studi Magister Teknik Informatika yang telah memberikan banyak ilmu pengetahuan selama penulis mengikuti pendidikan. 8. Teristimewa kepada Orang tua penulis, ayahanda Ahmad Rifai Lubis dan Ibunda Mislah, serta Istri Tercinta Wahyuni Adha Purba, S.Pd yang senantiasa
Universitas Sumatera Utara
ii
memberikan semangat dan dukungan baik berupa moril maupun materil hingga selesai proses pendidikan ini. 9. Rekan-rekan seperjuangan pada Program Studi Magister Teknik Informatika yang tergabung dalam Kom A 2013, serta teman-teman yang tidak bisa penulis sebutkan namanya satu-persatu yang senantiasa memberikan dukungan.
Akhirnya, penulis menyadari didalam penulisan tesis ini masih terdapat banyak kekurangan, oleh karena itu untuk kesempurnaan penulisan tesis ini penulis mengharapkan kritik dan saran yang bersifat membangun. Semoga Allah SWT selalu mengabulkan doa-doa kita dalam meraih cita-cita dan harapan kita semua, serta dengan S2 ini mampu mencerdaskan kehidupan bangsa. Akhir kata penulis berharap semoga tesis ini dapat bermanfaat bagi semua pihak, khususnya dalam bidang pendidikan.
Wassalamu’alaikum Wr.Wb
Medan, 26 Agustus 2016
Aidil Halim Lubis 137038029
Universitas Sumatera Utara
iii
ANALISIS KOMBINASI MESSAGE-DIGEST ALGORITHM 5 (MD5) DAN AFFINE BLOCK CIPHER TERHADAP SERANGAN DICTIONARY ATTACK UNTUK KEAMANAN ROUTER WEBLOGIN HOTSPOT
ABSTRAK Kriptografi adalah ilmu yang digunakan untuk menyamarkan pesan yang akan dikirim oleh pengirim ke penerima pesan. Salah satu algoritma yang cukup banyak digunakan sampai saat ini yaitu algoritma message-digest 5 atau MD5. Output yang dihasilkan oleh algoritma MD5 berupa hash. Namun algoritma ini telah banyak ditemui kelemahannya karena panjang bit yang digunakan. Pada penelitian ini, penulis menganalisa kinerja dari algoritma MD5serta mengkombinasikan dengan algoritma affine block cipher untuk dapat mengurangi kelemahan yang ada pada algoritma MD5. Hasil yang diperoleh dari penelitian ini adalahalgoritma affine block cipher memiliki tingkat keamanan yang cukup baik karena memiliki panjang kunci yang bernilai n sebesar 255255255255 dan memiliki bilangan relatif prima yang tersedia sebanyak 117710117810.
Kata kunci : message-digest, MD5, affine block cipher,hash,
Universitas Sumatera Utara
iv
ANALYSIS OF THE COMBINATION MESSAGE-DIGEST ALGORITHM 5 (MD5) AND AFFINE BLOCK CIPHER AGAINTS ATTACK OF DICTIONARY ATTACK TO ROUTER SECURITY HOTSPOT WEBLOGIN ABSTRACT Cryptography is the science of disguising the messages so that only well known by the provider and the recipient. One of the algorithm that is quite a lot of used until this time is algorithm message-digest 5 or MD5. The output produced by the algorithm MD5 be hash. But this algorithm has many found weakness because the length of the bit is used. In this research, the authors analyze the performance of the algorithm MD5 and combine with affine algorithm block cipher for can reduce the weakness that exist on the algorithm MD5. The results obtained from this research is the affine algorithm block cipher have a good security level because it has the key length of value n of 255255255255 and have numbers relatively prima available as much as 117710117810.
Keywords : message-digest, MD5, affine block cipher,hash,
Universitas Sumatera Utara
v
DAFTAR ISI
Hal KATA PENGANTAR
i
ABSTRAK
iii
DAFTAR ISI
v
DAFTAR GAMBAR
viii
DAFTAR TABEL
ix
BAB I
PENDAHULUAN
1.1. Latar Belakang
1
1.2. Rumusan Masalah
3
1.3. Batasan Masalah
3
1.4. Tujuan Penelitian
3
1.5. Manfaat Penelitian
3
BAB II
TINJAUAN PUSTAKA
2.1. Keamanan
4
2.2. Mekanisme Kriptografi
5
2.3. Tujuan Kriptografi
8
2.4. Kriptografi Simentrik dan Asimentris
8
2.4.1.
Kriptografi Simetris
9
2.4.2.
Kriptografi Asimetris
10
2.5. Keamanan Sistem Kriptografi
11
2.6. Algoritma Message Digest 5
12
2.7. Serangan Pada Algoritma Message-Digest
13
2.8. Analisa Keamanan Algoritma MD5
14
2.9. Algoritma Affine Cipher
17
2.10. Analisa Keamanan Algoritma Affine Block Cipher
17
Universitas Sumatera Utara
vi
BAB III METODOLOGI PENELITIAN 3.1. Bahan-bahan
15
3.2. Analisis Algoritma
15
3.3. Analisis Algoritma Message Digest 5 (MD5)
15
3.4. Analisis Algoritma Affine Cipher
27
3.5. Analisis Algoritma Affine Block Cipher
30
3.6. Rancangan Penelitian
32
BAB IV HASIL DAN PEMBAHASAN 4.1. Hasil dan Implementasi
34
4.2. Fungsi Hash Menggunakan Algoritma MD5
34
4.2.1.
Percobaan Pertama Fungsi Hash Menggunakan Algoritma MD5 34
4.2.2.
Percobaan Kedua Fungsi Hash Menggunakan Algoritma MD5 37
4.2.3.
Percobaan Ketiga Fungsi Hash Menggunakan Algoritma MD5 40
4.3. Proses Enkripsi Menggunakan Algoritma Affine Block Cipher 4.3.1.
Percobaan Pertama Proses Enkripsi Menggunakan Algoritma Affine Block Cipher
4.3.2.
43
Percobaan Kedua Proses Enkripsi Menggunakan Algoritma Affine Block Cipher
4.3.3.
44
Percobaan Ketiga Proses Enkripsi Menggunakan Algoritma Affine Block Cipher
45
4.4. Kombinasi Algoritma MD5 dengan Algoritma Affine Block Cipher 4.4.1.
46
Percobaan Kedua Kombinasi Algoritma MD5 dengan Algoritma Affine Block Cipher
4.4.3.
46
Percobaan Pertama Kombinasi Algoritma MD5 dengan Algoritma Affine Block Cipher
4.4.2.
43
48
Percobaan Ketiga Kombinasi Algoritma MD5 dengan Algoritma Affine Block Cipher
51
4.5. Analisa Waktu
53
4.5.1.
Analisa Waktu Algoritma MD5
53
4.5.2.
Analisa Waktu Algoritma Affine Block Cipher
54
4.5.3.
Analisa Waktu Kombinasi Algoritma MD5 dengan Algoritma Affine Block Cipher
57
Universitas Sumatera Utara
vii
4.6. Analisa Keamanan 4.6.1.
Analisa Keamanan Kombinasi Algoritma MD5 dan Algoritma Affine Block Cipher
BAB V
59
59
KESIMPULAN DAN SARAN
5.1. Kesimpulan
61
5.2. Saran
61
DAFTAR PUSTAKA
62
Universitas Sumatera Utara
viii
DAFTAR GAMBAR
HAL Gambar 2.1. Mekanisme Kriptografi
6
Gambar 2.2. Kriptografi Berbasis Kunci
7
Gambar 2.3. Diagram Proses Enkripsi dan Dekripsi
9
Gambar 2.4. Diagram Proses Enkripsi dan Dekripsi Algoritma Simetris
11
Gambar 3.1. Ilustrasi Pembuatan Message Digest Algoritma MD5
21
Gambar 3.2. Pengolahan Blok 512 bit
21
Gambar 3.3. Proses Operasi Dasar MD5
22
Gambar 3.4. Proses Hash Algoritma MD5
27
Gambar 3.5. Proses Enkripsi dan Dekripsi pada Algoritma Affine Cipher
28
Gambar 3.6. Proses Enkripsi dan Dekripsi pada Algoritma Affine Cipher
30
Gambar 3.7. Proses Enkripsi dan Dekripsi pada Algoritma Affine Block Cipher
32
Gambar 3.8. Rancangan Penelitian Kombinasi Algoritma MD5 dengan Algoritma Affine Block Cipher
33
Gambar 4.1. Analisa Waktu Algoritma Affine Block Cipher
56
Gambar 4.2. Analisa Waktu Kombinasi Algoritma MD5 dan Algoritma Affine Block Cipher
59
Universitas Sumatera Utara
ix
DAFTAR TABEL
HAL 3.1.
Fungsi-fungsi Dasar MD5
23
3.2.
Nilai T[i]
24
3.3.
Rincian Operasi pada fungsi F(b,c,d)
25
3.4.
Rincian Operasi pada fungsi G(b,c,d)
25
3.5.
Rincian Operasi pada fungsi H(b,c,d)
26
3.6.
Rincian Operasi pada fungsi I(b,c,d)
26
3.7.
Proses Enkripsi pada Algoritma Affine Cipher
29
3.8.
Proses Dekripsi pada Algoritma Affine Cipher
29
3.9.
Proses Enkripsi pada Algoritma Affine Block Cipher
31
4.1.
Hasil putaran 1 dan 2 Message-Digest dari Plainteks medan
35
4.2.
Hasil Putaran 3 dan 4 Message-Digest dari Plainteks medan
36
4.3.
Operasi Hasil Penambahan dan Konversi
37
4.4.
Hasil Putaran 1 dan 2 Message-Digest dari Plainteks Universitas
38
4.5.
Hasil Putaran 3 dan 4 Message-Digest dari Plainteks Universitas
39
4.6.
Operasi Hasil Penambahan dan Konversi
40
4.7.
Hasil Putaran 1 dan 2 Message-Digest dari Plainteks Informatika
41
4.8.
Hasil Putaran 3 dan 4 Message-Digest dari Plainteks Informatika
42
4.9.
Operasi Hasil Penambahan dan Konversi
43
4.10. Analisa Waktu pada Algoritma MD5
54
4.11. Analisa Waktu pada Algoritma Affine Block Cipher
55
4.12. Analisa Waktu pada Kombinasi Algoritma MD5 dan Algoritma Affine Block Cipher
57
Universitas Sumatera Utara