IMPLEMENTASI DAN PERBANDINGAN FIREWALL SECURITY MENGGUNAKAN MIKROTIK DAN M0N0WALL PADA LOCAL AREA NETWORK
DRAFT SKRIPSI
HENDRA H.SINAGA 101421059
PROGRAM STUDI EKSTENSI S1 ILMU KOMPUTER FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA MEDAN 2012
Universitas Sumatera Utara
sssssIMPLEMENTASI DAN PERBANDINGAN FIREWALL SECURITY MENGGUNAKAN MIKROTIK DAN M0N0WALL PADA LOCAL AREA NETWORK
SKRIPSI
Diajukan untuk melengkapi tugas dan memenuhi syarat mencapai gelar Sarjana Ilmu Komputer
HENDRA H.SINAGA 101421059
PROGRAM STUDI EKSTENSI S1 ILMU KOMPUTER FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA MEDAN 2012
Universitas Sumatera Utara
PERSETUJUAN
Judul
Kategori Nama Nomor Induk Mahasiswa Program Studi Fakultas
: IMPLEMENTASI DAN PERBANDINGAN FIREWALL SECURITY MENGGUNAKAN MIKROTIK DAN M0N0WALL PADA LOCAL AREA NETWORK : SKRIPSI : HENDRA H.SINAGA : 101421059 : EKSTENSI (S1) ILMU KOMPUTER : ILMU KOMPUTER DAN TEKNOLOGI INFORMASI UNIVERSITAS SUMATERA UTARA
Diluluskan di Medan,
Komisi Pembimbing
:
Pembimbing I
Pembimbing II
Prof. Dr. Opim Salim Sitompul NIP 196108171 987011 001
M. Umar Saleh T, ST NIP 196206242 006041 015
Diketahui/Disetujui oleh Departemen Ilmu Komputer FMIPA USU Ketua,
Dr. Poltak Sihombing, M.Kom. NIP 19620317 1991031 001
Universitas Sumatera Utara
PERNYATAAN
IMPLEMENTASI DAN PERBANDINGAN FIREWALL SECURITY MENGGUNAKAN MIKROTIK DAN M0N0WALL PADA LOCAL AREA NETWORK.
SKRIPSI
Saya mengakui bahwa skripsi ini adalah hasil kerja saya sendiri, kecuali beberapa kutipan dan ringkasan yang masing-masing disebutkan sumbernya.
Medan, 24 Juni 2012
HENDRA H.SINAGA 101421059
Universitas Sumatera Utara
PENGHARGAAN
Puji dan syukur penulis panjatkan kepada Tuhan Yang Maha Esa, dengan limpahan kasih dan karunia-Nya kertas kajian ini berhasil diselesaikan dalam waktu yang telah ditetapkan. Dalam menyelesaikan Skripsi ini, Penulis telah banyak mendapatkan bimbingan moril dan material dari berbagai pihak. Maka pada kesempatan ini, Penulis mengucapkan terima kasih kepada seluruh pihak yang telah banyak membantu antara lain kepada : 1. Bapak Dr. Poltak Sihombing, M.Kom, selaku Ketua Departemen Ilmu Komputer. 2. Ibu Maya Silvi Lydia, B.Sc., M.Sc, selaku Sekretaris Departemen Ilmu Komputer 3. Bapak Prof. Dr. Opim Salim Sitompul dan Bapak M. Umar Saleh T, ST selaku Dosen Pembimbing Skripsi. 4. Bapak Drs. Agus Salim Harahap, M.Si dan Bapak Drs. Dahlan Sitompul, M.Eng Sebagai Dosen Pembanding Skripsi. 5. Kepada Ayahhanda S.M. Sinaga dan Ibunda Miarta Pandiangan serta Seluruh Keluarga Besar yang banyak memberikan bantuan moril maupun material di sertai Doa yang akhirnya Skripsi ini selesai. 6. Seluruh Staf-staf Pengajar (Dosen) dan dan Pembantu Dekan Fakultas Ilmu Komputer Universitas Sumatera Utara. 7. Kepada Teman Penulis yaitu, Bambang Hadi Pranowo, Fahrie Rezeki Pane, Kristian Sinaga, Evi novita sinaga, S.Pd dan Alexander Sinaga yang telah memotivasi serta memberi dukungan serta semangat untuk Penulis dalam menyelesaikan Skripsi ini. 8. Seluruh teman satu kelas Penulis yaitu Kom A 2010 yang telah memberi motivasi dan dukungannya dalam menyelesaikan Skripsi ini. Atas semua motivasi dan bantuan semua pihak, Penulis mengucapkan banyak terima kasih, Semoga Tuhan membalas semua kebaikan yang telah di berikan, semoga Skrispsi ini bermanfaat bagi kita semua.
Universitas Sumatera Utara
ABSTRAK
Dalam sebuah jaringan istilah “firewall” adalah tembok api, yang berperan sebagai pembatas jaringan luar yang terkoneksi dengan internet. Dengan pesatnya perkembangan internet, dapat memberikan dampak positif bagi kita sebagai penyedia layanan informasi dan komunikasi, selain itu internet juga dapat memberikan dampak negatif sekaligus ancaman bagi penggunanya. Sehingga akses jaringan kita dengan internet harus dibatasi oleh sebuah pembatas yang dikenal dengan firewall. Bertujuan untuk implementasi sistem firewall security menggunakan mikrotik dan m0n0wall pada local area network. Firewall merupakan suatu perangkat keamanan jaringan yang memperkenankan berbagai bagian ruas jaringan untuk melaksanakan komunikasi antara satu dengan yang lainnya sesuai dengan definisi kebijakan keamanan yang telah diterapkan sebelumnya. firewall peka terhadap kesalahan konfigurasi dan kegagalan untuk menerapkan kebijakan, sehingga diperlukan tambahan atau peningkatan keamanan lain. Oleh karena itu, konfigurasi firewall yang digunakan dalam Mikrotik dan M0n0wall harus dilakukan secara hati-hati, sehingga organisasi seharusnya dapat bertahan dengan mengurangi kerapuhan dan gangguan baru. Dalam Perancangan Firewall pada mikrotik dan m0n0wall pada local area network menggunkan paket filtering, NAT, transparant proxy, application dan port address yang dapat mengurangi ancaman dan gangguan yang terjadi pada local area network Diperlukan usaha kerja keras untuk memelihara semua sistem di dalam cara mengamankan dan tidak semata-mata mengandalkan pada firewall untuk menghentikan ancaman keamanan tersebut. Kata Kunci : Filter Packet, NAT, Transparant proxy, Application dan Port Address.
Universitas Sumatera Utara
IMPLEMENTATION AND COMPARISON USING MIKROTIK AND M0N0WALL FIREWALL SECURITY IN LOCAL AREA NETWORK
ABSTRACT
In a networking term "firewall" is a fire wall, which acts as a barrier to the outside network connected to the internet. With the rapid development of Internet, can have a positive impact for us as a provider of information and communication services, in addition to the internet can also have a negative impact as well as a threat to users. So that we network with internet access should be restricted by a barrier known as a firewall. Destination for system implementation and the mikrotik firewall security using m0n0wall on a local area network. A firewall is a network security device that allows various parts of the network segment to implement the communication between each other according to the definition of security policy that has been applied previously. Firewalls are sensitive to configuration errors and failure to implement the policy, requiring additional or other security enhancements. Because of, the firewall configuration and administration must be done carefully, so that the organization should be able to survive by reducing brittleness and a new disorder.In the design of the mikrotik and m0n0wall Firewall on local area network use the packet filtering, NAT, transparent proxy, application address and port that can reduce the threat and disruption of the local area network.Takes hard work to keep all systems in a secure how to and not just rely on the firewall to stop security threats. Keywords: Packet Filter, NAT, Transparent Proxy, Application and Port Address.
Universitas Sumatera Utara
DAFTAR ISI Halaman PERSETUJUAN ................................................................................................................ ii PERNYATAAN ................................................................................................................ iii PENGHARGAAN ............................................................................................................ iv ABSTRAK .......................................................................................................................... v ABSTRACT ...................................................................................................................... vi DAFTAR ISI .................................................................................................................... vii DAFTAR TABEL .............................................................................................................. x DAFTAR GAMBAR ........................................................................................................ xi BAB 1 PENDAHULUAN ................................................................................................ 1 1.1 Latar Belakang ................................................................................................. 1 1.2 Rumusan Masalah ........................................................................................... 3 1.3 Batasan Masalah ............................................................................................. 3 1.4 Tujuan Penelitian ............................................................................................ 3 1.5 Manfaat Penelitian .......................................................................................... 4 1.6 Metodologi Penelitian .................................................................................... 5 1.7 Sistematika Penulisan ..................................................................................... 5 BAB 2 LANDASAN TEORI ........................................................................................... 7 2.1 Pengertian Jaringan ......................................................................................... 7 2.1.1 Pengertian Jaringan ............................................................................... 7 2.1.2 Jenis-Jenis Jaringan ............................................................................... 8 2.1.1.1 Local Area Network ................................................................. 8 2.1.1.2 Metropolitan Area Network ..................................................... 9 2.1.1.3 Wide Area Network ............................................................... 10 2.2 Komponen Jaringan ....................................................................................... 10
2.2.1 Kabel .......................................................................................................... 10 2.2.2 Hub/Switch ................................................................................................ 12 2.2.3 Router ........................................................................................................ 12
2.3 Topologi Jaringan ......................................................................................... 13
2.3.1 Topologi Bus............................................................................................... 14 2.3.2 Topologi Ring ............................................................................................. 14 2.3.3 Topologi Star ..............................................................................................15
2.4 Protokol Jaringan Komputer ........................................................................ 15
2.4.1 Model Referensi OSI ................................................................................... 15 2.4.2 TCP/IP (Transmission Control Protocol / Internet Protokol)......................... 18 2.4.3 IP (Internet Protocol) .................................................................................. 20 2.4.4 Subnetting .................................................................................................. 20 2.4.5 Gateway ..................................................................................................... 21
Universitas Sumatera Utara
2.5 Sejarah Mikrotik .......................................................................................... 21
2.5.1 Pengertian Mikrotik.................................................................................... 21 2.5.2 Jenis-Jenis Mikrotik..................................................................................... 22 2.5.3 Mikrotik Sebagai Firewall............................................................................ 23 2.5.4 Network Address Translator (NAT).............................................................. 24
2.6 Sejarah M0n0wall ........................................................................................ 25 2.6.1 Fitur-Fitur M0n0wall ......................................................................... 26 BAB 3 ANALISIS DAN IMPLEMENTASI SISTEM .............................................. 27 3.1 Analisis Sistem .............................................................................................. 27 3.1.1 Analisis Masalah ................................................................................. 27 3.2 Topologi Jaringan ......................................................................................... 30 3.2.1 Topologi Yang Sedang Berjalan ...................................................... 30 3.3 Sistem Yang Sedang Berjalan ...................................................................... 32 3.3.1 Teknik Firewall ................................................................................. 32 3.3.2 Masalah Yang Dihadapi Pada Sistem .............................................. 34 3.5 Solusi Yang Ditawarkan ............................................................................... 35 3.6 Perancangan Sistem ....................................................................................... 35 3.6.1 Tipe dan Alur Kerja Firewall .............................................................. 35 3.6.2 Topologi Firewall Pada Lan ................................................................ 37 3.7 Implementasi Sistem ..................................................................................... 38 3.7.1 Implementasi Awal Sistem ................................................................. 38 3.7.1.1 Tampilan Settingan Firewall Mikrotik .................................. 38 3.7.1.2 Tampilan Settingan Firewall M0n0wall ............................... 42 BAB 4 IMPLEMENTASI DAN PERBANDINGAN ............................................... 46 4.1 Spesifikasi Sistem .......................................................................................... 46 4.4.1 Perangkat Keras ................................................................................. 46 4.4.2 Perangkat Lunak ................................................................................ 46 4.4.3 Perangkat Lainnya ............................................................................. 47 4.2 Rancangan Implementasi .............................................................................. 47 4.2.1 Implementasi Perangkat keras (Hardware) ........................................ 47 4.2.2 Implementasi Perangkat lunak (Software) .......................................... 47 4.2.2.1 Perangkat Lunak Mikrotik ..................................................... 48 4.2.2.2 Perangkat Lunak M0n0wall ................................................... 49 4.3 Konfigurasi Operating Sistem ..................................................................... 50 4.3.1 Konfigurasi IP Address Mikrotik ....................................................... 50 4.3.1.1 Konfigurasi NAT Firewall Mikrotik ........................................ 51 4.3.1.2 Konfigurasi NAT Rule Mikrotik .............................................. 53 4.3.2 Konfigurasi IP Address M0nowall...................................................... 57 4.3.2.1 Konfigurasi NAT Firewall M0nowall ...................................... 60 4.3.2.2 Konfigrasi Firewall Rules ......................................................... 63 4.4 Hasil Pengujian Sistem ................................................................................. 66 4.4.1 Hasil Pengujian Menggunakan Mikrotik dan M0n0wall................... 66 4.5 Perbandingan Operating Sistem .................................................................. 70 4.4.1 Perbandingan Menggunkan Mikrotik ................................................. 70 4.4.2 Perbandingan Menggunkan M0n0wall ............................................... 71
Universitas Sumatera Utara
BAB 5 KESIMPULAN DAN SARAN ........................................................................ 72 5.1 Kesimpulan ..................................................................................................... 72 5.2 Saran ................................................................................................................ 73 DAFTAR PUSTAKA ...................................................................................................... 73 LAMPIRAN ..................................................................................................................... 74
Universitas Sumatera Utara
DAFTAR TABEL
Halaman 3.1 Pengalamatan Piranti Jaringan 4.1 Perbandingan Menggunakan Mikrotik dan M0nowall
38 71
Universitas Sumatera Utara
DAFTAR GAMBAR
Halaman 2.1 2.2 2.3 2.4 2.5 2.6 2.7 2.8 2.9 2.10 2.11 2.12 2.13 2.14 2.15 3.1 3.2 3.3 3.4 3.5 3.6 3.7 3.8 3.9 3.10 3.11 3.12 3.13 3.14 3.15 3.16 4.1 4.2 4.3 4.4 4.5 4.6 4.7 4.8 4.9 4.10 4.11
Jaringan LAN Jaringan MAN Jaringan WAN Kabel Coaxial Kabel STP dan UTP Kabel Fiber Optic Hub dan Switch Router Topologi Bus Topologi Ring Topologi Star Model Referensi OSI Lapisan TCP/IP Pergerakan Data Dalam Layer TCP/IP Mikrotik Router Board Firewall Memisahkan Jaringan Public dan Local Skema Firewall LAN Skema Topologi Star pada LAN Flowchart Firewall Packet Filter Alur Kerja Firewall Topologi Firewall pada LAN Setting Address LAN Setting Firewall Rule Hasil Filter Rules Pada Firewall Menu NAT Inbound Menu NAT Outbound Setting NAT Firewall Firewall Rules Konfigurasi Firewall Rules Traffic Shaper Rules Tampilan Awal Mirotik Tampilan Menu Winbox Tampilan Web Gui M0nowall Konfigurasi IP Address Konfiguarasi NAT Firewall Konfigurasi NAT Action Firewall NAT Masquared NAT Rules Mikrotik Terminal Mikrotik Filter Rules Untuk Virus Filter Rules Ddos, Port Scanning, Backdoor
8 9 10 11 11 12 12 13 14 14 15 16 18 19 22 28 30 31 32 33 36 37 39 40 41 43 43 44 44 45 45 48 49 49 50 51 52 52 53 54 59 63
Universitas Sumatera Utara
4.12 Halaman M0n0wall 4.13 Menu General Setup 4.14 Menu LAN 4.15 Menu NAT Inbound 4.16 Menu NAT Outbound 4.17 Menu NAT Firewall 4.18 Firewall Rules 4.19 Konfigurasi Firewall Rules 4.20 Traffic Shapper Rules 4.23 Jaringan Client Komputer tidak terinfeksi Virus 4.23 Website yang mengandung virus di block 4.23 Hasil pengujian port scan pada client 4.23 Hasil pengujian Ddos pada server
64 65 66 67 68 69 70 71 72 66 67 68 69
Universitas Sumatera Utara