Manajemen Sains: Artificial Neural Networks Dr. Ir. Gunadi Widi Nurcahyo, MSc.
Outline 1. 2. 3. 4. 5.
6. 7. 8.
Pengertian JST Model Sel Syaraf (Neuron) Fungsi Aktivasi Arsitektur Jaringan Proses Belajar (Learning) 5.1 Supervised Learning 5.2 Unsupervised Learning Perceptron JST dengan Supervised Learning Aplikasi JST
Aplikasi JST • Adaptive Noise Canceling Aplikasi ini telah mendapatkan penghargaan Institute of Electrical and Electronic Engineers' Alexander Graham Bell. Sumbangan aplikasi ini adalah membersihkan gangguan pada saluran telpon (dikenal sebagai echo) dan mengurangi kesalahan transmisi modem. Setiap kita melakukan sambungan telpon jarak jauh, suara kita akan diproses melalui suatu penyaring adaptif. Proses penyaringan adaptif ini dikembangkan oleh Bernard Widrow pada tahun 1950-an. Aplikasi ini merupakan aplikasi yang sukses untuk jangka waktu terpanjang.
Aplikasi JST • Mortgage Risk Evaluator Perusahaan Nestor telah berhasil mengembangkan produk yang digunakan dalam aplikasi hipotek (Mortgage Risk Evaluator). Produk ini membantu biro kredit mengidentifikasikan seseorang yang mampu membayar hipotek. Sistem telah dilatih dalam beberapa ribu aplikasi nyata, sekitar setengahnya diterima dan setengah yang lain ditolak oleh pemeriksa. Belajar dari kesuksesan dan kegagalan pengalaman ini, sistem kemudian mencari pola di dalam data untuk menentukan hal-hal apa saja yang menunjukkan suatu risiko tinggi. Selain itu, sistem dapat pula dikonfigurasi agar pendugaannya bersifat konservatif atau pun optimistik.
Aplikasi JST • Bomb Sniffer Pada bulan Agustus 1989, Federal Aviation Administration memasang suatu sistem detektor bom baru di New York's JFK International Airport. Metode-metode tradisional untuk menentukan risiko semacam ini memiliki keterbatasan yaitu operator dapat menjadi lelah, bosan dan kehilangan konsentrasi. Science Applications International Corporation (SAIC) mengembangkan suatu jaringan saraf yang disebut Thermal Neutron Analysis (TNA) atau lebih umum dikenal sebagai SNOOPE. Sistem ini bekerja secara otomatis dan tidak dapat menjadi lelah dan bosan. SNOOPE ini telah diuji pada sejumlah bahan peledak untuk mengidentifikasi pola emisi sinar gamma yang dimiliki oleh bahan-bahan tersebut. Sistem ini mampu memeriksa sekitar sepuluh buah kopor per menitnya. Jika SNOOPE ragu atas suatu kopor, ia dapat memberikannya kepada inspektur. Lalu data kopor yang dicurigai disimpan untuk digunakan di masa mendatang.
Aplikasi JST • GTE Process Monitor GTE Laboratories telah menggunakan jaringan saraf dalam pabrik bola lampunya. Tujuan proyek ini adalah untuk mengidentifikasi parameter-parameter yang paling berpengaruh terhadap proses produksi. Sistem ini memantau lini produksi, menjejaki hal-hal seperti misalnya variasi panas, tekanan, dan bahan kimia yang digunakan untuk membuat bola lampu. Masukanmasukan dari pengukuran sensor ini lalu dibandingkan dengan kinerja pabrik. Informasi ini akan digunakan untuk membantu menentukan kondisi pabrik yang optimum, mengindikasikan kendali apa yang perlu disesuaikan, dan bahkan menghentikan lini produksi jika terjadi kesalahan.
Aplikasi JST • Word Recognizer Intel mengembangkan aplikasi kecil yang menyelidiki keekspresifan pembicaraan manusia. Dengan membatasi sistem hanya untuk pembicara tunggal pada satu waktu dan dengan membatasi kosa kata (sekitar 100 kata atau frase), sistem ini mampu mengenali suara manusia dengan ketepatan 99%. Sistem pemasukan data yang dikendalikan suara ini telah banyak digunakan dalam berbagai aplikasi manufaktur sejak tahun 1983.
Aplikasi JST • Blower Motor Checker Siemens, sebuah perusahaan pembuat peralatan elektronik Jerman, menggunakan jaringan saraf untuk mendeteksi tingkat kebisingan blower motor yang dibuat untuk mobil Ford. Sebelumnya mereka telah mencoba cara-cara tradisional, seperti menugaskan sejumlah karyawan untuk mendengarkan seluruh motor, namun tidak begitu berhasil. Tetapi setelah menggunakan jaringan saraf, mereka berhasil dengan tingkat akurasi lebih dari 90%.
Aplikasi JST • Prototype & Research Activity Para ahli kesehatan di Universitas Brown telah menggunakan sebuah jaringan simulasi pengetahuan medis untuk merelasikan informasi kasus, tanda-tanda, dan penyembuhan. Para periset di Los Alamos National Laboratory menggunakan jaringan saraf untuk memprakirakan apakah urutan DNA tertentu mewakili kode genetik bagi pembuat protein. Petugas US Postal Service sedang menyelidiki kemungkinan penggunaan jaringan saraf untuk membaca alamat yang ditulis secara manual. Badan-badan penegak hukum menggunakan jaringan saraf untuk berusaha menentukan apakah profil psikologi seseorang (yang melakukan kejahatan) berubah. Aplikasi riset yang lain mencakup text-tospeech, pengenalan target, dan pencarian pola.
Aplikasi JST • Airline Marketing Tactician Sistem ini merupakan prototipe pembuktian konsep yang dikembangkan oleh BehavHeuristic, Inc., Silver Spring, Maryland. Ia menasehati pengguna atas manajemen kursi pesawat. Sistem ini terdiri dari dua jaringan saraf berbeda, himpunan aturan (rule set) dan antar muka grafis (graphics interface).
Pengertian Jaringan Syaraf Tiruan (JST) • Pemodelan yg didasari oleh kemampuan otak manusia dalam mengorganisasikan sel-sel penyusunnya yang disebut neuron, sehingga mampu melaksanakan tugastugas tertentu, khususnya pengenalan pola dengan efektifitas yang sangat tinggi.
Model Jaringan Syaraf (Neuron) • Sel syaraf (neuron) adalah unit pemrosesan informasi yang merupakan dasar operasi JST. • Terdapat tiga elemen dasar dari model neuron (lihat Gambar 4), yaitu:
Model Jaringan Syaraf (Neuron) 1. Sekumpulan sinapsis atau jalur hubungan, di mana masing-masing sinapsis memiliki bobot atau kekuatan hubungan. 2. Suatu adder untuk menjumlahkan sinyal-sinyal input yang diberi bobot oleh sinapsis neuron yang sesuai. Operasi-operasi yang digambarkan di sini mengikuti aturan linear combiner. 3. Suatu fungsi aktivasi untuk membatasi amplitudo output dari setiap neuron.
Model Jaringan Syaraf (Neuron) • Terdapat tiga variasi model neuron yang bisa digunakan karena ketiganya sebenarnya ekuivalen. Pertama, model neuron pada Gambar 4. model ini memasukkan threshold θk (diterapkan secara external) yang memperkecil nilai input untuk fungsi aktivasi. Sebaliknya, nilai input untuk fungsi aktivasi bisa diperbesar dengan menggunakan bias yang merupakan kebalikan dari threshold.
Model Jaringan Syaraf (Neuron) p
uk = ∑ wkj x j j =1
• Pada Gambar 4 terlihat serangkaian aliran sinyal masukan x1, x2, .., xp yang direpresentasikan oleh sebuah neuron. Sebuah neuron bisa memiliki banyak masukan dan hanya satu keluaran yang bisa menjadi masukan bagi neuron-neuron yang lain. Aliran sinyal masukan ini dikalikan dengan suatu penimbang (bobot sinapsis) wk1, wk2, .., wkp dan kemudian dilakukan penjumlahan terhadap semua masukan yang telah diboboti tadi. Hasil penjumlahan ini disebut keluaran dari the linear combiner uk.
Fungsi Aktivasi • Fungsi aktivasi yang dinotasikan dengan µ(.) mendefinisikan nilai output dari suatu neuron dalam level aktivasi tertentu berdasarkan nilai output pengkombinasi linear ui. • Ada beberapa macam fungsi aktivasi yang biasanya digunakan pada JST, di antaranya adalah:
Fungsi Aktivasi •
•
Threshold function ϕ(v) = 1 if v ≥ 0 0 if v < 0 Piecewise-linear function 1 v≥½ ϕ(v) = v ½ > v > -½ 0 v ≤ -½
Fungsi Aktivasi • Sigmoid function
ϕ(v) =
1 1 + exp( − av )
Arsitektur Jaringan a. Single-Layer Feedforward Networks • Suatu JST berlapis adalah jaringan neuron yang diorganisasikan dalam bentuk lapisanlapisan. • Pada bentuk jaringan berlapis yang paling sederhana, hanya terdapat input layer dengan node sumber yang terproyeksi ke dalam output layer dari neuron (computation nodes), tetapi tidak sebaliknya.
Arsitektur Jaringan Input layer
Hidden layer
Output Layer
Feedforward Network dengan Satu Lapisan
Arsitektur Jaringan • Jaringan jenis ini diilustrasikan pada Gambar di atas untuk kasus empat node pada input layer dan output layer. Jaringan seperti ini disebut single-layer network.
Arsitektur Jaringan b. Multi-Layer Feedforward Networks • Kelas kedua dari feedforward neural networks adalah jaringan dengan satu atau lebih lapis tersembunyi (hidden layer), dengan computation nodes yang berhubungan disebut hidden neurons atau hidden units.
Arsitektur Jaringan • Gambar berikut mengilustrasikan multi-layer feedforward neural network untuk kasus satu hidden layer.
Arsitektur Jaringan c. Recurrent Networks • Recurrent neural network adalah jaringan yang mempunyai minimal satu feedback loop. • Sebagai contoh, suatu recurrent network bisa terdiri dari satu lapisan neuron tunggal dengan masing-masing neuron memberikan kembali outputnya sebagai input pada semua neuron yang lain seperti diilustrasikan pada Gambar berikut.
Arsitektur Jaringan d. Lattice Structure • Sebuah lattice (kisi-kisi) terdiri dari satu dimensi, dua dimensi, atau lebih array neuron dengan himpunan node sumber yang bersesuaian yang memberikan sinyal input ke array. • Dimensi lattice mengacu pada jumlah dimensi ruang di mana graph berada.
Arsitektur Jaringan • Graph arsitektur pada Gambar 11a menggambarkan lattice satu dimensi dengan 3 neuron yang mendapatkan masukan dari 3 node sumber. • Sedangkan graph arsitektur pada Gambar 11b menggambarkan lattice dua dimensi dengan 3 x 3 neuron yang mendapatkan masukan dari 3 node sumber.
Perceptron • Perceptron termasuk dalam salah satu bentuk JST yang sederhana. • Biasanya digunakan untuk mengklasifikasikan suatu pola tertentu. • Algoritma yang digunakan oleh aturan Perceptron ini akan mengatur parameterparameter bebasnya melalui proses pembelajaran (learning).
Perceptron
Bentuk Perceptron
Proses Pembelajaran (Learning) • Pada umumnya JST digunakan jika hubungan antara input & output sudah diketahui dengan pasti untuk dibuatkan dalam bentuk model. • Hubungan antara input & output ini dapat diketahui melalui proses pembelajaran atau Learning.
Proses Pembelajaran (Learning) • Ada 2 tipe proses pembelajaran, yaitu: Pembelajaran Terawasi (Supervised Learning) dan Pembelajaran Tak Terawasi (Unsupervised Learning)
Supervised Learning • Supervised atau active learning adalah proses belajar yang membutuhkan guru. • Yang dimaksud guru di sini adalah sesuatu yang memiliki pengetahuan tentang lingkungan. • Guru bisa direpresentasikan sebagai sekumpulan sampel input-output.
Unsupervised Learning • Unsupervised atau self-organized learning adalah proses pembelajaran yang tidak membutuhkan guru untuk memantau proses pembelajaran. • Dengan kata lain, tidak ada sekumpulan sampel input-output atau fungsi tertentu untuk dipelajari oleh JST.
