PENGGUNAAN METODE K-MEANS CLUSTERING UNTUK PENENTUAN PUSAT FUNGSI BASIS PADA MODEL RADIAL BASIS FUNCTION NEURAL NETWORK (RBFNN) DENGAN MENGGUNAKAN DATA KUNJUNGAN WISMAN KE YOGYAKARTA 1994 - 2006 Uswatun Khasanah Program studi pendidikan matematika, FKIP UAD, Yogyakarta
[email protected] Abstrak Radial Basis Function Neural Network merupakan kelompok besar dari model neural network yang jarak antara vector input dengan vektor prototype merupakan input dari unit hidden. Manfaat dari Radial Basis Function Neural Network untuk menentukan pendekatan fungsi regulasi, noisy interpolation, estimasi densitas, optimal classification theory dan fungsi potensial. Cukup banyak manfaat Radial Basis Function Neural Network namun belum adanya prosedur yang baku untuk menentukan model Radial Basis Function Neural Network yang optimal pada data time series. Di dalam penelitian ini digunakan data kunjungan wisatawan mancanegara (wisman) ke Yogyakarta pada tahun 1994-2006. Data tersebut diambil banyaknya input 4 dan banyaknya kelas 3,4,5,6, dan 7. Selanjutnya ditentukan pusat dan varian dari masing-masing kelas dengan menggunakan metode K-Means clustering dan ditentukan banyaknya fungsi basis pada model Radial Basis Function Neural Network dengan menggunakan metode forward selection. Hasil penelitian terdapat lima tipe pusat berdasarkan jumlah input dan jumlah kelas. Berdasarkan pusat-pusat yang diperoleh, dengan menggunakan forward selection untuk banyaknya kelas 3, 4, 5, 6, dan 7 diperoleh secara berturut-turut banyaknya fungsi basis 3, 3, 4,6, dan 7. Kata kunci: Radial Basis Function Neural Network, K-Means clustering, forward selection, wisman
yang lebih dikenal dengan neural network
Pendahuluan Otak merupakan pengendali utama
(NN) mencoba mengadaptasi cara kerja
dalam tubuh manusia yang mengatur semua
sistem syaraf manusia tersebut.Radial Basis
kegiatan selama 24 jam sehari. Otak
function Neural Network ( RBFNN )
tersusun atas miliaran sel kecil yang disebut
merupakan kelas yang besar dari model NN
neuron atau sel syaraf. Sistem syaraf
dimana jarak antara vektor input dan vector
manusia hanya terdiri dari tiga tahap besar
prototype merupakan input fungsi aktivasi
yaitu
(receptor),
dari suatu unit tersembunyi (hidden unit).
pemroses rangsangan (otak) dan perespon
RBFNN telah menarik perhatian banyak
rangsangan
ilmuwan pada masa lalu. RBFN dapat
penerima
rangsangan
(effector)
dengan
struktur
organisasi yang rumit yang belum dapat
digunakan
disamai oleh sistem ciptaan manusia yang
hubungan antara fungsi pendekatan, noisy
manapun. Artificial neural network atau
untuk
membentuk
suatu
interpolation,
klasifikasi
dan
estimasi
fungsi.
bagian, k-means clustering dan constructiv learning. Di dalam penelitian ini digunakan
Dalam makalah Beberapa refensi
metode k-means clustering. Ada beberapa
berkaitan dengan konsep dan bentuk dari
literatur yang berkaitan dengan k-means
model RBF dapat dilihat pada Bishop
clustering. J.b. MacQueen (1967) , Yudi
(1995), Ripley (1996) dan Haykin (1999).
Agusta (2007) dan Andrew D. Back(2002).
Dalam penerapannya, RBFN mengandung
Selain itu juga terdapat beberapa
sejumlah parameter yang harus ditaksir.
artikel yang membahas tentang pemilihan
Bagaimana mendapatkan model RBFN yang
model RBFNN. Ali Ghodsi dan Dale
optimal merupakan topik sentral dalam
Schuurmans menerapkan metode estimasi
beberapa literature NN.
Stein’s Unbiased Risk Estimator ( SURE ) yang
serta menerapkan criteria pemilihan model
membahas masalah pembelajaran RBFNN.
RBFNN dengan BIC (Bayesian information
Topchy dkk membagi masalah pembalajaran
Criteria). Rivas dkk (2003 ) menerapkan
RBFN
Evolutionary
Terdapat
beberapa
kedalam
sub
artikel
masalah,
yaitu:
(evRBF)
untuk
penelitian tentang lokasi dan ukuran optimal
mengoptimalisasikan generalisasi error serta
dari
mencari jumlah neuron dalam hidden layer
ruang
input
serta
mendefinisikan
parameter dari output layer dengan alat
serta
prosedur gradient atau dengan prosedur
Lendase dkk (2005) melakukan pemilihan
yang
model dengan metode Fast Bootstrap (FB).
lain.
Sedangkan
dalam
artikel
rata-rata
dan
varian.
Leonardis dan Bishof menemukan beberapa
Beberapa
metode dalam pembelajarann NN: Metode
pembentukan
model
RBFN
yang menyatakan jumlah RBFN yang harus
menggunakan
statistik
inferensia
diberikan suatu priori, metode mencari
dilihat pada Anders dan Korn
jumlah fungsi basis, center dan radii mereka,
rammu Mehran (2004).
metode pruning
artikel
Sedangkan
Permasalahan
terakhir
utama
tentang dengan dapat (1998),
dalam
Dalam rangka membentuk model
pembentukan model NN dalam kerangka
RBFNN, perlu dilakukan penentuan rata-
pemodelan statistik adalah masih belum
rata
adanya
dan
varian.
Ada
beberapa
cara
prosedur
yang
baku
untuk
penentuan tersebut yaitu diambil dari semua
mendapatkan model NN yang optimal pada
data input, data sampel, pemilihan himpunan
suatu data time series. Dengan demikian
masih
terbuka
luas
untuk
dilakukan
a.
Bagaimana
prosedur-prosedur
penelitian lebih lanjut berkaitan dengan
identifikasi
model neural network. Dalam makalah ini
menentukan center hidden layer dan
NN dipandang sebagai suatu model statistik
penentuan bobot output model RBFNN
untuk time series yang akan diterapkan
pada data time series
untuk
peramalan
mancanegara
jumlah
yang
wisatawan
berkunjung
b.
di
yang
Bagaimana
optimal
untuk
prosedur-prosedur
penentuan jumlah fungsi basis model
Yogyakarta. Alasan diambil data wisatawan
RBFNN yang optimal
karena kota Yogyakarta merupakan selain sebagai kota pelajar juga merupakan kota wisata. Banyak objek wisata yang terdapat di Yogyakarta yang selain sebagai tujuan wisatawan
domestik
juga
c.
Bagaimana menentukan model RBFNN pada data time series secara komputasi Tujuan Penelitian
wisatawan
Tujuan
penelitian
yang
mancanegara. Selain pada rentang waktu 1
berjudul “K-means Clustering untuk
Januari 1996 sampai dengan
31 Desember
Penentuan Center neuron hidden layer
2006 terjadi bom Bali dan gempa bumi di
model RBFNN pada data time series”
Yogyakarta
ini adalah
yang
menyebabkan
data
wiatawan mancanegara (wisman) menjadi tidak stasioner.
jumlah fungsi basis model RBFNN
Adapun ada beberapa pembatasan masalah dalam penelitian ini, yaitu : a.
Model NN yang dibahas adalah model
Fungsi aktifasi yang digunakan dalam model RBFNN adalah fungsi Gaussian.
c.
Pemodelan hanya
belum dilanjutkan pada peramalan. Berdasarkan latar belakang, rumusan yag
akan
b. Menentukan pusat fungsi basis dan banyaknya fungsi basis secara komputasi Metode penelitian
pada penentuan
pusat dan banyaknya fungsi basis,
masalah
pada data kunjungan wisman ke Yogyakarta tahun 1994 - 2006
RBFNN dengan satu hidden layer. b.
a. Menentukan pusat fungsi basis dan
dibahas
penelitianini adalah sebagai berikut
dalam
Penelitian
ini
merupakan
penelitian jenis studi literatur. Peneliti mengumpulkan beberapa konsep dari beberapa sumber misalnya buku, jurnal dan hasil penelitian yang relevan.
Langkah-langkah penelitian ini
b. Setelah diperoleh jumlah input dan
dapat disajikan dalam bagan berikut ini Buku
kluster akibatnya diperoleh sejumlah
Hasil penelitian relevan
Jurnal
fungsi basis. Selanjutnya ditentukan fungsi basis mana yang terpilih
menjadi
NN K-Means kluster Forward Selection RBF Komputasi NN
Model RBFNN
Model RBFNN data time series
fungsi
selection c. Penentuan bobot optimal dengan
Peramalan
d. Penentuan
Penelitian ini merupakan studi instrumen
metode
kuadrat
terkecil
Gambar 1.Diagram design penelitian
sehingga
dengan
menggunakan pendekatan forward
menggunakan
literatur,
aktivasi
model
RBFNN
yang
optimal
yang
e. Aplikasi model pada data time series
digunakan berbeda dengan penelitian
Analisis data tersebut dapat dibentuk
yang lain. Adapun untuk mengukur
dalam bagan sebagai berikut
keoptimalan model, digunakan ukuran
Data
mean square error (MDE). Semakin
kecil MSE maka semakin baik model yang diperoleh. Adapun
teknik
pengumpulan
dataanya yaitu data-data yang diperoleh
Jumlah kluster Jumlah input Center Varian
Bobot optimal
Fungsi Basis terpilih
dari beberapa literatur kemudian dikaji, dikembangkan dan dianalisis sehingga diperoleh suatu model matematika.
Model RBFNN pada data time series
Analisis data yang dilakukan dalam penelitian ini adalah a. Data
yang
sudah
Peramalan
Gambar 2.Diagram analisis data Pembahasan
diperoleh
NN
telah
dikembangkan
sebagai
ditentukan center dan varian dengan
model matematika yang menyerupai pola
menggunakan metode
pikir manusia atau jaringan syaraf makhluk
kluster
k- Means
hidup,
dengan
asumsi
bahwa:
proses
informasi terjadi pada banyak neuron, sinyal
yang melalui antar neuron menggunakan
jarak antara vektor input dengan vektor
hubungan
hubungan
prototipe merupakan input dari unit hidden.
bersesuaian,
Menurut Bishop ( 1995) RBFNN merupakan
tertentu,
mempunyai kemudian
setiap
bobot
yang
mengalikan
sinyal
yang
model neural network yang mempunyai sifat
dikirimkan, dan setiap neuron menggunakan
menarik.
fungsi aktivasi terhadap input (jumlah sinyal
membentuk
input yang terboboti) untuk menentukan
sejumlah
sinyal output. NN membangun kelas model
digunakan untuk mencari pendekatan fungsi
yang
regulasi,
sangat
fleksibel
sehingga
dapat
Sifat
tersebut
hubungan
konsep
kasatuan
yang
noisy
adalah
RBF antara
berbeda.
interpolation,
RBF
estimasi
digunakan dalam berbagai macam terapan
densitas, optimal clasification theori dan
seperti
potensial
regresi
diskriminan.
nonlinier Output
dan
analisis
network
dapat
fungsi.
RBFNN
biasanya
memetakan suatu vektor xk ni ke suatu
merupakan nilai prediksi variabel terikat y
vektor
dan bisa ditulis sebagai fungsi f(x,w) atau Z
dengan 1 ≤ k ≤ M merupakan bentuk dari
X = [x1, …, xp] dan
dengan data input
yk n0 dimana pasangan (xk, yk )
himpunan
training.
Jika
pemetaan
ini
parameter network w biasa disebut bobot.
ditunjukan sebagai suatu fungsi pada rung
Adapun model matematika dari NN adalah
input ni , pembelajaran dapat dipandang
q
p
j 1
i 1
sebagai
Z j ( ij xi )
besaran-besaran
bobot
….
pq]’
(network
weights) atau parameter-parameter pada model neural network. Bentuk nonlinear dari fungsi Z terjadi melalui suatu fungsi yang disebut fungsi aktifasi dan biasanya merupakan fungsi yang halus seperti fungsi logistik
sigmoid
atau
fungsi
pendekatan.
Adapaun pembelajaran tersebut ekuivalen
dengan w = [1 2 … q 11 12 adalah
masalah
fungsi
tangen
hiperbolik. RBFNN merupakan suatu kelompok besar dari model neural network yang mana
dengan menentukan suatu permukaan dalam ruang multidimensional yang memberikan himpunan training yang sangat tepat. Arsitektur RBFNN mempunyai tiga layer yaitu input layer, hidden layer dan output layer. Model sederhana RBFNN dimana untuk setiap n komponen vektor input x mempengaruhi m fungsi basis. Adapun output f(x) yang dihasilkan dari model RBFN tersebut merupakan kombinasi linear dari bobot
w
m
j
j 1
dengan fungsi
basis hj(x), dan dapat dirumuskan sebagai
menentukan jumlah cluster, mengalokasikan
berikut
data ke dalam cluster secara random, menghitung rata-rata dari data yang ada di
m
f ( x) w j h j ( x)
masing-masing
j 1
x1, x2,…, xn merupakan input dan hj(xi) merupakan fungsi basis ke-j dari input ke-I
pembelajaran
dapat dirumuskan sebagai berikut. RBFNN
yaitu menentukan center dan jarak dari setiap fungsi basis, jumlah fungsi basis ( Hidden unit ), dan bobot Output layer.
RBF adalah prosedur yang diperkenalkan oleh Moody dan Darken yaitu menggunakan k-means clustering. Metode K-means klaster adalah salah satu bentuk pemetaan pada pada dirinya sendiri (self organizing map). data
dipartisi
kedalam subset atau klaster, dimana pada setiap
kluster
mempunyai
sifat
1 , d minD( x k , v i ) . a ik 0 , lainnya
yang
homogen serta antar kluster mempunyai ciri yang berbeda. Jika ada m kluster pada RBFNN, maka akan ada ci , i = 1, 2, ..., m
Dimana a ik : Keanggotaan data ke-k cluster S ke-i , v i : Nilai rata-rata cluster ke-i dan
xk. Jika xk dekat dengan rata-rata vi maka xk termasuk ke dalam kluster ke-i. Misalkan diambil rata-rata kelas ke-i yaitu vi. aik akan bernilai 1 jika xk nilainya terdekat dengan vi dibandingkan dengan vj dimana j ≠ i. Sebaliknya aik akan bernilai 0 jika xk nilainya lebih dekat dengan vj dibandingkan dengan vi dimana j ≠ i. Sebagai ilustrasi dari persamaan (5.7) diberikan diagram venn berikut ini. Misalkan S{x1,x2,
. . . ,xn}vektor
input dan diambil sebanyak 5 kelas yaitu K1, K2,...,K5.
nilai rata-rata. Metode
(5.7)
D(xk, vi): nilai terdekat antar vi dengan data
Salah satu prosedur pemilihan pusat
K-Means,
sampai tidak ada data yang berpindah klater.
dengan data tersebut. Pengalokasian ini
menurut Andrew (2002) terdiri tiga bagian
metode
masing-masing data ke rata-rata terdekat
klaster yang mempunyai rata-rata terdekat
( xi c j ) 2 h j ( xi ) exp 2 r j
Pada
mengalokasikan
Data dialokasikan secara tegas ke
dengan definisi sebagai berikut
Algoritma
klaster,
K2(v2)
K-means
clustering
menurut Macqueen (1967) dapat dilakukan dengan algoritma dasar sebagai berikut:
K4(v4) K4(v4)
K1(v1)
K5(v5)
K3(v3)
Gb.3.Diagram venn persamaan 5.7
Dimana Ki(vi) merupakan kelas ke-i dengan
pemilihan model mudah dikerjakan dan
x2 K3 maka a32 = 1
sarat perhitungan relatif rendah. Di dalam
dan ai2 = 0 untuk i ≠ 3. Jika xk K5 maka
forward selection setiap langkah melibatkan
a5k = 1 dan aik = 0 untuk i ≠ 5
pertumbuhan network dengan satu fungsi
pusat vi. Misalkan
Ada beberapa prosedur pemilihan
basis. Penambahan fungsi basis baru ke m+1
variabel dalam hal ini pemilihan jumlah
dalam suatu model linear yang mempunyai
RBF yang menyebabkan model optimal.
m fungsi basis dan p mempunyai pengaruh
Prosedur-prosedur tersebur adalah Forward
penambahan extra kolom matriks design.
selection,
backward
Misalkan mula-mula terdapat m fungsi basis
selection
dan
selection,
stepwise of
yaitu h1, h2, ..., hm dengan n input yaitu x1,
statistics. Dalam penelitian ini digunakan
x2, ..., xn, maka diperoleh matriks design
prosedur forward selection.
mula-mula sebagai berikut Jika matriks
Suatu
the
hidden
strategi
membandingkan
scandal
alternatif
untuk
model-model
yang
terbentuk dari subset-subset yang berbeda dari fungsi basis yang diambil dari beberapa himpunan yang sama . Hal ini dalam statistik
dinamakan
subset
selection
.
design mula-mula Hm yang berukuran nX m adalah sebagi berikut H m h1 h 2 h m h1(x 1 ) h (x ) 1 2 h1(x n )
h 2 (x 1 ) h m (x 1 ) h 2 (x 2 ) h m (x 2 ) h 2 (x n ) h m (x n )
Adapun untuk menentukan subset yang
dan penambahan fungsi basis baru adalah
2M subset
hm+1 (x) maka diperoleh matriks design baru
terbaik dari subset
dari
himpunan
(yaitu satu berukuran
M)
sehingga heuristics harus digunakan untuk mencari suatu yang kecil tetapi dengan harapan menarik bagian
ruang semua
himpunan bagian.
sebagai berikut Hm+1=[Hm h1 ( x1 ) h 2 ( x1 ) h ( x ) h ( x ) 1 2 2 2 h 1 ( x n ) h 2 ( x n )
hm+1]. h m ( x1 ) h m1 ( x1 ) h m ( x2 ) h m1 ( x2 ) h m ( xn ) h m1 ( xn )
Di dalam penelitian ini digunakan forward selection untuk subset selection.
Kriteria pemilihan model terbaik
selection
yang dapat dipakai adalah AIC (Akaike
mempunyai beberapa keuntungan, yaitu
Information Criteria ) , MSE (mean squared
sebagai pendahuluan tidak memerlukan
error )atau rata-rata kuadrat error, MAPE
jumlah
(mean absolute percentage error atau
Menurut
Orr(1996)
tertentu
forward
hidden
unit,
kriteria
persentase nilai mutlak rata-rata error),
tidak stasioner. Di dalam pemodelan time
MAD (mean absolute deviation atau nilai
series dengan pendekatan RBFNN, jika data
mutlak rata-rata deviasi) dan UEV (The
tidak stasioner maka tidak perlu dibuat
unbiased estimate of variance) . Model
stasioner. Sebagai langkah awal adalah
terbaik berdasarkan ketiganya adalah model
penentuan
yang
menggunakanmetode
meminimalkan
kriteria.
Beberapa
penghitungan kriteria di atas sbb : MS E
1 M
varian.denagn
K-Means
klaster.
diambil adalah 3,4,5,6, dan 7. Sedangkan
M
1 MAPE M
dan
Dalam makalah ini banyaknya kelas yang
e
2 l
l 1
mean
banyaknya input adalah 4.
el 100% n 1
M
Z l 1
Berdasarkan menggunakan
K-Means 1 M klaster MAD el software M MINITAB l 1
dilakukan langkah-langkah sebagai berikut
ZT P2Z UEV , dengan n
masukkan semua nilai data xi, menentukan input, menentukan jumlah kluster dan
P I n HA -1H T dan A = H T H
menentukan pusat dan varian dari masing-
Implementasi metode K-Means Kluster
masing kluster. Adapun hasil penentuan
pada data wisman
center dari data wisatawan mancanegara
Data bulanan jumlah wisatawan mancanegara
di
pendekatan K-Means Clustering berturut
Yogyakarta, mulai bulan Januari 1994
berdasarkan jumlah klaster 3,4,5,6, dan 7
sampai
adalah sebagai berikut.
bulan
yang
berkunjung
yang berkunjung di yogyakarta dengan
Desember
2006
dapat
digambarkan sebagai berikut: Selanjutnya penentuan jumlah fungsi basis dengan menggunakan pemrograman MATLAB tentang forward untuk masalah peramalan data time series sebagaimana diperkenalkan oleh Mark J. L. Orr. (1997). Adapun hasil fungsi basis yang terpilih dan Gb.4. Data bulanan jumlah wisman
banyaknya fungsi basis yang terpilih melalui
Berdasarkan
atas
software MATLAB dari data wisman
terlihat bahwa grafik data fluktuatif dan
dengan 4 input dan banyaknya kelas 3,4,5,6,
gambar
di
dan 7 adalah sebai berikut:
Tabel 4
Tabel 1 Input 1
2
3
4
Kelas 1 2 3 1 2 3 1 2 3 1 2 3
Center 5961 19320 9156 5822 19678 9619 5864 19949 9719 6016 19554 10171
Input
1
2
3 Tabel 2 Input 1
2
Kelas 1 2 3 4 1 2 3 4
Center 5921 20677 8005 17847 5619 23108 8954 16208
4
Kelas 1 2 3 4 5 6 1 2 3 4 5 6 1 2 3 4 5 6 1 2 3 4 5 6
Center 5921 13943 8005 20487 27471 20945 5619 17430 8954 16577 26248 24480 5654 18653 9125 17576 16405 26124 5832 22187 9133 16106 18254 21824
Tabel 5 3
4
1 2 3 4 1 2 3 4
5654 22551 8976 17575 5647 21723 887 17410
1
2
3
4
Kelas 1 2 3 4 5 1 2 3 4 5 1 2 3 4 5 1 2 3 4 5
1
2
Tabel 3 Input
Input
Center 5921 16213 8005 18816 24141 5619 19230 8954 16990 26859 5654 23841 9125 17112 21326 5832 25574 9133 17356 17330
3
4
Kelas 1 2 3 4 5 6 7 1 2 3 4 5 6 7 1 2 3 4 5 6 7 1 2 3 4 5 6 7
Center 5921 15519 8005 20935 27471 20812 18326 5619 19917 8954 16403 26248 27471 21767 5654 18082 9125 17263 16405 26248 25189 5832 20827 9133 15011 18254 16405 26691
Kesimpulan Berdasarkan
landasan
teori
dan
aplikasi pada data time series diperoleh beberapa kesimpulan, yaitu Penentuan pusat dan varian sebagai parameter fungsi basis dapat
digunakan
cluster.dan
metode
untuk
K-Means
mengivestigasi
permasalahan penentuan jumlah jumlah unit hidden optimal dalam RBFNN dengan menggunakan pendekatan forward selection yaitu dimulai dari jumlah unit hidden kosong atau m = 0, selanjutnya fungsi basis mulai ditambahkan satu persatu ke dalam model dan penambahan mulai dihentikan ketika
penurunan
nilai
kriteria
UEV
berakhir. Agusta, Y(2007). K-Means-Penerapan, Permasalahan dan metode terkait.Jurnal Sistem dan Informatika vol.3 (februari 2007), 47-60 Anders, U., Korn, O., 1997, Model Selection in Neural Networks, Neural Networks, 12, 309-323. Andrew.D.back.Radial Basis Function,p.3.1-3.handbook of Neural Network Signal Processing. Edited by Yu hen Hu, jeng-Neng Hwang Bishop, C. M., (1995). Neural Network for Pattern Recognition. Oxford: Clarendon Press. Fauset, L.(1994). Fundamental of Neural Network, Architectures, Algorithns, and Applications. Florida Institute of Technology. Prentice Hall, Englewood Cliffs, NJ 07632 Ghodsi, A. dan Schuurmans, D. Automatic Basis selection Techniques for RBF Networks. Paper School of Computer
Science University of Waterloo 200 University Avenue West N2L 3GI, Canada Haykin, H. (1999). Neural Networks: A Comprehensive Foundation, second edition, Prentice-Hall, Oxford. MacQueen, J. B. (1967). Some Methods for clasification and Analysis of Multivariate Observations.Proceedings of 5-th Berkeley Synposium of Mathematical Statistics and Probability, Berkeley, University of California Press,1: 281-297 Miyamoto, S. And Agusta, Y.(1995). An efficient Algoritma for L1 and Lp Fuzzy C-Means and their Convergence,in C. Hayashi, N.Oshumi,K.Yajima, y.Tanaka, h. H. Bock and Y. Baba, Data Sciense, Classification, and Related Methods, Springer-Verlag, Tokyo, Japan, pp. 295-302 Moody, J. Dan Darken, C. (1989). Fast Learning in Network of LocallyTuned Processing Unit. Neural Computation Orr, M.J.L (1996).Introduction to Radial Basis Function Networks. Centre for Cognitive Science, University of Edinburgh,2, Buccleuch Place, Edinburgh EH8 9LW, Scotland Orr.M.J.L (1997 ) .MATLAB Routines for Subset Selection and Ridge Regression in Linear Neural Network. Centre for Cognitive Science, University of Edinburgh, Scotland Rencher, A.V.(2000).Linear Models in Statistics. Department of Statistics Brigham Young University Provo, utah. A wiley-Interscience Publication JOHN WILEY & SONS,INC.
Ripley, B. D. (1996). Pattern Recognition and Neural Networks. Cambridge University Press, Cambridge. Rivas, V. M. Dkk. (2003). Evolving RBF Neural Networks for Time Series forescating with EvRBF. Information Sciences 165(2004) 207-220. WWW.sciencesdirect.com
.
