Neurális hálózatok bemutató Füvesi Viktor Miskolci Egyetem Alkalmazott Földtudományi Kutatóintézet
Miért? Vannak feladatok amelyeket az agy gyorsabban hajt végre mint a konvencionális számítógépek. Pl.: arcfelismerés
Számítógép Gyors Pontos Előre programozott
2/33
Agy Lassú (106) Összetett Párhuzamos asszociatív működés
Neurális Hálózatok Bemutató 2013. november 06.
Neurális hálózat Neurális hálózatnak nevezzük azt a hardver vagy szoftver megvalósítású párhuzamos, elosztott működésre képes információfeldolgozó eszközt, amely: azonos, vagy hasonló típusú – általában nagyszámú – lokális
feldolgozást végző műveleti elem, neuron(processing element, neuron) többnyire rendezett topológiájú, nagymértékben összekapcsolt rendszeréből áll,
rendelkezik tanulási algoritmussal (learning algorithm), mely általában
minta alapján való tanulást jelent, és amely az információfeldolgozás módját határozza meg,
rendelkezik a megtanult információ felhasználását lehetővé tevő
információ előhívási, vagy röviden előhívási algoritmussal (recall algorithm).
3/33
Neurális Hálózatok Bemutató 2013. november 06.
Neuron általános felépítése
4/33
Neurális Hálózatok Bemutató 2013. november 06.
Perceptron típusú mesterséges neuron Rosenblatt - 1958
5/33
Neurális Hálózatok Bemutató 2013. november 06.
Tipikus aktivációs függvények
6/33
Neurális Hálózatok Bemutató 2013. november 06.
Bemeneti összegzést nem használó neuron
x bemeneti vektor c középpont vektor
7/33
Neurális Hálózatok Bemutató 2013. november 06.
Memóriával rendelkező neuron
8/33
Neurális Hálózatok Bemutató 2013. november 06.
FIR / IIR neuron struktúra
9/33
Neurális Hálózatok Bemutató 2013. november 06.
Hálózat topológia A hálózat topológiáján a neuronok összeköttetési rendszerét és a hálózat bemeneteinek és kimeneteinek helyét értjük. • irányított gráf • gráf csomópontjai a neuronok
10/33
Neurális Hálózatok Bemutató 2013. november 06.
Rétegbe szervezett topológia ∑
Bementi réteg
11/33
Rejtett réteg Kimeneti réteg
Neurális Hálózatok Bemutató 2013. november 06.
Visszacsatolások
12/33
Neurális Hálózatok Bemutató 2013. november 06.
Tanítás Ellenőrzött tanulásnál •be- és kimeneti tanító mintapont párok rendelkezésre állnak •Tanítás a mintapárok alapján •Az összehasonlítás eredménye – a tényleges és a kívánt válasz különbsége – felhasználható a hálózat olyan módosítására, hogy a tényleges válaszok a kívánt válaszokkal minél inkább megegyezzenek, és a hálózat tényleges viselkedése és a kívánt viselkedés közötti eltérés csökkenjen. Nemellenőrzött tanulásnál(unsupervised learning) •nem állnak rendelkezésünkre adott bemenetekhez tartozó kívánt válaszok •bemenetek és a kimenetek alapján a viselkedést kialakítása •Környezetből nincs visszajelzés •Bemeneti adatokban, jelekben valami hasonlóság, korreláció, kategóriák, csoportok
13/33
Neurális Hálózatok Bemutató 2013. november 06.
Tanítás leállítása
14/33
Neurális Hálózatok Bemutató 2013. november 06.
MLP ∑
Bementi réteg
15/33
Rejtett réteg Kimeneti réteg Neurális Hálózatok Bemutató 2013. november 06.
Dinamikus rendszer modellezése SISO - Single Input Single Output System
~ y (t )
u(t) u(t-1) Virtuális bemenetek
Z-1 Z-1
u(t-2)
u(t-3) Z-1
Egy rejtett rétegű neurális hálózat
~ y (t ) f ut , ut 1, ut 2,...,ut n
16/33
Neurális Hálózatok Bemutató 2013. november 06.
Neurális háló alkalmazása Alkalmazási területek: • Mérnöki – önjáró autó, repülőgépek szabályozása • Fizikai – adaptív teleszkóp optika • Biológiai - protein identifikáció • Orvosi – ráksejt, EKG analízis • Pénzügyi – tőzsdei előrejelzés • Művészet – beszéd és írásfelismerés • Katonai – adattömörítés, célpont követés • stb
Feladatcsoportok: • Minta asszociáció • klaszterezés., osztályozás, jellemvonás felismerés • Függvény közelítés • Szabályozás • Optimalizálás • Tudás rögzítés 17/33
Neurális Hálózatok Bemutató 2013. november 06.
Szoftverek • Szkript nyelvek: • Matlab + Simulink – NN Toolbox, NNSYSID, stb. • Scilab + Xcos – ANN Toolbox, LoLiMoT, stb. • Octave • Matematica • Programozási nyelvek C/C++ • FANN • OpenNN C# • Encog • Specifikus programok • Alyda – NeuroIntelligence • NeuroXL • NeuroSolution • EasyNN
18/33
Neurális Hálózatok Bemutató 2013. november 06.
Források • Retter Gyula: Fuzzy, neurális, genetikus, kaotikus rendszerek Akadémiai Kiadó, Budapest, 2. kiadás, 2006 ISBN 963 05 8353 4 • http://project.mit.bme.hu/mi_almanach/
• Google.hu
19/33
Neurális Hálózatok Bemutató 2013. november 06.
Feladat RL tag bekapcsolási folyamata R
L ube [V]
𝑖𝑘𝑖 =
𝑢𝑏𝑒 − 𝑢𝐿 𝑅
𝑢𝐿 = 𝐿
𝑅 𝑢𝑏𝑒 −𝐿 𝑡 𝑖𝑘𝑖 = 1−𝑒 𝑅
𝑑𝑖𝑘𝑖 𝑑𝑡
25
2,5
20
2
15
1,5
10
1
ube [V]
ube
5
0,5
0
0 0
1
2
3 t [ms]
20/33
iki [A]
Neurális Hálózatok Bemutató 2013. november 06.
4
5
6
iki [A]
iki(t)
Feladat RL tag bekapcsolási folyamata iki(t)
R
L
ube
ube
iki(t)
iki(t-1)
21/33
Neurális Hálózatok Bemutató 2013. november 06.
Feladat
22/33
Neurális Hálózatok Bemutató 2013. november 06.
Feladat RL tag bekapcsolási folyamata iki(t)
R
L
ube
23/33
Neurális Hálózatok Bemutató 2013. november 06.
Feladat RL tag bekapcsolási folyamata iki(t)
R
L
ube Tanító készlet Közelítés
Kiértékelő készlet
Valós
Közelítés
1,2
1,2
1
1
0,8
0,8
0,6
0,6
0,4
0,4
0,2
0,2
Valós
0
0 1
24/33
11
21
31
41
51
61
71
81
1
2
3
4
5
6
7
8
Neurális Hálózatok Bemutató 2013. november 06.
9
10 11 12 13 14 15 16