Mesterséges Intelligencia Csató Lehel
Mesterséges Intelligencia Csató Lehel Matematika-Informatika Tanszék Babe¸s–Bolyai Tudományegyetem, Kolozsvár
2010/2011
1/363
˝ Az Eloadások Témái Mesterséges Intelligencia
˝ mi a mesterséges intelligencia ... Bevezeto:
7
„Tudás”–reprezentáció
Csató Lehel
Gráfkeresési stratégiák
Numerikus modellek
Szemantikus hálók / Keretrendszerek
Bayes modell Bayes hálók
Játékok modellezése
Esettanulmány
Bizonytalanság kezelése Fuzzy rendszerek Grafikus modellek Tanuló rendszerek Szimulált kifutés, ˝ Genetikus algoritmusok A perceptron modell ˝ Neurális hálók, önszervezodés Gépi tanulás 146/363
Admin ...
... trívia
http://www.cs.ubbcluj.ro/~csatol/mestint
Mesterséges Intelligencia
7 Csató Lehel Numerikus modellek
Vizsga Szóbeli (60%) + Gyakorlat (40%)
Bayes modell Bayes hálók Esettanulmány
Laborgyakorlatok: 1
Gráfok ábrázolása - dedukciós algoritmus
18%
2
Játékelmélet
10%
3
Matlab - tanulási algoritmus
12%
4
Opcionális feladatok - max. 3/személy
Bemutatók (5–20 pont) Alkalmazások bemutatása, melyek adaptív, gépi tanulásos vagy mestint módszereket alkalmaznak. 147/363
sok%
Bizonytalanság Mesterséges Intelligencia
7
Russell & Norvig, 1995, 415. o. „In which we see what an agent should do when not all is crystal clear.” Futó et.al. 321–372
Csató Lehel Numerikus modellek
Ezidáig: következtetések olyan esetekben, ahol tudtuk egy esemény – tény – bekövetkezését.
Bayes modell Bayes hálók
ismertük az események közötti kapcsolatrendszert: ok–okozat
Esettanulmány
Problémamegoldás során a tudásunk: hiányos
– nem tudunk/akarunk válaszolni;
nem megbízható – tudjuk, hogy max. 70%... nem precíz – nincs megfelelo˝ formalizmus a leíráshoz; ellentmondásos – több forrás ⇒ konfliktus; 148/363
Bizonytalanság típusai Mesterséges Intelligencia
Hiányzó adat
Rosszul kitöltött kér˝ doív Bizonytalan A betegség csak valóadat színusíthet ˝ o˝ Bizonytalan fo- Pl. „gyorsan hajtott” galmak Ellentmondások Összegzésnél egymásnak ellentmondó adatok
7 Csató Lehel Numerikus modellek Bayes modell Bayes hálók Esettanulmány
149/363
Bizonytalanság kezelése Mesterséges Intelligencia
7
Numerikus modellek
Csató Lehel
Bayes-modell,
Numerikus modellek
Bayes-hálók,
Bayes modell Bayes hálók Esettanulmány
Dempster–Schafer: megbízhatóságelmélet, Fuzzy modell
150/363
Szimbolikus modellek nem-monoton rendszerek
Cardano és Galilei Mesterséges Intelligencia
7 Csató Lehel Numerikus modellek Bayes modell Bayes hálók Esettanulmány
Gerolamo Cardano (1501–1576): Liber de ludo aleae - 1663 „Olasz matematikus, természettudós, csillagász és hazárdjátékos.” ˝ Eloször írja le a tífuszt. Legismertebbek az algebrában elért eredményei: megoldotta a harmad- és negyedfokú egyenleteket – Ars Magna – és a megoldás során felismerte az imaginárius rész szükségességét. Termodinamikai megfontolások alapján tagadta az örökmozgók létezését. Mindig pénzszukében ˝ volt – ?⇒? – sakkozott és kockázott. Az ˝ játékokról írt könyve eloször foglalkozik a valószínuség ˝ fogalmával.
Cardano wiki
Galileo Galilei (1564–1642) Olasz természettudós, matematikus, csillagász és filozófus, a ˝ tudományos forradalom úttöroje. ˝ S. Hawking: „Galileo a modern tudományok úttöroje.” ˝ Javított a teleszkópok képességein, tökéletesítette a körzot, ˝ bevezette a kinematikát, az asztronómiát, eloször írta le a Vénusz fázisait. Kijelentette, hogy a természet törvényei matematikai jelleguek, ˝ valamint azt, hogy a Föld forog a Nap körül, (majdnem megégett).
151/363
Galileo wiki
Bayes modell Mesterséges Intelligencia
I
A legrégebbi modell, legjobban definiált technika (kockajáték);
7 Csató Lehel
Alapja a valószínuségszámítás; ˝
Numerikus modellek
Elso˝ modellt Cardano4 alkotta; illetve Galilei 1660 körül, majd Borel és Kolmogorov a XX. században;
Bayes modell Bayes hálók Esettanulmány
Valószínuségszámítás: ˝ véletlen kísérletek; Kísérletek eredményei: elemi események; Eseménytér: összes esemény Ω teljes esemény üres esemény ellentett esemény egymást kizáró események 4 152/363
T = Ω, T = ∅, A = Ω \ A, ha A ∩ B = ∅,
Gerolamo Cardano (1501–1576): De Ludo Aleae (1663)
rev. Thomas Bayes Mesterséges Intelligencia
7 Csató Lehel Numerikus modellek
Thomas Bayes (1702–1761): angol matematikus és ˝ elnevezett tétel egy specifikus alakját lelkész, a nevérol alkotta meg.
Bayes modell Bayes hálók Esettanulmány
Bayes wiki 153/363
Bayes modell Mesterséges Intelligencia
7
II
Valószínuség: ˝ P : 2Ω −→ [0, 1] függvény, melyre
Csató Lehel
P(T ) = 1
T teljes esemény;
P(F) = 0
F üres esemény;
Numerikus modellek Bayes modell Bayes hálók Esettanulmány
P(A ∪ B) = P(A) + P(B) ha A és B egymást kizáró események. P(A) – az A esemény bekövetkeztének a valószínusége ˝ ha semmi információ nem áll rendelkezésünkre más ˝ események bekövetkeztérol. Tulajdonság: P(A) + P(A) = 1. 154/363
Bayes modell Mesterséges Intelligencia
7
III
Teljes eseményrendszer azon {A1 , . . . , AN }, N > 0 halmazok, melyekre
Csató Lehel
A1 ∪ A2 ∪ · · · ∪ AN = Ω és Ai ∩ Aj = ∅
Numerikus modellek
∀i 6= j
Bayes modell Bayes hálók Esettanulmány
Tétel: minden {A1 , . . . , AN } teljes eseményrendszer esetén P(A1 )+P(A2 )+· · ·+P(AN ) = P(A1 ∪A2 ∪· · ·∪AN ) = P(Ω) = 1 Jelölés:
def A ∩ B def = AB és P(A ∩ B) = P(AB).
Feltételes valószínuség: ˝ B esemény hatása az A-ra: 155/363
P(A|B)
Bayes modell Mesterséges Intelligencia
7
Bayes szabály: feltételes valószínuség ˝ szabálya
Csató Lehel
azaz P(A|B) =
Numerikus modellek Bayes modell Bayes hálók
IV
P(AB) P(B)
ha P(B) 6= 0
Tipikus felírás:
Esettanulmány
P(A|B) =
P(B|A)P(A) P(B|A)P(A) + P(B|A)P(A)
ha P(B) 6= 0
Általános Bayes-szabály Egy {A1 , . . . , AN } teljes eseményrendszer esetén P(B|Ai )P(Ai ) P(Ai |B) = P j P(B|Aj )P(Aj ) 156/363
ha P(B) 6= 0
Bayes modell Mesterséges Intelligencia
P(B|Ai )P(Ai ) P(Ai |B) = P j P(B|Aj )P(Aj )
7 Csató Lehel Numerikus modellek Bayes modell Bayes hálók
V
ha P(B) 6= 0
˝ következtetünk az Ai esemény feltételes A B eseménybol valószínuségére. ˝
Esettanulmány
˝ Ismernünk kell az elsodleges valószínuségeket ˝ – a–priori valószínuségeket: ˝ P(Aj ); P(B|Aj ) feltételes valószínuségeket. ˝
157/363
Bayes modell Mesterséges Intelligencia
7
példa
Adott a következo˝ szabály: Ha a beteg megfázott, akkor lázas. (75%)
Csató Lehel
Kérdés: Numerikus modellek Bayes modell
Ha a beteg lázas, akkor megfázott.
Jelölés:
??%
M – a beteg megfázott L – a beteg lázas
Bayes hálók Esettanulmány
Szükségesek: P(M) = 0.2 – megfázott P(L|M) = 0.75 – lázas, feltéve, hogy megfázott P(L|M) = 0.2 – lázas, feltéve, hogy nem fázott meg Ekkor: P(M|L) =
P(L|M)P(M) P(L|M)P(M) + P(L|M)P(M)
Azaz P(M|L) = 0.15/0.31 = 0.483 158/363
ha P(L) 6= 0
Bayes modell Mesterséges Intelligencia
összefoglaló
Alkalmazható, ha minden információval rendelkezünk.
7 Csató Lehel
Gyakorlatban az egymást kizáró eseményrendszer ritka...
Numerikus modellek Bayes modell Bayes hálók
˝ Elonyök:
Esettanulmány
Elméleti alap, Jól definiált szemantika;
Hátrányok: nagyon sok valószínuséget ˝ kell megadni, valószínuséget ˝ megadása nehéz, változ(tat)ások követése nehéz. 159/363
Bayes hálók Mesterséges Intelligencia
Bayes–modell hátránya a nagy valószínuségi ˝ tábla specifikálása,
7 Csató Lehel
Bayes–háló (vélekedésháló, belief network) egyszerusíti ˝ ezt a feladatot,
Numerikus modellek Bayes modell
Eszköze az oksági kapcsolatok leírása.
Bayes hálók Esettanulmány
Bayes–háló Egy adott feladat változóinak oksági struktúráját leíró irányított körmentes gráf. Csomópontok az állítások, élek a kapcsolatok. Élekhez rendelünk feltételes valószínuségi ˝ táblákat: összegzik a szülo˝ változó hatását. 160/363
I
Bayes hálók
II
Mesterséges Intelligencia
7
M
Kiegészítés: ˝ T - tüdogyulladásos a beteg
L
Csató Lehel Numerikus modellek
P(M) 0.2
Bayes modell Bayes hálók Esettanulmány
M 0 1
P(M) 0.2
P(L|M) 0.20 0.75
P(T ) 0.03
M
T
Fordítva: L M L 0 1
161/363
P(M|L) 0.07246 0.48387
L P(L) 0.31
MT 00 01 10 11
P(L|M, T ) 0.10 0.60 0.75 1.00
Bayes hálók
II
Mesterséges Intelligencia
7
M
Kiegészítés: ˝ T - tüdogyulladásos a beteg
L
Csató Lehel Numerikus modellek
P(M) 0.2
Bayes modell Bayes hálók Esettanulmány
M 0 1
P(M) 0.2
P(L|M) 0.20 0.75
P(T ) 0.03
M
T
Fordítva: L M L 0 1
161/363
P(M|L) 0.07246 0.48387
L P(L) 0.31
MT 00 01 10 11
P(L|M, T ) 0.10 0.60 0.75 1.00
Bayes hálók
II
Mesterséges Intelligencia
7
M
Kiegészítés: ˝ T - tüdogyulladásos a beteg
L
Csató Lehel Numerikus modellek
P(M) 0.2
Bayes modell Bayes hálók Esettanulmány
M 0 1
P(M) 0.2
P(L|M) 0.20 0.75
P(T ) 0.03
M
T
Fordítva: L M L 0 1
161/363
P(M|L) 0.07246 0.48387
L P(L) 0.31
MT 00 01 10 11
P(L|M, T ) 0.10 0.60 0.75 1.00
Bayes hálók Mesterséges Intelligencia
7 Csató Lehel
III
Bayes–háló – egy adott terület teljes köru˝ leírása. „Algoritmus”:
Numerikus modellek
1
A területet leíró változók meghatározása;
2
Írjuk fel a többi változótól független csomópontokat – tehát gyökérváltozók;
3
Amíg vannak csomópont nélküli változók:
Bayes modell Bayes hálók Esettanulmány
162/363
1
Válasszunk egy olyant, mely csak a már leírt változóktól függ.
2
Képezzük azt a minimális halmazt, melyek mind közvetlenül hatnak az új csomópontra;
3
Rajzoljuk be az új éleket és töltsük ki a felt.val. táblát;
Bayes hálók Mesterséges Intelligencia
7
Háló építésének az alapja P(v1 , v2 , . . . , vN ) = P(v1 |v2 , . . . , vN )P(v2 , . . . , vN )
Csató Lehel Numerikus modellek Bayes modell
IV
˝ Az indirekt függoségek kiesnek.
Bayes hálók Esettanulmány
A felt.val. törvénye érvényes bármely rendezésre: P(vπ1 , vπ2 , . . . , vπN ) = P(vπ1 |vπ2 , . . . , vπN )P(vπ2 , . . . , vπN ) ahol π egy permutáció.
Jó – könnyen értelmezheto˝ – Bayes–hálónál fontos az építés sorrendje. 163/363
Bayes hálók
Példa I Russell & Norvig pp. 437
Mesterséges Intelligencia
P(B) 0.01
7
P(F) 0.02
Földrengés
P(M|R) 0.01 0.70
Mária hívás
Betörés
Csató Lehel Numerikus modellek Bayes modell
BF 00 01 10 11
Bayes hálók Esettanulmány
R 0 1
P(J|R) 0.05 0.90
P(R|B, F) 0.001 0.30 0.94 0.95
János hívás
Riasztó
R 0 1
Sorrend a háló építésénél: B, F, R, M, J . 164/363
Bayes hálók Mesterséges Intelligencia
7
Példa II
János hívás
János hívás
Csató Lehel
Mária hívás
Mária hívás
Numerikus modellek Bayes modell Bayes hálók
Földrengés
Esettanulmány
Riasztó
Betörés
Riasztó Földrengés
Sorrend: J, M, R, B, F . 165/363
Betörés
Sorrend: J, M, F, B, R .
Bayes hálók Mesterséges Intelligencia
7
Példa II
János hívás
János hívás
Csató Lehel
Mária hívás
Mária hívás
Numerikus modellek Bayes modell Bayes hálók
Földrengés
Esettanulmány
Riasztó
Betörés
Riasztó Földrengés
Sorrend: J, M, R, B, F . 165/363
Betörés
Sorrend: J, M, F, B, R .
Bayes hálók Mesterséges Intelligencia
Felhasználások
Diagnosztizáló: hatásokból az okokra;
7 Csató Lehel
Oksági kapcsolatokat vizsgáló;
Numerikus modellek Bayes modell Bayes hálók Esettanulmány
Kölcsönös kapcsolatokat vizsgáló;
Egyszeru˝ muveletek, ˝ ha a háló egyszeresen összekötött. Példa: Számoljuk ki a betörés (B) valószínuségét ˝ ha János hívott (J): P(B|J) illetve akkor, ha hallottuk, hogy földmozgás is volt (F): P(B|J, F) Grafikus modelleknél visszatérünk
166/363
Bayes hálók Mesterséges Intelligencia
Felhasználások
Diagnosztizáló: hatásokból az okokra;
7 Csató Lehel
Oksági kapcsolatokat vizsgáló;
Numerikus modellek Bayes modell Bayes hálók Esettanulmány
Kölcsönös kapcsolatokat vizsgáló;
Egyszeru˝ muveletek, ˝ ha a háló egyszeresen összekötött. Példa: Számoljuk ki a betörés (B) valószínuségét ˝ ha János hívott (J): P(B|J) illetve akkor, ha hallottuk, hogy földmozgás is volt (F): P(B|J, F) Grafikus modelleknél visszatérünk
166/363
Bayes hálók Mesterséges Intelligencia
Felhasználások
Diagnosztizáló: hatásokból az okokra;
7 Csató Lehel
Oksági kapcsolatokat vizsgáló;
Numerikus modellek Bayes modell Bayes hálók Esettanulmány
Kölcsönös kapcsolatokat vizsgáló;
Egyszeru˝ muveletek, ˝ ha a háló egyszeresen összekötött. Példa: Számoljuk ki a betörés (B) valószínuségét ˝ ha János hívott (J): P(B|J) illetve akkor, ha hallottuk, hogy földmozgás is volt (F): P(B|J, F) Grafikus modelleknél visszatérünk
166/363
Bayes hálók Mesterséges Intelligencia
Felhasználások
Diagnosztizáló: hatásokból az okokra;
7 Csató Lehel
Oksági kapcsolatokat vizsgáló;
Numerikus modellek Bayes modell Bayes hálók Esettanulmány
Kölcsönös kapcsolatokat vizsgáló;
Egyszeru˝ muveletek, ˝ ha a háló egyszeresen összekötött. Példa: Számoljuk ki a betörés (B) valószínuségét ˝ ha János hívott (J): P(B|J) illetve akkor, ha hallottuk, hogy földmozgás is volt (F): P(B|J, F) Grafikus modelleknél visszatérünk
166/363
Esettanulmány – PathFinder
I Russell & Norvig, pp. 457
Mesterséges Intelligencia
7 Csató Lehel
PATHFINDER:
Numerikus modellek Bayes modell
˝ rendszer szakértoi nyirokmirigy-gyulladások diagnosztizálására;
Bayes hálók Esettanulmány
˝ D. Heckermann; Fejlesztoje Stanford Medical Computer Science ’80-as években; > 60 betegségtípus és > 100 szimptóma illetve teszt-eredmények. http://research.microsoft.com/~heckerman 167/363
Esettanulmány – PathFinder Mesterséges Intelligencia
7
Verziók: I – szabályalapú rendszer, bizonytalanság beépítése nélkül;
Csató Lehel Numerikus modellek Bayes modell
II – kísérletek különbözo˝ modellekkel: Bayes háló a legjobb (10%).
Bayes hálók Esettanulmány
III – Az „alig-valószínu” ˝ események. IV – Valószínuségi ˝ háló – Belief Net – használata. 8 óra – szótár meghatározása; 35 óra – háló meghatározása; 40 óra – val.-ek becslése (1400 val.g). ˝ PATHFINDER IV – „jobb”, mint az azt alkotó szakértok. 168/363
II