ˇ e republiky Akademie vˇed Cesk´ ´ Ustav teorie informace a automatizace Academy of Sciences of the Czech Republic Institute of Information Theory and Automation
RESEARCH REPORT
´sek, P. Ettler J. Andry
Rozˇ s´ıˇ ren´ı poradn´ıho syst´ emu pomoc´ı teorie v´ıce´ uˇ castnick´ eho rozhodov´ an´ı
No. 2204
15. listopadu 2007
ˇ 1ET 100 750 401, MSMT ˇ ˇ 1M0572 AV CR CR
´ ˇ P.O.Box 18, 182 08 Prague, UTIA AVCR, Czech Republic Fax: (+420)286890378, http://www.utia.cz, E-mail:
[email protected]
1
´ Uvod
Jedn´ım z v´ ysledk˚ u projektu ProDacTool [1, 2] byla implementace poradn´ıho syst´emu pro oper´atora vratn´e v´alcovac´ı stolice. V r´amci centra DAR byly na pˇrelomu rok˚ u 2005/2006 provedeny testy uˇzit´ı v t´e dobˇe nov´ ych algoritm˚ u pro podporu rozhodov´an´ı v tomto poradn´ım syst´emu [3]. Po dobu pˇeti mˇes´ıc˚ u byl poradn´ı syst´em provozov´an postupnˇe v 18 ”m´odech” liˇs´ıc´ıch se kombinac´ı typu pouˇzit´ ych smˇes´ı pro aproximaci modelu syst´emu (2 varianty: statick´ y, dynamick´ y model) a pro vyj´adˇren´ı poˇzadovan´eho c´ıle (3 varianty) a zp˚ usobem optimalizace (3 varianty : akademick´ y, industri´aln´ı a simult´ann´ı n´avrh). Doporuˇcen´e hodnoty nastaven´ı kl´ıˇcov´ ych hodnot nebyly pˇredkl´ad´any oper´ator˚ um, ale byly zaznamen´av´any spolu s ostatn´ımi daty. Testov´an´ı bylo zaloˇzeno na pˇredpokladu, ˇze po pˇredchoz´ım provozu syst´emu a s mnohalet´ ymi zkuˇsenostmi se oper´atoˇri pohybuj´ı se sv´ ymi nastaven´ımi bl´ızko optim´aln´ıch hodnot. Jako m´ıra kvality poradn´ıho syst´emu byla pak br´ana shoda doporuˇcen´ı generovan´ ych syst´emem s aktu´aln´ımi akcemi oper´ator˚ u. Anal´ yza v´ ysledk˚ u tehdy uk´azala, ˇze nen´ı moˇzn´e jednoznaˇcnˇe zvolit jeden z 18-ti m´od˚ u jako nejlepˇs´ı.
2
Formulace probl´ emu
C´ılem t´eto pr´ace bylo vyuˇz´ıt´ı nov´ ych poznatk˚ u pro opˇetovn´e zpracov´an´ı testovac´ıch dat a porovn´an´ı nov´ ych v´ ysledk˚ u s p˚ uvodn´ımi.
3
ˇ sen´ı probl´ Reˇ emu
Probl´em s ”on-line” v´ ybˇerem spr´avn´eho m´odu byl ˇreˇsen pomoc´ı teorie v´ıce´ uˇcastnick´eho rozhodov´an´ı. Kaˇzd´ y z 18-ti zaveden´ ych m´od˚ u byl oznaˇcen jako jeden u ´ˇcastn´ık. D´ale byl vytvoˇren dalˇs´ı u ´ˇcastn´ık, kter´ y komunikoval se vˇsemi ostatn´ımi a podle nich vylepˇsoval sv´e chov´an´ı. V´aha jednotliv´ ych u ´ˇcastn´ık˚ u byla urˇcena jako vˇerohodnost (likelihood) jejich modelu uzavˇren´e smyˇcky s dosazen´ ymi bodov´ ymi odhady parametr˚ u. V´ ysledn´a rada byla urˇcena na z´akladˇe teorie Bayesovsk´eho adaptivn´ıho v´ıce´ uˇcastnick´eho rozhodov´an´ı [4, 5].
4
Volba experiment˚ u
Byly provedeny testy na stejn´ ych datech jako se prov´adˇel p˚ uvodn´ı experiment [3]. Pro snadnˇejˇs´ı porovn´an´ı v´ ysledk˚ u vˇsak byly zavedeny n´asleduj´ıc´ı u ´pravy: • P˚ uvodnˇe se vyhodnocovala shoda porad u kaˇzd´eho ze tˇr´ı (obˇcas dvou) nastavovan´ ych kan´al˚ u zvl´aˇst’. Novˇe se poˇc´ıtalo s jejich pr˚ umˇerem. uvodnˇe se pro kaˇzd´ y z 18-ti m´od˚ u zvl´aˇst’ vyhodnocovaly v´ ysledky pro 3 skupiny z´aznam˚ u – prvn´ı u ´bˇer, sud´e • P˚ u ´bˇery a dalˇs´ı lich´e u ´bˇery. Novˇe bylo od rozliˇsov´an´ı na u ´bˇery upuˇstˇeno a v´ ysledky z nˇekolika soubor˚ u byly zpr˚ umˇerov´ any s vahou proporci´aln´ı k poˇctu dat v dan´em souboru, aby v´ ysledkem byla jedna hodnota. • Pro kaˇzd´ y z 18-ti m´od˚ u byl porovn´av´an p˚ uvodnˇe dosaˇzen´ y v´ ysledek s v´ ysledkem nov´ ym na stejn´ ych datech.
5
Implementaˇ cn´ı detaily
V´ ysledn´ y model uzavˇren´e smyˇcky vytvoˇren´ y pomoc´ı industri´aln´ıho n´avrhu obsahuje ˇcasto t´emˇeˇr deterministickou ˇc´ast odpov´ıdaj´ıc´ı regul´atoru. Vˇerohodnost takov´eho modelu na minul´ ych datech je pak pˇr´ıliˇs mal´a. Proto byl rozptyl u veliˇcin (kan´al˚ u), kter´ ych se generovan´a doporuˇcen´ı t´ ykaj´ı, v pˇr´ıpadˇe industri´aln´ıho n´avrhu umˇele zv´ yˇsen na rozptyl, kter´ y mˇely tyto kan´aly v odhadnut´em modelu.
1
6
V´ ysledky
V tabulce 1 jsou zobrazeny v´ ysledky vyhodnocen´ı krit´eria shody pro vˇsech 18 m´od˚ u. Z tabulky je evidentn´ı, ˇze shoda vylepˇsen´eho poradn´ıho syst´emu je vyˇsˇs´ı ve vˇsech pˇr´ıpadech kromˇe jednoho. D˚ uleˇzit´e je, ˇze vˇsechny hodnoty krit´eria shody jsou vˇetˇs´ı neˇz 0.75, coˇz byla hranice dobr´e shody pouˇzit´a v p˚ uvodni publikaci. nc 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18
MI stat stat stat stat stat stat dyn dyn dyn dyn dyn dyn stat stat stat dyn dyn dyn
MT max max max mov mov mov max max max mov mov mov est est est est est est
MA acad ind simult acad ind simult acad ind simult acad ind simult acad ind simult acad ind simult
p˚ uvodnˇe 0.4396 0.4438 0.3531 0.6521 0.6470 0.5687 0.6339 0.5659 0.0837 0.9548 0.9355 0.1914 0.5532 0.5683 0.6019 0.7079 0.6414 0.8148
novˇe 0.9368 0.9409 0.9556 0.9375 0.9198 0.7063 0.9087 0.8315 0.8498 0.9029 0.9427 0.8819 0.8167 0.9550 0.9246 0.8779 0.8760 0.8866
Tabulka 1: Porovn´an´ı star´ ych a nov´ ych v´ ysledk˚ u. MI , MT , MA znamenaj´ı postupnˇe smˇesi reprezentuj´ıc´ı model procesu, poˇzadovan´ y c´ıl a zp˚ usob optimalizace.
2
7
Dalˇ s´ı vyhodnocen´ı
Jako kvalita poradn´ıho syst´emu byla pouˇz´ıv´ana shoda porad s akcemi, kter´e skuteˇcnˇe provedl oper´ator. Aby naˇse z´ avˇery mohly b´ yt kompletn´ı, bylo by tˇreba jeˇstˇe uk´azat, ˇze nevhodn´e akce oper´atora se od porad liˇs´ı v´ıce neˇz akce dobr´e. Pokusili jsme se alespoˇ n ˇc´asteˇcnˇe takov´ y test prov´est. Pro kaˇzd´ y z 18-ti datov´ ych mnoˇzin bylo spoˇc´ıt´ano krit´erium kvality ˇr´ızen´ı. Pot´e byla zkoum´ana z´avislost kvality a shody porad s oper´atorem. Velmi d˚ uleˇzit´ ym krokem anal´ yzy je volba krit´eria kvality. Kvalita se posuzuje podle odchylky v´ ysledn´e tlouˇst’ky plechu od ˇz´adan´e hodnoty. Spravedliv´e krit´erium hodnot´ıc´ı oper´atora ovˇsem mus´ı vz´ıt v u ´vahu tak´e vstupn´ı kvalitu plechu. Pro testov´an´ı bylo nejprve pouˇzito n´asleduj´ıc´ı krit´erium: Kaˇzd´a datov´a mnoˇzina byla rozdˇelena na K mnoˇzin po ∆ z´aznamech. Chyba oper´atora byla potom poˇc´ıt´ana n´asleduj´ıc´ım zp˚ usobem: k∆ P y2 K X t=(k−1)∆+1 t , kde Err = k∆ P 2 k=1 ut t=(k−1)∆+1
yt je odchylka v´ ystupn´ı tlouˇst’ky od ˇz´adan´e hodnoty a ut je odchylka vstupn´ı tlouˇst’ky od nomin´aln´ı hodnoty. Na obr´azku 1 je vykreslena z´avislost shody a chyby v´alcov´ani. Tuto z´avislost jsme zkoumali pro r˚ uzn´e hodnoty ∆ = 50, 500, 5000.
Obr´azek 1: Z´avislost shody porad s chov´an´ım oper´atora a kvality ˇr´ızen´ı Bohuˇzel, takto z´ıskan´a z´avislost vykazovala opaˇcn´ y charakter, neˇz bychom chtˇeli.
3
Protoˇze v´ ysledek nen´ı pˇr´ıliˇs ovlivnˇen volbou ∆, bylo pro dalˇs´ı anal´ yzy uvaˇzov´ano ∆ = 1200. Pokusili jsme se zjistit, jestli z´avislost shody a kvality nebude r˚ uzn´a, kdyˇz do shody budeme uvaˇzovat pouze jeden ze tˇr´ı kan´al˚ u. Z v´ ysledk˚ u na obr´azku 2 je patrn´e, ˇze v´ ysledn´a z´avislost je nejv´ıce ovlivˇ nov´ana kan´alem 9, nicm´enˇe kvalitativnˇe jsou v´ ysledky obdobn´e.
Obr´azek 2: Z´avislost shody porad s chov´an´ım oper´atora a kvality ˇr´ızen´ı pro jednotliv´e kan´aly
4
Nepˇr´ızniv´e v´ ysledky pˇredchoz´ı anal´ yzy n´as motivovaly k dalˇs´ımu zkoum´an´ı krit´eria kvality ˇr´ızen´ı. Je zˇrejm´e, ˇze kvalita mus´ı z´aviset na odchylk´ach v´ ystupu od ˇz´adan´e hodnoty. Jako m´ıru kvality vstupn´ıho plechu jsme p˚ uvodnˇe brali odchylky od nomin´aln´ı hodnoty. K tomu ovˇsem nen´ı ˇz´adn´ y d˚ uvod. Kvalita vstupu by mˇela z´aviset pˇredevˇs´ım na tom, jak moc se vstup mˇen´ı. Pˇredchoz´ı krit´erium ale uvaˇzovalo tento poˇzadavek jen ˇc´asteˇcnˇe. M´ısto odchylek od nomin´aln´ı hodnoty, by se spr´avnˇe mˇely pouˇz´ıvat odchylky od stˇredn´ı hodnoty. K v´ ypoˇP ctu tˇechto odchylek lzeP snadno n
pouˇz´ıt pˇredem napoˇcten´e odchylky od nomin´aln´ı hodnoty, protoˇze plat´ı: yk + Ynom − Vylepˇsen´e krit´erium bude: k∆ P
Err =
K X k=1
t=(k−1)∆+1 k∆ P
k∆ P
yt2 , kde u ˆk = 2
(ut − u ˆk )
j=1
(yj +Ynom ) n
n
= yk −
j=1
yj
n
uτ
τ =(k−1)∆+1
∆
t=(k−1)∆+1
Na obr´azku 3 je zobrazen v´ ysledn´ y tvar z´avislosti pˇri pouˇzit´ı nov´eho krit´eria. Protoˇze data obsahuj´ı jednu v´ yznamnˇe vych´ ylenou hodnostu (outlier), mˇeli bychom spr´avnˇe regresn´ı pˇr´ımku spoˇc´ıtat robustn´ı metodou. Pro jednoduchost jsme m´ısto robustn´ı metody outlier odstranili. Z obr´azku je nyn´ı jasnˇe patrn´e, ˇze ˇc´ım lepˇs´ı bylo chov´an´ı oper´atora, t´ım vˇetˇs´ı byla shoda jeho akc´ı s radami navrˇzen´ ymi poradn´ım syst´emem.
Obr´azek 3: Z´avislost shody porad s chov´an´ım oper´atora a kvality ˇr´ızen´ı pˇri vylepˇsen´em krit´eriu kvality
8
Z´ avˇ er
Proveden´a studie aplikovala metodiku v´ıce´ uˇcastnick´eho Bayesovsk´eho rozhodov´an´ı na probl´em poradn´ıho syst´emu pro oper´atora v´alcovac´ı tratˇe za studena. Jako kvalita porad byla stanovena jejich shoda s akc´ı, kterou oper´ator skuteˇcnˇe provedl. Vzhledem k tomuto krit´eriu byla aplikace v´ yce´ uˇcastnick´eho rozhodov´an´ı velmi u ´spˇeˇsn´a. Dodateˇcnˇe byla zkoum´ana z´avislost shody porad s oper´atorem s pˇrihl´ednut´ım na kvalitu produktu ovlivnˇenou oper´atorov´ ym nastaven´ım. Pˇri nevhodnˇe zvolen´em krit´eriu vypov´ıd´a tato z´avislost proti vylepˇsen´ı poradn´ıho syst´emu. Po d˚ ukladnˇejˇs´ı anal´ yze a lepˇs´ı volbˇe krit´eria kvality vˇsak z´avislost jasnˇe ilustruje zkouman´e vylepˇsen´ı poradn´ıho syst´emu.
Reference [1] A. Quinn, P. Ettler, L. Jirsa, I. Nagy, and P. Nedoma. Probabilistic advisory systems for data-intensive applications. International Journal of Adaptive Control and Signal Processing, 17(2):133–148, 2003. [2] M. K´arn´ y, J. B¨ohm, T.V. Guy, L. Jirsa, I. Nagy, P. Nedoma, and L. Tesaˇr. Optimized Bayesian Dynamic Advising: Theory and Algorithms. Springer, London, 2005. 552 pp. ˇ [3] P. Ettler, J. Stika, and M. K´arn´ y. Comparison of settings for industrial decision support. In DAR internal report, Plzeˇ n/Praha, 2006. 5
[4] M. K´arn´ y and T.V. Guy. On dynamic decision-making scenarios with multiple participants. In J. Andr´ ysek, M. K´arn´ y, and J. Krac´ık, editors, Multiple Participant Decision Making, pages 17–28, Adelaide, May 2004. Advanced Knowledge International. y M., Krac´ık J. Cooperative decision making without facilitator. In Fradkov A.L. Andrievsky B.R., [5] Guy T. K´arn´ editor, IFAC Workshop ”Adaptation and Learning in Control and Signal Processing” /9./. IFAC, 2007.
6
