Irányításelmélet és technika II. Legkisebb négyzetek módszere
Magyar Attila Pannon Egyetem Műszaki Informatikai Kar Villamosmérnöki és Információs Rendszerek Tanszék
[email protected]
2010 november 26.
Bevezetés
Áttekintés
1
Bevezetés
2
Predikciós hiba minimalizálása
3
Legkisebb négyzetek módszere
Magyar A. (Pannon Egyetem)
Irányításelmélet
2010 november
2 / 15
Bevezetés
Bevezetés Modell paraméter becslés - problémafelvetés Adott egy parametrizált dinamikus rendszermodell y (M) = M(u, y ; θ) mért adatsorozat (a kimenet mérési hibával terhelt) D[0, k] = {(u(i), y (i))|i = 0, . . . , k} alkalmas ||.|| jelnorma, amellyel az y (M) modellkimenet és az y mért kimenet közti különbség nagyságát mérjük
Feladat számítsuk ki az ismeretlen θ modell paraméterek becslését (ˆθ) úgy, hogy ||y − y (M) || → min
Magyar A. (Pannon Egyetem)
Irányításelmélet
2010 november
3 / 15
Predikciós hiba minimalizálása
Áttekintés
1
Bevezetés
2
Predikciós hiba minimalizálása Prediktív input-output modellek Predikciós hiba
3
Legkisebb négyzetek módszere
Magyar A. (Pannon Egyetem)
Irányításelmélet
2010 november
4 / 15
Predikciós hiba minimalizálása
Prediktív input-output modellek
Prediktív input-output modellek
Dinamikus rendszerek paramétereinek becslésére többnyire bemenet-kimenet modelleket használunk... ... mivel a rendszer bemenetei és kimenetei mérhetők közvetlenül Nemlineáris időinvariáns egykimenetű rendszerek prediktív alakja yˆ (k|θ) = g (k, D[1, k − 1]; θ) g nemlineáris függvény
Magyar A. (Pannon Egyetem)
Irányításelmélet
2010 november
5 / 15
Predikciós hiba minimalizálása
Predikciós hiba
Predikciós hiba A modell kimenetek és a mért kimenetek ismeretében előállítható a predikciós hiba sorozat ε(k, θ) = y (k) − yˆ (k|θ),
k = 1, . . . , N
A paraméterbecslő eljárás a mért érték sorozatból előállít egy becsült paraméter vektort, azaz egy leképezés D N → ˆθ (A paraméterbecslés elve:) Az ismert D N mért érték sorozatból kiszámítható az ε(k, θ) becslési hiba. A k = N időpillanatban válasszuk meg a becsült ˆθ paraméter vektort úgy, hogy az ε(k, θ), k = 1, . . . , N predikciós hibák a lehető legkisebbek legyenek. Magyar A. (Pannon Egyetem)
Irányításelmélet
2010 november
6 / 15
Predikciós hiba minimalizálása
Predikciós hiba
Norma megválasztása A predikciós hiba nagysága egy általános jelnormával mérhető N 1 X VN (θ, D ) = `(ε(k, θ)) N N
i=1
ahol `(.) egy pozitív skalár értékű függvény. Egykimenetű eset: legegyszerűbb és legelterjedtebb a négyzetes jelnorma 1 `(ε) = ε2 2 Súlyozott eset: nem egyenlően pontos mérések N 1 X VN (θ, D ) = β(N, k)`(ε(k, θ)) N N
k=1
Magyar A. (Pannon Egyetem)
Irányításelmélet
2010 november
7 / 15
Legkisebb négyzetek módszere
Áttekintés
1
Bevezetés
2
Predikciós hiba minimalizálása
3
Legkisebb négyzetek módszere Általános eset Lineáris eset A becslés tulajdonságai
Magyar A. (Pannon Egyetem)
Irányításelmélet
2010 november
8 / 15
Legkisebb négyzetek módszere
Általános eset
Általános eset Egykimenetű eset, négyzetes jelnorma: N 1 X1 VN (θ, D ) = [y (k) − yˆ (k|θ)]2 N 2 N
t=1
A keresett paramétervektor és a mért kimenetek vektora θT = [θ1 θ2 . . . θm ] , y T = [y (1) y (2) . . . y (N)] Prediktív modell: N 1 X1 [y (k) − f (k, θ)]2 yˆ (k|θ) = f (θ, k) , VN (θ, D ) = N 2 N
k=1
N 1 X ∂f (k, θ) [y (k) − f (k, θ)] = 0 , j = 1, . . . , m N ∂θj k=1
(A fenti egyenletrendszert kell megoldani θ-ra.) Magyar A. (Pannon Egyetem)
Irányításelmélet
2010 november
9 / 15
Legkisebb négyzetek módszere
Lineáris eset
Lineáris eset Paraméterekben lineáris modell esetén: yˆ (k|θ) = θT ϕ(k) ahol ϕ(.) az úgynevezett regresszor, a mért adatokat tartalmazza; θ a becsülni kívánt állandó modellparaméterek vektora. A predikciós hiba: ε(k, θ) = y (k) − θT ϕ(k) A minimalizálandó kritériumfüggvény: N i2 1 X1h y (k) − θT ϕ(k) VN (θ, D ) = N 2 N
k=1
Magyar A. (Pannon Egyetem)
Irányításelmélet
2010 november
10 / 15
Legkisebb négyzetek módszere
Lineáris eset
Lineáris eset Elvégezve a parciális deriválásokat a paramétervektor elemei szerint: N h i 1 X ϕ(k) y (k) − ϕT (k)θ = 0 N k=1
Ebből:
N N 1 X 1 X ϕ(k)y (k) = ϕ(k)ϕT (k)θ N N k=1
k=1
aminek megoldása θ-ra adja az LS- vagy LKN-becslést: #−1 N N 1 X 1 X = ϕ(k)ϕT (k) ϕ(k)y (k) N N "
θˆLS
k=1
Magyar A. (Pannon Egyetem)
k=1
Irányításelmélet
2010 november
11 / 15
Legkisebb négyzetek módszere
Lineáris eset
Példa - paraméterben lineáris nemlineáris eset
Paraméterekben lineáris ARX modell, amikor a kimeneti rendszerzaj fehér. y (k) = a1 y 2 (k − 1) + b0 u 4 (k) + e(k) Az általános nemlineáris prediktív alak: θ = [a1 b0 ]T , yˆ (k|θ) = y (k) − e(k) Segédváltozókkal: y 2 (k − 1) = z(k − 1) , u 4 (k) = w (k) a modell teljesen ARX alakra hozható.
Magyar A. (Pannon Egyetem)
Irányításelmélet
2010 november
12 / 15
Legkisebb négyzetek módszere
Lineáris eset
Példa - ARX modellek paramétereinek LKN becslése Az általános alakú input-output modellben a mozgóátlag tag nulla, azaz a kimeneti rendszerzaj fehér A∗ (q −1 )y (k) = B ∗ (q −1 )u(k) + e(k) A modell prediktív alakja:
yˆ (k|θ) = −a1 y (k−1)−a2 y (k−2) · · ·−an y (k−n)+b0 u(k)+· · ·+bm u(k−m A paramétervektor: θ = [−a1 − a2 . . . − an b0 b1 . . . bm ]T A regresszor: ϕ(k) = [y (k − 1) y (k − 2) . . . y (k − n) u(k) u(k − 1) . . . u(k − m)]T Magyar A. (Pannon Egyetem)
Irányításelmélet
2010 november
13 / 15
Legkisebb négyzetek módszere
A becslés tulajdonságai
A becslés aszimptotikus tulajdonságai
y (k) = θ0T ϕ(k) + ν0 (k) modellel leírható rendszer, {ν0 (k)} hibasorozattal, θ0 a paraméter úgynevezett nominális értéke vagy "valódi érték"e. LKN becslés és jelölés #−1 N N N 1 X 1 X 1 X T = ϕ(k)ϕ (k) ϕ(k)y (k) , R(N) = ϕ(k)ϕT (k) N N N "
θˆLS
k=1
Magyar A. (Pannon Egyetem)
k=1
Irányításelmélet
k=1
2010 november
14 / 15
Legkisebb négyzetek módszere
A becslés tulajdonságai
N h i 1 X θˆLS (N) = [R(N)]−1 ϕ(k) ϕ(k)T θ0 + ν0 (k) N k=1
N 1 X θˆLS (N) = θ0 + [R(N)]−1 ϕ(k)ν0 (k) N k=1
A becslési hiba a fenti egyenlet második tagja. Azt szeretnénk, - ha ez a tag "kicsi" lenne, hiszen ekkor lesz a becsült érték a valódi θ0 értékhez közel, és azt, - ha ez a tag tartana 0-hoz a minta elemszámának növelésével, azaz, ha N → ∞. Egy becslés viselkedését a mintaelemszám növelésével a becslés aszimptotikus viselkedés-ének nevezik. Ilyen értelemben beszélhetünk például aszimptotikus torzítatlanságról. Magyar A. (Pannon Egyetem)
Irányításelmélet
2010 november
15 / 15