N´ahodn´ y vektor a jeho ˇc´ıseln´e charakteristiky
1
N´ ahodn´ y vektor a jeho charakteristiky V n´asleduj´ıc´ı kapitole budeme vˇenovat pozornost pouze dvourozmˇeˇrn´emu n´ahodn´emu vektoru, i kdyˇz uveden´e pojmy a jejich vlastnosti lze pˇrirozenˇe zobecnit i na v´ıcerozmˇern´e n´ahodn´e vektory. Pˇredstavte si, ˇze prov´ ad´ıte n´ ahodn´ y pokus, jehoˇz v´ ysledek ohodnot´ıte dvojic´ı ˇc´ısel, tj. dvourozmˇern´ ym vektorem. Pˇred proveden´ım pokusu jeho v´ ysledek a tedy ani sledovan´e hodnoty nezn´ate. Proto je vektor, kter´ y pˇripisuje v´ ysledku n´ ahodn´emu pokusu v´ami sledovan´e hodnoty, oznaˇcov´an jako n´ahodn´ y vektor. N´ahodn´ y vektor znaˇc´ıme velk´ ym tuˇcn´ ym p´ısmenem, napˇr. X a jeho sloˇzky znaˇc´ıme X1 a X2 . Mnoˇzinu moˇzn´ ych hodnot n´ ahodn´eho vektoru naz´ yv´ame obor hodnot n´ahodn´eho vektoru X a znaˇc´ıme jej X . Pot´e, co je pokus proveden, je namˇeˇren´ a hodnota n´ahodn´eho vektoru znaˇcena mal´ ym tuˇcn´ ym p´ısmenem, napˇr. x = [21mm, 5g]T . N´ ahodn´ ym vektorem m˚ uˇze b´ yt napˇr´ıklad • d´elka a v´ aha vysoustruˇzen´e souˇc´ astky • poˇcet osob a doba ˇcek´ an´ı ve frontˇe • dneˇsn´ı teplota a atmosferick´ y tlak • poˇcet v´ yrobk˚ u ze z´ asilky, kter´e jiˇz nelze opravit a kter´e jsou opraviteln´e Uved’mˇe nyn´ı matematicky pˇresnˇejˇs´ı popis n´ahodn´eho vektoru. Z d˚ uvodu pˇr´ıstupnosti l´atky student˚ um budou pojmy a vlastnosti v tomto textu zavedeny ve stejn´e podstatˇe nicm´enˇe s m´ırn´ ymi odchylkami od pˇresn´ ych matematick´ ych formulac´ı. 1. Pojem Dvourozmˇ ern´ ym n´ ahodn´ ym vektorem (vzhledem k A) rozum´ıme vektor X = [X1 , X2 ]T, jehoˇz sloˇzky X1 , X2 jsou n´ ahodn´e veliˇciny na stejn´em z´akladn´ım prostoru (Ω, A). Obor hodnot n´ahodn´eho vektoru X znaˇc´ıme X . Realizaci n´ ahodn´eho vektoru, tj. X(ω), ω ∈ Ω, znaˇc´ıme x, popˇr´ıpadˇe ve sloˇzk´ach [x1 , x2 ]T . 2. Pojem Re´ alnou funkci F : (−∞, ∞) × (−∞, ∞) → h0, 1i definovanou pˇredpisem F (x1 , x2 ) = P(X1 < x1 , X2 < x2 ) naz´ yv´ame (simult´ ann´ı, sdruˇ zen´ a) distribuˇ cn´ı funkce dvourozmˇern´eho n´ahodn´eho vektoru X = [X1 , X2 ]T , popˇr´ıpadˇe simult´ ann´ı (sdruˇ zen´ a) distribuˇ cn´ı funkce n´ahodn´ ych veliˇcin X1 a X2 . ˇ 3. Pojem Rekneme, ˇze n´ ahodn´ y vektor je diskr´ etn´ı, resp. m´a diskr´ etn´ı rozdˇ elen´ı pravdˇ epodobnosti, je-li jeho oborem hodnot nejv´ yˇse spoˇcetn´a mnoˇzina X = {x1 , x2 , . . .}, tj. nab´ yv´a nejv´ yˇse spoˇcetnˇe mnoha hodnot x1 = [x11 , x12 ]T , x2 = [x21 , x22 ]T , x3 = [x31 , x32 ]T , . . . , tak, ˇze ∞ X i=1
P(X = xi ) =
∞ X
P(X1 = xi1 , X2 = xi2 ) = 1.
i=1
4. Pojem Simult´ ann´ı (sdruˇ zen´ a) pravdˇ epodobnostn´ı funkce diskr´etn´ıho n´ahodn´eho vektoru X je funkce p : (−∞, ∞) × (−∞, ∞) → h0, 1i dan´a pˇredpisem p(x1 , x2 ) = P(X1 = x1 , X2 = x2 ).
5. Pˇ r´ıklad Pravdˇepodobnost, ˇze pˇri pˇrenosu digit´aln´ı informace dojde k siln´e, resp. stˇredn´ı, resp. ˇz´adn´e, deformaci bitu je 0.1, 0.3 a 0.6. Pˇredpokl´adejme, ˇze jsou pˇreneseny dva bity a rozsah deformace je pro kaˇzd´ y bit nez´ avisl´ y. N´ ahodn´ y vektor X = [X1 , X2 ]T ud´av´a poˇcet bit˚ u se silnou (X1 ) a stˇredn´ı (X2 ) deformac´ı. Oborem hodnot n´ ahodn´eho vektoru X je mnoˇzina X = {[0, 0]T , [0, 1]T , [0, 2]T , [1, 0]T , [1, 1]T , [2, 0]T }.
Mgr. Zuzana Hrdliˇckov´ a, Ph.D.
´ FSI v Brnˇe, 6. prosince 2006 UM
N´ahodn´ y vektor a jeho ˇc´ıseln´e charakteristiky
2
Nejprve vypoˇcteme pravdˇepodobnostn´ı funkci P(X1 P(X1 P(X1 p(x1 , x2 ) = P(X1 P(X1 P(X1 0
= 0, X2 = 0, X2 = 0, X2 = 1, X2 = 1, X2 = 2, X2
= 0) = 0.10 · 0.30 · 0.62 = 0.36 = 1) = 2 · 0.10 · 0.31 · 0.61 = 0.36 = 2) = 0.10 · 0.32 · 0.60 = 0.09 = 0) = 2 · 0.11 · 0.30 · 0.61 = 0.12 = 1) = 2 · 0.11 · 0.31 · 0.60 = 0.06 = 0) = 0.12 · 0.30 · 0.60 = 0.01
pro [x1 , x2 ]T pro [x1 , x2 ]T pro [x1 , x2 ]T pro [x1 , x2 ]T pro [x1 , x2 ]T pro [x1 , x2 ]T jinak
= [0, 0]T = [0, 1]T = [0, 2]T = [1, 0]T = [1, 1]T = [2, 0]T
V´ ysledek m˚ uˇzeme zapsat do pravdˇepodobnostn´ı tabulky 1 a zn´azornit graficky, viz. obr´azek 1. x2 \x1 0 1 2 0 0.36 0.12 0.01 1 0.36 0.06 0 0.09 0 0 2 Tabulka 1: Pravdˇepodobnostn´ı tabulka n´ahodn´eho vektoru X = [X1 , X2 ]T z pˇr´ıkladu 5 p(x1 , x2 ) 1 0.5 00
2 1 x1
1 2
0
x2
Obr´azek 1: Graf nenulov´ ych hodnot pravdˇepodobnostn´ı funkce n´ahodn´eho vektoru X = [X1 , X2 ]T z pˇr´ıkladu 5 (V ostatn´ıch bodech je pravdˇepodobnostn´ı funkce nulov´a. ) Z pravdˇepodobnostn´ı funkce odvod´ıme distribuˇcn´ı funkci, kter´a je pro pˇrehlednost zaps´ana v Tabulce 2 a zn´azornˇena graficky v Obr´ azku 2. x2 \x1 (−∞, 0i (0, 1i (1, 2i (2, ∞) (−∞, 0i 0 0 0 0 (0, 1i 0 0.36 0.48 0.49 0 0.72 0.9 0.91 (1, 2i (2, ∞) 0 0.81 0.99 1 Tabulka 2: Distribuˇcn´ı funkce F (x1 , x2 ) n´ahodn´eho vektoru X = [X1 , X2 ]T z pˇr´ıkladu 5 Postup v´ ypoˇctu hodnot distribuˇcn´ı funkce F (x1 , x2 ) z pravdˇepodobnostn´ı funkce p(x1 , x2 ) uk´aˇzeme na F (1.5, 0.5), tj. na v´ ypoˇctu hodnoty distribuˇcn´ı funkce na intervalu (1, 2i × (0, 1i. F (1.5, 0.5)
Mgr. Zuzana Hrdliˇckov´ a, Ph.D.
= = = =
P(X1 < 1.5, X2 < 0.5) = P((X1 = 0 ∨ X1 = 1) ∧ (X2 = 0)) = P((X1 = 0 ∧ X2 = 0) ∨ (X1 = 1 ∧ X2 = 0)) = p(0, 0) + p(1, 0) = 0.36 + 0.12 = 0.48
´ FSI v Brnˇe, 6. prosince 2006 UM
N´ahodn´ y vektor a jeho ˇc´ıseln´e charakteristiky
3
Obr´azek 2: Graf simult´ ann´ı distribuˇcn´ı funkce n´ahodn´eho vektoru X = [X1 , X2 ]T z pˇr´ıkladu 5
ˇ 6. Pojem Rekneme, ˇze n´ ahodn´ y vektor je spojit´ y, resp. m´a spojit´ e rozdˇ elen´ı pravdˇ epodobnosti, jestliˇze existuje nez´ aporn´ a funkce f (x1 , x2 ) takov´a, ˇze Z x1 Z x2 f (s, t)dtds. F (x1 , x2 ) = −∞
−∞
Funkci f (x1 , x2 ) naz´ yv´ ame sdruˇzenou (simult´ann´ı) hustotou n´ahodn´eho vektoru X. 7. Vlastnosti Pro simult´ ann´ı hustotu n´ahodn´eho vektoru X plat´ı R∞ R∞ 1. −∞ −∞ f (x1 , x2 )dx2 dx1 = 1 2. f (x1 , x2 ) =
∂2 ∂x1 ∂x2 F (x1 , x2 ).
3. P(X ∈ M ) =
RR
f (x1 , x2 )dx2 dx1 pro libovolnou mnoˇzinu M v R2
M
Margin´ aln´ı rozdˇ elen´ı V souvislosti s rozdˇelen´ım n´ ahodn´eho vektoru X naz´ yv´ame rozdˇelen´ı jeho sloˇzek margin´aln´ımi rozdˇelen´ımi n´ahodn´eho vektoru X. 8. Pojem Margin´ aln´ımi distribuˇ cn´ımi funkcemi n´ahodn´eho vektoru X = [X1 , X2 ]T rozum´ıme distribuˇcn´ı funkce n´ ahodn´ ych veliˇcin X1 , X2 , tj. FX1 (x1 ) = P(X1 < x1 ), FX2 (x2 ) = P(X2 < x2 ) . Pro odliˇsen´ı distribuˇcn´ıch funkc´ı n´ ahodn´ ych veliˇcin X1 a X2 byl u pˇredchoz´ıho pojmu uˇzit doln´ı index. Bude-li to nutn´e, budou stejn´ ym zp˚ usobem odliˇseny i jin´e funkˇcn´ı a ˇc´ıseln´e charakteristiky n´ahodn´ ych veliˇcin X1 a X2 . 9. Vlastnosti Z definice simult´ ann´ı distribuˇcn´ı funkce n´ahodn´ ych veliˇcin X1 , X2 plyne FX1 (x1 )
=
P(X1 < x1 , X2 < ∞) = lim F (x1 , x2 ),
FX2 (x2 )
=
P(X1 < ∞, X2 < x2 ) = lim F (x1 , x2 )
x2 →∞
x1 →∞
ˇ 10. Pojem Rekneme, ˇze dvˇe n´ ahodn´e veliˇciny jsou nez´ avisl´ e, jestliˇze F (x1 , x2 ) = FX1 (x1 )FX1 (x2 ).
Mgr. Zuzana Hrdliˇckov´ a, Ph.D.
´ FSI v Brnˇe, 6. prosince 2006 UM
N´ahodn´ y vektor a jeho ˇc´ıseln´e charakteristiky
4
11. Vlastnosti Diskr´etn´ı n´ ahodn´e veliˇciny X1 , X2 jsou nez´avisl´e pr´avˇe tehdy, kdyˇz p(x1 , x2 ) = pX1 (x1 )pX1 (x2 ),
pro vˇsechna x1 , x2 ∈ (−∞, ∞).
Spojit´e n´ahodn´e veliˇciny X1 , X2 jsou nez´avisl´e pr´avˇe tehdy, kdyˇz f (x1 , x2 ) = fX1 (x1 )fX1 (x2 ),
pro vˇsechna x1 , x2 ∈ (−∞, ∞).
12. Pojem Margin´ aln´ımi pravdˇ epodobnostn´ımi funkcemi diskr´etn´ıho n´ahodn´eho vektoru X = [X1 , X2 ]T rozum´ıme pravdˇepodobnostn´ı funkce n´ahodn´ ych veliˇcin X1 , X2 , tj. pX1 (x1 ) = P(X1 = x1 ), pX2 (x2 ) = P(X2 = x2 ) .
13. Vlastnosti Z definice simult´ ann´ı pravdˇepodobnostn´ı funkce n´ahodn´ ych veliˇcin X1 , X2 plyne pX1 (x1 ) = pX2 (x2 ) =
P(X1 = x1 , X2 ∈ (−∞, ∞)) = P(X1 ∈ (−∞, ∞), X2 = x2 ) =
∞ X x2 =−∞ ∞ X
p(x1 , x2 ), p(x1 , x2 ) .
x1 =−∞
14. Pojem Margin´ aln´ımi hustotami spojit´eho n´ahodn´eho vektoru X = [X1 , X2 ]T rozum´ıme hustoty n´ahodn´ ych veliˇcin X1 , X2 , kter´e lze vypoˇc´ıst jako Z ∞ fX1 (x1 ) = f (x1 , x2 )dx2 , −∞ Z ∞ fX2 (x2 ) = f (x1 , x2 )dx1 . −∞
15. Pˇ r´ıklad Vypoˇctˇeme margin´ aln´ı pravdˇepodobnostn´ı funkce a margin´aln´ı distribuˇcn´ı funkce n´ahodn´eho vektoru X z pˇr´ıkladu 5. V´ ypoˇcet margin´aln´ıch pravdˇepodobnostn´ıch funkc´ı n´ahodn´ ych veliˇcin X1 a yhodou prov´est pˇr´ımo v pravdˇepodobnostn´ı tabulce n´ahodn´eho vektoru X, X2 uˇzit´ım vlastnosti 13 lze s v´ viz. Tabulka 1. Margin´ aln´ı pravdˇepodobnostn´ı funkce n´ahodn´e veliˇciny X1 , resp. X2 , je souˇctem hodnot simult´ann´ı pravdˇepodobnostn´ı funkce ve sloupci, resp. v ˇr´adku. x2 \x1 0 1 2 pX2 (x2 ) 0 0.36 0.12 0.01 0.49 1 0.36 0.06 0 0.42 2 0.09 0 0 0.09 pX1 (x1 ) 0.81 0.18 0.01 Tabulka 3: V´ ypoˇcet margin´ aln´ıch pravdˇepodobnostn´ıch funkc´ı n´ahodn´eho vektoru X = [X1 , X2 ]T z pˇr´ıkladu 5 Margin´aln´ı distribuˇcn´ı funkce odvod´ıme z margin´aln´ıch pravdˇepodobnostn´ıch funkc´ı. 0 pro x1 ≤ 0 P(X = 0) = 0.81 pro 0 < x1 ≤ 1 1 FX1 (x1 ) = P(X1 = 0) + P(X1 = 1) = 0.81 + 0.18 = 0.99 pro 1 < x1 ≤ 2 P(X1 = 1) + P(X1 = 1) + P(X1 = 2) = 0.81 + 0.18 + 0.01 = 1 pro 2 < x1 Mgr. Zuzana Hrdliˇckov´ a, Ph.D.
´ FSI v Brnˇe, 6. prosince 2006 UM
N´ahodn´ y vektor a jeho ˇc´ıseln´e charakteristiky
5
0 P(X = 0) = 0.49 2 FX2 (x2 ) = P(X2 = 0) + P(X2 = 1) = 0.49 + 0.42 = 0.91 P(X2 = 1) + P(X2 = 1) + P(X2 = 2) = 0.49 + 0.42 + 0.09 = 1
pro pro pro pro
x2 ≤ 0 0 < x2 ≤ 1 1 < x2 ≤ 2 2 < x2
ˇ ıseln´ C´ e charakteristiky n´ ahodn´ eho vektoru 16. Pojem Stˇ redn´ı hodnotou n´ ahodn´eho vektoru rozum´ıme vektor E(X) = [E(X1 ), E(X2 )]T . 17. Pojem Varianˇ cn´ı matice n´ ahodn´eho vektoru je matice D(X1 ) C(X1 , X2 ) var(X) = , C(X1 , X2 ) D(X2 ) kde C(X1 , X2 ) = E ([X1 − E(X1 )] · [X2 − E(X2 )]) ych veliˇcin X1 a X2 . Re´aln´e ˇc´ıslo C(X1 , X2 ) naz´ yv´ ame kovarianc´ı n´ahodn´ 18. Vlastnosti Pro kovarianˇcn´ı matici n´ahodn´eho vektoru X plat´ı 1. Matice var(X) je symetrick´ a a pozitivnˇe semidefinitn´ı. 2. C(X1 , X2 ) = E(X1 · X2 ) − [E(X1 ) · E(X2 )]. 3. var(a + BX) = Bvar(X)B T , pro libovoln´ y vektor a ∈ R2 a matici B typu n × 2. 4. C(a1 + b1 X1 , a2 + b2 X2 ) = b1 b2 C(X1 , X2 ). 5. C(X1 , X1 ) = D(X1 ). 6. D(X1 + X2 ) = D(X1 ) + D(X2 ) + 2C(X1 , X2 ). 7. Jsou-li n´ ahodn´e veliˇciny X1 a X2 nez´avisl´e, pak C(X1 , X2 ) = 0. 19. Pojem Korelaˇ cn´ı matice n´ ahodn´eho vektoru X je matice 1 %(X1 , X2 ) cor(X) = , %(X1 , X2 ) 1 kde
√ C(X1 ,X2 )
je-li D(X1 ) 6= 0, D(X2 ) 6= 0,
0
jinak.
( %(X1 , X2 ) =
D(X1 )D(X2 )
Re´aln´e ˇc´ıslo %(X1 , X2 ) naz´ yv´ ame korelace (korelaˇ cn´ı koeficient) n´ahodn´ ych veliˇcin X1 a X2 . 20. Pojem Jestliˇze C(X1 , X2 ) = 0, ˇr´ık´ame, ˇze jsou n´ahodn´e veliˇciny X1 a X2 nekorelovan´ e.
Mgr. Zuzana Hrdliˇckov´ a, Ph.D.
´ FSI v Brnˇe, 6. prosince 2006 UM
N´ahodn´ y vektor a jeho ˇc´ıseln´e charakteristiky
6
21. Vlastnosti Pro korelaˇcn´ı matici n´ahodn´eho vektoru X plat´ı 1. Matice cor(X) je symetrick´ a a pozitivnˇe semidefinitn´ı. 2. %(X1 , X2 ) ∈ h−1, 1i. 3. %(X1 , a2 ) = %(a1 , X2 ) = %(a1 , a2 ) = 0 pro libovoln´a a1 , a2 ∈ R. 4. %(X1 , X1 ) = 1. 5. Jestliˇze % = 1, pak existuje a, b ∈ R, b > 0 takov´e, ˇze X2 = a + bX1 s pravdˇepodobnost´ı 1. 6. Jestliˇze % = −1, pak existuje a, b ∈ R, b < 0 takov´e, ˇze X2 = a + bX1 s pravdˇepodobnost´ı 1. 7. Jsou-li n´ ahodn´e veliˇciny X1 a X2 nez´avisl´e, pak jsou nekorelovan´e. 22. Pozn´ amka Zd˚ uraznˇeme, ˇze pojmy nekorelovan´e a nez´avisl´e n´ahodn´e veliˇciny nejsou ekvivalentn´ı. Jsou-li n´ahodn´e veliˇciny nekorelovan´e, nemus´ı b´ yt nutnˇe nez´avisl´e. Bez pˇrid´an´ı dalˇs´ıch pˇredpoklad˚ u je pouze jist´e, ˇze mezi nekorelovan´ ymi n´ ahodn´ ymi veliˇcinami neexistuje line´arn´ı z´avislost. 23. Pˇ r´ıklad Spoˇctˇeme ˇc´ıseln´e charakteristiky n´ahodn´eho vektoru X z pˇr´ıkladu 5. Stˇredn´ı hodnotu EX vypoˇcteme z margin´ aln´ıch pravdˇepodobnostn´ıch funkc´ı v Tabulce 3. E(X1 ) = 0 · 0.81 + 1 · 0.18 + 2 · 0.01 = 0.2 E(X2 ) = 0 · 0.49 + 1 · 0.42 + 2 · 0.09 = 0.6 Pro rozptyl nejdˇr´ıve vypoˇcteme stˇredn´ı hodnoty druh´ ych mocnin n´ahodn´ ych veliˇcin X1 , X2 E(X12 ) = 02 · 0.81 + 12 · 0.18 + 22 · 0.01 = 0.22 E(X22 ) = 02 · 0.49 + 12 · 0.42 + 22 · 0.09 = 0.78 odkud dost´av´ ame D(X1 ) = E(X12 ) − [E(X1 )]2 = 0.22 − 0.2 = 0.18 D(X2 ) = E(X22 ) − [E(X2 )]2 = 0.78 − 0.62 = 0.42 Abychom mohli vypoˇc´ıst kovarianci uˇzit´ım vztahu 2 v odstavci 18 potˇrebujeme vyˇc´ıslit E(X1 · X2 )
0 · 0 · 0.36 + 0 · 1 · 0.12 + 0 · 2 · 0.01 + 1 · 0 · 0.36 + +1 · 1 · 0.06 + 1 · 2 · 0 + 2 · 0 · 0.09 + 2 · 1 · 0 + 2 · 2 · 0 = = 0.06 =
odkud C(X1 , X2 ) = 0.06 − 0.2 · 0.6 = −0.06 M˚ uˇzeme tedy napsat varianˇcn´ı matici n´ ahodn´eho vektoru X 0.18 −0.06 var(X) = −0.06 0.42 Na z´avˇer stanovme korelaˇcn´ı koeficient, a t´ım i korelaˇcn´ı matici. Podle definice −0.06 C(X1 , X2 ) . p √ =√ = −0.218 %(X1 , X2 ) = p 0.18 0.42 D(X1 ) D(X2 ) a proto cor(X) =
Mgr. Zuzana Hrdliˇckov´ a, Ph.D.
1 −0.218 −0.218 1
´ FSI v Brnˇe, 6. prosince 2006 UM