Kanstheorie II: oefeningen 1 e licentie Wiskunde

Kanstheorie II: oefeningen 1e licentie Wiskunde

Stijn Symens

Academiejaar 2003-2004

2

Hoofdstuk 1 Voorkennis 1.1

Inleiding

In de cursus kanstheorie II wordt de voorkennis van de cursussen kanstheorie I en statistiek I verondersteld. Volgende items worden dan ook verwacht vlot gekend moeten zijn: • basisbegrippen • characteristieke functies • convolutieproducten • convergenties • continue en discrete verdelingen Over convergenties en convolutieprodukten zijn er nog 2 bijlagen aan de cursus toegegevoegd. Helemaal achteraan bevindt zich ook een bijlage met combinatorische gelijkheden, of hoe je in sommaties enkele handige substituties kan doen. Volgende stellingen zijn zeker ook de moeite om eens te bekijken: Eigenschap 1.1. Indien X = (X1 , . . . , Xd ) een stochastische vector is met kansdichtheid h gedefinieerd op Rd . X1 , . . . , Xd zijn dan onafhankelijk als en slechts als h(x1 , . . . , xd )
= g1 (x1 ) . . . gd (xd ) b.o. en Xk heeft dus als kansdichtheid hXk (u) = gk (u)/ R gk (v) dv. Eigenschap 1.2. Veronderstel dat X een stochastische vector is met dichtheid h gedefinieerd op D, open deel in Rd . Veronderstel verder dat ψ een

4

Voorkennis diffeomorfisme is van D naar een open deel ∆ ⊂ Rd en dat Y = ψ(X), dan heeft Y als kansdichtheid h(ψ −1 (y))|J(ψ −1(y))|1∆ (y). Deze eigenschap blijkt vooral nuttig bij het bepalen van de dichtheid van X + Y in het geval dat X en Y onafhankelijk zijn. Eigenschap 1.3 (onafhankelijkheidscriterium van Fourier). Stochastische variabelen (X1 , . . . , Xn ), respectievelijk gedefinieerd op Rd1 , . . . , Rdn zijn onafhankelijk als en slechts als ∀t1 ∈ Rd1 , . . . , ∀tn ∈ Rdn : φ(X1 ,...,Xn ) (t1 , . . . , tn ) = φX1 (t1 ) · · · φXn (tn ) waarbij φXi de karakteristieke functie van Xi voorstelt.

1.2

Testoefeningen

Om jezelf te testen op het al dan niet kennen van het vorige, zijn hieronder een aantal oefeningen gegeven die samen de bovengenoemde lading wel dekken. Kan je deze oefeningen oplossen, dan ben je klaar om de cursus kanstheorie II aan te vatten. Oefening 1.1. Banach is een verstokte roker. Hij beschikt dan ook permanent over een doosje lucifers in elk van zijn 2 broekzakken en als hij een sigaret opsteekt kiest hij willekeurig uit het ene of uit het andere doosje met dezelfde kans. Veronderstel dat hij 2 luciferdoosjes heeft genomen die allebei n lucifers bevatten. Wanneer hij voor de eerste keer merkt dat een doosje leeg is om het moment dat hij een lucifer wil nemen, noemen we X het aantal lucifers in het andere doosje. 1. Bereken pk = P(X = k),

0 ≤ k ≤ n.

2. Voor welke waarde(n) van k bereikt pk een maximum? 3. Bewijs dat E(X) = (2n + 1)p0 − 1. 4. Geef een equivalent van E(X) als n → ∞. (Herinner dat 22n (πn)−1/2 ).

2n n

∼

Oefening 1.2. Een deeltje verplaatst zich in het georthonormeerde vlak → − → − (0, i , j ) volgens de volgende regels:

1.2 Testoefeningen

5

• Het deeltje begint op het punt 0 en maakt achtereenvolgens sprongen van lengte 1. • Enkele sprong gebeurt in een willekeurige richting, onafhankelijk van de vorige sprongen. M.a.w. als we volgende notatie gebruiken: A0 = 0, A1 , . . . , An , . . . zijn de opeenvolgende posities van het deeltje, dan is de afstand |An−1 An | = 1 en → −−−−−→ − dan zijn de hoeken θn = ( i , An−1 An ) onafhankelijke stochastische variabelen met dezelfde uniforme verdeling over [0, 2π). Indien we Xn en Yn noteren als co¨ordinaten van An , dan is Dn de afstand |0An |. 1. Schrijf, voor n ≥ 1, Xn en Yn in functie van cos θi en sin θi , 1 ≤ i ≤ n. 2. Bewijs dat Xn en Yn gecentreerd zijn (dus met gemiddelde 0). 3. Bereken Var(Xn ) en Var(Yn ). 4. Bereken E(Dn2 ) en leidt eruit af dat E(Dn ) ≤

√

n.

5. Bereken Cov(Xn , Yn ). 6. (a) Bereken via oefening 1, en door inductie op n, de waarde van E(Xn2Yn2 ). (b) Geldt dat Cov(Xn2 , Yn2 ) = 0? (c) Zijn Xn en Yn onafhankelijke variabelen? Oefening 1.3. Laat X, Y twee stochastische variabelen zijn met dezelfde verdeling en ϕ hun characteristieke functie. Veronderstel dat X en Y onafhankelijk zijn, dat X + Y en X − Y onafhankelijk zijn en dat verder E(X) = E(Y ) = 0 en E(X 2) = E(Y 2 ) = 1. 1. Druk de characteristieke functies van X + Y, X −Y en 2X uit in functie van ϕ. Leidt ook af dat ϕ(2t) = ϕ(t)3 ϕ(−t). 2. Gebruik makende van 1, toon aan dat voor alle t geldt dat ϕ(t) = 0. ϕ(t) . Bewijs dat voor alle t, ρ(t) = (ρ( 2t ))2 . Bewijs dat ρ 3. Stel ρ(t) = ϕ(−t) constant gelijk is aan 1 en dat ϕ re¨eel is.

4. Leidt af dat ϕ(t) = (ϕ( 2t ))4 . 5. Bepaal de verdeling van X.

6

Voorkennis Oefening 1.4. Zij X1 , X2 en X3 drie onafhankelijke bivariate stochastische variabelen met allen dezelfde verdeling N2 (0, I2). Bepaal de kans dat de driehoek gevormd door X1 , X2 en X3 een stompe hoek heeft. Nog enkele oefeningen gebaseerd op de eigeschappen 1.1 en 1.2: Oefening 1.5. Veronderstel dat X en Y twee onafhankelijke stochastische variabelen zijn, die respectievelijk Γ(a, c) en Γ(b, c) verdeeld zijn, met a, b, c, > 0 (Herinner dat een Γ(a, c)-verdeelde variabele X verdelingsfunctie fX (x) = ca e−cx xa−1 X 1(0,+∞) (x)). Bepaal de verdeling van S = X + Y en T = X+Y door Γ(a) x een transformatie φ : (x, y) → (s = x + y, t = x+y ) te definieren. Oefening 1.6. Veronderstel dat Z = (X, Y ) een stochastische vector is gedefinieerd op R2 met characteristieke functie Φ. 1. Bewijs dat de verdeling van Z invariant is onder rotatie (rond 0) als en slechts als er een functie ψ, gedefinieerd op R, bestaat zodat ∀(u, v) ∈ R2 : Φ(u, v) = ψ(u2 + v 2 ). 2. Veronderstel nu dat Z aan de conditie uit punt 1 voldoet en dat X en Y bovendien onafhankelijk zijn. We noteren ΦX en ΦY voor de characteristieke functies van X en Y . (a) Druk Φ uit in functie van ΦX en ΦY . Druk ΦX en ΦY uit in functie van ψ. Toon aan dat ΦX en ΦY even functies zijn en besluit daaruit dat ΦX en ΦY alleen waarden in R aannemen. (b) Leid uit 2a af dat ψ aan een relatie voldoet en toon daarna aan dat ψ nooit 0 wordt. (c) Bewijs dat X (en ook Y ) een gecentreerde normale verdeling hebben met varantie 2λ met λ = − ln ψ(1). (d) Indien X = R cos θ en Y = R sin θ, met R > 0 en 0 ≤ θ < 2π. Bepaal de verdelingen van θ en R. Zijn deze twee variabelen onafhankelijk?

Hoofdstuk 2 De Riemann-zeta functie 2.1

Een kanstheoretische benadering

´ en van de meest bekende onopgeloste wiskundige vermoedens van de voorE´ bije eeuw is wel de Riemann hypothese. Centraal in dit vermoeden staat de Riemann-zeta functie. Deze functie is gedefinieerd door volgend functievoorschrift: ∞  1 ζ : (1, +∞) → R : s → . ks k=1

Er bestaat echter nog een andere karakterisatie van deze functie: via de formule van Euler: Veronderstel dat de rij priemgetallen wordt voorgesteld door (pk )k≥1 , dan geldt ζ(s) =

∞ 

(1 −

k=1

1 −1 ) . psk

(2.1)

Deze formule wordt bewezen in oefening 2.2. Een ander formule die al eens van belang kan zijn is de formule van Poincar´e: Eigenschap 2.1 (Formule van Poincar´ e.). Indien (Ω, A, P) een kansruimte is en A1 , . . . , An ∈ A, dan is   n n   Ak = (−1)k−1 Sk P k=1

waarbij Sk =

1≤i1 <...
k=1

P(Ai1 ∩ . . . ∩ Aik ).

8

De Riemann-zeta functie

2.2

oefeningen

Oefening 2.1. Beschrijf de kansruimte (Ω, A, PN ) die bestaat uit het willekeurig trekken van 2 gehelen tussen 1 en N, met N ≥ 2 vast. Men introduceert de volgende gebeurtenissen: B = {beide gehele getallen zijn onderling ondeelbaar}

Ap = {beide gehele getallen zijn deelbaar door p} met p priem We noteren p1 , . . . , pn de priemgetallen kleiner of gelijk aan N en we kiezen een m vast groter dan 1. 1. Bewijs dat

 PN

m 

 Apk

k=1

waarbij Sk =

1 N2

1≤i1 <...


=

m 

(−1)k−1Sk

k=1 N pi1 ...pik

2

.

2. Leid verder af dat voor vast m geldt dat m 

m   1 1− 2 lim PN Apk = 1 − N →∞ pk k=1 k=1 3. Besluit dat, rekening houdend met de (2.1) lim PN (B) =

N →∞

6 1 = 2 ζ(2) π

Oefening 2.2. Op N0 definieerd men een discrete kansverdeling Ps , voor s > 1 door 1 Ps (n) = . ζ(s)ns en, gebaseerd op deze kansverdeling definieert men, voor p priem de stochastische variabelen ρp en αp , gedefinieerd door ρp (n) = 1 indien p een deler is van n en 0 indien niet. αp (n) = De macht van p in de priemdecompositie van n.

2.2 oefeningen 1. (a) Voor een vaste p, wat is de verdeling van de stochastische variabelen ρp ? (b) Bewijs dat de ρp ’s onafhankelijk zijn. (c) Leid de formule van Euler (2.1). 2. (a) Voor een vaste p, wat is de verdeling van de stochastische variabelen αp ? (b) Bewijs dat de αp ’s onafhankelijk zijn.

9

10

De Riemann-zeta functie

Hoofdstuk 3 Conditionele verwachting 3.1

Theorie

Stel (Ω, B, P) een kansruimte en B een deelstam van A. Definitie 3.1. Indien X ∈ L1 (Ω, A, P) een RSV is, dan noemen we de conditionele verwachting van X t.o.v. B die (unieke) Y ∈ L1 (Ω, B, P) die voldoet aan   Y dP = X dP ∀B ∈ B B

B

Notatie 3.1. Deze Y noteren we als E[X|B] of ook wel als EB [X]. Voor B = σ(Z) noteren we ook E[X|Z] Opmerking 3.1. In plaats van intergreerbaar zou in bovenstaande definitie de X ∈ L1 (Ω, A, P) resp. de Y ∈ L1 (Ω, B, P) ook vervangen kunnen worden door X ≥ 0 resp. Y ≥ 0 en Y B-meetbaar. In wat volgt noemen we B en C deelstammen van A en X, Y, (Xn )n ∈ L (Ω, A, P). 1

Definitie 3.2 (alternatieve definitie voor X ∈ L2 (Ω, A, P)). Indien X ∈ L2 (Ω, A, P) een RSV is, dan noemen we de conditionele verwachting van X t.o.v. B die (unieke) Y ∈ L2 (Ω, B, P) die voldoet aan E[XZ] = E[Y Z], ∀Z ∈ L2 (Ω, B, P) Opmerking 3.2. Een equivalent van deze definitie is voor X ∈ L1 te vinden als een eigenschap, maar dan iets minder overtuigend: Indien X ∈ L1 , dan voldoet Y = EB (X) aan ∀Z ∈ L∞ , E(Y Z) = E(XZ).

12

Conditionele verwachting Eigenschap 3.1. E[EB (X)] = E(X). b.z.

Eigenschap 3.2. EB (aX + bY ) = aEB (X) + bEB (Y ). b.z.

Eigenschap 3.3. Indien C ⊂ B, dan EC [EB (X)] = EC (X). b.z.

Eigenschap 3.4. X ≤ Y ⇒ EB (X) ≤ EB (Y ) Eigenschap 3.5. Indien Y een B-meetbare SV is zodat XY ∈ L1 (Ω, A, P), dan is b.z. EB (XY ) = Y EB (X). b.z.

In het bijzonder is dus EB (Y ) = Y . Eigenschap 3.6. Indien X onafhankelijk is van de stam B, dan geldt voor b.z. elke positieve of begrensde f dat EB (f (X)) = E(f (X))1Ω . In het bijzonder b.z. is dus EB (X) = E(X)1Ω Eigenschap 3.7 (Jensen). Indien f een re¨ele convexe functie is, dan is b.z.

b.z.

f (EB (X)) ≤ EB (f (X)). In het bijzonder is |EB (X)|p ≤ EB (|X|p), ∀p ≥ 1. b.z.

b.z.

Eigenschap 3.8 (Beppo Levi). Indien Xn ↑ X, dan EB [Xn ] ↑ EB [X]. Eigenschap 3.9 (Fatou). Indien (Xn )n ≥ 0, dan b.z.

EB ( lim Xn ) ≤ lim EB (Xn ). n→∞

n→∞

b.z.

Eigenschap 3.10 (Lebesgue). Indien Xn → X en er een Z ∈ L1 (Ω, A, P) b.z.

bestaat zodat |Xn | ≤ Z voor alle n ∈ N, dan geldt EB (Xn ) → EB (X). b.z.

Eigenschap 3.11. Veronderderstel dat X ∈ L1 (R, R, P). Dan geldt: Y = E(X|T )  Y is van de vorm Y = h(T ) met h een begrende re¨ele functie en voor elke begrensde re¨ele functie g geldt dat E(g(T )Y ) = E(g(T )X). Eigenschap 3.12. Veronderderstel dat X ≥ 0. Dan geldt: Y = E(X|T )  Y is van de vorm Y = h(T ) met h een positieve re¨ele functie en voor elke begrensde re¨ele functie g geldt dat E(g(T )Y ) = E(g(T )X).

3.2 Oefeningen

3.2

13

Oefeningen

Oefening 3.1. Een machine vervaardigt staafjes waarvan de lengte een in cm uitgedrukte SV is, die normaal verdeeld is met gemiddelde 10 cm en standaardafwijking 0.5 cm. Enkel exemplaren met lengte tussen 9 cm en 10.25 cm worden afgeleverd. 1. Wat is de kans dat een door de machine vervaardigd staafje wordt afgeleverd? 2. Geef de verdelingsfunctie en de dichtheidsfunctie van de lengte van de afgeleverde staafjes. 3. Geef de gemiddelde lengte van de afgeleverde staafjes. Oefening 3.2. De levensduur van een gloeilamp is een (in uren uitgedrukte) 1 SV waarvan de verdeling exponentieel is met rate dus 1000 uren 1 − x fX (x) = e 1000 1(x≥0) 1000 1. Bereken de kans dat de levensduur van de lamp langer is dan 1000 uur. 2. Als gegeven is dat de lamp langer heeft gebrand dan 500 uur, wat is dan de conditionele kans dat de lamp in totaal langer zal branden dan 1500 uur? Bereken eveneens de gemiddelde levensduur onder deze voorwaarde. 3. Bereken de tijdsduur zodat met een waarschijnlijkheid van 90% de lamp langer zal branden dan deze tijdsduur. 4. Wat is de rate α zodat met 75% kans de levensduur van zo’n lamp langer is dan 500 uur? Oefening 3.3. Gegeven het universum Ω = [0, 3], de uniforme kansmaat P op [0, 3], de Borelstam A = RΩ en de deelstam B voortgebracht door de partitie {B1 , B2 , B3 } waarbij B1 = [0, 1], B2 =]1, 2], B3 =]2, 3]. Beschouw de stochastische variabele X(ω) := ω 2 . 1. Construeer en teken de afbeelding E[X|B]. 2. Ga na dat



 E[X|B] dP = B

X dP B

voor B = φ, B = Ω, B = B1 en B = B2 ∪ B3

14

Conditionele verwachting Oefening 3.4. Zij Ω = [0, 3], A = RΩ , P de uniforme kansmaat op Ω en B1 = [0, 1], B2 =]1, 2], B3 =]2, 3]. Beschouw de stochastieken X(ω) = eω en Z = 51B1 + 71B2 ∪B3 . Construeer en teken E[X|Z]. Oefening 3.5. Zij Ω = R, A = R, P = N (0, 1) en Y (ω) = ω 2 . Beschouw de stochastiek X(ω) = eω . 1. Geef σ(Y ). 2. Construeer E[X|Y ]. 3. Bereken E[X|Y = 4]. 4. Geef E[X|U] voor U(ω) = |ω|. 5. Bereken E[X|U = 4]. Oefening 3.6. Men veronderstelt een X ∈ L2 . Bewijs dan dat volgende eigenschappen equivalent zijn: 1. EB (X 2 ) = (EB (X))2 b.z.

2. X = EB (X) Oefening 3.7. Veronderstel (Ω, A, P) een kansruimte, B ⊂ A een deelstam en A ∈ A een gebeurtenis. Stel dat B = {ω ∈ Ω : EB (1A )(ω) = 0}. b.z

Bewijs dat B ⊂ Ac . Oefening 3.8. Veronderstel dat X en Y RSV’s zijn, gedefinieerd op een kansruimte (Ω, B, P), en kwadratisch integreerbaar zijn. Veronderstel verder dat E[X|Y ] = Y b.z. en E[Y |X] = X b.z. 1. Toon aan dat X = Y b.z. 2. Wat als X, Y ∈ L1 (Ω, B, P)? Oefening 3.9. Veronderstel X, Y, Z 3 RSV’s gedefinieerd op een kansruimte (Ω, B, P). Hierbij zijn X, Y ∈ L2 (Ω, B, P) en men definieert de conditionele covariantie door: Cov(X, Y |Z) = E[(X − E[X|Z])(Y − E[Y |Z])|Z].

3.2 Oefeningen

15

1. Bewijs dat Cov(X, Y |Z) = E[XY |Z] − E[X|Z]E[Y |Z]. 2. Men veronderstelt dat X = X  + f (Z) en Y = Y  + g(Z) waar het paar (X  , Y  ) onafhankelijk is van Z. Wat wordt Cov(X, Y |Z) in dit geval? 3. Geldt in het algemeen dat Cov(X, Y ) = E[Cov(X, Y |Z)]? 4. Bewijs dat Cov(X, Y ) = E[Cov(X, Y |Z)] + Cov(E[X|Z], E[Y |Z]). 5. Toon aan dat Var(X) = Var(E[X|Z]) als en alleen als X een functie is van Z. Oefening 3.10. Stel X een n-variate RSV en Y een p-variate re¨ele RSV zodat het koppel (X, Y ) een dichtheid heeft. Bovendien zijn ze onafhankelijk van elkaar. Veronderstel f : Rn × Rp → R Borelmeetbaar ≥ 0 of begrensd. Toon aan dat E[f (X, Y )|Y = y] = h(y) met h(y) = E[f (X, y)]. Oefening 3.11 (Examen juni ’03). X = (X1 , X2 , X3 ) is normaal verdeeld met dichtheid N3 (0, I3 ). We definieren nu de variabelen U = 2X1 − X2 − X3 V = X 1 + X2 + X3 W = 3X1 − X2 − 4X3 1. Bepaal de verdelingen van U, V en W . Welke van de volgende koppels (U, V ), (V, W ) en (U, W ) zijn onafhankelijk? 2. Bewijs dat er een a ∈ R zodat U en Z = W − aU onafhankelijk zijn. Gebruik dit gegeven om de verdeling van W wetende U = u te bepalen. Bereken ook E[W |U = u].

16

Conditionele verwachting

Hoofdstuk 4 Conditionele verdeling, conditionele dichtheid 4.1

Marginale dichtheden: theorie

De gemeenschappelijke verdelingsfunctie van de stochastische veranderlijken X en Y defini¨eren we als volgt. Definitie 4.1. Zij X, Y RSV’s op de kansruimte (Ω, A, P). Dan heet de functie FX,Y : R2 → R : (x, y) → P(X ≤ x, Y ≤ y) de gemeenschappelijke (gezamelijke) verdelingsfunctie van de stochastische veranderlijken X en Y . Opmerking 4.1. Als X en Y continue SV zijn en FX,Y afleidbaar is, dan is de gemeenschappelijke dichtheidsfunctie gelijk aan fX,Y (x, y) =

∂ 2 FX,Y (x, y) . ∂x∂y

Men schrijft ook vaak FZ en fZ waar Z = (X, Y ). Opmerking 4.2. Deze definitie kan eenvoudig veralgemeend worden naar meerdere dimensies. Eigenschap 4.1. De marginale dichtheid kan berekend worden als volgt: • Discrete geval:  pX (k) = P(X = k) = P(X = k, Y = l) l  pY (l) = P(Y = l) = P(X = k, Y = l) k

18

Conditionele verdeling, conditionele dichtheid • Continuegeval: fX (x) = fX,Y (x, y)dλ(y) R fY (y) = fX,Y (x, y)dλ(x) R

waarbij P(X = x, Y = y) en fX,Y (x, y) resp. de discrete en continue gemeenschappelijke dichtheidsfuncties zijn.

4.2

Marginale dichtheden: oefeningen

Oefening 4.1. Zij fX,Y,Z (x, y, z) = e−(x+y+z) voor alle 0 < x, y, z < ∞ de gemeenschappelijke dichtheidsfunctie van de stochastische variabelen X, Y, Z. 1. Zoek dan hun gezamelijke verdelingsfunctie FX,Y,Z (x, y, z). 2. Bereken hun marginale dichtheid fX (x), fY (y) en fZ (z).

4.3

Condictionele dichtheden en verdelingen: theorie

Definitie 4.2. Zij X en T 2 discrete SV’s met gemeenschappelijke dichtheid P(X = x, T = t) en marginale dichtheden pX en pT dan defini¨eren we de voorwaardelijke (conditionele) dichtheid door: P(X = k, T = t) als P(T = t) > 0 nt (k) = P(X = k|T = t) = P(T = t) =0 als P(T = t) = 0 Zij X en T 2 continue SV’s met gemeenschappelijke dichtheid fX,T (x, t) en marginale dichtheden fX en fT dan defini¨eren we de voorwaardelijke (conditionele) dichtheid door: fX,T (x, t) als fT (t) > 0 fX|T (x|t) = fT (t) =0 als fT (t) = 0 Voorbeeld 4.1. Zijn X ∼ P(λ) en Y ∼ P(µ) i.i.d., dan is T = X + Y ∼

4.3 Condictionele dichtheden en verdelingen: theorie P(λ + µ). We krijgen dat voor 0 ≤ k ≤ t P(X = k, Y = t − k) P(X = k, T = t) = P(T = t) P(T = t) k t−k λ µ t! eλ+µ = e−λ e−µ k! (t − k)! (λ + µ)t λk µ( t − k) t! = k!(t − k)! (λ + µ)t λ t k = p (1 − p)t−k = nt (k) met p = λ+µ k

P(X = k|T = t) =

Men noemt (nt (k), 0 ≤ k ≤ t) de conditionele verdeling van X wetende dat λ T = t. Hier gaat het om een binomiale verdeling B(t, λ+µ ). Definitie 4.3. De conditionele verdeling van een continue stochastische variabele X gegeven T wordt ook dikwijls gegeven door de transitiekern n(T, dx), waarbij n(T, dx) eenduidig wordt bepaald doordat  +∞ b.z. f (x)n(T, dx) E(f (X)|T ) = −∞

geldt voor elke f begrensd en Borelmeetbaar. Laten we dit even verduidelijken met een voorbeeld: Voorbeeld 4.2. Veronderstel X en Y i.i.d. met dezelfde verdeling U(0, 1). We zoeken de conditionele verdeling van (X − Y )+ wetende dat Y = y. Oplossing. We zoeken de transitiekern n(y, dt) z´o dat ∀f : R → R Borelmeetbaar  + E(f ((X − Y ) )|Y = y) = f (t) n(y, dt). R

Uit oefening 3.10 halen we dat E(f ((X − Y )+ )|Y = y) = E(f ((X − y)+ ))  1 f ((x − y)+ )dx 0≤y≤1 = 0  y  1 = f (0)dx + f (x − y)dx 0



y 1−y

f (t)dt = yf (0) + 0  def = f (t) n(y, dt) R

19

20

Conditionele verdeling, conditionele dichtheid De transitiekern van de gevraagde conditionele verdeling is dus n(y, dt) = y∆0 (dt) + 1[0,1−y] (t)dt. Opmerking 4.3. n(t, dx) kan ge¨ınterpreteerd worden als P(X ∈ dx|T = t). Eigenschap 4.2. Indien X en T SV’s zijn, dan wordt de voorwaardelijke verwachting van X wetende dat T = t geven door:   knt (k) in het discrete geval   k E[X|T = t] =   xfX|T (x|t)dλ(x) in het continue geval R

Meer algemeen wordt dat: Eigenschap 4.3. Indien X en T SV’s zijn en g ≥ 0 borelmeetbaar, dan geldt:   g(k)nt (k) in het discrete geval   k  E[g(X)|T = t] =   g(x)fX|T (x|t)dλ(x) in het continue geval R

Eigenschap 4.4. Veronderstel dat X en Y beide absoluut continu zijn en dat fX (x) en fY |X (y|x), dan vertelt de regel van Bayes dat de condtitionele dichtheid fX|Y (x|y) gegeven wordt door fY |X (y|x)fX (x) fX|Y (x|y) =
+∞ . f (y|z)f (z) dz X Y |X −∞ Een dergelijke regel werd voor het discrete geval al bekeken (zie kanstheorie I).

4.4

Conditionele dichtheden en verdelingen: oefeningen

Oefening 4.2. Zij X gegeven R exponentieel verdeeld d.w.z. fX|R (x|r) = re−rx 1{x>0} De variabele R is op haar beurt gammaverdeeld: fR (r) =

1 a−1 −r r e 1{r>0} Γ(a)

met a > 2

4.4 Conditionele dichtheden en verdelingen: oefeningen 1. Bereken de marginale verdeling van X. 2. Bereken E[X|R]. Oefening 4.3. Veronderstel dat de gemeenschappelijke dichtheidsfunctie van de SV’s X en Y gegeven is door y 2 − x2 −y e 1{0
f (x, y) =

Bewijs dat E[X|Y = y] = 0. Oefening 4.4. Veronderstel dat de gemeenschappelijke dichtheidsfunctie van de SV’s X en Y gegeven is door f (x, y) =

e−x/y e−y 1{0<x<+∞} 1{0
Bewijs dat E[X|Y = y] = y. Oefening 4.5. Zij X en Y discrete random variabelen on N met gezamelijke dichtheidsfunctie e−2 p(x, y) = , y≤x y!(x − y)! en p(x, y) = 0, y > x Bepaal E(Y |X = x). Oefening 4.6. Bewijs dat als X en Y beide continu zijn, geldt  +∞ E[X|Y = y]fY (y) dy. E[X] = −∞

Oefening 4.7. Veronderstel dat Y een exponenti¨ele verdeling heeft, maar we laten de parameter λ van de verdeling zelf ook een SV zijn (laten we hem voor de eenvoud X noemen in plaats van λ) met dichtheidsfunctie x2 −x fX (x) = e 1{x>0} . 2 1. Geef de dichtheidsfuntie van Y . 2. Geef de conditionele dichtheidsfunctie voor X gegeven Y = y.

21

22

Conditionele verdeling, conditionele dichtheid Opmerking 4.4. Een verdeling met dichtheidsfunctie fX (x) =

λn xn−1 e−λx 1{x>0} . (n − 1)!

noemt men een Erlangverdeling met parameters n en λ. In oefening 4.7 heeft X een Erlangverdeling met parameters n = 3 en λ = 1. Oefening 4.8 (Examen juni ’03). De gezamelijke dichtheidsfunctie van X en Y wordt gegeven door 1. fX,Y (x, y) =

e−y 1{0<x
Bepaal E[X 2 |Y = y]. 2.

fX,Y (x, y) = e−y 1{0<x
Oefening 4.9. Indien E[Y |X] = 1, bewijs dan dat Var(XY ) ≥ Var(X). Oefening 4.10. Zij X en T twee SV en zij g(t) = E[X|T = t]. Dan geldt: 1. als E[X] bestaat: E[g(T )] = E[X] 2. als Var[X] bestaat: Var[g(T )] ≤ Var[X]. De gelijkheid treedt op a.s.a. P(X = g(T )) = 1. Oefening 4.11. Onderdelen komen aan in een station voor reparatie. Hun aankomst heeft plaats op de ogenblikken τ1 , τ1 +τ2 , . . . , τ1 +· · ·+τn , . . ., waarbij de intervallen τi onafhankelijke variabelen zijn met dezelfde exponenti¨ele verdeling met parameter λ > 0. De onderdelen worden gerepareerd in volgorde van aankomst. De duur van de reparatie van de n-de onderdeel is een SV σn . De rij (τ1 , σ1 , . . . , τn , σn , . . .) wordt onafhankelijk verondersteld. Ieder onderdeel dat arriveert wordt meteen behandeld indien er geen ander onderdeel in behandeling is, in het andere geval wacht het tot de reparatieservice vrij is. We noteren Wn de wachttijd van het n-de onderdeel. Verder veronderstellen we dat alle σi ’s dezelde exponenti¨ele verdeling hebben met parameter µ > 0. 1. Wat is de verdeling van de stochastische variabele ξn = σn − τn+1 ? Bewijs dat ξn en Wn onafhankelijk zijn.

4.4 Conditionele dichtheden en verdelingen: oefeningen 2. Bewijs dat Wn+1 = sup(Wn +ξn , 0) en leidt hieruit af dat de conditionele verdeling van Wn+1 wetende Wn (dus η(t, dx) = P(Wn+1 ∈ dx|Wn = t)) gegeven wordt door: η(t, dx) =

 µ −λt λµ  1[0,t[ (x)eλ(x−t) + 1[t,∞[ (x)e−µ(x−t) dx e δ0 (dx)+ µ+λ µ+λ

3. Noem Φn de characteristieke functie van Wn . Bepaal, door gebruik te maken van deel 2, een relatie tussen Φn en Φn+1 van de vorm Φn+1 (t) = a(t)Φn (t) + b(t)E[e−λWn ], waarbij a(t) en b(t) alleen van t afhangen. 4. Leidt uit 3 af dat een noodzakelijke voorwaarde voor convergentie in verdeling van Wn wordt gegeven door µ > λ. 5. Bewijs dat Wn+1 = sup(0, ξn , ξn + ξn−1 , . . . , ξn + ξn−1 + . . . + ξ1 ) en dat bijgevolg Wn+1 dezelfde verdeling heeft als sup(0, ξ1 , ξ1 + ξ2 , . . . , ξ1 + ξ2 + . . . + ξn ). 6. Leidt uit 5 af dat Wn in verdeling convergeert indien µ > λ. Convergeert Wn onder dezelfde conditie ook in kans? 7. Veronderstel dat µ > λ. Leidt uit vraag 3 de characteristieke functie van de limiet van Wn af. Geef dan ook de verdeling ervan. Wat is de limiet van P(Wn = 0) indien n naar oneindig gaat? Wat betekent deze limiet?

23

24

Conditionele verdeling, conditionele dichtheid

Hoofdstuk 5 Berekenen van verwachtingswaarden en kansen door conditionering 5.1

Theorie en voorbeelden

Door de volgende eigenschap kan men de verwachtingswaarde berekenen door conditionering. Deze eigenschap komt overeen met eigenschap 3.1. Eigenschap 5.1. Indien X en Y SV’s zijn, dan geldt dat E(X) = E(E[X|Y ]). In het discrete geval krijgen we dat  E(X) = E(X|Y = y)P(Y = y) y

en in het continue geval krijgen we dat  +∞ E(X|Y = y)fY (y) dy E(X) = −∞

Dikwijls bekomt men door het gebruik van deze eigenschap een vergelijking in E(X), waaruit men E(X) dan kan bepalen (Zie ook oefening 4.6). Voorbeeld 5.1. Het gemiddelde van de geometrische verdeling. Een muntstuk met kans p om munt te gooien wordt achter elkaar omhoog gegooid totdat het voor de eerste keer munt aangeeft. Wat is het verwachte aantal worpen?

26

Berekenen van verwachtingswaarden en kansen door conditionering Oplossing. Laat N het aantal worpen zijn en noem  1, indien de eerste worp munt aangeeft Y = 0, indien de eerste worp kruis aangeeft. Eigenschap 5.1 geeft dan E(N) = E(N|Y = 1)P(Y = 1) + E(N|Y = 0)P(Y = 0) = pE(N|Y = 1) + (1 − p)E(N|Y = 0) We hebben echter dat E(N|Y = 1) = 1 en E(N|Y = 0) = 1 + E(N). Dit levert de vergelijking E(N) = p + (1 − p)(1 + E(N)) waaruit E(N) = 1/p. Als bijzonder geval van eigenschap 5.1 kan men ook kansen uitrekenen door conditionering: Eigenschap 5.2. Veronderstel dat B een willekeurige gebeurtenis is, en Y een SV. Dan geldt  P(B) = P(B|Y = y)P(Y = y), als Y discreet is y



+∞

= −∞

P(B|Y = y)fY (y) dy,

als Y continu is

Opmerking 5.1. Het discrete geval van deze eigenschap is natuurlijk gewoon het theorema van totale waarschijnlijkheid (zie kanstheorie I). Voorbeeld 5.2. Veronderstel dat we 2 onafhankelijke X en Y met dichtheidsfuncties fX en fY . Bereken P(X < Y ). Oplossing. Conditioneren we op de waarde van Y dan krijgen we  +∞ P(X < Y |Y = y)fY (y) dy P(X < Y ) = −∞  +∞ P(X < y|Y = y)fY (y) dy = −∞  +∞ P(X < y)fY (y) dy = −∞  +∞ FX (y)fY (y) dy = −∞

5.2 Oefeningen

5.2

27

Oefeningen

Oefening 5.1. Bereken de variantie van de geometrische verdeling door middel van conditionering. Oefening 5.2. Elke klant die in de Hannah’s klerenwinkel binnenwandelt zal met kans p ook effectief iets kopen. Als het aantal klanten per dag een poissonverdeelde variabele is (met parameter λ, wat is dan de kans dat Hannah vandaag niets zal verkopen? Oefening 5.3 (Het Ballot probleem). Bij een verkiezing krijgt de heer Janssens n stemmen en de heer Peeters m stemmen, met n > m. Veronderstel dat de stemmen willekeurig geordend zijn (elke ordening met dezelfde kans), bewijs dan dat de kans dat Janssens steeds voorop ligt in de telling van de stemmen gelijk is aan (n − m)/(n + m). Oefening 5.4. Veronderstel dat de gemeenschappelijke dichtheidsfunctie van de SV’s X en Y gegeven is door P(X = i, Y = j) = e−(a+bi)

(bi)j ai , j! i!

i ≥ 0, j ≥ 0

1. Wat is de conditionele verdeling van Y gegeven dat X = i? 2. Zoek Cov(X, Y ). Oefening 5.5 (Examen juni ’02). Een rat zit gevangen in een doolhof. Op de plek A waar hij nu zit heeft hij 2 mogelijkheden. Of hij gaat naar links, of hij gaat naar rechts. Indien hij naar rechts gaat, dan zal hij 3 minuten door de doolhof wandelen en dan terug op plek A terechtkomen. Gaat ie naar links, dan zal hij met kans 13 het doolhof verlaten na 2 minuten wandelen en zal hij met kans 23 terug zijn op plek A na 5 minuten. Veronderstel dat de rat op elk moment evenveel kans heeft om naar links of naar rechts te gaan. Wat is het verwacht aantal minuten dat de rat in het doolhof zal zitten? Oefening 5.6. Bepaal de variantie van de duur dat de rat uit oefening 5.5 nodig heeft om uit de doolhof te raken. Oefening 5.7. Stel dat U1 , U2 , . . . een rij is van i.i.d. variabele met verdeling U(0, 1). Noem S1 = min{n ≥ 2 : Un > Un−1 } en S2 = min{n ≥ 1 : U1 + . . . + Un > 1}

28

Berekenen van verwachtingswaarden en kansen door conditionering S1 is dan de index van de eerste random variabele die groter is dan zijn voorganger, terwijl S2 het aantal random variabelen aangeeft dat nodig is om een som groter dan 1 te hebben. Bewijs dat S1 en S2 dezelfde verdeling hebben en dat hun (gemeenschappelijke) gemiddelde e is. Oefening 5.8 (Examen juni ’03). Aan een tennistoernooi doen er 2n deelnemers mee. Het toernooi is met directe uitschakeling, d.w.z. de verliezer van de wedstrijd gaat naar huis, de winnaar gaat naar de volgende ronde. Zo zijn er in de 2e ronde 2n−1 spelers in de running, en bijft er uiteindelijk na de n-de en laatste ronde 1 spelers over die ongeslagen is, dit is de winnaar van het toernooi. Alle spelers krijgen een nummer van 1 tot 2n en telkens wanneer een wedstrijd wordt gespeeld heeft de speler met het laagste nummer kans p om te winnen. In het begin wordt een binaire boom opgemaakt met aan elk blad 1 van de 2n spelers. Bij een gewonnen wedstrijd stijg je in de boom en krijg je je nieuwe tegenstander. De winnaar staat uiteindelijk bovenaan in de boom. De spelers worden at random onderaan de boom geplaatst. Toon aan dat de kans dat speler met het nummer 2 het tornooi wint gegeven wordt door pn−1 n n (2 p − 1) pn − n 2 −1 Hint. Conditioneer op de ronde dat speler 1 en speler 2 elkaar mogelijk tegenkomen.

Hoofdstuk 6 Stochastische processen en beltijden 6.1

Theorie

Definitie 6.1. Als (Ω, F , P) een kansruimte is en (Fn )n∈N een filtratie van deelstammen van F , dan is ν : Ω → N ∪ {∞} een beltijd of stoptijd t.o.v. (Fn )n∈N indien ∀n ∈ N :

(ν ≤ n) ∈ Fn .

Definitie 6.2. Veronderstel (Ω, F , (Fn )n , P) een gefiltreerde kansruimte en ν een beltijd. Men noemt Fν = {F ∈ F ; ∀n ∈ N : F ∩ (ν ≤ n) ∈ Fn } de door ν ge¨ınduceerde deelstam van F .

6.2

Oefeningen

Oefening 6.1. Veronderstel (Ω, F , (Fn)n een gefiltreerde kansruimte en ν1 en ν2 2 beltijden t.o.v. de filtratie (Fn )n . Bewijs dat: 1. ν1 + ν2 een beltijd is t.o.v. de filtratie (Fn )n . 2. {ν1 < ν2 } ∈ Fν1 ∩ Fν2 en {ν1 = ν2 } ∈ Fν1 ∩ Fν2

30

Stochastische processen en beltijden Oefening 6.2. Veronderstel (Ω, F , (Fn )n ) een gefiltreerde kansruimte en τ een beltijd t.o.v. de filtratie (Fn )n . Veronderstel verder dat ν een Fτ meetbare stochastiek is op Ω met ν > τ . Bewijs dat ν een beltijd is voor de filtratie (Fn )n . Oefening 6.3. Indien τ en ν beltijden zijn t.o.v. een filtratie (Fn )n en A ∈ Fν , bewijs dan dat A ∩ (ν ≤ τ ) ∈ Fτ . Oefening 6.4. Zij (Xn )n∈N i.i.d. en Fn = σ({X1 , . . . , Xn }). Veronderstel T een beltijd t.o.v. (Fn )n . Toon aan dat XT +1 , XT +2, . . . i.i.d. met dezelfde verdeling als X1 , X2 , . . . .

Hoofdstuk 7 martingalen 7.1

Theorie en voorbeelden

Definitie 7.1. Een re¨eel aangepast proces is een martingaal (resp. supermartingaal, resp. submartingaal) indien voor elke n, Xn integreerbaar is en bovendien b.z. E(Xn+1 |Fn ) = Xn (resp ≤, resp ≥). Of anders gezegd: Met de huidige informatie is je verwacht resultaat in de toekomst hetzelfde als het huidige. Een erg belangrijke stelling is de stopstelling: Eigenschap 7.1 (Stopping theorem). Indien Xn een supermartingaal (resp. martingaal) is en ν een stoptijd, dan is Xν∧n ook een supermartingaal (resp. martingaal). Bewijs. De integreerbaarheid volgt direct uit |Xn∧ν | ≤ |X0 | + . . . + |Xn |. Vermits {ν > n} ∈ Fn , krijgen we dat  n     Xk 1{ν=k} + Xn+1 1{ν>n} EFn X(n+1)∧ν = EFn =

n 

k=0

Xk 1{ν=k} + 1{ν>n} EFn (Xn+1 )

k=0

≤

n  k=0

Xk 1{ν=k} + 1{ν>n} EFn Xn+1 = Xn∧ν

32

martingalen Eigenschap 7.2. Indien Xn een supermartingaal (resp. martingaal) is en ν1 ≤ ν2 begrensde stoptijden, dan geldt: b.z.

E(Xν2 |Fν1 ) ≤ Xν1

7.2

(resp =)

Oefeningen

Oefening 7.1. 1. Het muntworp-model: gegeven de kansruimte ([0, 1], R[0,1] , λ[0,1] ). Een rij experimenten levert een rij van nullen en enen ω = (1, 0, 1, 0, 0, 1, 1, 1, 0, 0, . . . ), wat overeenkomt met de binaire notatie ω = 0, 1010011100 . . . , waar 1 staat voor het gooien van kop en 0 staat voor het gooien van munt. We vinden bijvoorbeeld P(ω1 = 1) = 12 en P(ω1 = 1, ω2 = 0) = P({ω; ω begint met 0.10...) = 14 . (a) Als Xn (ω) = ωn het resultaat van de n-de worp is, geef dan de stammen Bn = σ({X1 , . . . , Xn }) voor n = 1, 2, 3 en 4. (b) Veronderstel nu dat we een spelstrategie volgen waarbij we een constante inzet van 1 frank nemen. De return van spel i noteren we als  1 als Xi = 1 Yi = −1 als Xi = 0 Beschouw de totale return na n spelen, gegeven door Sn = Y1 + · · · + Yn . Toon aan dat {Sn ; n = 1, 2, . . . } een martingaal is. (c) Construeer de verdeling van Sn voor n = 1, . . . , 6. Wat is de kans om een positieve winst te bekomen? (d) Plot E[Sn ] en Var[Sn ] in functie van n voor n = 1, . . . , 6. 2. Vervang nu de spelstrategie door een nieuw spelsysteem, d.w.z. de inzet Zi wordt dan gedefinieerd door  1 als Yi−1 = 1 Zi = 2Zi−1 als Yi−1 = −1 De totale return is dan Sn = Z1 Y1 + · · · + Zn Yn .

7.2 Oefeningen

33

(a) Bewijs dat Sn nog steeds een martingaal is. (b) Construeer de verdeling van Sn voor n = 1, 2, 3 en 4. Wat is nu de kans om een positieve winst te bekomen? (c) Plot E[Sn ] en Var[Sn ] in functie van n voor n = 1, 2, 3, 4. 3. In het Casino van Knokke gaan we roulette spelen. De kans op winst , de kans op verlies 19 . We nemen de constante spelstrategie, met is 18 37 37 een inzet van 1 frank. (a) Bewijs dat {Sn ; n ∈ N} een supermartingaal is. (b) Zoek de verdeling van Sn en teken ze voor n = 1, 2, 3, 4. (c) Bereken en teken E[Sn ] en Var[Sn ] in functie van n. 4. Pas de spelstrategie van deel 2 toe op de roulette van deel 3. (a) Bewijs dat {Sn ; n ∈ N} een supermartingaal is. Oefening 7.2. Zij {Xn |n ∈ N} is een martingaal t.o.v. {An |n ∈ N} en {Zn |n ∈ N} is een rij begrensde R.S.V. aangepast aan {An |n ∈ N}. Definieer dan per inductie: Y1 := X1 ; Yn+1 := Yn + Zn (Xn+1 − Xn )

Toon aan dat {Yn |n ∈ N} een martingaal is t.o.v. {An |n ∈ N}. Oefening 7.3. Zij {Xn |n ∈ N} een martingaal en Xn ∈ Lp (Ω, A, p) met 1 ≤ p < ∞. Toon aan dat {|Xn |p |n ∈ N} een submartingaal is. Oefening 7.4. Zij (Ω, F , P) kansruimte met filtratie (Fn )n waarop we 2 martingalen veronderstellen: (Xn )n≥0 en (yn )n≥0 , beide in L2 . 1. Bewijs dat, met m ≤ n dat EFm (Xm Yn ) = Xm Ym b.z. 2. Bewijs dat E(Xn Yn ) − E(X0 Y0 ) =

n  k=1

E((Xk − Xk−1 )(Yk − Yk−1)).

34

martingalen Oefening 7.5. Een gokker A heeft een beginfortuin van a EUR; B bezit b EUR. Ze werpen herhaaldelijk een muntstuk op. Munt betekent dat A 1 EUR wint, kruis dat hij 1 EUR verliest (en B 1 EUR wint). Dit kan beschreven worden als volgt: een kansruimte (Ω, A, P ) met daarop een rij van onafhankelijke stochasten X1 , X2 , . . . , Xn , . . . waarbij Xn = 1 als de nde worp munt is, en Xn = −1 als de n-de worp kruis is. Speler A wint dus als Xn = 1. Zij Sk := ki=1 Xi de winst van A na k worpen. We hebben reeds aangetoond dat {Sk |k ∈ N} een martingaal is t.o.v. {Ak |k ∈ N} met Ak := σ({Xi |i ≤ k}). 1. Zij T het ogenblik waarop ´e´en van de spelers zijn fortuin kwijt is, d.w.z. T(ω) := min {k|Sk (ω) = −a of Sk (ω) = b} en T(ω)= ∞ als Sk (ω) > −a, Sk (ω) < b ∀k ∈ N. Toon aan dat T een beltijd is t.o.v. {Ak |k ∈ N}. 2. Toon aan dat {ST ∧k |k ∈ N} een uniform begrensde martingaal is t.o.v. {AT ∧k |k ∈ N}. 3. Toon aan dat ST ∧k P-b.z. convergeert naar een P-integreerbare stochastiek S. 4. Besluit uit 3. dat T < ∞ P-b.z. 5. Toon aan met behulp van 2. en 3. dat E[ST ]= 0. 6. Bereken nu de kans p = P(ST = b) dat B blut is v´oo´r speler A. Oefening 7.6. Zij (Sn )n≥0 een randomwalk op Z: S0 = 0, Sn = U1 + U2 + . . . + Un , waar Ui onafhankelijke stochastische variabelen zijn met dezelfde verdeling en zodat 0 < P(Ui = 1) = p < 1, P(Ui = −1) = 1 − p = q. 1. Zij Zn =

 Sn q p

2. Toon aan dat

. Bewijs dat (Zn )n≥0 een positieve martingaal is.

k p P sup Sn ≥ k ≤ q n≥0

en dus dat indien q > p, geldt dat

E sup Sn ≤ n≥0

p . q−p

7.2 Oefeningen

35

Oefening 7.7 (Examen juni ’02). Zij (Zn )n≥1 een randomwalk op Z, zodat 1 ∀i ≥ 1 : P(Zi = 1) = P(Zi = −1) = . 2 We stellen S0 = 0 en Sn = Z1 + . . . + Zn , F0 = {φ, Ω} en Fn = σ(Z1 , . . . , Zn ). Veronderstel verder dat a > 0 een vast geheel getal is en τ = inf{n ≥ 0 : Sn = a} de eerste keer dat Sn het getal a bereikt. a) Bewijs dat Xnθ =

eθSn (cosh θ)n

θ een (Fn )n≥0 -martingaal is. Bewijs dat, indien θ ≥ 0, (Xn∧τ )n≥0 een begrensde martingaal is. θ )n≥0 bijna zeker en in L1 convergeert naar b1) Bewijs dat, voor θ ≥ 0, (Xn∧τ de stochastische variabele

eθa W = 1{τ <+∞} . (cosh θ)τ θ

b2) Bewijs dat P(τ < +∞) = 1 en dat voor alle θ ≥ 0 geldt dat E[(cosh θ)−τ ] = e−θa . Oefening 7.8. We beschouwen een rij i.i.d. RSV’s (Xn )n≥1 met dezelfde normale verdeling N(m, σ 2 ). met m < 0 en men stelt S0 = 0. S n = X 1 + . . . + Xn en Bn = σ(S0 , . . . , Sn ), W = sup Sn . n≥0

Het doel van deze oefening is dat we wat eigenschappen van W opstellen. 1. Bewijs dat P(W < ∞) = 1. 2 σ 2 /2

2. Voor λ re¨eel geldt dat E(eλX1 ) = eλ

eλm . Wat wordt

E(eλSn+1 |Bn ).

36

martingalen 3. Bewijs dat er een unieke λ0 > 0 bestaat zodat (eλ0 Sn )n≥0 een martingaal is. 4. Bewijs dat, voor elke t > 0 geldt dat P(W > t) ≤ e−λ0 t . 5. Bewijs dat

 λ

E(e W ) = 1 + λ

+∞

eλt P(W > t) dt,

0 λW

en dus dat voor λ < λ0 , E(e momenten.

) < ∞. In het bijzonder bezit W alle

Oefening 7.9 (Examen juni ’03). (Zn )n≥1 is een rij onafhankelijke random variabelen zodat P(Zi = 1) = P(Zi = −1) = 12 , voor elke i ∈ N0 . We stellen S0 = 0, Sn = Z1 + . . . + Zn , F0 = {Ω, φ} en Fn = σ(Z1 , . . . , Zn ). Veronderstel π a ∈ N0 en λ ∈ R zodat 0 < λ < 2a . Noem τ = inf{n ≥ 0, |Sn | = a} het moment dat Sn het interval ] − a, a[ verlaat. 1. Bewijs dat Xn =

cos(λSn ) (cos λ)n

een (Fn )n≥0 -martingaal is. 2. Bewijs dat

1 = E(Xn∧τ ) ≥ cos(λa)E((cos λ)−(n∧τ ) )

Hoofdstuk 8 Wet van de grote getallen 8.1

Oefeningen

Oefening 8.1 (Een mogelijke gokstrategie). Veronderstel dat je herhaaldelijk een zeker kansspel speelt en dat je elk spel geld kan inzetten. Dat geld win je met kans p en verlies je met kans q. Opeenvolgende spelen zijn onafhankelijk. Je gebruik nu de stategie van steeds een percentage α van je huidig bezit in te zetten. Als je op een gegeven ogenblik x euro in bezit hebt, dan zet je het volgende spel αx in, met α een zekere constante tussen 0 en 1. Veronderstel dat je met C euro begint en dat je na spel n Cn euro in bezit hebt. We gaan nu onderzoeken wat de beste waarde is van α om om uw succeskans te maximaliseren. 1. Indien Sn het aantal successen is na n spelletjes, geef dan een formule voor Cn . 2. Zij 1 Yn = ln n



Cn C

.

Gebruik de wet van Kolmogorov om aan te tonen dat als n stijgt, Yn met kans 1 de limiet p ln(1 + α) + q ln(1 − α) benadert. (We vinden dus dat Cn asymptotisch is naar r n C met r constant (1 + α)p (1−α)q . Daarom, indien de kans p en q gegeven zijn, wil je proberen je α zo kiezen dat r zo groot mogelijk is. Je maakt slechts winst indien r > 1). 3. Veronderstel r in functie van α: r(α) = (1 + α)p (1 − α)q .

38

Wet van de grote getallen Bewijs dat r stijgt op het interval (−1, p − q) en daalt op het interval (p − q, 1). 4. Concludeer welke α we nu best nemen. Oefening 8.2 (Monte Carlo benadering van een integraal). Om de integraal  1 h(x) dx (8.1) 0

te benaderen, noemen we X een variable met een uniforme verdeling, maken we een groot aantal observaties van X en we nemen het gemiddelde van Y = h(X). Omdat E[Y ] gelijk is aan de integraal (8.1), zal de verwachtingswaarde van heel veel samples de integraal (8.1) benaderen. In symbolen: Stel (Xi )ni=1 onafhankelijke observaties van X en zij Yi = h(Xi ). Dan is Y n de monte Carlo schatter van de integraal (8.1) gebaseerd op n sampels. 1. Wat zegt de wet van Kolmogorov over deze situatie. 2. We willen nu de ongelijkheid van Chebychev gebruiken. Hiervoor moet de variantie van Y eindig zijn. Welke veronderstelling moeten we maken over h(x). 3. Als we een bovengrens A kennen voor h (|h(x)| ≤ A), toon dan aan dat Var[Y ] ≤ A2 . 4. Veronderstel Var[Y ] ≤ A2 en veronderstel een tolerantie  > 0. Wat zegt Chebychev over de kans dat de schatter Y n niet dichter dan  bij de echte waarde van de integraal (8.1) is. 5. veronderstel |h(x)| ≤ 1, ∀x ∈ (0, 1). Hoeveel samples moet ik nemen om met 95% dichter dan 0.01 bij de echte waarde van de integraal te zitten.

Hoofdstuk 9 Inleiding tot Markov ketens 9.1

Inleiding

Veronderstel een discreet stochastisch proces (Xn )n∈I (met indexverzameling I = {0, . . . , l} of N) waarbij de (Xn )n∈I waarden kunnen aannemen in J met J = {0, . . . , k} of J = N (of soms J = Z). Indien Xn = i, dan zeggen we dat Xn zich in toestand i bevindt. Definitie 9.1. (Xi )i∈I is een homogene markovketen indien er, wanneer het proces zich in toestand i bevindt, een vaste kans Qij bestaat zodat de volgende toestand van het proces j is, m.a.w, ∀n ∈ I, ∀i0 , . . . , in−1 , i, j geldt P(Xn+1 = j|Xn = i, Xn−1 = in−1 , . . . , X0 = i0 ) = P(Xn+1 = j|Xn = i) = Qij Al deze Qij ’s vormen samen een matrix: Definitie 9.2. De matrix   Q=





Q00 · · · Q0k ..  .. .  . Qk0 · · · Qkk

of

  Q= 

P00 P01 P02 Q10 Q11 Q12 Q20 Q21 Q22 .. .. .. . . .

··· ··· ··· .. .

    

noemt men de transitiematrix. Eigenschap 9.1. Vermits kansen steeds groter zijn dan 0 en het proces steeds een transitie maakt naar een zekere toestand gelden volgende 2 eigenschappen: • ∀i, j ≥ 0 : Qij ≥ 0. • ∀i ≥ 0 : j∈J Qij = 1.

40

Inleiding tot Markov ketens Voorbeeld 9.1 (Weersvoorspelling). Veronderstel dat de kans op regen morgen afhangt van het al dan niet vallen van regen vandaag, maar niet afhankelijk is van alle vorige dagen. Indien het vandaag regent, dan regent het morgen met kans α. Indien het vandaag niet regent, regent het morgen met kans β. We zeggen dat het proces in toestand 0 is indien het regent en in toestand 1 indien het niet regent. De transitiematrix wordt dan gegeven door  α 1−α Q= β 1−β Voorbeeld 9.2 (Random walk). Een random walk op Z (zoals in heeft hoofdstuk van de martingalen) heeft als toestanden alle gehele getallen en de transitiematrix is gegeven door Qi,i+1 = p = 1 − Qi,i−1 . M.a.w., kans p om 1 te stijgen, kans 1 − p om 1 te dalen. Voorbeeld 9.3 (Gokken). Een gokker wint telkens 1 euro met kans p of verliest 1 euro met kans 1 − p. Als we veronderstellen dat hij stopt te gokken als hij blut is of als hij een fortuin van N euro bereikt, dan wordt de transitiematrix gegeven door ∀i ∈ {1, 2, . . . , N − 1} :

Qi,i+1 = p = 1 − Qi,i−1

en Q00 = QN N = 1. In matrixvorm wordt dit  1 0 0 ... ... ...  1−p 0 p    0 1−p 0   .. .. Q= . .  .  . 0 p  .  .  .. 1−p 0 0 ... ... ... 0 0

0 .. . .. . .. .



      .   0   p  1

De toestanden 0 en N worden absorberende toestanden genoemd. Voorbeeld 9.4 (Een proces omzetten in een Markov keten). We passen het bovenstaande voorbeeld van de weersvoorspelling wat aan op de volgende manier:

9.2 Kansverdelingen van een Markov keten

41

• Regende het vandaag en gisteren, dan regent het morgen met kans 0.7. • Regende het vandaag, maar gisteren niet, dan regent het morgen met kans 0.5. • Regende het gisteren, maar vandaag niet, dan regent het morgen met kans 0.4. • Regende het vandaag niet en gisteren niet, dan regent het morgen met kans 0.2. Dit proces is geen markov-keten, omdat de toestand van morgen niet enkel afhangt van de toestand van vandaag, maar ook van de toestand van gisteren. Een oplossing hier is het aanpassen van de oorspronkelijke 2-toestanden naar een model met 4 toestanden: • toestand 0: Het regende gisteren en het regent vandaag. • toestand 1: Het regende gisteren niet en het regent vandaag. • toestand 2: Het regende gisteren en het regent vandaag niet. • toestand 3: Het regende gisteren niet en het regent vandaag niet. De transitiematrix wordt dan gegeven door:  0.7 0 0.3 0  0.5 0 0.5 0 Q=  0 0.4 0 0.6 0 0.2 0 0.8

9.2

  . 

Kansverdelingen van een Markov keten

Definitie 9.3. De verdeling van X0 noemt men de beginverdeling. Die verdeling zullen we hier noteren als µ(x). We kunnen ons afvragen wat er gebeurt als we meerdere tijdstappen vooruitdenken: Qnij = P(Xn+m = j|Xm = i) Eigenschap 9.2. Qnij wordt gegeven door: Qn+m ij

=

+∞ 

Qnik Qm kj

k=0

Dit leidt tot Q(n+m) = Q(n) · Q(m)

42

Inleiding tot Markov ketens

9.3

Recurrente en transi¨ ente toestanden

Toestand j is toegankelijk vanaf toestand i indien Qnij > 0 voor zekere n. We zeggen dat i en j met elkaar communiceren als i toegankelijk is vanaf j en j toegankelijk is vanaf i. In dat geval noteren we i ↔ j. Eigenschap 9.3. Communiceren is een equivalentierelatie. De bijbehorende equivalentieklassen noemt men de communicatieklassen. Een Markovketen wordt irreducibel geheten indien er zo slecht 1 klasse is (m.a.w. alle toestanden communiceren met elkaar). Voorbeeld 9.5. De markovketen met 3 toestanden (0,1 en 2) en transitiematrix  1 1  0 2 2 Q =  12 14 41  0 13 32 is irreducibel. Voorbeeld 9.6. De markovketen met 4 toestanden (0,1,2 en 3) en transitiematrix   1 1 0 0 2 2  1 1 0 0  2 2  Q=  1 1 1 1  4 4 4 4 0 0 0 1 heeft 3 communicatieklassen: {0, 1}, {2} en {3}. Defini¨eren we even de volgende stoptijden: τx = inf(n ≥ 0, Xn = x),

σx = inf(n ≥ 1, Xn = x)

Definitie 9.4. Een toestand x wordt recurrent genoemd als Px (σx < +∞) = 1. Een toestand x wordt transi¨ent genoemd als Px (σx < +∞) < 1. Eigenschap 9.4. • Toestand i is recurrent als • Toestand i is transi¨ent als

+∞ n=1

Qnii = +∞.

n=1

Qnii < +∞.

+∞

9.4 Limietkansen bij een markovketen Eigenschap 9.5. Indien toestand i recurrent is en toestand j communiceert met toestand i, dan is toestand j ook recurrent. Voorbeeld 9.7 (Random walk op Zd ). In voorbeeld 9.2 zagen we de symmetrische random walk op Z. Dit kan eenvoudig veralgemeend worden naar Z2 , Z3 , of een andere willekeurige Zd . In het symmetrische geval zou bijvoorbeeld bij de random walk op Z2 in elke toestand van Z2 de keuze zijn om een met kans 14 naar links, rechts, boven of onder kunnen gaan. Een verassend resultaat is dat de symmetrische random walk op Z en op 2 Z in alle toestanden recurrent is, geldt dit niet meer voor hogere machten.

9.4

Limietkansen bij een markovketen

Laten we even teruggaan naar voorbeeld 9.1 en kijken naar de weersvoorspelling van morgen, overmorgen, over 3 dagen, over 4 dagen, ... In het vorige werd vermeld dat Qn de transitiematrix van n achtereenvolgende transities met transitiematrix Q. In dit geval zou dat worden:  0.7000 0.3000 Q= 0.4000 0.6000  0.6100 0.3900 Q2 = 0.5200 0.4800  0.5830 0.4170 Q3 = 0.5560 0.4440  0.5749 0.4251 Q4 = 0.5668 0.4332  0.5725 0.4275 5 Q = 0.5700 0.4300  0.5717 0.4283 6 Q = 0.5710 0.4290  0.5715 0.4285 Q7 = 0.5713 0.4287  0.5715 0.4285 Q8 = 0.5714 0.4286 We merken dat: • de matrices identiek aan elkaar worden.

43

44

Inleiding tot Markov ketens • de rijen identiek aan elkaar worden. Er blijkt dus een limietkans te bestaan om in toestand j te raken na een groot aantal transities, een limietkans die onafhankelijk is van de begintoestand. Dit geldt echter niet voor elke Markovketen met willekeurige transitiematrix. Er zijn enkele voorwaarden. Definitie 9.5. Toestand i heeft periode d indien Qnii = 0 indien n niet deelbaar is door d en d is het grootste getal met deze eigenschap. Met noemt een toestand aperiodisch indien het periode 1 heeft. Voorbeeld 9.8. Bij de randomwalk op Z heeft elke toestand periode 2. Na een oneven aantal transities is het immers steeds onmogelijk om terug in dezelfde toestand te geraken. Opmerking 9.1. Periodiciteit is een klasse-eigenschap: indien i communiceert met j dan hebben deze 2 toestanden dezelfde periode. Definitie 9.6. Als toestand i recurrent is, noemen we hem positief recurrent als, startend in toestand i, de verwachte tijd nodig om terug in i te raken eindig is. Opmerking 9.2. Ook dit is een klasse-eigenschap. Bovendien kan er aangetoond worden dat bij eindig aantal toestand recurrent en positief recurrent net hetzelfde is. Definitie 9.7. Positief recurrente, aperiodische toestanden noemt met ergodisch. Eigenschap 9.6. Bij een irreducible ergodische Markovketen, bestaat lim Qnij

n→+∞

en is onafhankelijk van i. Bovendien is πj = limn→+∞ Qnij de unieke positieve oplossing van πj =

+∞ 

πi Qij

i=0 +∞ 

πj = 1

j=0

Opmerking 9.3. Het kan aangetoond worden dat πj , de limietkans is dat het proces in toestand j zal zijn op tijdstip n, ook gelijk is aan de lange termijn verhouding die aangeeft hoeveel tijd dat het proces in toestand j is.

9.5 Extra

9.5

45

Extra

De transitiematrix in voorgaande voorbeelden kan ook in een graaf weergegeven worden. Zo kan de Markovketen uit vb 9.5 voorgesteld worden als 1 4

 6  1

1 2

1 2

$   v 0

1 4

 z   2

1 2

j



1 3

2 3

Dit hoofdstuk is veel te kort om alle eigenschappen van Markovketens te laten zien. De volgende eigenschap is een voorsmaakje van wat er allemaal mogelijk is met Markov ketens: Eigenschap 9.7. Noem φ = A ⊂ J een verzameling toestanden. Dan is u(x) = Px (τA < +∞) de kleinst mogelijke oplossing van het stelsel  u(x) = 1 x∈A u(x) = Qu(x) x ∈ Ac Voorbeeld 9.9. Een muis bevindt zich in een labirinth met 7 kamers: kat 2

4

6

1

3

5

kaas 7

In kamer 7 ligt een stuk gruyerekaas, in kamer 4 zit een gevaarlijke kat. Aangrenzende kamers zijn met elkaar verbonden. In kamers 1,2,3,5 en 6 wandelt een muis naar 1 van haar k buurkamers met kans k1 . Belandt ze in kamer 4 of 7, dan blijft ze daar. Bepaal de kans dat een muis in kamer 1 de kaas in kamer 7 bereikt. De oplossing kan bepaald worden door voorgaande eigenschap, met A = 4 {7}, u(4) = 0. Uiteindelijk vind je 29 .

9.6

Oefeningen

Oefening 9.1. 3 witte en 3 zwarte ballen zitten verdeeld over 2 urnes zodat er in elke urne 3 ballen zitten. We zullen zeggen dat onze keten in toestand i zit indien er i = 0, 1, 2, 3 witte ballen in urne 1 zitten. Tijdens elke stap

46

Inleiding tot Markov ketens trekken we 1 bal uit elke urne en verwisselen we de getrokken ballen van urne. Noem Xn de toestand na de n-de stap. Waarom is (Xn )n een Markovketen en geef de transitiematrix. Oefening 9.2. Geef de verschillende communicatieklassen voor elk van de volgende transitiematrices. Bepaal eveneens welke toestanden recurrent zijn en welke transi¨ent zijn:     0 0 0 1 1 1 0 2 2  0 0 0 1    Q1 = 12 0 12  Q2 =   1 1 0 0  1 1 2 2 0 2 2 0 0 1 0   1  1 3  1 0 0 0 0 0 0 2 2 4 4  1 1 1 0 0   1 1 0 0 0  4 2 4 2 2   1   1  Q4 =  0 0 1 0 0  0 0 0 Q3 =  2   2    0 0 0 1 1   0 0 1 2 0  2 2 3 3 1 0 0 0 0 0 0 0 12 12 Oefening 9.3. Munstuk 1 werp kop met kans 35 . Muntstuk 2 werpt kop met kans 12 . Een muntstuk wordt continu opgegooid tot het resultaat letter is. Op dat ogenblik neemt men het andere muntstuk en begint men dat op te gooien. 1. Hoeveel procent van de worpen gebeurt met munstuk 1. 2. Als we beginnen te werpen met muntstuk 1, wat is dan de kans dat we met munstuk 2 aan het werpen zijn tijdens de 5de worp. Oefening 9.4. Bekijk terug de transitiematrix uit voorbeeld 9.4. Hoeveel procent van de dagen regent het? Oefening 9.5. Een deeltje verplaatst zich op een cirkel door punten die 0, 1, 2, 3, 4 genummerd zijn (in wijzerszin). Tijdens elke stap heeft het kans p om wijzerszin te draaien en kansen 1 − p om tegenwijzerszin te draaien. Noem Xn zijn lokatie op tijdstip n. Het proces {Xn , n ≥ 0} is een Markovketen. 1. Bepaal de transitiematrix. 2. Bereken de limietkansen. Oefening 9.6 (Examen juni ’03). Gegeven een Markovketen met toestandsruimte E = {0, 1} en transitiematrix  1−α α Q= 0 < α, β < 1. β 1−β

9.6 Oefeningen

47

Diagonaliseer Q en leid hieruit een algemene vorm van Qn af. Toon aan dat hieruit volgt dat de limietkans gegeven wordt door π0 =

β , α+β

π1 =

α α+β

48

Inleiding tot Markov ketens

Bijlage A Goed of fout: bewijzen of tegenvoorbeelden Stelling A.1. Bij hoofdstuk 3 Voor X en Y onafhankelijk geldt steeds dat EB (XY ) = EB (X)EB (Y ). fout. Neem als tegenvoorbeeld X, Y ∼ B(1, p) onafhankelijke bernouillivariabelen. Stel Z = X + Y . Z is dan B(2, p) verdeeld. Neem B = σ(Z). We krijgen dan dat E(X|Z = 0) = 0 1 E(X|Z = 1) = 2 E(X|Z = 2) = 1

E(Y |Z = 0) = 0 1 E(Y |Z = 1) = 2 E(Y |Z = 2) = 1

E(XY |Z = 0) = 0 E(XY |Z = 1) = 0 E(XY |Z = 2) = 1

Op (Z = 1) gaat de stelling bijvoorbeeld niet op. Indien X en Y bovendien onafhankelijk zijn van B, dan klopt de gelijkheid uit de stelling natuurlijk wel.

50

Goed of fout: bewijzen of tegenvoorbeelden

Bijlage B Convergentie van RSV’s Definitie B.1. Veronderstel dat Xn en X RSV’s zijn met verdelingsfuncties resp. Fn en F . Lp

1. Xn −→ X, 1 ≤ p ≤ +∞ indien Xn − Xp → 0. b.z

2. Xn −→ X indien ∀ω ∈ / N, N verwaarloosbaar, Xn (ω) → X(ω). P

3. Xn −→ X indien ∀ > 0, P(|Xn − X| > ) → 0. zwak

4. Xn −→ X indien Fn (x) → F (x), voor elke x waarin F continu is. Oefening B.1. Toon alle volgende implicaties aan en geef tegenvoorbeelden voor de pijlen die niet getekend zijn: +3

L∞

b.z.

Xn −→ X 

L2

Xn −→ X

+3

Xn −→ X L1

Xn −→ X

+3

&

P

Xn −→ X

+3

zwak

Xn −→ X

Oefening B.2. Aan welke convergenties voldoet het rijtje (Xn )n indien de verdeling van Xn gegeven wordt door 1. P(Xn = 1 − n1 ) = P(Xn = 1 + n1 ) = 12 . 2. P(Xn = n1 ) =

1 , P(Xn 2n

= n) = 1 −

1 . 2n

3. P(Xn = 0) = 1 − n1 , P(Xn = 1) = n1 . 4. P(Xn = 0) = 1 − pn , P(Xn = 1) = pn .

52

Convergentie van RSV’s Veronderstel bij de vierde opgave dat de (Xn )n onafhankelijk zijn en geef een nodige en voldoende voorwaarde van de (pn )n zodat (Xn )n bijna zeker convergeert (resp. in kans). Oefening B.3 (Criteria voor RSV’s (Xn )n die b.z. convergeren). 1. Bewijs dat indien, ∀ > 0, ∞ n=1 P(|Xn − X| > ) < +∞, dat dan b.z.

Xn −→ X. Het omgekeerde is enkel waar indien (Xn )n onafhankelijk is. b.z. r 2. Bewijs dat indien, ∃r > 0, ∞ n=1 E(|Xn − X| ) < +∞, dat dan Xn −→ X. 3. Bewijs dat P(supk≥0 |Xn+k − Xn | > ) → 0, ∀ > 0 een nodige en voldoende voorwaarde is dat de rij (Xn )n bijna zeker convergeert in R. Oefening B.4 (Convergenties en de operatoren + en ×). Volgende vragen tonen de overdracht van convergentie aan: P

P

P

1. Bewijs dat indien Xn −→ X en Yn −→ Y , dan ook Xn + Yn −→ X + Y P en Xn Yn −→ XY . Zelfs meer algemeen, voor een continue functie P f : R2 → R volgt dan dat f (Xn , Yn ) −→ f (X, Y ). zwak

zwak

2. Bewijs door een tegenvoorbeeld dat de hypothese Xn −→ X en Yn −→ zwak Y niet noodzakelijk impliceren dat Xn + Yn −→ X + Y , behalve in de bijzondere gevallen zwak

(a) Xn −→ a, (a ∈ R) (b) Voor elke n zijn Xn en Yn onafhankelijk en X en Y zijn onafhankelijk. zwak

zwak

3. Verifieer dat indien Xn −→ X, dat dan f (Xn ) −→ f (X) voor alle conzwak zwak zwak tinue f : R → R. In het bijzonder, Xn2 −→ X 2 , Xn+ −→ X + , Xn− −→ X − , . . .. Oefening B.5. Zij (Yn )n een rij kwadratisch intergreerbare RSV’s zodat (a) sup E(Yn2 ) < +∞ zwak

(b) Yn −→ X 1. Bewijs dat E(|Y |) < +∞ en dat E(Yn ) → E(Y ).

53 2. Gebruik het vorige en geef een equivalent voor E(|X1, . . . , Xn |) wanneer n → +∞ waarbij de Xn kwadratisch integreerbare RSV’s zijn met dezelfde verdeling en bovendien gecentreerd en allen onafhankelijk. Oefening B.6 (Examen juni ’03). Toon aan door een tegenvoorbeeld dat zwak zwak zwak als Xn −→ X en Yn −→ Y dit niet noodzakelijk wil zeggen dat Xn + Yn −→ X +Y.

54

Convergentie van RSV’s

Bijlage C Definieren van nieuwe SV’s aan de hand van reeds gekende C.1

Inleiding

Het bepalen van de dichtheidsfunctie van een nieuwe variabele aan de hand van die van een reeds gekende variabele kan dikwijls eenvoudige gebeuren door de verdelingsfunctie te nemen, daarmee te jongleren en die dan af te leiden. Bijvoorbeeld: Voorbeeld C.1. Gegeven een variabele √ X, met dichtheidsfunctie fX (x), bepaal de dichtheidsfunctie f√X (x) van X. oplossing. (Stel FX en F√X de verdelingsfuncties) √ F√X (x) = P( X ≤ x) = P(X ≤ x2 ) = FX (x2 ), dus de dichtheidsfunctie wordt gegeven door ∂ √ ∂ F X (x) = FX (x2 ) = 2xfX (x2 ). ∂x ∂x Dus indien X een exponentieel verdeelde vaiabele is met parameter α, √ dan wordt de dichtheid van X gegeven door f√X (x) =

2

f√X (x) = 2αxe−αx 1{x≥0} . Opmerking C.1. Let wel op de condities waaraan de variabelen moeten voldoen. De wortel nemen kan natuurlijk alleen van een positieve varabele. Een ander reeds gekend mechanisme om nieuwe variabele te construeren is door het optellen van variabelen. Dit heet convolutie. De dichtheidsfunctie van de som van 2 onafhankelijke variabelen wordt bepaald door volgende rekenregel:

56

Definieren van nieuwe SV’s aan de hand van reeds gekende Voorbeeld C.2 (convolutieproduct). Indien X en Y 2 onafhankelijke stochastische variabelen zijn met dichtheidsfuncties fX (x) en fY (x), dan wordt de dichtheidsfunctie van X + Y gegeven door  fX+Y (x) = fX (x − t)fY (t) dt. R

Dus indien Z1 en Z2 exponentieel verdeeld zijn met respectievelijke parameters 1/6 en 1/2, dan hebben Z2 en −Z1 dichtheden 1 x fZ2 (x) = e− 2 1{x≥0} 2 1 x f−Z1 (x) = e 6 1{x≤0} 6 Het convolutieproduct geeft dan  +∞ fZ2 (t)f−Z1 (s − t) dt fZ2 −Z1 (s) = −∞  +∞ 1 −t 1 s−t e 2 1{t≥0} e 6 1{s−t≤0} dt = 6 −∞ 2 s  +∞ 2t e6 = e− 3 1{t≥0} 1{t≥s} dt 12 −∞ !+∞ s  +∞ s 6 6 e e − 2t !! − 2t 3 = e dt = − e 3 ! ! 12 sup(0,s) 8

t=sup(0,s)

s 2 sup(0, s) 1 } = exp{ − 8 6 3 1 s 1 s = e− 2 1{s≥0} + e 6 1{s<0} , 8 8 de dichtheidsfunctie van X − Y . Uiteraard bestaat er ook een gelijkaardige regel ook voor discrete verdelingen:  P(X = x)P(Y = s − x) P(X + Y = s) = x∈E

C.2

oefeningen

Oefening C.1. Veronderstel X uniform verdeeld op het interval (0, µ) en Y een exponentieel verdeelde variabele met √ parameter λ. Bepaal de dichtheidsfuncties van: X 2 , Y 2 , S = X + Y en Y . Bepaal bovendien de verdeling van (Y, S) en de conditionele dichtheidsfunctie van Y wetende S = s.

Bijlage D combinatorische gelijkheden 1. Som van een meetkundige reeks n−1 

ak =

k=0

an − 1 a−1

(D.1)

2. Stiefel-Pascal:



n n−1 n ∀k ≤ n ∈ N : = + . k k−1 k

(D.2)

3. Binomaalstelling: ∀n ∈ N : (x + y) = n

n  n k=0

k

xk y n−k .

4. Gevolgen van de binomiaalstelling: n  n = 2n k k=0

n  k n = 0 (−1) k k=0 5. Afleiden van de binomiaalstelling: n  n k = n2n−1 k k=0

n  2 k n k (−1) = n(n − 1)2n−2 + n2n−1 k k=0

(D.3)

(D.4) (D.5)

(D.6) (D.7)

58

combinatorische gelijkheden 6. Integreren van de binomiaalstelling: n n  2n+1 − 1 k = k+1 n+1 k=0 7. Multinomaalstelling: Met



n n1 ,n2 ,...,nt



∀n ∈ N, t ≥ 1 : (x1 + x2 + . . . + xt ) = n

=

(D.8)

n! n1 !n2 !···nt !

n xn1 · · · xnnt . n1 , n2 , . . . , nt 1 (D.9)



8. Gelijkheid van Vandermonde:



r m+n m n = r k r−k k=0 9. Gevolg:





 n n n n n n 2n = = k n−k k k n k=0 k=0

(D.10)

(D.11)

10. Andere nuttige gelijkheden:

n  n+1 k = r+1 r k=r

n n n−1 = k k−1 k

n r n n−s = r s s r−s

(D.12) (D.13) (D.14)