Wahrscheinlichkeitstheorie I WS 06/07 Serie 10

1. ( Konvergenzbegriffe für Zufallsvariablen ). Zeige, daß jede stochastisch konvergente Folge (X_{n}) von Zufallsvariablen eine fast sicher konvergente Teilfolge besitzt.

2. ( Ehrenfestmodell ). In zwei Urnen liegen Kugeln. Aus der Gesamtzahl der Kugeln beider Urnen wird eine Kugel zufällig herausgegriffen. Die gezogene Kugel wird dann aus ihrer Urne herausgenommen, und in die andere Urne gelegt.

a) Beschreibe den Vorgang durch eine Übergangswahrscheinlichkeit p(·, ·) auf der Menge S := ℤ_{+}^{2} aller Paare (k_{1}, k_{2}) von nichtnegativen ganzen Zahlen.

b) Sei μ die Wahrscheinlichkeitsverteilung auf S mit den Gewichten

μ(k_{1}, k_{2}) = e^{−λ} \frac{λ^{k_{1}}}{k_{1}!} e^{−λ} \frac{λ^{k_{2}}}{k_{2}!} .

Sei X_{i} (i = 1, 2) die Zahl der Kugeln, die in der Urne i liegen; bezüglich μ sind X_{1}, X_{2} also unabhängige Poissonverteilte Zufallsvariablen mit Parameter λ. Zeige, daß μ eine invariante Verteilung für die durch p(·, ·) beschriebene Dynamik ist.

c) Was kann man sagen, wenn die Gesamtzahl N aller Kugeln bekannt ist ?

3. ( Bernsteinpolynome ). Sei f : [0, 1] → ℝ stetig und

f_{n}(p) = ∑_{k=0}^{n} f (\frac{k}{n}) ( \begin{matrix}n \\ k \end{matrix} ) p^{k}(1 − p)^{n−k} für p ∈ [0, 1]

das zugehörige Bernstein-Polynom n-ten Grades. Stelle f_{n} in der Form

f_{n}(p) = E [f (\frac{1}{n} ∑_{i=1}^{n} X_{i})]

mit unabhängigen Zufallsvariablen X_{1}, …, X_{n} dar. Folgere, daß die Funktionenfolge f_{n} gleichmäßig gegen f konvergiert.

4. Seien X_{1}, X_{2},... unabhängig und exponentialverteilt mit Parameter λ > 0. Zeige:

lim sup_{n→∞} \frac{X_{n}}{log n} = \frac{1}{λ} (= E[X_{1}])

.

5. ( Entropiemaximierung unter Nebenbedingungen ). Sei S ein endlicher Zustandsraum, und H : M_{1}(S) → [0, ∞) das Entropiefunktional auf dem Raum

M_{1}(S) = {μ ∈ ℝ^{S} | ∑_{x∈S} μ(x) = 1, μ(x) ≥ 0 ∀ x}

der Wahrscheinlichkeitsverteilungen auf S.

a) Zeige, daß H strikt konkav ist.

b) Sei U : S → ℝ eine Funktion auf S. Wir betrachten die Wahrscheinlichkeitsverteilungen

μ_{β}(x) = \frac{e^{βU(x)}}{Z_{β}} (β ∈ ℝ)

auf S. Dabei ist

Z_{β} = ∑_{x∈S} e^{βU(x)}

die Normierungskonstante. Sei

m_{β} := E_{μ_{β}}[U] = ∑_{x∈S} U(x)μ_{β}(x) .

Zeige, dass μ_{β} die Entropie unter allen Wahrscheinlichkeitsverteilungen ν auf S mit E_{ν}[U] = m_{β} maximiert.

c) Zeige, daß μ_{β} für β → 0 gegen die Gleichverteilung auf S und für β → ∞ gegen die Gleichverteilung auf den (globalen) Maxima von U konvergiert.