Angewandte Stochastik Blatt 10

1. ( Simulation der Cauchy-Verteilung ) Die Zufallsvariable U sei gleichverteilt auf [0, 1]. Zeige:

a) Die Zufallsvariable Y = tan π(U − \frac{1}{2}) besitzt die Verteilungsdichte

f(x) = \frac{1}{π(1 + x^{2})}. (1)

Bemerkung: Allgemein heißt eine Verteilung mit Dichte

f(x) = \frac{a}{π(a^{2} + (x − m)^{2})}

Cauchy-Verteilung mit Breite a > 0 und Median m ∈ ℝ.

b) Wählt man unabhängige, auf [−1, 1] gleichverteilte Zufallsvariablen V, W solange bis V^{2} + W^{2} ≤ 1, so hat die Zufallsvariable Y = V/W die Dichte wie in (1).

2. ( Alternativtest ) Bei einer Razzia findet die Polizei bei einem Glückspieler eine Münze, von der ein anderer Spieler behauptet, dass “Zahl” mit einer Wahrschinlichkeit von p = 0.75 statt mit p = 0.5 erscheint. Aus Zeitgründen kann die Münze nur n = 10 Mal überprüft werden. Wähle Nullhypothese und Alternative gemäß dem Grundsatz “In dubio pro reo” und gib einen zugehörigen besten Test zum Irrtumsniveau α = 0.01 an.

3. ( Minimax Tests und Bayes-Tests )

a) Betrachte ein einfaches Alternativ-Standardmodell (𝔛, A; ℙ_{0}, ℙ_{1}). Ein Test C ⊆ A heißt ein Minimax-Test, wenn das Maximum der Irrtumswahrscheinlichkeiten erster und zweiter Art minimal ist. Zeige: Es gibt einen Neyman-Pearson Test C mit ℙ_{0}[C] = ℙ_{1}[C^{c}], und dieser ist ein Minimax-Test. b) Sei C ⊆ A ein Test in obigem Modell, und seien α_{0}, α_{1} > 0. Zeige:

Genau dann minimiert C die gewichteten Wahrscheinlichkeiten α_{0}ℙ_{0}[C]+ α_{1}ℙ_{1}[C], wenn C ein Neyman-Pearson Test zum Schwellenwert α_{0}/α_{1} ist. C heißt dann ein Bayes-Test zur Vorbewertung (α_{0}, α_{1}).

4. ( Entropiemaximierende Verteilungen ) Die (absolute) Entropie eines Wahrscheinlichkeitsmaßes ν mit Dichte f > 0 ist definiert als H(ν) = − ∫ f(x) log f(x)dx im stetigen Fall und als H(ν) = − ∑ f(x) log f(x) im diskreten Fall. Zeige:

a) Die geometrische Verteilung mit Parameter p ∈ (0, 1) hat maximale Entropie unter allen Wahrscheinlichkeitsverteilungen ν auf ℕ mit Mittelwert \frac{1}{p}.

b) Die Normalverteilung N(m, σ^{2}) hat maximale Entropie unter allen Wahrscheinlichkeitsverteilungen auf ℝ mit Mittelwert m und Varianz σ^{2}. (Ansatz: H(ν) = −H(ν|μ) + ⋯).

5. ( Exponentielle Familien als Minimierer der relativen Entropie ) Sei

f(x|ϑ) = \frac{1}{Z(ϑ)}e^{ϑT (x)}h(x), x ∈ 𝔛, ϑ ∈ ℝ,

eine exponentielle Familie in Normalform mit Z(ϑ) = ∫_{𝔛} e^{ϑT (x)}h(x)dx < ∞, ∀ϑ. Sei μ_{θ} das W-Maß mit Dichte f(x|ϑ) und μ := μ_{0}. Zeige für ϑ ∈ ℝ:

a) H(ν|μ) = H(ν|μ_{ϑ}) + ϑ ∫ T dν + log \frac{Z(0)}{Z(ϑ)} für alle bezüglich μ absolutstetigen W-Maße ν mit T ∈ L^{1}(ν).

b) μ_{ϑ} hat minimale relative Entropie H(·|μ) unter allen W-Maßen ν mit ∫ T dν = m(ϑ) := ∫ T dμ_{ϑ}.