Suffiziente σ-Algebra

Eine suffiziente σ-Algebra ist ein spezielles Mengensystem in der mathematischen Statistik, das verwendet wird, um die Kompression von Daten ohne Informationsverlust mittels suffizienter Statistiken zu formalisieren.

Definition

Gegeben sei ein statistisches Modell $(\Omega, \mathcal A, \mathcal P)$ sowie eine Teil-σ-Algebra $\mathcal S \subset \mathcal A$ . Sei $\operatorname{E}_P(\cdot|\mathcal S)$ der bedingte Erwartungswert gegeben ${\mathcal {S}}$ unter Verwendung des Wahrscheinlichkeitsmaßes . Die σ-Algebra ${\mathcal {S}}$ heißt dann suffizient für ${\mathcal P}$ , wenn für jedes $A\in {\mathcal A}$ eine ${\mathcal {S}}$ -messbare Funktion f_A existiert, so dass

$f_A= \operatorname{E}_P(\mathbf 1_A|\mathcal S) \text{ für alle } P \in \mathcal P$ .

Bemerkungen

Ein Defizit des Suffizienzbegriffes ist, dass wenn $\mathcal S_1, \mathcal S_2$ σ-Algebren sind mit $\mathcal S_1 \subset \mathcal S_2$ und $\mathcal S_1$ suffizient ist (bezüglich einer vorgegebenen Verteilungsklasse), dann folgt im Allgemeinen nicht, dass auch $\mathcal S_2$ suffizient ist. Das würde man aber intuitiv erwarten, denn wenn schon die kleinere σ-Algebra ausreichend ist, um eine verlustfreie Datenkompression zu ermöglichen, dann sollte dies ebenso für die größere gelten, da sie ja die kleinere enthält, in der alle Informationen von Belang schon vorhanden sind. Zu beachten ist hier, dass die Datenkompression hier dem Weglassen der Mengen aus der größeren σ-Algebra entspricht.

Formell lässt sich dieses Defizit wie folgt einsehen: ist $\mathcal S_1$ suffizient, so gilt laut Definition des bedingten Erwartungswertes

$\int _{S}f_{A}\,\mathrm {d} P=P(A\cap S)$

für alle $S\in {\mathcal {S}}_{1}$ , aber eben nicht notwendigerweise für alle $S\in {\mathcal {S}}_{2}$ .

Erläuterung

Klar wird die Bedeutung des Begriffes, wenn man die Wahrscheinlichkeitsmaße aus ${\mathcal P}$ auf ${\mathcal {S}}$ einschränkt. Dann gilt

$P(A)=\int P(A|{\mathcal {S}})\mathrm {d} P|_{\mathcal {S}}=\int f_{A}\mathrm {d} P|_{\mathcal {S}}$ .

Da aber f_A nicht von $P \in \mathcal P$ abhängt, können sich die Wahrscheinlichkeitsmaße nur dann unterscheiden, wenn schon deren Einschränkungen auf ${\mathcal {S}}$ verschieden sind. Damit sind alle möglichen Informationen, welche die Wahrscheinlichkeitsmaße aus ${\mathcal P}$ liefern können, bereits in ${\mathcal {S}}$ enthalten.

Stabilität bezüglich Operationen

Ist $\mathcal S^* \subset \mathcal S \subset \mathcal A$ und ist ${\mathcal {S}}$ suffizient für ${\mathcal P}$ , so ist $\mathcal S^*$ genau dann suffizient für $(\Omega, \mathcal A, \mathcal P )$ , wenn $\mathcal S^*$ suffizient ist für $(\Omega ,{\mathcal {S}},{\mathcal {P}}|_{\mathcal {S}})$ .
Sei $\mathcal N_{\mathcal P }$ die Mengen aller $\mathcal P$ -Nullmengen. Sind $\mathcal S_1$ und $\mathcal S_2$ suffizient und ist $\mathcal N_{\mathcal P } \subset \mathcal S_1$ , so ist auch $\mathcal S_1 \cap \mathcal S_2$ suffizient.
Ist ${\mathcal {S}}$ suffizient und ist ${\mathcal E}$ eine abzählbar erzeugte σ-Algebra, so ist auch $\sigma(\mathcal S, \mathcal E)$ suffizient. Daraus folgt direkt, dass abzählbar erzeugte Ober-σ-Algebren von suffizienten σ-Algebren wieder suffizient sind.

Suffizienz und dominierte Verteilungsklassen

Mittels des Satzes von Halmos-Savage lassen sich für dominierte Verteilungsklassen ${\mathcal P}$ einige stärkere Aussagen zeigen:

Sei $\mathcal S \subset \mathcal A$ . Dann ist jede σ-Algebra $\mathcal S^*$ mit

$\mathcal S \subset \mathcal S^* \subset \mathcal A$

ebenfalls suffizient.

${\mathcal {S}}$ ist genau dann suffizient bezüglich ${\mathcal P}$ , wenn ${\mathcal {S}}$ suffizient bezüglich $\mathcal P^*:=\{P_i,P_j\}$ ist für alle $P_i, P_j \in \mathcal P$ .
Sind für die Verteilungsklassen $\mathcal P_i$ auf $(\Omega_i, \mathcal A_i)$ dominiert und ist $\mathcal S_i \subset \mathcal A_i$ suffizient, so ist auch $\mathcal S_1 \otimes \mathcal S_2$ suffizient bezüglich $\mathcal P_1 \otimes \mathcal P_2$ .