\magnification = \magstep 1		    \pageno = 1
\font\mittel = cmbx10 scaled \magstep 1
\font\gross = cmbx10 scaled \magstep 2
\headline = {\hfill---Kapitel SP---\hfill}
\def\re{I\!\!R}  \def\na{I\!\!N}  \def\3{\ss}	\def\pro#1{({#1}_n)_{n \in \na}}
\def\WR{({\bf\Omega},{\cal F},{\bf P})} 	\def\low#1{{\cal L}(\pro#1)}
\def\vek#1{({#1}_1,{#1}_2,{#1}_3,\ldots)}
\def\fettx{{\bf X}(\omega) := (X_1(\omega),X_2(\omega),X_3(\omega),\ldots)}
\centerline{\gross Station\"are Prozesse}
\smallskip \hrule height 2pt \smallskip \hrule \vskip 1 true cm
\leftline{\mittel  \S 1  Charakterisierung station\"arer Prozesse} \hrule width 10,5 true cm height 2 pt
\bigskip \noindent {$\bf \underline {SP\;1\;Bezeichnungen}$} \smallskip \noindent
Im gesamten Kapitel SP seien : \smallskip
$\WR$ ein beliebiger Wahrscheinlichkeitsraum, \smallskip
$(\re,{\cal B})$ die reellen Zahlen, versehen mit der Borel-$\sigma$-Algebra,\smallskip
${\re}^{\na}$ die Menge der reellen Folgen,\smallskip
${\Pi}_k :{\re}^{\na} \to \re $ die Projektion auf die k. Komponente, \smallskip
${\cal B}^{\na} := \bigvee_{k \in \na}{\Pi}_k^{-1}({\cal B}) $ die kleinste $\sigma$-Algebra bez\"uglich der alle Projektionen  \smallskip
me\ss bar sind, \smallskip
${\bf T}: {\re}^{\na} \to {\re}^{\na} $ der Shift, d.h. $\vek x \mapsto {\bf T}\vek x = (x_2,x_3,x_4,\ldots)$, \smallskip
F\"ur jeden Proze\3 $\pro X$ auf $\WR$ sei ${\bf X} : \Omega \to {\re}^{\na} $ durch \smallskip $\omega \mapsto {\fettx}$ und
$\low X := {\bf PX}^{-1}$  erkl\"art.
\bigskip \noindent {$\bf \underline {SP\;2 \;Definitionen}$} \smallskip \noindent
\item{a)} Ein $\re$-wertiger Proze\3 $\pro X  $ auf $\WR$ hei\ss t  $\bf \underline {station\ddot ar}$, falls \smallskip $\low	X = {\cal L}((X_{n+1})_{n \in \na}) $, d.h.
${\bf P(X \in A) = P(T\circ X \in A) \; \forall \;A }\in {\cal B}^{\na}.$ \smallskip
\item{b)} Eine auf $\WR$ erkl\"arte $\cal F-\cal F$-me\ss bare Abbildung $ T:\Omega \to \Omega $ hei\ss t \smallskip  \underbar {\bf ma\ss erhaltend}, falls ${\bf P}T^{-1} = {\bf P},$ d.h.
$\bf (P{\rm T^{-1}})(F) = P(F) \; \forall \; F \in {\cal F}.$
\bigskip \noindent
\leftline { $ \bf \underline {SP \;3 \;\;Satz :} $ }
\smallskip \noindent
Ein auf $\WR$ erkl\"arter stochastischer Proze\3 $ \pro X \;$  ist genau dann station\"ar, wenn es einen Me\ss raum $(\bf\Omega^\prime,\cal F^\prime) $ sowie
Abbildungen \smallskip
$ X: {\bf \Omega \to \Omega^\prime}, \; \qquad		 {\cal F - F^\prime}$ - me\ss bar,  \smallskip
$ T: {\bf \Omega^\prime \to \Omega^\prime}, \qquad	 {\cal F^\prime - F^\prime}$ - me\ss bar und \smallskip
$ Y: {{\bf \Omega^\prime} \to \re}, \, \qquad		     {\cal F^\prime - B}$ - me\ss bar \smallskip \noindent
so gibt, da\ss $\; T $ bez\"uglich ${\bf P^\prime := P} X^{-1}$ ma\ss erhaltend ist und $X_n = Y\circ T^{n-1}\circ X $ gilt.
\def\WsR{({\bf\Omega^\prime},{\cal F^\prime},{\bf P^\prime})} \bigskip
\settabs
\+ stochastisch & $\WR$ & \quad $ \buildrel  X \over \longrightarrow$ \quad & $\WsR$ &	$\buildrel{ T^0,T^1,T^2,\ldots} \over \longrightarrow $  & $\WsR$ & \cr
\+ & $\WR$ & \quad $ \buildrel	X \over \longrightarrow$ \quad & $\WsR$ &  $\buildrel{T^0,T^1,T^2,\ldots} \over \longrightarrow $  & $\WsR$  \cr
\bigskip
\+ & &		      & \quad $  Y_n:= Y\circ T^{n-1} $   &	 &  & \cr
\bigskip
\+ & &	 $ X_n $ \hfill    &			   & \hfill Y  \qquad &  & \cr
\+ & & \hfill $ \searrow $ &  $ \;\; \downarrow $  \qquad  $  \swarrow $ &  &  & \cr
\+ & &			& $({\re},{\cal B}) $ & 		&  & \cr
\bigskip \noindent
F\"ur die Verteilungen der beiden Prozesse gilt: $\quad \low X = \low Y \quad.$
Man nennt den Proze\3  $ \pro Y \;$ ein $ \bf \underline {kanonisches \; Modell} $ des Prozesses $\; \pro X \;$.
\eject
\smallskip \leftline { $ \bf \underline {Beweis :} $ }
\item{$\imath)$}    Wir zeigen zun\"achst, aus $X_n = Y_n\circ X $ und ${\bf P^\prime = P}X^{-1}$ folgt bereits \smallskip $\low X = \low Y$.\smallskip
F\"ur beliebiges $n \in \na$ und ${\bf B}_j \in {\cal B}, j = 1,2,\ldots,n $ gilt:
\def\vap#1{({#1}_1,{#1}_2,\ldots,{#1}_n) \in {\bf B}_1 \times {\bf B}_2 \times \ldots \times {\bf B}_n }
\def\wap#1{({#1}_2,{#1}_3,\ldots,{#1}_{n+1}) \in {\bf B}_1 \times {\bf B}_2 \times \ldots \times {\bf B}_n }
\def\sch#1{\bigcap_{j=1}^n{#1}_j^{-1}({\bf B}_j)}
\def\wsch#1{\bigcap_{j=1}^n{#1}_{j+1}^{-1}({\bf B}_j)}
$$\eqalign {&{\bf P}(\vap X) = {\bf P}(\sch X) \cr & = {\bf P}(X^{-1}(\sch Y)) = {\bf P^\prime}(\vap Y),} $$
\vskip 1 true pt    d.h. die Verteilungen von ${\bf X} = \vek X$ und ${\bf Y} = \vek Y$ stimmen auf \vskip 1 true pt   dem $\cap$-stabilen Erzeuger
$${\cal E} := \lbrace {\sch {\Pi}} \vert  n \in {\na}, {\bf B}_j \in {\cal B}, {\it j = 1,2,\ldots,n} \; \rbrace $$
\vskip 1 true pt    von ${\cal B}^{\na}$ \"uberein und sind daher identisch, also ist $\low X = \low Y.$
\item{$\imath\imath)$} Es liege die durch das Diagramm dargestellte Situation mit ma\ss erhaltenden T vor. Zu zeigen ist  $\; \pro X$ ist station\"ar.
\vskip 1 true pt    Unter Verwendung der Bezeichnungen aus $\imath)$ folgt:
$$\eqalign {&{\bf P^\prime}(\vap Y) \cr & =
{\bf P^\prime}(\sch Y) = {\bf P^\prime}(T^{-1}(\sch Y)) = {\bf P^\prime}(\wsch Y) \cr
& = {\bf P^\prime}(\wap Y),}$$
\vskip 1 true pt  wobei beim zweiten Gleichheitszeichen benutzt wurde, da\3 $ T $ ma\ss erhaltend ist.Mit
\vskip 1 true pt  dem  Argument am Ende von $\imath)$ folgt daher: $\low  Y = {\cal L}((Y_{n+1})_{n \in \na}).$
\vskip 1 true pt  Mithin ist $\pro Y$ station\"ar und nach $\imath)$ deshalb auch $\pro X$.
\item{$\imath\imath\imath)$}Sei nun auf einem $\WR$ ein station\"arer Proze\ss $\; \pro X$ gegeben.
\vskip 1 true pt  Wir setzen:
\vskip 1 true pt  $ {\bf X} = \vek X $ und $\WsR = ({\re}^{\na},{\cal B}^{\na},{\bf PX}^{-1})$. Dann gilt mit den
\vskip 1 true pt  Bezeichnungen aus ${SP\;1}:\;  X_n =	{\Pi}_1\circ {\bf T}^{n-1}\circ {\bf X},\; \; \forall \;n \in {\na}$, d.h.
es bleibt zu zeigen,da\3 \vskip 1 true pt $\bf T$ bez\"uglich $\bf P^\prime = PX^{-1}$ ma\ss erhaltend ist.
\vskip 1 true pt  Dies folgt aus der f\"ur alle ${\bf A} \in {\cal B}^{\na}$  g\"ultigen Zeile
$$\bf P^\prime(A) = P(X \in A) = P(T\circ X \in A) = P(X^{-1}(T^{-1}(A))) = P^\prime(T^{-1}(A)),$$
\vskip 1 true pt  wobei f\"ur das erste und letzte Gleichheitszeichen die Definition von ${\bf P^\prime}$ und f\"ur das
\vskip 1 true pt  zweite die Stationarit\"at benutzt wurde.
\eject
\leftline {$\bf \underline {SP\;4\;Bemerkungen :}$}\smallskip
\item{a)} Da die Stationarit\"at nur eine Eigenschaft der Verteilung des Proze\3es ist, kann man - indem man gegebenenfalls zum kanonischen Modell \"ubergeht - ohne wesentliche Einschr\"ankung annehmen, da\3 ein statinon\"arer Proze\3 $\pro Z$ in der
	  Form $Z_n = Z\circ T^{n-1}$ mit einer ma\3erhaltenden Abbildung T und einer Zufallsgr\"o\3e Z auf $\WR$ gegeben ist.
\item{b)} Der Beweisteil $\imath\imath\imath)$ zeigte, wenn $\pro X$ auf $\WR$ station\"ar ist, so ist der Shift {\bf T} auf ${\re}^{\na}$ ma\3erhaltend. Sofern F:${\re}^{\na} \to \re$ eine beliebige ${\cal B}^{\na} - {\cal B}$- me\3bare Abbildung ist,
	  folgt daher aus dem Satz, da\3 auch $Z_n = F\circ {\bf T}^{n-1} \circ {\bf X}$ station\"ar ist.
\item{c)} Sind $X_n :{\bf \Omega} \to \re$ unabh\"angige und identisch verteilte Zufallsgr\"o\3en auf $\WR$, so ist $\pro X$ station\"ar. Denn ist {\bf Q} die Verteilung der $X_n$, so gilt mit
	  ${\bf P}_k = {\bf Q} \; \forall \; k \in \na $ f\"ur die Verteilung der Proze\3e:
$$\low	X = \bigotimes_{k=1}^{\infty}{\bf P}_k = \bigotimes_{k=2}^{\infty}{\bf P}_k = {\cal L}((X_{n+1})_{n \in \na}) $$

\item{d)} { Aus der Stationarit\"at eines Prozesses $\pro X $ folgt offenbar insbesondere
$ {\cal L}(X_1) = {\cal L}(X_2) = {\cal L}(X_3) = \ldots $, d.h. alle $ X_n $ haben die gleiche Verteilung.
F\"ur Markoffketten gilt auch die Umkehrung. \smallskip
Es sei $ \pro X $ eine homogene Markoffkette mit Zust\"anden $ z_i, i \in I \subseteq \na $ den \smallskip \"Ubergangswahrscheinlichkeiten
$$ {\bf P}(X_{n+1} = z_j \vert X_n = z_i) = p(i,j)  \quad \quad i,j \in I $$
\smallskip und einer Gleichgewichtsverteilung (station\"arer Verteilung) $ (q(j))_{j \in I} $, d.h. \smallskip f\"ur alle $ j \in I $ gilt $ q(j) \geq 0 $ und
$$ \sum_{i \in I} q(i)p(i,j) = q(j).$$ \smallskip
Wir zeigen: Startet man die Kette mit der Startverteilung $(q(j))_{j \in I} $, so ist $ \pro X $ \smallskip ein station\"arer Proze\3. \smallskip
F\"ur beliebiges $ n \in \na $ und beliebige Zust\"ande $ z_i,z_j,z_{k_0},z_{k_1},z_{k_2},\ldots,z_{k_n} $ gilt einerseits
$$ \eqalign {&{{\bf P}(X_{n+1} = z_{k_n},X_n = z_{k_{n-1}},\ldots,X_1 = z_{k_0},X_0 = z_i)} \cr
    & = q(i)p(i,k_0)p(k_0,k_1)\cdots p(k_{n-2},k_{n-1})p(k_{n-1},k_n) \cr}$$
\smallskip bzw. anderseits
$$ \eqalign {&{{\bf P}(X_{n+1} = z_j,X_n = z_{k_n},\ldots,X_1 = z_{k_1},X_0 = z_{k_0})} \cr
    & = q(k_0)p(k_0,k_1)p(k_1,k_2)\cdots p(k_{n-1},k_n) p(k_n,j) \cr}$$
\eject Wegen
$$ \sum_{i \in I} q(i)p(i,k_0) = q(k_0) \quad und \quad \sum_{j \in I} p(k_n,j) = 1 $$
\smallskip folgt hieraus
$$ \eqalign {&{{\bf P}(X_{n+1} = z_{k_n},X_n = z_{k_{n-1}},\ldots,X_2 = z_{k_1},X_1 = z_{k_0})} \cr
    & = q(k_0)p(k_0,k_1)p(k_1,k_2) \cdots p(k_{n-2},k_{n-1})p(k_{n-1},k_n) \cr
    & = {{\bf P}(X_n = z_{k_n},X_{n-1} = z_{k_{n-1}},\ldots,X_1 = z_{k_1},X_0 = z_{k_0})}, \cr }  $$
\smallskip d.h.
$$ {\cal L}((X_1,X_2,\ldots,X_{n+1})) = {\cal L}((X_0,X_1,\ldots,X_n)) $$
\smallskip und daher auch
$$ {\cal L}((X_n)_{n \in \na}) = {\cal L}((X_{n-1})_{n \in \na}), $$
womit die Stationarit\"at gezeigt ist.}
\bigskip

\def\ntels#1{{1\over n}{\sum_{j=0}^{n-1}{{#1}\circ T^j}}}
\def\beder#1{{\bf E}({#1} \vert {\cal J})}
\def\el{{\cal L}_1({\bf\Omega},{\cal F},{\bf P})}    \bigskip
\leftline{\mittel \S  2  Beweis des Ergodensatzes nach Neveu}
\hrule width 10,5 true cm height 2pt
\bigskip
\noindent Im gesamten \S  2 seien:
\smallskip
$\el$ die integrierbarern Zufallsgr\"o\3en auf $\WR$,
\smallskip
$T:{\bf \Omega \to \Omega }$ me\ss bar und ma\ss erhaltend sowie
\smallskip
${\cal J}:= \lbrace {\bf F} \in {\cal F} \vert	T^{-1}({\bf F}) = {\bf F} \rbrace $ die $\sigma$-Algebra der invarianten Mengen.
\bigskip
\leftline { $ \bf \underline {SP\;5\;Lemma :} $ }
\smallskip
Ist $ Y \in \el $ und $\beder Y <0 \quad \bf P - f.s.$, so gilt:
$$\limsup_{n\to\infty} {\ntels Y} \leq 0 \quad {\bf P - f.s..}$$
\smallskip
\leftline  { $ \bf \underline {Beweis:} $ }
\smallskip \noindent
Wegen $ Y \in \el$ kann o.B.d.A. ${\vert Y(\omega) \vert < \infty  \quad \forall \; \omega \in {\bf \Omega }}$ angenommen werden (gegebenenfalls auf einer Nullmenge modifizieren).
\smallskip \noindent
Erkl\"art man $$ M_n := max(0,Y,Y + Y \circ T,Y+Y\circ T + Y\circ T^2 ,\ldots,\sum_{j=0}^{n-1}Y\circ T^j),$$ so gilt:
$ 0 \leq M_n(\omega) \leq  M_{n+1}(\omega).$
Insbesondere existiert also $ M(\omega):= \lim_{n\to \infty} M_n(\omega) \leq \infty $.
\eject
\noindent Weiter gilt:
$$ Y + M_n \circ T = max(Y,Y+ Y \circ T,Y+Y\circ T + Y\circ T^2 ,\ldots,\sum_{j=0}^n{Y\circ T^j})$$
und $(Y + M_n \circ T)^+ = max(0,Y + M_n \circ T) = M_{n+1},$  bzw. f\"ur n $\to \infty: (Y + M\circ T)^+ = M.$
\smallskip \noindent
Wegen $\vert Y(\omega)\vert < \infty,$ folgt hieraus:
$$ M(\omega) = \infty \iff (M\circ T)(\omega) = M(T(\omega)) = \infty ,$$
d.h. f\"ur $ {\bf A} :=\{M = \infty\}$ gilt:
$$ T^{-1}({\bf A}) = \{\omega\vert T(\omega) \in {\bf A} \} = \{M \circ T = \infty \} = \{M = \infty\} ={\bf A}  \in {\cal J} $$
\smallskip \noindent
Allgemein gilt f\"ur reelle Zahlen a,b:
$$(a + b)^+ = \cases{a+b, & falls $b\geq -a$ \cr 0, & falls $b<-a$ \cr}$$
also $(a+b)^+ = b - min(b,-a).$
Angewandt auf $M_n$ ergibt  dies:
$$ M_{n+1} = (Y + M_n \circ T)^+ = M_n \circ T - min(M_n \circ T, - Y) \geq M_n, $$ d.h. mit $\bf 1_A$ als Indikatorfunktion
$${\bf E(1_A}\;\; M_n \circ T) - {\bf E(1_A}\;\; min(M_n \circ T,-Y)) \geq {\bf E(1_A}\;\; M_n).$$
Weil {\bf A} invariant und $T$ ma\ss erhaltend ist, gilt:
$${\bf E(1_A}\;\; M_n \circ T) = {\bf E(1_{\rm T}^{-1}(A)}\;\; M_n \circ T) = {\bf E(1_A}\circ T \;\;\;M_n \circ T) ={\bf E(1_A}\;\; M_n) , $$
bzw. - da der letzte Ausdruck endlich ist - ${\bf E(1_A}\;min(M_n \circ T,-Y)) \le 0. $
Hieraus folgt schlie\ss lich mit dem Satz von der monotonen Konvergenz:
$${\bf E}(\underbrace{{\bf 1_A} \;min(M\circ T,-Y)}_{ = {\bf 1_A}\;(-Y)}) \le 0.$$
Mithin gilt ${\bf E(1_A}\;Y)\ge 0 $, woraus wegen $\beder Y < 0 \quad \bf P - f.s. $
\smallskip \noindent
sich sofort $ \bf P(A) =  0 $ ergibt, d.h. $ M < \infty \quad {\bf P - f.s.}.$	Aus
$$ \ntels Y \le {1 \over n} M_n \le {1	\over n} M $$
folgt dann die Behauptung.
\eject
\leftline { $ \bf \underline {SP\;6\;\;Lemma:} $ }
\smallskip
Ist $ Z \in \el $ bez\"uglich $ {\cal J} $ me\ss bar, so gilt: $ Z \circ T = Z.$
\smallskip
\leftline  { $ \bf \underline {Beweis:} $ }
\def\akl{\!(\{a \})\!}
\smallskip \noindent
F\"ur jede reelle Zahl a ist $ Z^{-1} \akl \in {\cal J} $, d.h.
$ Z^{-1} \akl = T^{-1}(Z^{-1} \akl) = (Z\circ T)^{-1}\akl\;,$
also gilt: $ Z(\omega) = a \iff (Z\circ T)(\omega) = a, $  bzw. $ Z = Z\circ T $.
\bigskip
\leftline {\mittel SP 7   Ergodensatz:}
\hrule width 5 true cm height 2pt
\bigskip
Falls $ X \in \el $ ist, gilt:$$ \lim_{n\to\infty}{\ntels X} = {\beder X} \quad \bf P - f.s..$$
\leftline  {$ \bf \underline {Beweis:} $}
\smallskip \noindent
F\"ur bel. $\varepsilon > 0 $ und $Y:= X-\beder X -\varepsilon $ gilt $Y \in \el$ und $\beder Y=-\varepsilon <0 \;. $
\smallskip \noindent
Nach Lemma 2 ist $\beder X \circ T^j = \beder X $ f\"ur alle j, also:
$$\ntels Y = \ntels X - \beder X - \varepsilon $$ bzw.
$$\ntels X = \beder X + \varepsilon + \ntels Y .$$
Mit Lemma 1 folgt hieraus:
$$\limsup_{n\to\infty}\ntels X \le \beder X + \varepsilon $$
Die gleiche \"Uberlegung mit ${-X} \in \el$ liefert:
$$\limsup_{n\to\infty}(- \ntels X )  \le -{\beder X }+ \varepsilon $$
Insgesamt also:
$$- \varepsilon + \beder X \le \liminf_{n \to \infty} \ntels X \le \limsup_{n\to\infty}{\ntels X} \le \beder X + \varepsilon $$
$\varepsilon \to 0 $ ergibt:
$$ \lim_{n\to\infty}{\ntels X} = \beder X \quad \bf P -f.s..$$
\eject
\advance \hsize by 1 true cm
\leftline { $ \bf \underline {SP\;8\;\;Satz:} $ }
F\"ur einen station\"aren Proze\3 $\pro X$ auf $\WR$ mit ${\bf E}(\vert X_1 \vert) < \infty $ gilt:
$$ \lim_{n\to\infty}{1 \over n}{\sum_{j=1}^{n} X_j } = {\bf E}({X_1} \vert {\cal G})  \quad \bf P -f.s..$$
\smallskip Hierbei ist ${\cal G}$ eine in ${\cal T}_{\infty} := \bigcap_{n=1}^{\infty}(\bigvee_{m=n}^{\infty}X_m^{-1}({\cal B})) $ enthaltene $\sigma$-Algebra.
\smallskip Sind insbesondere die $X_n$ unabh\"angig und identisch verteilt, so folgt mit dem \smallskip Kolmogoroffschen 0-1-Gesetz das  \underbar {\bf starke Gesetz der gro\ss en  Zahlen:}
$$ \lim_{n\to\infty}{1 \over n}{\sum_{j=1}^{n} X_j } = {\bf E}({X_1})  \quad \bf P -f.s..$$
\leftline  { $ \bf \underline {Beweis:} $ }
Nach Satz SP3 (s.insbesondere Beweisteil $\imath\imath\imath))$ gilt: $X_n = {\Pi_1}\circ {\bf T}^{n-1} \circ {\bf X}$ mit ma\3erhaltenden Shift {\bf T} auf $\WsR = ({\re}^{\na},{\cal B}^{\na},{\bf PX}^{-1})$. Wegen
$$ {\bf E^\prime}(\vert{\Pi}_1\vert) = \int_{\bf \Omega^\prime}{\vert {\Pi}_1(\omega) \vert \;d{\bf P^\prime}} = \int_{\bf \Omega}{\vert {\Pi}_1\circ {\bf X}\vert \; d{\bf P}} = \int_{\bf \Omega} {\vert X_1 \vert\; d{\bf P}} < \infty $$
ist der Ergodensatz SP 7 anwendbar und liefert:
$$ \lim_{n\to\infty}{1 \over n}{\sum_{j=1}^{n}{{\Pi}_1\circ {\bf T}^{j-1}} = {\bf E^\prime}({\Pi}_1} \vert {\cal J})  \quad \bf P^\prime -f.s..$$
mit $\cal J:= \lbrace \bf F \in \cal F \vert \bf T^{-1}(\bf F) = \bf F \rbrace $ die $\sigma$-Algebra der bez\"uglich des Shifts {\bf T} invarianten Mengen.
Mithin gilt:
$$ \lim_{n\to\infty}{1 \over n}{\sum_{j=1}^{n} X_j } = {\bf E^\prime}({\Pi}_1 \vert {\cal J})\circ {\bf X}  \quad \bf P -f.s..$$
Nun ist ${\bf E^\prime}({\Pi}_1 \vert {\cal J})$ als $\cal J$- me\3bare L\"osung von
$$\int_{\bf\Omega^\prime}{\bf 1_F}\;{\Pi}_1\;\;d {\bf P^\prime} =\int_{\bf F}{\Pi}_1\;\;d {\bf P^\prime} = \int_{\bf F}{\bf E^\prime}({\Pi}_1 \vert {\cal J})
= \int_{\bf\Omega^\prime}{\bf 1_F}\;{\bf E^\prime}({\Pi}_1 \vert {\cal J}) \;\; d{\bf P^\prime}  \;\; \forall \;\; {\bf F} \in {\cal J} $$
charakterisiert. Hieraus folgt mit dem Transformationssatz:
$$\int_{\bf \Omega}{\bf 1_F(X)}{X_1 d{\bf P}} =\int_{{\bf X}^{-1}({\bf F})}\!\!\!\!{X_1 d{\bf P}} = \int_{{\bf X}^{-1}({\bf F})}\!\!\!\!{\bf E^\prime}({\Pi}_1 \vert {\cal J})\circ {\bf X} \; d{\bf P}
= \int_{\bf \Omega}{\bf 1_F(X)}{\bf E^\prime}({\Pi}_1 \vert {\cal J})\circ {\bf X}  d{\bf P}  \;\; \forall  {\bf F} \in {\cal J} $$
\eject
\noindent Folglich gilt:
$$\int_{\bf G}{X_1\;\;d {\bf P}} = \int_{\bf G}{\bf E^\prime}({\Pi}_1 \vert {\cal J})\circ {\bf X} \;\; d{\bf P}  \;\; \forall \;\; {\bf G} \in {\cal G} := {\bf X}^{-1}(\cal J) $$
d.h. ${\bf E^\prime}({\Pi}_1 \vert {\cal J}) \circ {\bf X} = {\bf E}(X_1 \vert {\cal G})\;\; {\bf P - f.s.}$.
Es bleibt
${\cal G} \subseteq {\cal T}_{\infty} = \bigcap_{n=1}^{\infty}(\bigvee_{m=n}^{\infty}X_m^{-1}({\cal B})) $ \smallskip \noindent zu zeigen.
\smallskip \noindent F\"ur ${\bf F} \in {\cal J}$ ist: ${\bf F}= {\bf T}^{-1}({\bf F}) = {\bf T}^{-2}({\bf F}) = \ldots = {\bf T}^{-(n-1)}({\bf F})$ und somit gilt f\"ur alle $n \in {\na}$:
$$\eqalign{{\bf X}^{-1}({\bf F}) & = {\bf X}^{-1}({\bf T}^{-(n-1)}({\bf F})) = ({\bf T}^{n-1} \circ {\bf X})^{-1}({\bf F})   \cr
& = \{ \omega \vert \;\;(X_n(\omega),X_{n+1}(\omega),X_{n+2}(\omega),\ldots) \in {\bf F} \} \in \bigvee_{m=n}^{\infty}X_m^{-1}({\cal B}), \cr}$$
d.h.$ \;{\bf X}^{-1}({\bf F}) \in {\cal T}_{\infty}$ und daher ${\cal G} = {\bf X}^{-1}({\cal J}) \subseteq  {\cal T}_{\infty}.$
\smallskip \noindent Sind die $X_n$ unabh\"angig und identisch verteilt, so gilt f\"ur alle ${\bf A} \in {\cal T}_{\infty}$:
\smallskip \noindent ${\bf P}({\bf A}) \in \{0,1\}$ also auch f\"ur alle ${\bf G} \in {\cal G}$ und daher: ${\bf E}(X_1 \vert {\cal G}) = {\bf E}(X_1) \;\; {\bf P - f.s.}$
\bigskip \noindent


\leftline {$\bf \underline {SP\;9\;Bemerkung:}$}\bigskip \noindent
Wie das folgende Beispiel zeigt, sind ${\cal G},\;{\cal T}_{\infty}$ und $\cal F$ im allgemeinen verschieden. \smallskip \noindent
Sei ${\bf \Omega} = \{\omega_1,\omega_1^\prime, \omega_2,\omega_2^\prime, \omega_3,\omega_3^\prime \}$ \quad mit
$$\omega_1 = (1,0,1,0,1,0,1,0,\ldots), \quad  \omega_1^\prime = (a,b,a,b,a,b,a,b,\ldots),$$
$$\omega_2 = (0,1,0,1,0,1,0,1,\ldots), \quad  \omega_2^\prime = (b,a,b,a,b,a,b,a,\ldots),$$
$$\omega_3 = (2,2,2,2,2,2,2,2,\ldots), \quad  \omega_3^\prime = (c,c,c,c,c,c,c,c,\ldots),$$
$$\WR = ({\bf \Omega},{\cal P}({\bf \Omega}),{\bf Laplacewahrscheinlichkeit}) \quad und $$
$$ X_n:{\bf \Omega} \to \re ,  \;\;  X_n(\omega_i) = X_n(\omega_i^\prime) = n-te \; Komponente \; von \; \omega_i.$$
\smallskip \noindent
Dann gilt f\"ur ${\bf X} = \vek X $ und den Shift ${\bf T}: {\re}^{\na} \to {\re}^{\na}:$
$${\bf X}(\omega_i) = {\bf X}(\omega_i^\prime) = \omega_i  \quad i = 1,2,3 \quad {\rm sowie} \quad {\bf T \circ X}(\omega) = \cases { \omega_1, & falls $\omega = \omega_2 \; oder \; \omega_2^\prime $\cr
										\omega_2, & falls $\omega = \omega_1 \; oder \; \omega_1^\prime $\cr
										\omega_3, & falls $\omega = \omega_3 \; oder \; \omega_3^\prime $\cr }$$
Also ist:
$$ {\bf P}({\bf X} = \omega_i) = {1 \over 3} = {\bf P}({\bf T\circ X} = \omega_i) \qquad i = 1,2,3 $$
und der Proze\3 $\pro X$ daher station\"ar.   \smallskip \noindent
\eject
\smallskip \noindent
Ferner gilt f\"ur alle $n \in \na$:
$$X_n^{-1}({\cal B}) = \{{\bf \emptyset, \Omega},\{\omega_1,\omega_1^\prime\},\{\omega_1,\omega_1^\prime\}^C,
						 \{\omega_2,\omega_2^\prime\},\{\omega_2,\omega_2^\prime\}^C,
						 \{\omega_3,\omega_3^\prime\},\{\omega_3,\omega_3^\prime\}^C \} $$
und daher $$ {\cal T}_{\infty} = \bigcap_{n=1}^{\infty}(\bigvee_{m=n}^{\infty}X_m^{-1}({\cal B})) = X_n^{-1}({\cal B}) \subset {\cal F}. $$
Um $ {\cal G} = {\bf X}^{-1}({\cal J}) $ zu bestimmen, benuzt man
$$ {\bf X}^{-1}({\bf X}(\Omega)\cap{\cal J}) = {\bf X}^{-1}{\bf X}(\Omega)\cap{\bf X}^{-1}({\cal J}) = {\bf \Omega}\cap{\bf X}^{-1}({\cal J}) = {\bf X}^{-1}({\cal J}) $$
und
$$ {\bf X}(\Omega)\cap{\cal J} = \{{\bf \emptyset}, \{\omega_1,\omega_2,\omega_3 \}, \{\omega_3\},\{\omega_3\}^C \} $$
Mithin ist hier:
$$ {\cal G} = {\bf X}^{-1}({\cal J}) = \{{\bf \emptyset, \Omega}, \{\omega_3,\omega_3^\prime\},\{\omega_3,\omega_3^\prime\}^C \} $$
d.h. ${\cal G} \subset {\cal T}_{\infty} \subset {\cal F}$, wobei es sich jeweils um echte Teilmengen handelt.

\vfill
\eject

\leftline{\mittel \S  3  Eine Anwendung bei nicht symmetrischen Irrfahrten}
\hrule width 14,2 true cm height 2pt
\bigskip \noindent {$\bf \underline {SP\;10\;Bezeichnungen}$}
\smallskip \noindent
\noindent Im gesamten \S  3 seien:
\smallskip
$ \WR $ ein W-Raum $ X_k , k \in \na $ darauf erkl\"arte unabh\"angige und identisch verteilte \smallskip Zufallsgr\"o\3en mit

$${\bf P}(X_k = 1) = {\bf P}(X_k = -1) = p,0<p<1,q:=1-p, S_0 := 0, S_n:= \sum_{k=1}^n X_k, n \in \na.$$

\smallskip \noindent
$A_n$ sei die Anzahl der verschiedenen Elemente in $\{S_1,S_2,\ldots,S_n \} $.
Ziel des Abschnitts ist es $$\lim_{n\to\infty}({1\over n}A_n) = \vert 1-2p \vert \quad \bf P.-f.s.$$
\smallskip \noindent mit Hilfe des Ergodensatzes zu beweisen, der jedoch nur im Beweis von Satz SP 13 ben\"otigt wird.
\bigskip \noindent
Hierzu werden folgende Bezeichnungen eingef\"uhrt. Es seien: \smallskip
$\pi := {\bf P}(\bigcap_{k=1}^{\infty} \{S_k \neq 0 \} ) $ die Wahrscheinlichkeit,da\3 die Folge $ S_1,S_2,S_3,\ldots $ nie nach  \smallskip  Null zur\"uckkehrt.
\smallskip $ R(\omega):=\inf \{ n \in \na \vert S_n(\omega) = 0 \} $ die erste R\"uckkehrzeit nach Null.

\smallskip $ T(\omega):=\inf \{ n \in \na \vert S_n(\omega) = 1 \} $ die Erst\"uberschreitungszeit der Null.

\smallskip F\"ur $ m \in \na $ seien $ p_m:={\bf P}(T = m),\quad \quad q_m:= {\bf P}(R = m) $ und
$$ G(s):= \sum_{m=1}^{\infty}{p_m s^m},\quad \quad  H(s):= \sum_{m=1}^{\infty}{q_m s^m} $$
\smallskip    die zugeh\"origen erzeugenden Funktionen.
\smallskip  $ H(1) $ ist die Wahrscheinlichkeit f\"ur die R\"uckkehr nach Null,d.h.
$$ \pi = 1 - H(1) = {\bf P}(R = \infty).$$
\bigskip


\leftline { $ \bf \underline {SP\;11\;Lemma :} $ }
\def\WU{\sqrt{1-4pqs^2}}       \def\BIK{{2k-2} \choose {k-1}}
\smallskip \noindent Es gilt:
\smallskip
\item {a)} $ G(s) = {1 \over {2qs}}(1- \WU) $
\smallskip
\item {b)} $ H(s) = 2qsG(s) = 1 - \WU $
\smallskip
\item {c)} F\"ur $ k \in \na $ ist $ p_m = 0,\quad {\rm falls} \quad   m = 2k $ und
	   $$ p_m ={1 \over {kq}}{\BIK}(pq)^k ,\quad {\rm falls} \quad	m = 2k-1 $$

\smallskip
\item {d)} F\"ur $ k \in \na $ ist $ q_m = 0,\quad {\rm falls} \quad   m = 2k-1 $ und
	   $$ q_m = {2 \over k}{\BIK}(pq)^k , \quad {\rm falls} \quad m = 2k $$
\smallskip
\item {e)} $ \pi = 1 - H(1) = {\bf P}(R= \infty) = \vert 1-2p \vert $
\smallskip \leftline { $ \bf \underline {Beweis :} $ }
\item {a)}
Offenbar ist $ p_1 = {\bf P}(T = 1) = p $ und $ p_2 = 0 $. F\"ur $ m > 2 $ zerlegen wir das Ereignis $ \{T = m \} $ nach dem Zeitpunkt
$ l $ der ersten R\"uckkehr zum Nullpunkt in disjunkte Ereignisse
$$\eqalign { & \{T=m\} \cr
	     & = \bigcup_{l=2}^{m-1} \{X_1 = -1 \} \cap \{S_1 = -1,S_2 < 0,\ldots,S_l = 0 \} \cap \{S_l = 0,S_{l+1} \leq 0,\ldots,S_m = 1 \} \cr } $$
Wegen der Unabh\"angigkeit der Zuw\"achse folgt hieraus f\"ur die Wahrscheinlichkeiten
$$ p_m ={\bf P}(T = m) = \sum_{l=2}^{m-1} q p_{l-1} p_{m-l} . $$
Multiplikation mit $ s^m $ und Summation \"uber m ergibt:

$$\eqalign { G(s) -ps & = \sum_{m=2}^\infty \sum_{l=2}^{m-1} q p_{l-1} p_{m-l} s^m,   \quad i:= m-1, j:=l-1  \cr
		      & = qs \sum_{i=1}^\infty \sum_{j=1}^{i-1}  p_j p_{i-j} s^i = qs{(G(s))}^2. \cr } $$
\smallskip $ G(s) $ ist also L\"osung von $ qsx^2 - x + ps = 0 $, d.h.
$$ G(s) = {1 \over 2qs}(1 \pm \WU ). $$
\smallskip Wegen $ G(0) = 0 $ scheidet das positive Vorzeichen aus, womit die behauptete Formel \smallskip gezeigt ist.
\bigskip
\item {b)}
Offenbar ist $ q_1 = {\bf P}(R = 1) = 0 $ und $ q_2 = 2pq $. F\"ur $ m > 2 $ ist
$$ \{R = m \} = \{R = m, S_l \leq 0, l = 0,1,2,\ldots,m \} \cap \{R = m, S_l \geq 0, l = 0,1,2,\ldots,m \} $$
und jedem Pfad des ersten Ereignisses entspricht genau ein Pfad des zweiten Ereignisses mit gleicher
Wahrscheinlichkeit (Spiegelungsprinzip = Spiegelung der Pfade an der x-Achse).
\eject \smallskip Daher gilt:

$$\eqalign {q_m={\bf P}(R =m ) & = 2 {\bf P}(R=m,S_l \leq 0, l = 1,2,\ldots,m)	 \cr
			       & = 2 {\bf P}(R=m,S_1 = -1,S_l \leq 0, l = 1,2,\ldots,m) \cr
			       & = 2 {\bf P}(S_1 = - 1) {\bf P}(T = m - 1) = 2qp_{m-1}	\cr } $$
\smallskip und dies bedeutet f\"ur die erzeugenden Funktionen
$$ H(s) = \sum_{m=2}^{\infty} q_m s^m = 2qs \sum_{m=1}^{\infty} p_m s^m = 2qs G(s), $$
\smallskip also $ H(s) = 1 - \WU . $
\bigskip
\item {c)}
\def\BEZ{{1 \over 2} \choose k}
Mit der f\"ur $ \vert x \vert \leq 1 $ g\"ultigen Reihenentwicklung
$$ \sqrt{1-x} = \sum_{k=0}^{\infty}{\BEZ}{{(-1)}^k}{x^k} = 1 - \sum_{k=1}^{\infty}{\BEZ}{{(-1)}^{k-1}}{x^k} $$
ergibt sich
$$\eqalign {G(s) & = {1 \over 2qs} \sum_{k=1}^{\infty}{\BEZ}{{(-1)}^{k-1}}{(4pq)}^k {s^{2k}} \cr
		 & = {1 \over 2q} \sum_{k=1}^{\infty}{\BEZ}{{(-1)}^{k-1}}{2^{2k}}{(pq)}^k {s^{2k-1}}, \cr } $$
d.h. f\"ur $ k = 1,2,3,\ldots $ gilt $ p_{2k} = 0 $ und
$$ p_{2k-1} = {{(-1)}^{k-1} \over{2q}}{\BEZ} 2^{2k} {(pq)}^k = {1 \over {kq}}{\BIK}{(pq)}^k . $$
\item {d)}
Folgt sofort aus der oben hergeleiten Beziehung $ q_m = 2q p_{m-1} $.
\bigskip
\item {e)}
$$ \eqalign { {\bf P}(R < \infty) & = H(1) = 1 - \sqrt{1-4pq} \cr
				  & = 1 - \sqrt{1-4p(1-p)} = 1	- \sqrt{{(1-2p)}^2} \cr
				  & = 1 - \vert 1 - 2p \vert, \cr } $$
also $ \pi = 1 - H(1) = {\bf P}(R = \infty) = \vert 1 - 2p \vert. $
\eject

\leftline { $ \bf \underline {SP\;12\;Lemma :} $ }

$$\lim_{n\to\infty}{\bf E}({1\over n}A_n) = \pi $$

\smallskip \leftline { $ \bf \underline {Beweis :} $ }
\smallskip \noindent
Es sei $ V_1:=1 $ und f\"ur $ 1 < k \in \na $:
$$ V_k := \cases{ 1 & falls  $ S_k \neq S_j $ f\"ur $ j \leq {k-1} $ \cr
		  0 & sonst \cr } $$
$ V_k $ ist also genau dann 1, wenn $ S_k $ einen "neuen Wert" annimmt, d.h.
$$ A_n = \sum_{k=1}^n V_k .$$
F\"ur $ k > 1 $ ist:
$$ \eqalign {{\bf E}(V_k) & = {\bf P}(V_k = 1) \cr
			 & = {\bf P}(S_k - S_{k-1} \neq 0,S_k - S_{k-2} \neq 0,\ldots,S_k - S_2 \neq 0,S_k - S_1 \neq 0) \cr
			 & = {\bf P}(X_k \neq 0,X_k + X_{k-1} \neq 0,\ldots,X_k + X_{k-1} + \cdots + X_2 \neq 0). \cr } $$
Da $ {\cal L}((X_k,X_{k-1},\ldots,X_3,X_2)) = {\cal L}((X_1,X_2,\ldots,X_{k-3},X_{k-1})) $ gilt, kann man auch schreiben:
$$ \eqalign {{\bf E}(V_k) & = {\bf P}(X_1 \neq 0,X_1 + X_2 \neq 0, \ldots, X_1 + X_2 + \cdots + X_{k-1} \neq 0) \cr
			  & = {\bf P}(\bigcap_{n=1}^{k-1} \{S_n \neq 0 \}), \cr } $$
und dies ist die Wahrscheinlichkeit daf\"ur, da\3 keine R\"uckkehr in den ersten $ k - 1 $ Schritten erfolgt.  Aus
$$ \bigcap_{n=1}^{k-1} \{S_n \neq 0 \}	\downarrow  \bigcap_{n=1}^{\infty} \{S_n \neq 0 \} \qquad{\rm folgt} \qquad \lim_{k \to \infty} {\bf E}(V_k) = \pi. $$
Hieraus ergibt sich sofort (Abelsummation):
$$ \lim_{k \to \infty} {\bf E}({1 \over n} A_n) = \pi. $$
\bigskip

\leftline { $ \bf \underline {SP\;13\;Satz :} $ }

$$\lim_{n\to\infty}({1\over n}A_n) = \pi = \vert 1-2p \vert \quad \bf P.-f.s.$$

\smallskip \leftline { $ \bf \underline {Beweis :} $ }
Es seien:
$$ \underline {A} := \liminf_{n\to\infty}({1\over n}A_n) \qquad {\rm und} \qquad \bar A := \limsup_{n\to\infty}({1\over n}A_n). $$
\eject
\item{\underbar {Beh.1:}}
$$ \bar A = \limsup_{n\to\infty}({1\over n}A_n) \leq \pi  \quad \bf P.-f.s.$$
\def\ZET#1{{\bf Z}_{#1}^{(N)}}
\item{\underbar {Bew.1:}} Es seien $ N \in \na, k \in \na $ und  $ \ZET k $ die Anzahl der verschiedenen Elemente von
$$ \{ S_{(k-1)N + 1},S_{(k-1)N + 2}, \ldots,S_{(k-1)N + N-1}, S_{kN} \}. $$
Insbesondere ist also $ \ZET 1 = A_N .$
$ \ZET k $ h\"angt nur von den unabh\"angigen und identisch verteilten Bl\"ocken
$ (X_{(k-1)N+1},X_{(k-1)N+2},\ldots,X_{(k-1)N+N-1},X_{kN}) $
ab, d.h. f\"ur festes $ N \in \na $ sind die $ ({\ZET k})_{k \in \na} $ unabh\"angig und identisch verteilt.
Ferner gilt offenbar f\"ur jedes $ m \in \na :$
$$ A_{mN} \leq {\ZET 1} + {\ZET 2} + \cdots + {\ZET {m-1}} + {\ZET m}. $$
Aus dem Gesetz der gro\3en Zahlen folgt daher zun\"achst:
$$ \limsup_{n\to\infty}({1\over {mN}}A_{mN}) \leq {1 \over N} \lim_{m \to \infty} ({1 \over m} \sum_{k=1}^m {\ZET k})
	    = {1 \over N} {\bf E}({\ZET 1}) = {\bf E}({1 \over N} A_N). $$
F\"ur ein beliebiges $ n \in \na $ gilt weiter $ n = m N + k $ mit $ m \in \na {\rm und} \; 0 \leq k < N $ sowie $$ A_{m N} \leq A_n < A_{m N} + N.$$
Mithin ist
$$ {{A_n} \over n} \leq {{A_{m N} + N} \over n} \leq {{A_{m N} + N} \over {m N}} = {1 \over {m N}} A_{m N} + {1 \over m}. $$
F\"ur festes $ N $ bedeutet $ n \to \infty $ auch $ m \to \infty $, d.h.
$$ \bar A = \limsup_{n\to\infty}({1\over n}A_n) \leq \limsup_{m\to\infty}({1\over{m N}}A_{m N}) \leq {\bf E}({1 \over N} A_N) $$
jeweils $  \quad \bf P.-f.s. $. \smallskip
\item { } L\"a\3t man nun $ N \to \infty $ gehen, so folgt mit SP 12: ${\bar A} \leq \pi  \quad \bf P.-f.s.$.
\smallskip \item{\underbar {Beh.2:}} $ \pi \leq {\bf E}(\underline{A}) $
\smallskip \item{\underbar {Bew.2:}}  Es sei f\"ur $ k \in \na $ :
$$ W_k := \cases{ 1 & falls  $ S_k \neq S_j $ f\"ur alle $ j>k $ \cr
		  0 & sonst \cr } $$
$ W_k $ ist also genau dann 1, wenn der Wert von  $ S_k $ nie wieder angenommen wird. Mithin ist
$ W_1 + W_2 + \cdots + W_{n-1} + W_n $
die Anzahl der von
$ S_1, S_2, \ldots , S_{n-1}, S_n $
besuchten ganzen Zahlen, die nie wieder besucht werden. Daher gilt:
$ {A_n} \geq W_1 + W_2 + \cdots + W_{n-1} + W_n \; .$
\eject

Wir zeigen $ \pro W $ ist ein station\"arer Proze\3. \smallskip \item { }
Es seien  $ {\bf X} : \Omega \to {\re}^{\na} $ gegeben durch $ \omega \mapsto {\fettx},$
\smallskip \item { } $ {\bf T}: {\re}^{\na} \to {\re}^{\na} $ der Shift auf $ {\re}^{\na}, $
\smallskip \item { } $ \WsR := ({\re}^{\na},{\cal B}^{\na},{\bf PX}^{-1}) $ und
\smallskip \item {} $ Y: {{\bf \Omega^\prime} \to \re} $ erkl\"art durch: f\"ur $ (x_1,x_2,x_3,\ldots ) \in {\bf \Omega^\prime} = {\re}^{\na} $ ist
$$ Y(x_1,x_2,x_3,\ldots):= \cases{ 1 & falls  $ x_2 \neq 0,x_2 + x_3 \neq 0, x_2 + x_3 + x_4 \neq 0, \ldots $  \cr
				   0 & sonst \cr } $$
\smallskip \item {} Dann ist:
$$ Y \circ {\bf T}^{k-1} \circ{\bf X} = Y(X_k,X_{k+1},X_{k+2}\ldots) = W_k $$
und $ \pro W $ nach SP 3 somit station\"ar.
\smallskip \item { } Ferner ist:
$$ \eqalign {{\bf E}(W_1) & = {\bf P}(W_1 = 1) = {\bf P}(X_2 \neq 0,X_2 + X_3 \neq 0,X_2 + X_3 + X_4 \neq 0,\ldots) \cr
			  & = {\bf P}(X_1 \neq 0,X_1 + X_2 \neq 0,X_1 + X_2 + X_3 \neq 0,\ldots ) = \pi. \cr } $$
Mithin folgt aus dem Ergodensatz
$$\lim_{n \to \infty}({1 \over n} \sum_{k=1}^n W_k ) =: W \quad {\bf P.-f.s.} \quad {\rm mit } \quad {\bf E}(W) = {\bf E}(W_1) = \pi. $$
\smallskip \item {} Wegen
$ {A_n} \geq W_1 + W_2 + \cdots + W_{n-1} + W_n \; $
folgt hieraus $ \underline{A} \geq W $ bzw. $ {\bf E}(\underline{A}) \geq \pi. $
\bigskip \item{\underbar{Beh.3:}} $ {\underline{A}} = {\bar A} = \pi \quad \bf P.-f.s. $
\bigskip \item{\underbar{Bew.3:}} Aus $ {\underline{A}} \leq {\bar A},\; {\bar A} \leq \pi \quad \bf P.-f.s. $ (s. Beh.1) und
$ \pi \leq {\bf E}(\underline{A}) $ (s.Beh.2) folgt \smallskip \item { }  $ \pi = {\bf E}(\underline{A}) = {\bf E}(\bar A),$ d.h.
$$ {\bf E}\underbrace{(\bar{A} - \underline {A})}_{\geq 0} = 0 = {\bf E}\underbrace{(\pi - \bar{A})}_{\geq 0} $$
und somit $ \underline{A} = \bar{A} = \pi \quad \bf P.-f.s. $.
\smallskip \noindent Damit ist der Satz bewiesen.


\end
