Die Varianz von Mittelwerten

Der Erwartungswert einer Zufallszeitreihe $X_{i}$ ist definiert als

$$E[X] = \sum\limits_{i=1}^{\infty}x_{i}\,p_{i}.$$ (58)

Dabei ist $p_{i}$ die Wahrscheinlichkeit dafür, zum Zeitpunkt $i$ den Wert $x_{i}$ vorzufinden. Man kann damit leicht zeigen, daß

$$E[a\,X] = a\,E[X]$$ (59)

ist, also insbesondere auch

$$E\left[E[X]\,X\right] = E[X] \,E[X].$$ (60)

Falls eine Zufallszeitreihe stationär ist, vereinfacht sich Glg. (58) zu

$$E[X] =\lim\limits_{N\to\infty}\frac{1}{N} \sum\limits_{i=1}^{N}x_{i},$$ (61)

da die stationäre Wahrscheinlichkeitsverteilung dann durch die Realisationen gegeben ist. Der Mittelwert über $N$ Werte einer beliebigen Zeitreihe $x_{i}$ kann angegeben werden durch

$$\overline{x}^{N}=\frac{1}{N}\sum\limits_{i=1}^{N} x_{i}.$$ (62)

Stammt die Zeitreihe nun aus einem stationären Rauschen, so konvergiert dieser Ausdruck für große $N$ gegen den Erwartungswert des Rauschens. Für kleine Werte von $N$ wird $\overline{x}^{N}$ aber noch erheblichen Schwankungen unterworfen sein können. Diese gilt es nun formal zu erfassen. Dazu werden zunächst die Definitionen der Varianz $\mbox{var}[X]$ und der Kovarianz $\mbox{cov}[X]$ gegeben und jeweils in für die Anwendung sinnvolle Formen gebracht. Die Varianz ist definiert als

$$\mbox{var}[X] = E\left[(X-E[X])^{2}\right].$$ (63)

Daraus folgt mit den oben angegebenen Regeln für Erwartungswerte

$$\mbox{var}[X] = E\left[X^{2}\right] - E[X]^{2}.$$ (64)

Mit der Definition der Varianz und den Regeln für Erwartungswerte kann man zeigen, daß für jede reelle Zahl $a$ gilt

$$\mbox{var}[a\,X] = a^{2}\,\mbox{var}[X].$$ (65)

Die Kovarianz ist definiert als

$$\mbox{cov}[X_{i},X_{j}] = E\left[(X_{i}-E[X_{i}])\,(X_{j}-E[X_{j}])\right],$$ (66)

woraus mit den oben angegebenen Regeln für Erwartungswerte folgt

$$\mbox{cov}[X_{i},X_{j}] = E\left[X_{i}\,X_{j}\right] - E\left[X_{i}\right] E\left[X_{j}\right].$$ (67)

Nun soll der Erwartungswert des Mittels einer Zeitreihe aus stationärem Rauschen mit dem Erwartungswert $\mu$ betrachtet werden. Es gilt

$$E\left[\overline{x}^{N}\right] = E\left[\frac{1}{N}\sum\l... ... \frac{1}{N}\sum\limits_{i=1}^{N} E\left[x_{i}\right] = \mu.$$ (68)

Mit diesen ausführlichen Betrachtungen ist man nun in der Lage, die Varianz des Mittelwerts über die Kovarianz der Zeitreihenwerte zu formulieren. Für die Varianz des Mittelwerts folgt durch Einsetzen von Glg. (62) in Glg. (64)

$$\mbox{var}\left[\frac{1}{N}\sum\limits_{i=1}^{N} x_{i}\righ... ...E\left[\sum\limits_{j=1}^{N} x_{j}\right]}_{\beta} \right\}.$$ (69)

Nun ist

$$\beta =\left(\sum\limits_{i=1}^{N}E[x_{i}]\right)\, \left(\sum\limits_{j=1}^{N}E[x_{j}]\right)\,$$ (70)

und

$$\begin{array}{rcl} \alpha & = & E\left[ \sum\limits_{i=1}... ...imits_{j=1}^{N}\, E\left[x_{i}\,x_{j} \right]. \end{array}$$ (71)

Nach Glg. (67) folgt daraus wiederum

$$\begin{array}{rcl} \alpha & = & \sum\limits_{i=1}^{N}\sum\... ...its_{j=1}^{N}\,\mbox{cov}[x_{i},x_{j}] + \beta. \end{array}$$ (72)

Damit folgt für die Varianz der Mittelwerte die gesuchte Gleichung

$$\mbox{var}\left[\frac{1}{N}\sum\limits_{i=1}^{N} x_{i}\righ... ...}^{N}\sum\limits_{j=1}^{N}\,\mbox{cov}[x_{i},x_{j}]\right).$$ (73)