Ein Beispiel zum Vergleich von ML- und Bayes-Schätzer

Gegeben sei ein Bernoulli-Experiment, d.h. ein Zufallsexperiment mit zwei möglichen Ausgängen. Solche Experimente, für die der Münzwurf Pate stehen muß, sind bei weitem nicht so unrealistisch, wie mancher hoffen mag. Die beiden Ausgänge des Experiments können durch $0$ und $1$ charakterisiert werden. Die $0$ kann dann für das Nichteintreten eines Ereignisses, die $1$ für dessen Eintreten stehen. Ereignisse können z.B. Treffer bei der Wettervorhersage sein, Vulkanausbrüche, Tornados, aber auch Über- bzw. Unterschreitungen von Schwellen bei beliebigen kontinuierlichen Variablen sein. Aus der Beobachtung solcher Variablen möchte man dann die Eintrittswahrscheinlichkeit $p$ für das Ereignis $1$ schätzen. Für die Wahrscheinlichkeitsdichten muß $f(0)+f(1)=1$ gelten. Mit $f(1)=p$ folgt daraus sofort $f(0)=1-p$. Weiter gilt aber auch $1=p^{0}=(1-p)^{0}$. Damit kann man die sogenannte Bernoulli-Verteilung definieren:

$$f(x)=p^{x}\,(1-p)^{1-x}, \mbox{ f\uml {u}r } x=0,1.$$ (8)

Da diese Verteilung von dem (einen) Parameter $p$ abhängt, wird eine Realisation $x_{1}$ mit der Wahrscheinlichkeit $f(x\vert p)$ den Wert $x$ haben. Nun betrachten wir eine Versuchsreihe mit $n=10$ Realisationen: $(1,0,1,1,0,1,1,1,1,0)$. Daraus soll der Parameter $p$ möglichst gut geschätzt werden. Zunächst verwenden wir dazu den ML-Schätzer.