Statistik / Normalverteilungen

[Seingalt]

Hallo zusammen,

ich benötige dringend Hilfe bei einer Reihe von Aufgaben zu meiner Statistik-Vorlesung.

Gegeben:
Z=(X,Y) ein Zufallsvektor. X sei normalverteilt mit Erwartungswert 1 und Varianz 1. Die bedingte Verteilung von Y gegeben X=x sei ebenfalls normal mit E[Y|X=x]=2x und Var(Y|X=x)=4.

Gesucht sind
a) der Erwartungswert,
b) die Dichte,
c) die Kovarianzmatrix und
d) die charakteristische Funktion
von Z. Sowie
e) die bedingte Verteilung von X gegeben Y=y.

Meine WT-Vorlesung ist leider drei Semester her und ich habe noch nie mit bedingten Verteilungen gearbeitet.

Wir wurden an ein Analogon zum Satz von Bayes "erinnert". Demnach kann ich die Dichte von Z einfach als Produkt der Dichte von X mit der bedingten Dichte von Y gegeben X bestimmen.

Mit der gemeinsamen Dichte erhalte ich theoretisch auch die Dichte von Y durch Integration.
Leider sind die auftretenden Exponentialfunktionen nicht grad unkompliziert: selbst Wolframalpha kapituliert. Ich kann mir also nicht vorstellen, dass das hier gefordert ist.

Darum vermute ich, dass man die Aufgabe leichter durch "scharfes Hinsehen" lösen kann - der Erfolg blieb mir leider bisher verwehrt.

Kann mich jemand etwas an die Hand nehmen?


Gruß,
Seingalt

 

[FORYOUITERRA]

keine ahnung wie genau ihr die lösungen herleiten müsst, aber die erste geht nicht um normalverteilung sondern viel mehr um das law of iterated expectation (http://en.wikipedia.org/wiki/Law_of_total_expectation):
E(Y) = E(E(Y|X))
hier also
E(Y) = E(E(Y|X)) = E(2X) = 2.

dann brauchst du noch kovarianzmatrix für die dichtefunktion. dafür zuerst die
varianz von Y nach anwendung des oben genannten laws auf die varianz (http://en.wikipedia.org/wiki/Law_of_total_covariance) , i.e.:

var(X) = E(var(X|Y)) + var(E(X|Y))

hier also:
var(Y) = E(var(Y|X)) + var(E(Y|X))
= E(4) + var(2X) = 4 + 4 = 8


dann brauchen wir noch die cov(X,Y):
dafür schaust du nochmal auf wikipedia nach http://de.wikipedia.org/wiki/Mehrdimensionale_Normalverteilung
da steht sicherlich irgendwo, dass, wenn (X,Y) ~ N(mu,SIGMA)
dann gilt

E(Y|X) = E(Y) + cov(X,Y)/var(X)*(X-E(X))

welches hier identisch zu 2X sein muss, also:

2+cov(X,Y)*(X-1)=2X => cov(X,Y)= 2

somit hast du die covarianzmatrix. einfach in die formel einsetzen für die dichte (auf der wiki seite steht sie auch noch mal explizit für den bivariaten fall (für den zentrierten fall), roh = cov(X,Y)/(sqrt(var(X))*sqrt(var(Y)))).

dann: bedingte verteilung von X|Y ist normalverteilt mit mittelwert
E(X|Y) = E(X) + cov(X,Y)/var(Y) (Y-E(Y))
und varianz
Var(X|Y) = var(X) - cov(X,Y)^2/var(Y)

charakteristische funktion von Z= (X,Y) lautet
phi(s,t) = exp(i*(sE(X)+tE(Y)) - 1/2* (s^2*var(X) + 2*s*t*cov(X,Y) + t^2*var(Y))).
siehe
http://www.mathematik.uni-ulm.de/stochastik/lehre/ws05_06/statistik2old/skript/node11.html


edit: falls unklar ist, warum Z=(X,Y) auch normalverteilt ist (gilt das immer? bring das mal für mich in erfahrung. den allgemeinen fall durchzurechnen macht keinen spaß.): sei f(x,y) die gemeinsame dichtefunktion von Z.
dann gilt f(x,y)= f(y|x)f(x) = 1/(4pi)exp(- ((x-1)^2 -1/2(x-1)(y-2)+ (y-2)^2/8))
wobei ausgenutzt wurde, dass X~N(1,1) und Y|x~N(2x,4).
das entspricht aber genau der dichtefunktion der bivariat normalverteilten zufallsvariable Z=(X,Y).

 

[Seingalt]

Wow, danke für die super (und super schnelle) Hilfe!
Ein paar Sachen sind mir klar, ein paar Fragen bleiben. Ich poste morgen nochmal, wenn ich Zeit hatte, alles durchzugehen.

Da muss ich mich in der Tat mal richtig hinterklemmen und einiges aufholen...

Offiziell setzt die Statistik-Vorlesung nur W-Theorie 1 voraus. Der Übungsleiter hatte allerdings darauf hingewiesen, dass das an der Realität vorbeigeht, weil gute Kenntnisse im Stoff der W-Theorie 2 benötigt werden - die fehlen mir leider.

Bist Du denn Mathematiker?
Und hast Du zufällig ne gute Literatur-Empfehlung?
Es gibt leider kein Skript zur Vorlesung und die meisten Bücher scheinen sich eher an Studierende anderer Fächer zu richten.


[edit]
Den oberen Teil hab ich glaub ich gut verstanden. Habe ein WT2-Skript vor mir. Da findet sich das "Law of total Expectation" sogar in etwas allgemeinerer Form.
Das über die Varianz kann man daraus direkt ableiten.

Hier kann ich nicht ganz folgen:

dann brauchen wir noch die cov(X,Y):
dafür schaust du nochmal auf wikipedia nach http://de.wikipedia.org/wiki/Mehrdimensionale_Normalverteilung
da steht sicherlich irgendwo, dass, wenn (X,Y) ~ N(mu,SIGMA)
dann gilt

E(Y|X) = E(Y) + cov(X,Y)/var(X)*(X-E(X))

welches hier identisch zu 2X sein muss, also:

2+cov(X,Y)*(X-1)=2X => cov(X,Y)= 2

Weiß ich denn schon, dass Z normalverteilt ist?
Allgemein folgt ja nur aus Z normalverteilt => X, Y normalverteilt, aber nicht umgekehrt, nicht wahr?
Genau genommen kenn ich ja nicht mal die Verteilung von Y.

Ich könnte vielleicht erstmal die gemeinsame Dichte aus der Bayesformel für Dichten herleiten (einfach die Dichte von X mit der von Y|X multiplizieren) und dann kucken, ob ich es in die Form der Dichte einer bivariatne Normalverteilung umgeschrieben kriege.
Falls das passt, folgt daraus auch, dass Y normalverteilt ist.

 

[FORYOUITERRA]

nein, du weißt an der stelle noch nicht, dass Z=(X,Y) normalverteilt ist (frag mal bitte dennoch nach ob es ganz allgemein schon hinreichend ist, wenn die randverteilung von X normalverteilt und die bedingte verteilung von Y gegeben X normalverteilt ist, dass dann auch X,Y gemeinsam normalverteilt sind.).

das war die natürliche ratelösung. später dann zeigen, dass Z tatsächlich normalverteilt war, und alles ist in butter (check das selbst nochmal mit dem ausmultiplizieren der dichtefunktionen f(x)f(y|x)).
kann man das nicht zeigen, dann hat man ein problem, kann man das zeigen, dann ist es eine lösung und kein problem.
mir ist unklar was bayes da soll. ist nur die formel der bedingten dichtefunktionen.

allgemeiner geht es wiederum mit dem law of iterated expectation:
es gilt cov(X,Y)= E((X-E(X))(Y-E(Y))= E(XY)-E(X)E(Y) = E(XE(Y|X)) - E(X)E(Y) = E(2X^2)-E(X)E(Y) = 2*2-1*2 = 2
da var(X) = E(X^2)-E(X)^2 => E(X^2)= 2.


edit: also die stumpfe herangehensweise an die aufgabe wäre gewesen:
1. berechne erwartungswert von Y
2. berechne varianz von Y
3. berechne covariance von X und Y und schreibe die covariance matrix auf
4. berechne f(x,y) = f(x)f(y|x) und stelle fest, dass die verteilung einer bivariaten normalverteilung entspricht (hätte man mit den angaben in der aufgabe auch als erstes machen können und dann direkt die univariaten momente ablesen können ohne zusätzliche berechnungen zu machen, aber ist gefährlicher, da man sich doch recht schnell vertut beim ausmultiplizieren und erweitern.)
der rest der aufgabe folgt dann aus der feststellung, dass die dichte von (X,Y) derjenigen einer multivariaten normalverteilungsdichte entspricht. (womit alle bedingten verteilungen normalverteilt sind und auch die form der charakteristischen funktion bekannt ist)

 

[Seingalt]

das war die natürliche ratelösung. später dann zeigen, dass Z tatsächlich normalverteilt war, und alles ist in butter (check das selbst nochmal mit dem ausmultiplizieren der dichtefunktionen f(x)f(y|x)).
kann man das nicht zeigen, dann hat man ein problem, kann man das zeigen, dann ist es eine lösung und kein problem.
mir ist unklar was bayes da soll. ist nur die formel der bedingten dichtefunktionen.

Ja, da hab ich mich getäuscht. Ich wusste nicht, dass man die bedingte Dichte so definieren kann. Dachte, das geht irgendwie über bedingte Erwartungen oder so, etwas komplizierter, keine Ahnung.^^
Hab auch heute nochmal ein Buch in der Hand gehabt, wo es genau so definiert wurde. Da wird auch auf ganz ähnliche Weise eine Ad-hoc-Definition der bedingten Erwartung verwendet, während das in dem WT2-Skript, das ich benutze, viel abstrakter gemacht wird (siehe "formale Definition" bei Wikipedia).

Habe auch erst jetzt den Edit deines ersten Beitrags gesehen.
In der Tat hat Dein Ansatz zum Erfolg geführt: Die Dichtefunktion, die man aus der "mutmaßlichen" Kovarianzmatrix errechnet, stimmt mit der gemeinsamen Dichte überein, die ich als Produkt der Dichte von X mit der von Y|X erhalte.
Super!

Morgen ist wieder Übung, da werd ich mal nachfragen, ob man die Normalverteiltheit von Z auch anders schulssfolgern kann.

Vielen Dank nochmal für Deine außerordentlich gute und schnelle Hilfe!