Q: (Folie 3) Was ist das Ziel der einfachen linearen Regression?
Kriterium (y) soll möglichst präzise vorhergesagt werden.
Grundlage der Vorhersage ist ein Prädiktor (x).
Q: (Folie 3) Welche Rollen haben Prädiktor und Kriterium?
Prädiktor (x): Variable, mit der vorhergesagt wird.
Kriterium (y): Variable, deren Wert vorhergesagt werden soll.
Q: (Folie 3) Welche Form hat das Regressionsmodell?
Die vorhergesagten Werte werden durch die Gerade beschrieben:
Q: (Folie 4) Was beschreibt ein Residuum?
Ein Residuum ist die Abweichung zwischen
beobachtetem Wert y_i
vorhergesagtem Wert \hat y_i
Q: (Folie 4) Wo liegen die vorhergesagten Werte der Regression?
Alle vorhergesagten Werte \hat y_i liegen exakt auf der Regressionsgeraden.
Die tatsächlichen Messwerte können ober- oder unterhalb der Geraden liegen.
Q: (Folie 4) Nach welchem Prinzip wird die optimale Regressionsgerade bestimmt?
Mit der Methode der kleinsten Quadrate.
Ziel:
Die Residuenquadratsumme soll möglichst klein sein.
Q: (Folie 4) Warum werden die Residuen quadriert?
Die Gerade wird so gewählt, dass
die Summe aller quadrierten Residuen
also die Residuenquadratsumme
minimal wird.
Q: (Folie 5) Wie wird die Steigung b bestimmt?
Die optimale Steigung ergibt sich aus der Formel
Q: (Folie 5) Wie wird der Achsenabschnitt a berechnet?
Nachdem die Steigung bestimmt wurde:
Q: (Folie 5) Welche zusätzliche Information gibt die Folie zur Steigung?
Die Folie weist darauf hin:
Es gibt eine alternative Formel
Diese basiert auf Korrelation und Varianzen
Sie wird auf späteren Folien eingeführt.
Q: (Folie 6) Wie wird der Achsenabschnitt (Intercept) interpretiert?
Der Achsenabschnitt a ist der vorhergesagte Wert des Kriteriums y, wenn
Q: (Folie 6) Warum ist der Achsenabschnitt in der Psychologie häufig schwer interpretierbar?
Für viele psychologische Prädiktoren (z. B.)
Intelligenz
Alter
ist ein Wert von 0 nicht sinnvoll interpretierbar.
Dadurch besitzt auch der Achsenabschnitt häufig keine sinnvolle inhaltliche Bedeutung.
Q: (Folie 6) Wie wird der Achsenabschnitt im Beispiel interpretiert?
Regressionsgleichung:
Bedeutung:
Liegt beim neuen Test ein Wert von 0 vor,
→ wird beim Standardtest ein Wert von 10,66 vorhergesagt.
Q: (Folie 7) Was beschreibt die Steigung b?
Die Steigung b gibt an,
um wie viele Einheiten sich der vorhergesagte Wert \hat y verändert, wenn sich der Prädiktor x um eine Einheit erhöht.
Q: (Folie 7) Wie lautet die mathematische Interpretation der Steigung?
Erhöht sich der Prädiktor von
x
auf
x+1
dann beträgt die Veränderung des vorhergesagten Wertes
b
Die Differenz der vorhergesagten Werte entspricht also genau der Steigung.
Q: (Folie 7) Wie wird die Steigung im Beispiel interpretiert?
Unterscheiden sich zwei Personen im neuen Test um eine Einheit,
→ unterscheiden sich ihre vorhergesagten Werte im Standardtest um
0,4683 Einheiten.
Q: (Folie 8) Wie hängen Steigung b und Korrelation r zusammen?
Die Steigung ist direkt proportional zur Korrelation.
Positive Korrelation → positive Steigung
Negative Korrelation → negative Steigung
Q: (Folie 8) Warum ist die Steigung kein standardisiertes Zusammenhangsmaß?
Die Steigung hängt von den
Standardabweichungen des Prädiktors
Standardabweichungen des Kriteriums
ab.
Sie ist deshalb nicht invariant gegenüber Lineartransformationen.
Q: (Folie 8) Wie lautet die Beziehung zwischen Steigung und Korrelation?
Die Steigung ergibt sich aus
Korrelation
Standardabweichung des Kriteriums
Standardabweichung des Prädiktors
Q: (Folie 9) Warum werden Beta-Gewichte verwendet?
Durch die Standardisierung von
Prädiktor z_x
Kriterium z_y
wird die Abhängigkeit der Steigung von den Messeinheiten beseitigt.
Q: (Folie 9) Wie lautet das Regressionsmodell mit standardisierten Variablen?
Dabei ist
A: Achsenabschnitt
B: standardisierte Steigung (Beta-Gewicht)
Q: (Folie 9) Welchen Wert besitzt der Achsenabschnitt bei z-standardisierten Variablen?
Bei einer Regression mit z-standardisierten Variablen gilt immer:
A=0
Q: (Folie 9) Was ist das Beta-Gewicht?
Das Beta-Gewicht (B) ist die
standardisierte Steigung
der Regressionsgeraden.
Q: (Folie 10) Welche Beziehung besteht zwischen Beta-Gewicht und Korrelation?
Bei einer einfachen linearen Regression gilt:
B=r
Das Beta-Gewicht ist identisch mit der Korrelation zwischen beiden Variablen.
(Folie 10) Warum gilt B=r?
Weil bei z-standardisierten Variablen
s_{zx}=1
s_{zy}=1
und die Korrelation gegenüber linearen Transformationen invariant ist.
Q: (Folie 11) Wie kann die Korrelation in der einfachen Regression interpretiert werden?
Die Korrelation beschreibt die
erwartete Veränderung des z-standardisierten Kriteriums, wenn sich der Prädiktor um eine Standardabweichung erhöht.
Q: (Folie 11) Was verdeutlicht die Grafik zu Beta-Gewicht und Korrelation?
Die Grafik zeigt:
Dabei gilt:
A = 0
B = 0,88 (= Korrelation)
Q: (Folie 12) Was beschreiben Regressionsresiduen?
Regressionsresiduen beschreiben die Abweichung der beobachteten Werte von den vorhergesagten Werten.
Formel:
Q: (Folie 12) Welche zwei Eigenschaften besitzen Residuen bei der Kleinste-Quadrate-Schätzung?
Die Kleinste-Quadrate-Schätzung impliziert:
Die Summe aller Residuen ist Null.
Die Korrelation zwischen Prädiktor und Residuum ist Null.
Q: (Folie 12) Welche Formel beschreibt die erste Eigenschaft der Residuen?
Die Summe aller Residuen beträgt:
Q: (Folie 12) Welche Formel beschreibt die zweite Eigenschaft der Residuen?
Zwischen Prädiktor und Residuum besteht keine Korrelation:
r_{xe}=0
Q: (Folie 12) Warum gelten diese beiden Eigenschaften immer?
Sie entstehen direkt aus dem Konstruktionsprinzip der Methode der kleinsten Quadrate.
Sie gelten daher immer, wenn die Regressionsgerade mit dieser Methode geschätzt wurde.
Q: (Folie 13) Was beschreibt der Standardschätzfehler?
Der Standardschätzfehler beschreibt,
wie stark die Datenpunkte in y-Richtung um die Regressionsgerade streuen.
Er ist somit ein Maß für die Schwankungsbreite der Residuen.
Q: (Folie 13) Wie wird der Standardschätzfehler berechnet?
(Folie 13) Warum wird durch n-2 dividiert?
Weil zwei Freiheitsgrade verloren gehen, da
Achsenabschnitt a
Steigung b
aus den Daten geschätzt werden.
Dadurch entsteht eine erwartungstreue Schätzung des Populationsparameters.
Q: (Folie 13) Wofür ist der Standardschätzfehler ein Maß?
Er ist ein Maß für die
Schwankungsbreite der Residuen.
Q: (Folie 14) Wie lautet die alternative Formel für den Standardschätzfehler?
Ohne Berechnung der einzelnen Residuen:
Q: (Folie 14) Warum ist der Standardschätzfehler wichtig?
Er ist ein Gütemaß für die
Genauigkeit der Regressionsvorhersage.
Q: (Folie 14) Wie verändert sich die Vorhersagegenauigkeit mit dem Standardschätzfehler?
Je kleiner der Standardschätzfehler,
→ desto genauer ist die Regressionsvorhersage.
Q: (Folie 15) Welche Ausgangsfrage beantwortet der Determinationskoeffizient?
Er beantwortet die Frage:
Wie gut gelingt es, mit der Regressionsgleichung Vorhersagen zu treffen?
Q: (Folie 15) Welches Prinzip liegt dem Determinationskoeffizienten zugrunde?
Das Prinzip der Variationszerlegung.
Die Gesamtvariation von y wird zerlegt in:
aufgeklärte Variation
nicht aufgeklärte Variation
Q: (Folie 15) Was misst der Determinationskoeffizient?
Er misst den
Anteil der Gesamtvariation in y, der durch den Prädiktor x erklärt werden kann.
Q: (Folie 16) Wie wird die Gesamtvariation zerlegt?
Q: (Folie 16) Wie wird der Determinationskoeffizient definiert?
Er beschreibt:
aufgeklärte Variation / gesamte Variation
Q: (Folie 17) Wie wird R^2 noch bezeichnet?
Bestimmtheitsmaß
Determinationskoeffizient
Q: (Folie 17) Wie lässt sich R^2 prozentual interpretieren?
Multipliziert man
R^2 * 100%
erhält man den prozentualen Anteil der Variation von y, der durch x erklärt werden kann.
Q: (Folie 17) Welchen Wertebereich besitzt R^2?
Im Gegensatz zur Korrelation ist R^2 immer positiv.
Q: (Folie 17) Wie wird die Größe von R^2 interpretiert?
A:
Je weiter R^2 von 0 entfernt ist,
→ desto höher ist die Schätzgenauigkeit des Regressionsmodells.
Q: (Folie 17) Welche Beziehung besteht zwischen R^2 und der Korrelation?
Es gilt:
Der Determinationskoeffizient entspricht der quadrierten Korrelation zwischen beobachteten und vorhergesagten Werten.
Q: (Folie 17) Welche Einschränkung nennt die Vorlesung für R^2?
Der Determinationskoeffizient
überschätzt den Populationswert.
Der korrigierte (adjusted) Determinationskoeffizient liefert eine bessere Schätzung für den Populationswert.
Q: (Folie 18) Wie lautet das Regressionsmodell in der Population?
Die Regression von y auf x wird beschrieben durch:
Dabei ist:
α: Achsenabschnitt der Population
β: Steigung der Population
bezeichnet den
bedingten Erwartungswert von y an der Stelle x
bzw. den Populationsmittelwert von y an einer bestimmten Stelle von x.
Q: (Folie 18) Warum streuen die Werte auch in der Population um die Regressionsgerade?
Die Werte werden durch einen Fehlerterm \varepsilon beeinflusst.
Deshalb gilt:
Q: (Folie 18) Welche Eigenschaft besitzt der Fehlerterm?
Der Fehlerterm besitzt an jeder Stelle von x den Erwartungswert
Q: (Folie 18) Was beschreibt die Varianz
Sie beschreibt die
Stärke der Streuung der y-Werte um die Populationsgerade.
Q: (Folie 18) Welche Beziehung besteht zwischen den beiden Regressionsgleichungen?
Die Vorlesung betont:
Die Gleichungen
und
sind äquivalent.
Q: (Folie 19) Welche Beziehung besteht zwischen Stichprobe und Population?
Die Regressionskoeffizienten
a
sind Schätzer der Populationsparameter
α
β
Q: (Folie 19) Warum unterscheiden sich die Regressionskoeffizienten zwischen Stichproben?
Die Werte von a und b
variieren von Zufallsstichprobe zu Zufallsstichprobe.
Dadurch entsteht eine Stichprobenverteilung der Regressionskoeffizienten.
Q: (Folie 19) Was ist unter Gültigkeit des linearen Regressionsmodells bekannt?
Unter Gültigkeit des Modells ist
die Stichprobenverteilung der Regressionskoeffizienten bekannt.
Q: (Folie 20) Welche vier Annahmen gehören zum Modell der linearen Regression?
Linearität
Homoskedastizität
Normalverteilung
Unabhängigkeit der Fehlerterme
Q: (Folie 20) Was bedeutet Linearität?
Die Beziehung zwischen
bedingtem Erwartungswert des Kriteriums
Prädiktor
ist linear, also eine Gerade.
Q: (Folie 20) Was bedeutet Homoskedastizität?
Die Varianz der y-Werte
ist für alle Werte des Prädiktors gleich groß.
Diese Varianz entspricht der
Q: (Folie 20) Was bedeutet Normalverteilung?
Die Verteilung der y-Werte
ist an jeder Stelle des Prädiktors normalverteilt.
Q: (Folie 20) Was bedeutet Unabhängigkeit der Fehlerterme?
Die Höhe des Fehlerterms einer Person
hängt nicht von der Höhe des Fehlerterms einer anderen Person ab.
Q: (Folie 21) Was verdeutlicht die Grafik zu den Modellannahmen?
Linearität: Mittelwerte liegen auf einer Geraden.
Normalverteilung: Fehlerterm ist an jeder Stelle normalverteilt.
Homoskedastizität: Gleiche Varianz der Fehlerterme an allen x-Werten.
Q: (Folie 21) Welche Eigenschaften besitzt der Fehlerterm laut Grafik?
Der Fehlerterm besitzt:
Q: (Folie 22) Wozu dient die Residuenanalyse?
Sie überprüft,
ob die Voraussetzungen der linearen Regression erfüllt sind:
Unabhängigkeit
Q: (Folie 22) Wie ist ein Residuenplot aufgebaut?
x-Achse: Prädiktor
y-Achse: Residuen oder standardisierte Residuen
Q: (Folie 22) Wie sollte ein idealer Residuenplot aussehen?
Die Residuen sollten
unsystematisch um die Nulllinie schwanken.
Q: (Folie 23) Welchen Zusammenhang zeigt die Grafik zwischen Regressionsgerade und Residuenplot?
Der Residuenplot entspricht einer
linear transformierten Version des Streudiagramms der beobachteten Werte um die Regressionsgerade.
Q: (Folie 24) Woran erkennt man eine Verletzung der Linearität?
Es besteht ein
systematischer Zusammenhang zwischen Prädiktor und Residuum,
z. B. ein quadratischer Verlauf.
Q: (Folie 25) Woran erkennt man eine Verletzung der Homoskedastizität?
Die Residualvarianz verändert sich
je nach Ausprägung des Prädiktors.
Die Vorlesung bezeichnet dies als
Heteroskedastizität.
Q: (Folie 26) Woran erkennt man eine Verletzung der Normalverteilung?
Die Streuung der Residuen
ist nicht symmetrisch um 0.
Q: (Folie 27) Woran erkennt man eine Verletzung der Unabhängigkeit?
Nahe beieinander liegende Beobachtungen
haben Residuen in dieselbe Richtung.
Dadurch lässt sich
das Residuum bei x=k+1
aus dem Residuum bei x=k
teilweise vorhersagen.
Q: (Folie 28) Welche Hinweise gibt die Vorlesung zum Umgang mit Annahmeverletzungen?
Die Vorlesung nennt:
Es existieren weitere Verfahren zur Überprüfung der Annahmen.
Für viele Annahmeverletzungen gibt es Erweiterungen oder Modifikationen der Methode.
Beispiel: Verfahren für Heteroskedastizität, die korrekte Standardfehler liefern.
Q: (Folie 29) Welche Eigenschaften besitzen die Kleinste-Quadrate-Schätzer bei erfüllten Annahmen?
Die Schätzer a und b sind:
erwartungstreu
konsistent
effizient
Q: (Folie 29) Welche Populationsparameter besitzt die einfache lineare Regression?
Die Populationsparameter sind:
Q: (Folie 29) Warum müssen diese Parameter geschätzt werden?
Ihre Werte sind
in der Regel unbekannt
und müssen aus
Stichprobendaten geschätzt werden.
Q: (Folie 30) Welche Hypothesen werden beim Signifikanztest für β geprüft?
Nullhypothese:
H_0:\beta=\beta_0
Alternativhypothese:
H_1:\beta (ungleich) beta_0
Häufig gilt:
\beta_0=0
Q: (Folie 30) Was bedeutet H_0:\beta=0?
In der Population besteht
kein linearer Zusammenhang zwischen x und y.
(Folie 30) Welche Prüfgröße wird verwendet?
Häufig vereinfacht zu:
wenn
Q: (Folie 30) Welcher Verteilung folgt die Prüfgröße?
Bei Gültigkeit der Nullhypothese ist die Prüfgröße
t-verteilt
mit
df=n-2
Q: (Folie 30) Wie wird der Standardfehler der Steigung geschätzt?
Zuletzt geändertvor 5 Tagen
