Korrelation & Regression

• Korrelation beschreibt den statistischen Zusammenhang zwischen zwei Variablen

• Zeigt, ob sich zwei Merkmale gemeinsam verändern (nicht: ob eins das andere verursacht!)

• Positive Korrelation: beide Variablen steigen

• Negative Korrelation: eine steigt, die andere sinkt

• Kein Zusammenhang: Korrelation ≈ 0

1. Zusammenhang bedeutet: Wenn sich eine Variable verändert, verändert sich auch die andere

2. Darstellung oft über ein Streudiagramm (Scatterplot)

3. Form des Zusammenhangs:

   • Linear: Punktwolke bildet eine annähernde Gerade

   • Nicht-linear: andere Muster (z. B. Kurven)

4. Richtung: positiv, negativ oder kein Zusammenhang

1. Misst den linearen Zusammenhang zwischen zwei metrischen Variablen

2. Wertebereich: −1 bis +1

   • +1: perfekter positiver Zusammenhang

   • −1: perfekter negativer Zusammenhang

   • 0: kein linearer Zusammenhang

3. Voraussetzungen:

   • Intervallskalenniveau

   • Lineare Beziehung

   • Keine starken Ausreißer

4. Formel basiert auf Kovarianz & Standardabweichung

1. Erfasst nur lineare Zusammenhänge – andere Muster bleiben unentdeckt

2. Ausreißer können den Korrelationswert stark verzerren

3. Eine hohe Korrelation bedeutet nicht, dass ein kausaler Zusammenhang besteht

4. Drittvariablen können Scheinkorrelationen erzeugen

5. Variablen müssen metrisch sein (mind. Intervallskala)

1. Ziel: Vorhersage oder Erklärung einer abhängigen Variable (y) durch eine unabhängige Variable (x)

2. Es wird eine lineare Gleichung gesucht, die den Zusammenhang möglichst gut beschreibt

3. Grundlage: Best-Fit-Gerade (Regressionsgerade) durch die Punktwolke

4. Form: y=a+b⋅xy = a + b \cdot xy=a+b⋅x

   • a = Achsenabschnitt

   • b = Regressionskoeffizient (Steigung)

• y=a+b⋅x

• y: vorhergesagter Wert der abhängigen Variable

• a: Achsenabschnitt (wo die Gerade die y-Achse schneidet)

• b: Regressionskoeffizient = Steigung der Gerade → zeigt, um wie viel sich y ändert, wenn x um 1 steigt

• Die Gerade zeigt den besten linearen Zusammenhang zwischen x und y

• Mithilfe der Gleichung y=a+b⋅x kann man für einen gegebenen x-Wert einen y-Wert vorhersagen

• Die Vorhersage liegt auf der Regressionsgeraden

• Nur sinnvoll, wenn:

  • Der Zusammenhang linear ist

  • Der x-Wert innerhalb des Datenbereichs liegt (→ keine Extrapolation!)

• Interpretation von b (Steigung): „Wenn x um 1 steigt, steigt/sinkt y um b“

1. Die Vorhersagegüte wird mit dem Bestimmtheitsmaß R² gemessen

2. R² gibt an, wie viel Prozent der Varianz von y durch x erklärt wird

3. Wertebereich: 0 bis 1

   • R² = 0 → x erklärt nichts

   • R² = 1 → x erklärt y vollständig

4. Achtung: Hoher R² ≠ Kausalität

5. Ergänzend auch Standardfehler der Schätzung beachten (je kleiner, desto besser)

✅ Voraussetzungen:

• Linearer Zusammenhang zwischen x und y

• Metrisches Skalenniveau beider Variablen

• Homoskedastizität: konstante Streuung der Residuen

• Normalverteilung der Residuen

• Unabhängigkeit der Beobachtungen

• ⚠️ Bei Verletzungen sind Ergebnisse evtl. nicht verlässlich

1. Bei Standardisierung werden x und y in z-Werte (Standardabweichungen) umgerechnet

2. Die Regressionsgleichung lautet dann: Zy= ß*Zx

3. Kein Achsenabschnitt (a = 0), da z-Werte Mittelwert 0 haben

4. Der Regressionskoeffizient β entspricht dem Korrelationskoeffizienten r → Dadurch sind Ergebnisse einfacher vergleichbar zwischen Studien/Messungen

Ziel: Einfluss mehrerer unabhängiger Variablen (x₁, x₂, …) auf eine abhängige Variable (y) untersuchen

• Erweiterung der einfachen Regression: y = a + b1·x1 + b2·x2 + … + bk·xk

  
  

• Zeigt, welche Variablen y wie stark beeinflussen, wenn alle anderen konstant gehalten werden

• Anwendung z. B. in Marketing, Medizin, Sozialforschung

• Jeder bᵢ-Koeffizient zeigt den Einfluss der jeweiligen xᵢ-Variable auf y

• Interpretation: „Wenn xᵢ um 1 Einheit steigt, ändert sich y um bᵢ – unter Konstanthaltung aller anderen Variablen“

• Vorzeichen von bᵢ zeigt Richtung des Einflusses (positiv/negativ)

• Größe von bᵢ zeigt Stärke (aber abhängig von Maßeinheiten!)

1. Regressionskoeffizienten (b₁, b₂, …): Richtung und Stärke des Einflusses einzelner Variablen

2. Regressionskoeffizienten (b₁, b₂, …): zeigen Richtung und Stärke der Effekte

3. Bestimmtheitsmaß (R²): Anteil der durch alle x erklärten Varianz in y

4. Standardfehler der Schätzung: gibt Genauigkeit der Vorhersage an

5. t-Tests für einzelne Koeffizienten: prüfen, ob ein Prädiktor signifikant zur Vorhersage beiträgt → Signifikanter t-Wert → xᵢ hat signifikanten Einfluss auf y

• Die Modellgüte zeigt, wie gut das Regressionsmodell die abhängige Variable erklärt

• Zentrales Maß: Bestimmtheitsmaß R²

  • Gibt den Anteil der durch das Modell erklärten Varianz in y an

  • Wertebereich: 0 (keine Erklärung) bis 1 (perfekte Erklärung)

• Ergänzend: Standardfehler der Schätzung → je kleiner, desto genauer sind die Vorhersagen

• Achtung: R² steigt mit mehr Prädiktoren → daher R² adjustiert zur fairen Bewertung mehrerer Modelle nutzen