Termin 8: 1-Faktor ANOVA

• Unabhängige Variable (UV):

  • Variable, deren Effekt untersucht werden soll.

• Abhängige Variable (AV):

  • Variable, die durch die unabhängige Variable beeinflusst werden soll.

• Systematische Störvariablen

  • variieren gemeinsam mit der UV

  • beeinflussen zusätzlich die AV

• Unsystematische Störvariablen

  • hängen mit der AV, aber nicht mit der UV zusammen

• Eine unabhängige Variable wird als Faktor bezeichnet.

• Ein Faktor besitzt meist nominale Kategorien, die Faktorstufen genannt werden.

• Unterschiede der abhängigen Variable sollen erklärt werden, indem sie auf Faktoren zurückgeführt werden.

• Alternativ spricht man auch von:

  • Treatmentfaktor

  • Stufen des Treatmentfaktors

• Jede Faktorstufe besitzt die gleiche Anzahl an Beobachtungen.

• Die Anzahl der Beobachtungen pro Faktorstufe wird mit n bezeichnet.

• Im einfaktoriellen Fall gelten teilweise andere Berechnungsformeln.

• Im mehrfaktoriellen Fall ergeben sich Konsequenzen für die Interpretation der Effekte (nichtorthogonale Varianzanalyse).

Faktor (UV):

• Lehrmethode

• vier Faktorstufen (a₁–a₄)

Abhängige Variable

• Punkte im Englischtest

Versuchsplan

• zufällige Zuweisung

• n = 5 Schüler pro Lehrmethode

Gruppenmittelwerte:

• A₁ = 2

• A₂ = 3

• A₃ = 7

• A₄ = 4

• n

  • Personen innerhalb einer Faktorstufe

• p

  • Anzahl der Faktorstufen

• N

  • Gesamtzahl der untersuchten Personen

  • N = n · p

Es werden zwei Indizes verwendet:

• i

  • Faktorstufe

  • i = 1,…,p

• m

  • Person innerhalb der Faktorstufe

  • m = 1,…,n

Individueller Messwert:

• yᵢₘ

Beispiel:

• y₃₂

  • zweite Person der dritten Faktorstufe

Verwendet werden:

• Spaltensumme (Aᵢ)

• Spaltenmittelwert (Āᵢ)

• Gesamtsumme (G)

• Gesamtmittelwert (Ḡ = G/N)

Im Beispiel:

• A₁ = 10

• A₂ = 15

• A₃ = 35

• A₄ = 20

Gesamtsumme:

• G = 80

Gesamtmittel:

• Ḡ = 4

Nullhypothese (H₀):

• μ₁ = μ₂ = μ₃ = μ₄

• Alle Populationsmittelwerte sind gleich.

Alternativhypothese (H₁):

• Mindestens zwei Mittelwerte unterscheiden sich.

Das Signifikanzniveau α wird vor der Analyse festgelegt (z. B. 0,01).

Die ANOVA zerlegt die Gesamtvarianz in zwei Bestandteile:

• Systematische Varianz

  • Unterschiede, die auf den Einfluss der Lehrmethoden zurückzuführen sind.

• Fehlervarianz

  • Unterschiede durch unsystematische Einflüsse.

Grundidee:

Gesamtvarianz = systematische Varianz + Fehlervarianz

Es wird untersucht,

• wie stark die Unterschiede der abhängigen Variable

• durch den Faktor erklärt werden können.

Ist dieser Anteil groß, wird H₀ verworfen.

Jeder Messwert wird in zwei Bestandteile zerlegt:

• Abweichung des Gruppenmittels vom Gesamtmittel

• Abweichung des individuellen Messwertes vom Gruppenmittel

Die Grafik zeigt dies am Beispiel des Messwertes y₃₂ = 8.

Die Abweichung eines Messwertes vom Gesamtmittel setzt sich zusammen aus:

Abweichung des individuellen Wertes vom Gesamtmittel

=

• Abweichung des individuellen Wertes vom Gruppenmittel

• ●

• Abweichung des Gruppenmittels vom Gesamtmittel

Die Gesamtvariation wird zerlegt in:

• Quadratsumme zwischen Gruppen (QSₐ)

  • Unterschiede zwischen den Gruppen

• Fehlerquadratsumme (QSₑ)

  • Unterschiede innerhalb der Gruppen

Es gilt:

QSₜₒₜ = QSₐ + QSₑ

• QSₐ

  • erklärt Variation durch den Faktor (Treatment)

• QSₑ

  • beschreibt Variation durch individuelle Unterschiede bzw. Fehler

Die totale Quadratsumme ist

• die Summe aller quadrierten Abweichungen

• aller Messwerte vom Gesamtmittelwert

Sie beschreibt die gesamte Variation der Daten.

Im Beispiel:

• QSₜₒₜ = 100

Da alle N Beobachtungen eingehen,

gilt:

• dfₜₒₜ = N − 1

Im Beispiel:

• 20 − 1 = 19

Zur Berechnung wird angenommen,

• dass alle Personen einer Gruppe genau den Gruppenmittelwert besitzen.

Dadurch bleibt ausschließlich

• die Variation zwischen den Gruppen erhalten.

QSₐ misst

• die quadrierten Abweichungen der Gruppenmittelwerte

• vom Gesamtmittelwert

Bei balancierten Designs wird zusätzlich mit n gewichtet.

Im Beispiel:

• QSₐ = 70

Von den p Gruppenmittelwerten

können nur

• p − 1

frei variieren.

Deshalb gilt:

dfₐ = p − 1

Im Beispiel:

• 4 − 1 = 3

QSₑ beschreibt den Anteil der Variation,

• der nicht durch den Faktor erklärt werden kann.

Sie entspricht den

• Unterschieden innerhalb der Gruppen.

Es werden die

• Abweichungen jedes individuellen Messwertes

• vom jeweiligen Gruppenmittel

betrachtet.

Beispiel:

• y₁₂ − A₁ = 1 − 2 = −1

QSₑ ist die

• Summe der quadrierten Abweichungen

• aller Messwerte vom Gruppenmittel

Im Beispiel:

• QSₑ = 30

Innerhalb jeder Gruppe gilt:

• Die Summe der Fehler muss 0 ergeben.

Deshalb können pro Gruppe

• n − 1

Abweichungen frei variieren.

Es gilt:

dfₑ = p(n−1) = N−p

Im Beispiel:

• 20 − 4 = 16

Für Quadratsummen:

• QSₜₒₜ = QSₐ + QSₑ

Für Freiheitsgrade:

• dfₜₒₜ = dfₐ + dfₑ

Im Beispiel:

• QSₜₒₜ = 100

• QSₐ = 70

• QSₑ = 30

• dfₜₒₜ = 19

• dfₐ = 3

• dfₑ = 16

Im Beispiel:

• QSₐ = 70

• QSₜₒₜ = 100

Damit gilt:

70 / 100 = 0,70

Das bedeutet:

• 70 % der Gesamtvariabilität

• lassen sich durch die Unterschiede der Lehrmethoden erklären.

Der F-Test prüft,

• ob die beobachteten Mittelwertunterschiede

• zufällig durch die Stichprobe entstanden sind oder echte Unterschiede zwischen den Populationen widerspiegeln.

Die Nullhypothese wird eher verworfen, wenn

• die Variation zwischen den Gruppen

• deutlich größer ist als die Variation innerhalb der Gruppen.

Dies entspricht einem günstigen Signal-Rausch-Verhältnis.

Es wird geprüft,

• wie wahrscheinlich die beobachteten

• oder noch größere Mittelwertunterschiede wären,

wenn die Nullhypothese wahr ist.

Mittlere Quadrate (MQ) setzen eine Quadratsumme in Beziehung zu ihren Freiheitsgraden.

Sie berechnen sich als:

• MQ = QS / df

Variation zwischen Gruppen

• QSₐ = 70

• dfₐ = 3

→ MQₐ = 23,33

Variation innerhalb der Gruppen

• QSₑ = 30

• dfₑ = 16

→ MQₑ = 1,88

Die Prüfgröße lautet:

F = MQₐ / MQₑ

Also:

• mittlere Variation zwischen Gruppen geteilt durch

• mittlere Variation innerhalb der Gruppen

Ein großer F-Wert entsteht,

wenn

• die Variation zwischen den Gruppen

• deutlich größer ist als die Variation innerhalb der Gruppen.

Dann gilt:

F > 1

Wenn H₀ gilt, ist der F-Wert

• F-verteilt

mit

• p − 1 Zählerfreiheitsgraden

• N − p Nennerfreiheitsgraden

Im Beispiel:

• Zählerfreiheitsgrade = 3

• Nennerfreiheitsgrade = 16

Der kritische F-Wert

• bildet die Grenze,

• ab der H₀ verworfen wird.

Im Beispiel:

• Fkrit = 5,29

• bei α = 0,01

Unter H₀ tritt ein F ≥ 5,29 nur mit einer Wahrscheinlichkeit von 1 % auf.

Der kritische F-Wert kann bestimmt werden durch:

• eine F-Tabelle

• oder in R

mit

qf(0.99, 3, 16)

Ergebnis:

• 5,292214 ≈ 5,29

Berechnung:

F = MQₐ / MQₑ

= 23,33 / 1,88

= 12,41

Vergleich:

• Femp = 12,41

• Fkrit = 5,29

Da

12,41 > 5,29

wird

• H₀ verworfen

• auf dem 1 %-Niveau

Die Tabelle enthält:

• QS (Quadratsummen)

• df (Freiheitsgrade)

• MQ (mittlere Quadrate)

• F

• p-Wert

Im Beispiel:

• Gruppen:

  • QS = 70

  • df = 3

  • MQ = 23,33

  • F = 12,41

• Fehler:

  • QS = 30

  • df = 16

  • MQ = 1,88

Die Sterne kennzeichnen den p-Wert:

• * → p < .05

• ** → p < .01

• *** → p < .001

Da

• Femp = 12,41 > Fkrit = 5,29

• bzw.

• p = 0,000188 < α = 0,01

wird die Nullhypothese verworfen.

Schlussfolgerung:

• Mindestens zwei Lehrmethoden unterscheiden sich hinsichtlich des Lernerfolgs.

Ein unbalanciertes Design liegt vor, wenn

• die Stichprobengrößen der Faktorstufen unterschiedlich sind.

Die Gesamtzahl der Untersuchungseinheiten ergibt sich aus der Summe aller Gruppengrößen:

N = Σ nᵢ

Dabei ist:

• nᵢ = Stichprobengröße der i-ten Faktorstufe

Die Treatmentquadratsumme wird mit den jeweiligen Gruppengrößen gewichtet:

• Jede Gruppe geht entsprechend ihres Stichprobenumfangs (nᵢ) in die Berechnung ein.

Dadurch tragen größere Gruppen stärker zur QSₐ bei.

Unverändert bleiben:

• weitere Durchführung der ANOVA

• Berechnung der Freiheitsgrade

Lediglich die Berechnung der Treatmentquadratsumme wird angepasst.

Es werden unterschieden:

• Modell I: feste Effekte

• Modell II: zufällige Effekte

Der Unterschied hängt davon ab,

• welche Aussagen über die Faktorstufen getroffen werden sollen.

Ein Faktor besitzt feste Effekte, wenn

• Aussagen über die konkret untersuchten Faktorstufen gemacht werden.

Beispiele der Folie:

• vier Lehrmethoden

• drei Therapieformen

Ein Faktor besitzt zufällige Effekte, wenn

• die betrachteten Faktorstufen als Zufallsauswahl möglicher Faktorstufen angesehen werden.

Beispiele:

• Therapeuten

• Schulklassen

• Versuchsleiter

Ein Messwert setzt sich zusammen aus:

• Populationsmittelwert der Treatmentstufe (μᵢ)

• individueller Fehlerkomponente (eᵢₘ)

Formel:

yᵢₘ = μᵢ + eᵢₘ

• μᵢ

  • wahrer Mittelwert der i-ten Treatmentstufe

• eᵢₘ

  • individuelle Fehlerkomponente der Person m

  • innerhalb der Treatmentstufe i

Die Fehlerkomponenten sollen

1. unabhängig sein.

2. homogene Varianzen besitzen.

3. normalverteilt sein.

Die Beeinflussung eines Messwertes durch Fehlereffekte

• darf nicht von den Fehlern anderer Messwerte abhängen.

Die Fehlerkomponenten

• weisen keine systematischen Unterschiede in ihrer Varianz

• zwischen den Treatmentgruppen auf.

Die Fehlerkomponenten sind

• normalverteilt

Dadurch sind auch

• die Messwerte innerhalb der Gruppen normalverteilt.

Die Folie schreibt:

eᵢₘ ~ N(0, σ²ₑ)

Alle Gruppen besitzen

• dieselbe Fehlervarianz (σ²ₑ)

Sie unterscheiden sich lediglich in

• ihrem Mittelwert (μᵢ).

Heteroskedastizität bedeutet:

• Die Gruppen besitzen unterschiedliche Varianzen.

Damit ist die Voraussetzung der Homoskedastizität verletzt.

Mit dem

• Levene-Test

Hypothesen:

• H₀: Homoskedastizität

• H₁: Heteroskedastizität

Da H₀ die gewünschte Annahme ist,

wird häufig ein

• höheres Signifikanzniveau (z. B. α = 0,20)

empfohlen.

Mit dem

• Shapiro-Wilk-Test

Hypothesen:

• H₀: Normalverteilung

• H₁: keine Normalverteilung

Eine Abhängigkeit beeinflusst

• Fehler 1. Art

• Fehler 2. Art

Bei

• gleich großen Stichproben

haben heterogene Varianzen

• kaum Einfluss auf den F-Test.

Wenn

• die Verteilungen lediglich schief sind

• und die Stichprobengrößen nicht stark unterschiedlich sind.

Wenn gleichzeitig vorliegen:

• ungleiche Stichprobengrößen

• heterogene Varianzen

insbesondere bei

• kleinen Stichproben (nᵢ < 10).

Zu liberal:

• kleinere Varianz + größere Stichprobe

Zu konservativ:

• kleinere Varianz + kleinere Stichprobe

Die Simulation zeigt:

• Die empirische F-Verteilung weicht von der theoretischen F-Verteilung ab.

Im dargestellten Beispiel ist

• die Wahrscheinlichkeit eines α-Fehlers kleiner als das nominelle α-Niveau.

Der F-Test ist somit zu konservativ.

Untersucht wird,

• ob die Verarbeitungstiefe

• die Anzahl erinnerter Wörter

beeinflusst.

Es gibt fünf Bedingungen:

• Zählen

• Reimen

• Adjektive

• Vorstellung

• Intentional

H₀:

• alle Populationsmittelwerte sind gleich

H₁:

• mindestens zwei Mittelwerte unterscheiden sich

Die Mittelwerte sind:

• Zählen = 7,00

• Reimen = 6,90

• Adjektiv = 11,00

• Vorstellung = 13,40

• Intentional = 12,00

mod <- aov(anzahl ~ gruppe, data = dat)

Dabei enthält:

• anzahl = abhängige Variable

• gruppe = Faktor

• dat = Datensatz

Die Ausgabe enthält:

• Df → Freiheitsgrade

• Sum Sq → Quadratsummen

• Mean Sq → mittlere Quadrate

• F value

• Pr(>F) → p-Wert

Ergebnis:

• F(4,45) = 9,085

• p < .001

Die Mittelwerte unterscheiden sich

• statistisch signifikant.

η² beschreibt

• den Anteil der Gesamtvariation

• der durch die unabhängige Variable erklärt wird.

Formel:

η² = QSₐ / QSₜₒₜ

Berechnung:

• QSₐ = 351,520

• QSₜₒₜ = 351,520 + 435,30

Ergebnis:

η² = 0,447

Das Maß beschreibt den Zusammenhang in der Stichprobe.

Ein Faktor besitzt zufällige Effekte, wenn

• seine Faktorstufen zufällig aus einer Population möglicher Faktorstufen ausgewählt werden.

Beispiele der Folie:

• Therapeuten

• Lehrer

• Versuchsleiter

• Kliniken

• Städte

Feste Effekte

• Aussagen beziehen sich auf die konkret untersuchten Faktorstufen.

Zufällige Effekte

• Aussagen sollen auf alle möglichen Faktorstufen der Population verallgemeinert werden.

Entscheidend ist:

• Soll nur über die konkret untersuchten Faktorstufen eine Aussage getroffen werden?

oder

• Soll auf alle möglichen Ausprägungen des Faktors generalisiert werden?

Ein Faktor ist in der Regel fest, wenn:

• alle möglichen Faktorstufen im Versuchsplan enthalten sind.

• der Faktor nur wenige mögliche Ausprägungen besitzt.

Beispiele der Folie:

• Geschlecht

• soziale Schicht

• Schulformen

Untersucht wird,

• ob zwischen Therapeuten

• signifikante Unterschiede der Mittelwerte bestehen.

Versuchsaufbau:

• 6 Therapeuten

• jeder behandelt 5 Patienten

Man interessiert sich nicht für die einzelnen Therapeuten.

Stattdessen soll untersucht werden,

• ob sich Therapeuten allgemein

• hinsichtlich ihres Behandlungserfolgs unterscheiden.

Ein Messwert setzt sich zusammen aus:

• Gesamtmittelwert (μ)

• Treatmenteffekt (αᵢ)

• Fehlerkomponente (eᵢₘ)

Formel:

yᵢₘ = μ + αᵢ + eᵢₘ

Zusätzlich gilt:

1. Treatmenteffekte αᵢ sind normalverteilt.

2. Treatmenteffekte und Fehler sind voneinander unabhängig.

Es gilt:

• αᵢ ~ N(0, σ²ₐ)

• eᵢₘ ~ N(0, σ²ₑ)

Dabei beschreibt:

• σ²ₐ die Varianz der Treatmenteffekte.

• σ²ₑ die Fehlervarianz.

σ²ₐ ist die Varianzkomponente der Treatmenteffekte.

Sie beschreibt beispielsweise

• Unterschiede zwischen Therapeuten.

Die Grafik zeigt zwei Verteilungen:

• Verteilung der Gruppenmittelwerte (μᵢ)

  • Streuung: σₐ

• Fehlerverteilungen innerhalb jeder Gruppe

  • Streuung: σₑ

Damit wird zwischen

• Variation zwischen Gruppen

• und Variation innerhalb der Gruppen

unterschieden.

Es wird geprüft,

H₀: σ²ₐ = 0

gegen

H₁: σ²ₐ > 0

Es wird also untersucht,

• ob überhaupt eine Varianz zwischen den Faktorstufen existiert.

Unverändert bleiben:

• Quadratsummenzerlegung

• Freiheitsgrade

• Durchführung der ANOVA

Geändert wird:

• die Interpretation

• und die Schreibweise der Hypothesen.

Ergebnisse:

• QS = 107,067

• df = 5

• MQ = 21,413

• F = 9,243

Fehler:

• QS = 55,600

• df = 24

• MQ = 2,317

Da

• Femp = 9,243

• größer als

• Fkrit = 3,895

wird

H₀ verworfen.

Schlussfolgerung:

• Der Therapieerfolg hängt vom Therapeuten ab.

Für die erwarteten mittleren Quadrate gilt:

• E(MQₐ) = σ²ₑ + n · σ²ₐ

• E(MQₑ) = σ²ₑ

Die Fehlervarianz wird geschätzt durch:

σ̂²ₑ = MQₑ

Die Schätzung lautet:

σ̂²ₐ = (MQₐ − MQₑ) / n

Die Intraklassenkorrelation (IKK) beschreibt

• die relative Stärke des Effekts des Zufallsfaktors

• auf die abhängige Variable.

Formel:

IKK = σ̂²ₐ / (σ̂²ₐ + σ̂²ₑ)

Aus den mittleren Quadraten ergibt sich:

• σ̂²ₑ = 2,317

• σ̂²ₐ = 3,819

Ergebnis:

IKK = 0,62

Interpretation laut Folie:

• 62 % der Unterschiede der Therapieerfolge

• sind auf Unterschiede zwischen den Therapeuten zurückzuführen.