Buffl

30.10.2023 PH Freiburg

MK
by Melis K.

Planung einer Evaluation

1.Planungsfragen: Literatur

  • Eine gute Evaluation sollte IMMER auf einer umfassenden Literaturarbeit zu der zu evaluierenden Maßnahme und existierenden Evaluationen ähnlicher Maßnahmen aufbauen.

2.Planungsfragen: Wahl der Untersuchungsart

  • Explorative Methoden: dienen der Erkundung von Inverventionsprozessen und deren Wirkungen. Ziel: Formulierung von Wirkhypothesen (eher qualitative Methoden)

  • Populationsbeschreibende Methoden: Abschätzung der Verbreitung eines Phänomens

  • Hypothesenprüfende Methoden: testen den Einfluss einer untersuchten Intervention auf sinnvoll operationalisierte Wirkkriterien

EXPERIMENTE:

  • Probanden werden in Untersuchungs- und Kontrollgruppe eingeteilt

  • „Echtes“ Experiment: Zufallszuweisung

  • In der Untersuchungsgruppe (Interventionsgruppe) wird die Maßnahme durchgeführt, in der Kontrollgruppe nicht.

  • In der Regel findet mindestens eine Prä- und eine Postmessung statt.

3.Planungsfragen: Operationalisierung von Massnahmewirkungen

  • Maßnahme/Intervention = unabhängige Variable

  • Wirkung = abhängige Variable/Kriterium

Bsp.:

Abhängig= Umfang des Wortschatzes

Unabhängig = verschiedene Förderprogramme; Massnahmen variieren

Varianten für abhängige Variablen:

  • Zählen

  • Urteilen

  • Testen

  • Befragen

  • Beobachten

Varianten für unabhängige Variablen

  • Vergleich mehrerer Massnahmen

  • Mehrfache Anwendung der Maßnahme

  • Variation der Intensität der Maßnahme

  • Vergleiche mit Normen

4.Planungsfragen: Nutzenbestimmung

  • Die Operationalisierung der Wirkung einer Maßnahme durch ein Wirkkriterium sagt zunächst nichts darüber aus, welcher Nutzen mit unterschiedlichen Ausprägungen des Wirkkriteriums verbunden ist!

  • Falls möglich: Bestimmung von Nutzenfunktionen

  • Ökonomischer Nutzen?

5.Planungsfragen: Abstimmung von Maßnahme und Wirkung

  • Häufige Ursache für das Misslingen von Evaluationsstudien: Fehlende Abstimmung von Massnahme und Wirkung

  • Notwendig: Symmetrie

Formen der Asymmetrie

  • Das Kriterium erfasst Sachverhalte, die von der Massnahme nicht beeinflusst werden

  • Das Kriterium ist gegenüber einer breit gefächerten Maßnahme zu spezifisch.

  • Das Kriterium ist gegenüber einer spezifischen Maßnahme zu breit angelegt.

  • Die Schnittmenge zwischen einer breit gefächerten Maßnahme und einem breit gefächerten Kriterium ist zu klein

6.Planungsfragen: Stichprobenauswahl

  • Bestimmung der Stichprobe, auf deren Basis die Evaluationsstudie durchgeführt werden soll

  • Festlegung der Zielpopulation für die geplante Maßnahme

  • Bestimmung einer Kontrollgruppe

7.Planungsfragen: Stichprobengrössen

  • Die notwendigen Stichprobengrößen hängen von der Höhe der erwarteten Effekte ab

  • Je kleiner der zu erwartende Effekt, desto größer müssen Stichproben sein, um statistisch signifikante Unterschiede zu erzielen

8.Planungsfragen: Abstimmung von Intervention und Evaluation

  • Der Evaluator sollte sich auch an der Planung der Maßnahmendurchführung beteiligen

  • Im Nachhinein angedockte Evaluationsstudien sind häufig mit vielen Mängeln behaftet

Author

Melis K.

Information

Last changed