Evaluationsforschung Flashcards
Was sind “Stakeholder” im Kontext von Evaluationsforschung?
Stakeholder sind Anspruchsgruppen, die von der Evaluation betroffen oder daran beteiligt sind. Dazu gehören:
Zielgruppen (z.B. Patienten, Kunden),
Beteiligte (z.B. Produktentwickler, Verantwortliche, Entscheidungsträger),
Evaluationsklienten (die die Evaluation in Auftrag geben),
Evaluationsrespondenten (direkt an der Datenerhebung Teilnehmende, z.B. durch Interviews oder Fragebögen)
Was sind Unterschiede zwischen formativer und summativer Evaluation?
Formative Evaluation: Begleitende, prozessbezogene Evaluation während einer Maßnahme. Ziel ist es, laufende Maßnahmen zu optimieren.
Summative Evaluation: Zusammenfassende Bewertung nach Abschluss der Maßnahme. Sie konzentriert sich auf die Beurteilung der Wirksamkeit und Effizienz
Welche Methoden werden in der Evaluationsforschung eingesetzt?
In der Evaluationsforschung werden sowohl quantitative als auch qualitative Methoden verwendet. Oftmals kommen Mixed-Methods-Ansätze zum Einsatz, bei denen beide Arten von Daten kombiniert werden
Welche Evaluationskriterien gibt es?
Evaluationskriterien umfassen:
Vor der Durchführung: Umsetzbarkeit, Kosten, Zielgruppenbedarf.
Während der Durchführung: Prozessbewertung, Zielgruppenzufriedenheit, Anpassungsbedarf.
Nach der Durchführung: Wirksamkeit, Effizienz, Akzeptanz, Nachhaltigkeit, unerwünschte Wirkungen
Welche verschiedenen Funktionen von Evaluationen gibt es?
Evaluationen können verschiedene Funktionen erfüllen:
Erkenntnisfunktion: Erweiterung des Wissens der Beteiligten.
Lern- und Dialogfunktion: Förderung des Dialogs zwischen verschiedenen Stakeholdern.
Optimierungsfunktion: Verbesserung des Evaluationsgegenstandes.
Entscheidungsfunktion: Bereitstellung von Entscheidungsgrundlagen.
Legitimationsfunktion: Rechtfertigung und Kontrolle von Maßnahmen
Anhand welcher Dimensionen und Aspekte kann man Evaluationsstudien unterscheiden?
Evaluationsstudien können unterschieden werden anhand von:
Rollenverteilung: Fremd- und Selbstevaluation.
Institutionelle Zugehörigkeit: Interne und externe Fremdevaluation.
Evaluationsfunktion: Formative und summative Evaluation.
Zeitpunkt: Konzept-, Prozess- und Ergebnisevaluation.
Methoden: Quantitative, qualitative oder Mixed-Methods
Welche experimentellen Evaluationsdesigns gibt es, wodurch unterscheiden sie sich und was sind ihre jeweiligen Vor- und Nachteile?
Eingruppen-Prä-Posttest-Design: Vergleich vor und nach der Intervention in einer Gruppe. Vorteil: Einfach durchzuführen; Nachteil: Keine Kontrollgruppe.
Prä-Post-Kontrollgruppen-Design: Vergleich zwischen Experimental- und Kontrollgruppe vor und nach der Intervention. Vorteil: Höhere interne Validität durch Vergleich; Nachteil: Aufwendiger.
Solomon-4-Gruppen-Design: Kombination von Prätest- und Posttest-Designs mit und ohne Kontrollgruppen, um die Wirkung des Vortests zu kontrollieren. Vorteil: Differenzierte Überprüfung der Maßnahmen; Nachteil: Sehr aufwendig
Welche Formen (und Unterformen) der ergebnisorientierten Evaluation gibt es?
Die ergebnisorientierte Evaluation kann sich auf die Wirksamkeit und/oder die Effizienz einer Maßnahme konzentrieren. Effizienzbewertung erfolgt durch:
Kosten-Effektivitäts-Analyse (CEA),
Kosten-Nutzwert-Analyse (CUA),
Kosten-Nutzen-Analyse (CBA)
Was unterscheidet i) Kosten-Effektivitäts-Analyse, ii) Kosten-Nutzwert-Analyse und iii) Kosten-Nutzen-Analyse?
Kosten-Effektivitäts-Analyse (CEA): Bewertet Kosten im Verhältnis zu einem natürlichen Wirkungsparameter (z.B. Euro pro kg Gewichtsverlust).
Kosten-Nutzwert-Analyse (CUA): Bewertet Kosten im Verhältnis zu einem subjektiven Nutzwert (z.B. Lebensqualität).
Kosten-Nutzen-Analyse (CBA): Monetarisiert sowohl die Kosten als auch den Nutzen einer Maßnahme (z.B. Zahlungsbereitschaft)
Was ist ein QALY und wofür wird es in welchem Evaluationsansatz verwendet?
QALY (Quality-Adjusted Life Year/Qualitätskorrigiertes Lebensjahr) ist ein Maß, das die Lebensdauer (T) und Lebensqualität (Q) kombiniert. Es wird in der Kosten-Nutzwert-Analyse (CUA) verwendet, um die Effizienz medizinischer Interventionen zu bewerten. Ein QALY von 1 bedeutet ein Jahr in voller Gesundheit, während ein QALY von 0 den Tod darstellt
Was ist die Erkenntnisfunktion einer Evaluation?
Die Erkenntnisfunktion zielt darauf ab, wissenschaftliche Erkenntnisse über die Eigenschaften und Wirkungen des Evaluationsgegenstandes zu gewinnen. Diese Erkenntnisse sollen das Wissen der beteiligten Stakeholder erweitern
Was ist die Lern- und Dialogfunktion einer Evaluation?
Die Lern- und Dialogfunktion fördert den Austausch zwischen verschiedenen Stakeholdern, die während der Evaluation in Kontakt treten. Dies erfordert, dass Stakeholder aktiv in den Evaluationsprozess eingebunden werden
Was ist die Optimierungsfunktion einer Evaluation?
Die Optimierungsfunktion dient der zielgerichteten Verbesserung einer Maßnahme. Evaluationen können genutzt werden, um Schwachstellen zu identifizieren und konkrete Verbesserungsvorschläge zu erarbeiten
Was ist die Entscheidungsfunktion einer Evaluation?
Evaluationsergebnisse dienen oft als Grundlage für wichtige Entscheidungen, z.B. darüber, welche Maßnahmen weitergeführt, verändert oder beendet werden sollten. Dabei liefert die Evaluation Entscheidungshilfen, die die Maßnahmen bewerten
Was ist die Legitimationsfunktion einer Evaluation?
Die Legitimationsfunktion sorgt dafür, dass durchgeführte Maßnahmen gerechtfertigt und kontrolliert werden. Dies ist besonders bei der Verwendung öffentlicher Mittel oder sensibler Maßnahmen wichtig, um Transparenz und Überparteilichkeit zu gewährleisten
Was versteht man unter “Fremd-“ und “Selbstevaluation”?
Fremdevaluation: Die Evaluation wird von Personen durchgeführt, die nicht direkt an der Maßnahme beteiligt sind.
Selbstevaluation: Die Evaluation wird von denjenigen durchgeführt, die an der Maßnahme beteiligt sind und selbst über Ziele und Ergebnisse entscheiden
Was ist der Unterschied zwischen interner und externer Fremdevaluation?
Interne Fremdevaluation: Die Evaluation wird von Personen innerhalb derselben Institution durchgeführt (z.B. von einer Abteilung derselben Organisation).
Externe Fremdevaluation: Die Evaluation wird von Personen außerhalb der Institution durchgeführt, um Objektivität zu gewährleisten
Was ist ein Prä-Post-Kontrollgruppen-Design?
Beim Prä-Post-Kontrollgruppen-Design werden eine Experimental- und eine Kontrollgruppe vor und nach der Intervention verglichen. Dies ermöglicht es, die Wirkung der Maßnahme zu bewerten, indem Veränderungen in beiden Gruppen beobachtet werden
Was sind Scheininterventionen in der Evaluation?
Scheininterventionen (sham interventions) sind Kontrollmaßnahmen, bei denen die Kontrollgruppe ähnlich behandelt wird wie die Experimentalgruppe, jedoch ohne die eigentliche Intervention. Dies dient dazu, den Wirkmechanismus der Intervention zu isolieren, z.B. durch Placebo-Effekte
Was ist das Solomon-4-Gruppen-Design?
Das Solomon-4-Gruppen-Design besteht aus vier Gruppen:
Gruppe 1: Prätest, Intervention, Posttest
Gruppe 2: Intervention, Posttest
Gruppe 3: Prätest, kein Intervention, Posttest
Gruppe 4: Kein Prätest, keine Intervention, Posttest Dieses Design kontrolliert für mögliche Vortesteffekte und erlaubt eine genauere Analyse der Intervention
Welche alternativen Kontrolltechniken gibt es in der Evaluation?
Zu den Alternativen gehören:
Vergleich mehrerer Maßnahmen.
Mehrfache Anwendung derselben Maßnahme.
Gezielte oder natürliche Variation der Intensität einer Maßnahme.
Vergleiche mit Normen oder Durchschnittswerten
Was ist eine Kosten-Nutzen-Analyse?
Die Kosten-Nutzen-Analyse (CBA) vergleicht die Kosten einer Maßnahme mit dem monetären Nutzen, der durch die Maßnahme erzielt wird. Der monetäre Wert kann durch Umfragen zur Zahlungsbereitschaft (willingness to pay) oder zur Akzeptanz negativer Effekte (willingness to accept) bestimmt werden
Wie wird der monetäre Wert eines QALY in der Evaluation verwendet?
Der Wert eines QALY (Quality-Adjusted Life Year) wird in der gesundheitsökonomischen Evaluation verwendet, um die Effizienz von Gesundheitsmaßnahmen zu bewerten. QALYs kombinieren die Lebensdauer (T) mit der Lebensqualität (Q), wobei 1 für ein Jahr in voller Gesundheit und 0 für den Tod steht
Was ist eine formative Evaluation?
Eine formative Evaluation wird während der Durchführung einer Maßnahme durchgeführt, um Prozesse zu bewerten und gegebenenfalls Anpassungen vorzunehmen. Ziel ist es, die laufende Maßnahme zu verbessern, indem Zwischenergebnisse analysiert und optimiert werden