VL 4 - Multiple Regression II Flashcards

1
Q

Ist der Determinationskoeffizient (R²) in der Stichprobe ein erwartungstreuer Schätzer des der Population?

A

Nein

–> R² überschätzt P² (rho)

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
2
Q

Was prüft der F-Test zur Signifikanzprüfung von R² in der MR?

A

Liefern die Prädiktoren (zusammen) einen signifikanten Beitrag zur Vorhersage des Kriteriums?

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
3
Q

Was ist die H0 vom F-Test zur Signifikanzprüfung von R² in der MR?

A
  1. Determinationskoeffizient d. Population (P²) = 0

ODER

  1. Alle Regressionsgewichte = 0
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
4
Q

Ist das Regressionsgewicht in der Stichprobe ein erwartungstreuer
Schätzer des Regressionsgewichtes in der Population? (MR)

A

Ja

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
5
Q

Was wird beim Signifikanztest für die einzelnen Regressionskoeffizienten bj geprüft? (MR)

A

ob / welches der Regressionsgewichte sich von Null unterscheiden

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
6
Q

Der F-Test zur inkrementellen Validität eines Prädiktors ist mathematisch äquivalent zum …

A

t-Test auf Signifikanz des Regressionskoeffizienten dieses
Prädiktors (MR)

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
7
Q

Was ist das Inkrement/Nützlichkeit eines Prädiktors?

A

“Wieviel Varianz erklärt ein Prädiktor zusätzlich zu allen anderen Prädiktoren?“

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
8
Q

Wie verhält sich das Konfidenzintervall (CI) der Regressionsgeraden?

A

ist schmaler in der Mitte und breiter an den Rändern

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
9
Q

Warum kann R² als eine Effektgröße verwendet werden?

A

weil es ein standardisiertes Maß ist

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
10
Q

Was ist die Teststärke/Power?

A
  • Wahrscheinlichkeit, einen Effekt aufzudecken, den es tatsächlich gibt
  • Wahrscheinlichkeit für ein signifikantes Ergebnis, wenn die H0 tatsächlich nicht gilt
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
11
Q

Was beeinflusst die Teststärke/Power? (3)

A
  • Effektgröße (vorgegeben)
  • Signifikanzniveau (meist 5 %)
  • Stichprobengröße (kann von uns beeinflusst werden)
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
12
Q

Was muss ich alles festlegen um in einer a-priori Poweranalyse mir die optimalen Stichprobegröße berechnen zu lassen (benötigte Parameter)? (4)

A
  • Signifikanzniveau (alpha)
  • Power (1 - b)
  • Erwarteter Determinationskoeffizient (R² bzw. f², Effektgröße)
  • Anzahl der Prädiktoren
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
13
Q

Was ist die theoriegeleitete Auswahl an Prädiktoren?

A

Alle Variablen werden in die Regressionsgleichung aufgenommen, von denen man aus theoretischen Überlegungen einen Beitrag erwartet

–> Reihenfolge hängt von Fragestellung ab

–> oft blockweise aufgenommen (hierarchische Regression)

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
14
Q

Was sind die Ziele der datengesteuerten Variablenauswahl (2)?

A
  • Maximierung d. Varianzaufklärung
  • Sparsamkeit
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
15
Q

Was sind die 3 Strategien d. datengesteuerten Auswahl?

A
  • Vorwärtsselektion
  • Rückwärtselimination
  • schrittweise Regression (= Kombination von Vorwärtsselektion und Rückwärtselimination)
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
16
Q

Gelangen die 3 Strategien d. datengesteuerten Auswahl zur selben Variablenauswahl?

A

optimalerweise ja, aber in kleinen Stichproben können sich die Ergebnisse unterscheiden

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
17
Q

Was passiert bei der Vorwärtsselektion?

A
  1. alle potentiellen Prädiktoren werden spezifiziert
  2. dann wird schrittweise immer diejenige Variable in das Modell aufgenommen, die das größte Inkrement zeigt.
  3. solange, bis weitere Prädiktoren nicht mehr signifikant sind
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
18
Q

Was passiert bei der Rückwärtselimination?

A
  1. alle Prädiktoren werden in das Modell aufgenommen
  2. dann wird schrittweise immer diejenige Variable aus dem Modell entfernt, die das geringste und nicht-signifikante Dekrement zeigt.
  3. solange, bis nur noch signifikante Prädiktoren verbleiben
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
19
Q

Was passiert bei der schrittweisen Regression?

A
  1. Während einer Vorwärtsselektion wird nach jedem Schritt überprüft, ob ein Prädiktor nicht-signifikant geworden ist
  2. Dieser wird dann entfernt.
  3. Solange, bis kein Prädiktor mehr aufgenommen werden kann, der noch einen zusätzlichen Beitrag leistet und kein nicht-signifikanter Prädiktor im Modell ist
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
20
Q

Was ist das Ziel der theoriegeleiteten Auswahl?

A

Test von theoretischen Modellen

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
21
Q

Welches Risiko besteht bei der theoriegeleiteten Auswahl?

A

Overfitting (Aufnahme statistisch irrelevanter Prädiktoren)

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
22
Q

Wie ist die Effizienz d. theoriegeleiteten Auswahl?

A

Weniger effiziente Vorhersage von
Merkmalen

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
23
Q

Welche Methode d. Auswahl von Prädiktoren wird bei der Überprüfung von Zusammenhangs-Hypothesen bevorzugt?

A

theoriegeleitete Auswahl

24
Q

Welches Risiko besteht bei der datengesteuerten Auswahl? (2)

A
  • Capitalizing on Chance (Auswahl wird von Stichprobenfehlern beeinflusst)
  • Underfitting (Ausschluss theoretisch relevanter Prädiktoren)
25
Q

Was ist die Kreuzvalidierung eines Modells?

A

Ein Modell, das an einer Stichprobe entwickelt wurde, wird bei einer anderen Stichprobe eingesetzt

26
Q

Was sind 3 Modellannahmen/ Voraussetzungen des Signifikanztests der EINFACHEN Regression?

A
  1. Homoskedastizität
  2. Normalverteilte Residuen
  3. Unabhängigkeit der Fehler
27
Q

Was sind 5 Voraussetzungen der multiplen Regression?

A
  1. Korrekte Spezifikation des Modells
  2. Messfehlerfreiheit der UVs (perfekte Reliabilität)
  3. Normalverteilung der Residuen
  4. Homoskedastizität (Varianzgleichheit)
  5. Unabhängigkeit der Residuen
28
Q

Wie überprüft man die Voraussetzung d. korrekten Spezifikation d. Modells (MR)? (3 Möglichkeiten)

A
  • Bivariate Streudiagramme
  • Residuendiagramme
  • LOWESS-Anpassungslinie
29
Q

Wozu kann underfitting (=Auslassen wichtiger Prädiktoren) führen?

A

kann insgesamt zu falscher Interpretation der Ergebnisse führen

30
Q

Wozu führt Overfitting (=Aufnahme irrelevanter Prädiktoren)? (2)

A
  • verzerrte Schätzung der Regressionsgewichte
  • Prognosefehler und Kreuzvalidierungsfehler werden mit
    zunehmender Anzahl irrelevanter Prädiktoren größer
31
Q

Wie vermeidet man overfitting?

A

durch Signifikanzprüfung der Prädiktoren und Elimination irrelevanter Prädiktoren

32
Q

Was sind Konsequenzen von inkorrekter Modellspezifikation?

A
  • Verzerrte Schätzung der Regressionskoeffizienten
  • Verzerrte Schätzung der Standardfehler
    -> möglicherweise verringerte Teststärke
33
Q

Wie lässt sich die Größe des Messfehlers der UVs (Prädiktoren) bestimmen?

A

Reliabilität

34
Q

Was sind zwei Möglichkeiten die Messfehlerfreiheit der UVs zu gewährleisten?

A
  • möglichst reliable Skalen auswählen
  • nicht zu wenige Items verwenden (Reliabilität steigt mit Anzahl an Items)
35
Q

Was sind Konsequenzen von der Verletzung d. Voraussetzung d. Messfehlerfreiheit der UVs?

A
  • Verzerrte Schätzung der Regressionskoeffizienten
  • Verzerrte Schätzung der Standardfehler
36
Q

Was sind Konsequenzen von der Verletzung d. Voraussetzung d. Normalverteilung d. Residuen?

A

korrekte Schätzung der Regressionsgleichung ABER falsche Schätzung der Standardfehler bei kleinen Stichproben

37
Q

Worauf kann die Verletzung d. Voraussetzung d. Normalverteilung d. Residuen auch hinweisen?

A

Fehlspezifikation d. Modells

38
Q

Wie prüft man die Voraussetzung d. Normalverteilung d. Residuen? (3)

A
  • Histogramm der Residuen
  • PP-Plot
  • QQ-Plot
39
Q

Was bedeutet Homoskedastizität?

A

= gleiche Varianzen der AV für alle Ausprägungen der Prädiktoren
= gleiche Varianzen der Residuen für alle Ausprägungen der Prädiktoren

40
Q

Was sind Konsequenzen von der Verletzung d. Voraussetzung d. Homoskedastizität?

A

korrekte Schätzung der Regressionsgleichung ABER falsche Schätzung der Standardfehler

41
Q

Wie prüft man die Voraussetzung d. Homoskedastizität?

A

Residuenplot

42
Q

Wobei hilft das Anschauen des Residuenplots?

A
  • hilft bei der Entdeckung von Fehlspezifikationen des Modells
  • hilft bei der Entdeckung von Heteroskedastizität
43
Q

Worauf weist ein trichterförmiger Verlauf d. Residuenplots hin?

A

Heteroskedastizität

44
Q

Worauf weist eine bestimmte Gestalt d. Residuenplots hin?

A

Fehlspezifikation des Modells

45
Q

Was sind Konsequenzen von der Verletzung d. Voraussetzung d. Unabhängigkeit d. Residuen?

A

korrekter Schätzung der Regressionsgleichung, ABER (deutliche) Unterschätzung der Standardfehler

46
Q

Wann ist die Voraussetzung d. Unabhängigkeit d. Residuen verletzt?

A

wenn sich bestimmte Werte der AV/ Residuen systematisch ähnlicher sind als andere

–> bei mehrstufiger Stichprobenauswahl (Klumpenstichprobe)
–> bei serieller Abhängigkeit (Daten im Zeitverlauf)

47
Q

Was schafft Abhilfe bei abhängigen Residuen?

A

Gründe für Abhängigkeit ins Modell aufnehmen (Zeitreihenanalysen, Mehrebenenmodelle)

48
Q

Definition: Multikollinearität

A

Hohe multiple Korrelation zwischen einem Prädiktor und den anderen Prädiktoren

49
Q

Wozu führt Multikollinearität?

A

verzerrte Schätzung des Regressionsgewichtes (großer Standardfehler)

50
Q

Wann tritt sehr hohe Multikollinearität auf? (3)

A
  • wenn ein Prädiktor in die Berechnung eines anderen eingeht (Interaktionseffekt (Moderator); nicht-lineare Effekte)
  • wenn mehrere Indikatoren eines Konstrukts o. zweier sehr ähnlicher Konstrukte als UVs verwendet werden
  • wenn ein ähnliches o. das gleiche Maß zu mehreren Messzeitpunkten erhoben und alle als UVs verwendet werden
51
Q

Wie wird der Toleranzfaktor (TOL) berechnet?

A

1 - R²

52
Q

Was bedeutet TOL = 0 und TOL = 1?

A
  • 0 (R²=1) –> exakte Multikollinearität
  • 1 (R²=0) –> Prädiktor Xj mit anderen Prädiktoren unkorreliert
53
Q

Was sind zwei Wege Multikollinearität zu bestimmen?

A
  1. Toleranzfaktor
  2. Varianzinflations-Faktor (VIF)
54
Q

Wie wird der Varianzinflations-Faktor (VIF) berechnet?

A

1/TOL

55
Q

Ab welchem VIF besteht (sehr) hohe Multikollinearität?

A
  • VIF > 10 sehr hohe Multikollinearität
  • VIF > 5 hohe Multikollinearität
56
Q

Was sind 4 Möglichkeiten der Reduktion von Multikollinearität?

A
  • Zentrierung
  • Eliminierung von Prädiktoren
  • Aggregation
  • Faktorenanalytische Reduktion
57
Q

Ab welchem TOL-Faktor gibt es eine (sehr) hohe Multikollinearität?

A

TOL < .20 / .10