Multiple Regression

Question 1

Was ist eine Partialkorrelation?

Answer 1

Der Zusammenhang zwischen 2 Variablen, nachdem der Einfluss einer dritten Variable kontrolliert (“auspartialisiert”) wurde: Korrelation zwischen Regressionsresiduen

Question 2

Definition von Residuen bei der Regression

Answer 2

• Differenz zwischen beobachtetem & vorhergesagtem Wert
• Unterschiede, die nicht durch Prädiktor(en) erklärt werden können
• Residuen sind Variablen, da jeder Datenpunkt seinen eigenen Residualwert hat

Question 3

Ablauf der Partialkorrelation

Answer 3

Es besteht eine Korrelation von X und Y, die durch Z beeinflusst wird

• Regression von X auf Z
• Regression von Y auf Z
• Korrelation der Residualvariablen von X & Y, ohne Einfluss von Z

Question 4

Formel zur Partialkorrelation

Answer 4

Formel zum mit der Hand ausrechnen in der Formelsammlung

Question 5

Was ist eine Semipartialkorrelation?

Answer 5

Der Zusammenhang von 2 Variablen, nachdem der EInfluss einer dritten auf eine der beiden auspartialisiert worden ist.

Von der anderen Variable können die Rohwerte verwendet werden.

Question 6

Verwendung von Partial- oder Semipartialkorrelation?

Answer 6

Entscheidung aufgrund theoretischer Überlegungen/Hypothese

• Partial: Annahme, dass X und Y durch Z kausal beeinflusst werden
• Annahme, dass nur X oder nur Y durch Z kausal beeinflusst wird

Question 7

Bedingungen für Kausalität

Answer 7

• Zusammenhang zweier Variablen
• zeitliche Ordnung
• Kontrolle von Störvariablen

Question 8

Modellgleichung für tatsächliche/beobachtete Werte in der multiplen Regression

Answer 8

Question 9

Modellgleichung für vorhergesagtre Werte in der multiplen Regression

Answer 9

b₀: Achsenabschnitt, vorhergesagter Y-Wert für X₁ = 0 und X₂ = 0

b₁: Steigungskoeffizient für X₁; Veränderung in Y, wenn X₁ um eine Einhiet erhöht und X₂ konstant gehalten/kontrolliert wird

b2: Steigungskoeffizient für X2; Veränderung in Y, wenn X2 um eine Einhiet erhöht und X1 konstant gehalten/kontrolliert wird

Question 10

Determinationkoeffizient

Answer 10

R² ist kein erwartungstreuer Schätzer für den Populations-Determinantionskoeffizient 𝚸², korrigiertes in Formelsammlung

Question 11

Annahmen der Regression

Answer 11

• Unabhängigkeit der Resiuden: dürfen nicht korreliert sein
  
  • Verletzung durch hierarchisch geschachtelte Daten oder Messwiederholungen
• Komoskedastizität: bedingte Residualvarianzen unterscheiden sich in der Population nicht
• Normalverteilung der Residuen um die Regressionsgrade

Question 12

Hypothesen des Tests der multiplen Regression

Answer 12

H₀: 𝚸² = 0 bzw. β₁ = … = βj = βk = 0

H1: 𝚸² ≠ 0 bzw. mind. ein β_j ≠ 0

Question 13

Freiheitsgrade beim Test der multiplen Determination R²

Answer 13

df_Regression = k

df_Residuen = n - k - 1

k = Anzahl Prädiktoren

Question 14

Hypothesen des Tests für einen einzelnen Regressionskoeffizienten

Answer 14

H₀: β_j = 0

H₁: β_j ≠ 0

Question 15

Freiheitsgrade beim Test für einen einzelnen Regressionskoeffizienten

Answer 15

df = n - k - 1

Question 16

Ablauf des Tests für mehrere Regressionskoeffizienten

Answer 16

Modellvergleich: Modell A ohne interessierende Variable, Modell B mit

➜ Vergleich der Determinationskoeffizienten R² beider Modelle

1. Bestimmte R² für Modell A
2. Bestimmte R² für Modell B
3. Berechne die Differenz der beiden R²
4. Teste die Differenz auf Signifikanz

Question 17

Voraussetzungen für den Modellvergleich

Answer 17

• beide Modelle sind mit der selben Stichprobe geschätzt
• Die Modelle sind geschachtelt: von einem Modell kann in das andere überführt werden, indem entweder Prädiktoren hinzugefügt oder entwernt werden (niemals beides!)

Question 18

Wieso muss noch ein Signifikanztest durchgeführt werden, wenn ein Unterschied zwischen den R² zweier Modelle besteht?

Answer 18

Aufnahme zusätzlicher Prädiktoren führt immer zu einer Verbesserung der Varianzaufklärung (höheres R²), Da wir zwar das bestmögliche aber auch das einfachste Modell suchen (Parsimonität), ist die Aufnahme zusätzlicher Prädiktoren nur dann sinnvoll, wenn die Zunahme von R² statistisch signifikant ist

Question 19

Hypothesen für Modellvergleiche

Answer 19

H₀: 𝚸₁ = 𝚸₂

H₁: 𝚸_{1 <} 𝚸₂

Question 20

Effektgrößen beim Modellvergleich/der multiplen Regression

Answer 20

R² ist ein standardisiertes Maß & eignet sich als Effektgröße

für a-priori-Poweranalysen wird aber meistens Cohens f² verwendet:

f² = .02: kleiner Effekt

f² = .15: mittlerer Effekt

f² = .35: großer Effekt

Question 21

Interpretation einer Modellgleichung eines Modells mit Dummy-Variablen

Answer 21

Question 22

Parsimonität

Answer 22

Ein Modell sollte den Zusammenhang zwar bestmöglich beschreiben, gleichzeitig aber auch so unkompliziert (sparsam) wie möglich sein