Sitzung 13: Die lineare Regression II

Question 1

Bivariate Regression

Answer 1

Bei der bivariaten Regression geht man von einer einfachen Kausalstruktur mit nur einer erklärenden Variable aus: x = y

Question 2

Multiple Regression

Answer 2

Bei der multiplen Regression geht man davon aus, dass mehrere UV gleichzeitig auf die AV einwirken (konvergente Kausalstruktur)

Question 3

Gleichung der multiplen Regression

Answer 3

y = a+b1x1 +b2x2 +…+bnxn +e
e ist der Störterm, der die Residuen enthält.

Question 4

1. Block SPSS Output

Answer 4

Auf welche Art und Weise werden UV aufgenommen?
Alle UV werden hier gleichzeitig in das Modell genommen (Einschluss)

Question 5

2. Block SPSS Output

Answer 5

Modellzusammenfassung
R

Question 6

3. Block SPSS Output:

Answer 6

Varianzanalyse mit F-Tabelle

Question 7

4. Block SPSS-Output

Answer 7

Schätzgleichung kann aufgestellt werden
Auf Basis dieser Gleichung können Prognosen für den HDI abgegeben werden.

Question 8

Was sind potentielle Spezifizierungsirrtümer?

Answer 8

• Die Beziehung zwischen x und y ist nicht linear (Streudiagramm bzw. Streudiagramm-Matrix betrachten!) = dann eignet sich diese Art der Analyse gar nicht
• Relevante UV wurden ausgeschlossen (omitted variable bias) = verzerrte Ergebnisse
• irrelevante UV wurden mit eingeschlossen = Effizienz der Schätzung nimmt ab, Standardfehler werden größer

= alles sehr schwer zu identifizieren

Question 9

Was sind potentielle Messfehler?

Answer 9

• Objektivität, Reliabilität und Validität der Messung

Question 10

Erwartungstreu

Answer 10

Schätzer trit im Mittel (bei vielen Wiederholungen) den wahren Parameter in der Grundgesamtheit.

Question 11

Effizient

Answer 11

Geringe Ungenauigkeit (Varianz) in der Schätzung

Question 12

BLUE-Schätzer

Answer 12

Best linear unbiased estimator
Gauß-Markov Annahmen müssen erfüllt sein
1. Erwartungswert für alle Residuen ist Null
2. Keine Korrelation der UV mit den Residuen
3. Homoskedastizität = Varianz der Residuen ist konstant
4. Keine Autokorrelation = keine Korrelation der Residuen

Question 13

Messen von Autokorrelation

Answer 13

Über die Durbin Watson Statistik
Daumenregel:
Durbin-Watson-Wert nahe 2 → keine Autokorrelation
Durbin-Watson-Wert nahe 0 → positive Autokorrelation
Durbin-Watson-Wert nahe 4 → negative Autokorrelation

Question 14

Multikollinearität

Answer 14

eine Korrelation zwischen zwei oder mehr der unabhängigen Variablen

Question 15

erste Hinweise auf Multikollinearität

Answer 15

Hohe F-Werte, bei gleichzeitiger schlechter Signikanz der T-Werte der Steigungsparameter

Question 16

Ab wann können Korrelationen problematisch sein?

Answer 16

Ab 0,7

Question 17

Welche Optionen gibt es mit Multikollinearität umzugehen?

Answer 17

• Ausschluss einzelner multikollinearer Variablen (falls eine Variable unnötig ansonsten doppelt eingehen würde)
• Zusammenfassen inhaltlich sinnvoll kombinierbarer multikollinearer Variablen

Question 18

Ausreißer

Answer 18

Als Ausreiÿer bezeichnet man Observationen, die deutlich vom Rest der Daten abweichen

Question 19

Leverage

Answer 19

Punkte, die in Bezug auf die UV sich deutlich von den anderen Werten unterscheiden haben eine hohe leverage (Hebelwert)

Question 20

Influential

Answer 20

Punkte, deren Entfernung aus dem Modell, die Regressionsergebnisse, d.h. die Koezienten, deutlich verändern würde, heiÿen inuential (einussreiche Fälle)

Question 21

Punkte, die in y-Richtung weit von der Regressionslinie liegen, haben ein großes ………..

Answer 21

Residuum

Question 22

Um sich abzusichern, dass Ausreißer kein Problem sind, sollte man sich das Residuum, den Leverage und den Influence und das ……………. anschauen.

Answer 22

Streudiagramm

Question 23

Residuum + Leveredge

Answer 23

Influence

Question 24

Heteroskedastizität

Answer 24

Verönderliche Streuung der Residuen

Question 25

Was ist, wenn Autokorrelation vorliegt?

Answer 25

UVs beeinflussen sich auch gegenseitig/sind nicht unabhängig
= tritt bei Zeitreihen auf, da hier die Werte in einer natürlichen Reihenfolge vorliegen und Werte der vorgegangenen Periode nachfolgende Beobachtungen beeinflussen können.
Wenn hohe Werte der Vorperiode hohe beobachtete Werte auslösen, gibt es eine positive Autokorrelation.
Folge ist, dass die Signifikanz der Koeffizienten überschätzt wird.
Bereinigung Autokorrelation: jeder Merkmalswert - Wert der Vorperiode

Question 26

Einschluss

Answer 26

UVs werden gleichzeitig ins Modell aufgenommen

Question 27

Forward stepwise

Answer 27

Schrittweise nacheinander eingebracht und nur diejenigen, die dann den model-fit wirklich verbessern, bleiben im Gesamtmodell enthalten.

Question 28

Backward selection

Answer 28

Alls UVs werden eingebracht und schrittweise diejenigen herausgenommen, die nicht signifikant sind.

Question 29

Auto Korrelation

Answer 29

Korrelation der Residuen

Question 30

Was für ein Test?
Signifikanz des Modells

Answer 30

F-Test

Question 31

Was für ein Test?
Heteroskedastizität

Answer 31

Goldfield-Quandt-Test

Question 32

Was für ein Test?
Multikollinearität

Answer 32

VIF

Question 33

Was für ein Test?
Einfluss der Teilkoeffizienten

Answer 33

Beta

Question 34

Was für ein Test?
Ausreißer

Answer 34

Laverage

Question 35

Was für ein test?
Signifikanz der Teilkoeffizienten

Answer 35

T-Test