L7 Multipel lineær regression

Question 1

Hvordan fortolkes hældningskoefficienten i multipel lineær regression?

Answer 1

Ændringen i y, når x stiger med 1, når kontrolvariable holdes konstant (!!)

Question 2

Hvad sker der (rent teknisk) når vi kontrollerer?

Answer 2

Vi fjerner al variation i X, der kan forklares af kontrolvariable (Z1, Z2 mv.)

Vi tager residualerne ”med videre” fra regressionen af X2 på Y - altså det som regressionslinjen ikk kan forklare.
- Disse residualer bruges herfra i en ny regression af X1 på y

But dont worry - stata klarer arbejdet

Question 3

Hvad sker der, hvis der inkluderes kontrolvariable, som kun påvirker x?

Answer 3

Så får vi mere multikollinearitet og dermed større standardfejl. Jo mindre var(x) der er tilbage, jo større standardfejl.

Hvis SE(beta1-hat) stiger markant ved inddragelse af kontrolvariable, så tjek om der er meget stærk korrelation mellem z og x.

Question 4

Hvad sker der, hvis der inkluderes kontrolvariable, som kun påvirker y? (og som ikke påvirkes af x)

Answer 4

Så bliver standardfejlen mindre. SE(beta1) afhænger af variationen omkring regressionslinjen (som tæller). Når der kommer mindre variation i y, vil variationen omkring regressionslinjen blive mindre = mindre SE

Question 5

Hvad sker, hvis man inkluderer variable, som påvirkes af x og som påvirker y?

Answer 5

Post treament bias!

Question 6

Hvornår skal man inkludere kontrolvariable? - hvad er kriteriet for udvælgelse?

Answer 6

Når de både påvirker x og y (udeladt variable bias). Dermed afhjælper de problemet med selektionsbias.

Question 7

Hvilke typer kontrolvariable er typisk gode?

Answer 7

Demografiske, som med sikkerhed er bestemt før x og y (køn, alder mv.).

Question 8

Hvilke antagelser gælder for MLR? Hvordan undersøges de?

Answer 8

Antagelser omkring design:

• uafhængige observationer
• fravær af selektionsbias eller E(UlX)=0

Antagelser der undersøges grafisk:

• linearitet: scatterplot (eller ACPR ved MLR)
• outliers: scatterplot (eller ACPR ved MLR)
• homoskedasticitet: RVP plpot

Antagelser, som STATA undersøger
- fravær af perfekt multikollinearitet

Question 9

Er X ukorreleret med kontrolvariable?

Answer 9

Ja pr. design.

Question 10

Hvad sker der med kontrolvariablene, når x+1

Answer 10

De holdes konstante.

Question 11

Er alt bare perfekt, hvis du har kontrolleret, for alle relevante variable?

Answer 11

Der er forbehold omkring post-treatment bias, målefejl i variable (målingsvaliditet) og misspecifikation (transformation).

Altid bekymring om selektionsbias pga. design.

Question 12

Hvad gør du, hvis er i tvivl om en kontrolvariabel er post-treatment

Answer 12

Lave en model med og uden (skriveøvelse 3)! Ændrer koefficienterne sig, så har du problemet. Er det post-treatment eller selektionsbias?

Question 13

Hvilke ting kan gøre at de over- eller undervurderer en effekt?

Answer 13

Post-treatment bias
UVB
Målefejl
Misspecifikation

Question 14

Hvordan fungerer kategoriske variable i en regression (x eller kontrolvariable).

Answer 14

i.variable: STATA omkoder automatisk kategoriske variable til en række dummyvariable (x-1).

Den udeladte kategori er referencekategori. Hældningskoefficienten bliver således udtryk for forskellen mellem referencekategorien og dummy.

Eks.
Treatment = reference
Civic duty = forskel mellem treatment og civic duty gruppen

Question 15

Hvordan tolkes konstanten i MLR (både på interval og kategoriske)?

Answer 15

Når Y og samtlige kontrolvariable holdes på 0. For kategoriske: gennemsnittet for Y i ref. kategorien

Question 16

g

Answer 16

q

Question 17

Er konstanten meningsfuld i MLR?

Answer 17

Nej ikke altid. Fordi Y og alle kontrolvariabel er 0 i skæringen, så vil det ikke altid være substantielt meningsfuldt.

Hvis alder=0 i konstanten vil en tolkning af den sjældent være meningsfuld

Question 18

Hvordan estimeres parametrene i MLR?

Answer 18

Tankegange er den samme som fra lineær regression, altså minimering af SSR (summen af kvardrede residualer). Her skal vi bare finde det hyperplan, som har den mindste kvadrede afvigelse.

Altså en flerdimensionel ret linje. Samme problem: vi skal finde det rette ’plan’, som minimerer afstanden mellem planet og det enkelte residual.

Question 19

Hvorfor bruger vi justeret R2?

Answer 19

R2 stiger jo flere variable, der inddrages. Derfor må vi lave en justeret R2, der tager højde for antallet af variable (frihedsgrader)

Question 20

Hvordan fortolkes kontrolvariablenes hældningskoefficienter (eks. Beta2).

Answer 20

Hvor meget ændrer E(Y), når Z ændres x+1 (x holdes konstant). Den variation, som er uafhængig af x (beta1).

OBS: det er dog ikke substantielt relevant at forholde sig til kontrolvariablenes hældningskoefficienter.

Question 21

Hvad er det udeladt variabel bias?

Answer 21

Udeladt variabel bias, er det selektionsbias, der opstår, når vi undlader at kontrollere for en vigtig variabel. Nogle gange kan det være en uobserveret variabel

Question 22

Hvilken effekt har UVB på hældningskoefficienten?

Answer 22

Den kan enten over- eller undervurdere effekten.
B1hat = B1 + AXB

Hvor A og B er henholdvis kontrolvariablens påvirkning på x og y.

AXB = - * - = overvurdering
AXB = + * + = overvurdering
AXB = - * + = undervurdering

Question 23

Hvad er logikken bag post-treatment bias? Hvad gør det ved effekten?

Answer 23

Post-treatment bias opstår, hvis man kontrollerer for en variabel, der ligger efter x i tid og samtidig forventer at x har en påvirkning på denne.

Hvis vi vælger at kontrollere for sådan en variabel, renser vi for noget variation, som rent faktisk skyldes x og vi vil derfor får en over- eller undervurderet effekt! nedernnnnnnnn

Question 24

Hvad er perfekt multikollinearitet?

Answer 24

Perfekt multikollinearitet opstår, når der ingen selvstændig variation er tilbage for x, efter kontrol.

“Der må ikke være en perfekt forudsigeligt og ikke-tilfældigt forhold mellem to variable”.

Eks. beskæftigelse og sektor (not good).

Question 25

Forklar ACPR-plot :) RIP dig :)))

Answer 25

Post-estimations-kommando
Argumented component plus residual plot

Partielt scatterplot for X1 (skal dog laves for alle kontinuerte z’er som tjek af antagelser)

Tager residualerne fra regressionen af z-variablene på y og plotter dem overfor værdierne på X1

Question 26

Hvordan hænger UVB sammen med selektionsbias og E(u|x) = 0?

Answer 26

UVB er med til at skabe selektionsbias. Hvis vi ikke kontrollerer for en vigtig kontrolvariabel (som har substantiel påvirkning på både x og y), så får vi et selektionsproblem

Question 27

Hvad definerer en god og en dårlig kontrolvariabel?

Answer 27

God: påvirker x og y

Dårlig: post-treatment. påvirker udelukkende en variabel

Question 28

Skal du tjekke antagelser for kontrolvariable?

Answer 28

Ja

Question 29

Hvad viser et marginsplot?

Answer 29

Forudsagte effekter for forskellige værdier af x

Question 30

Hvad bruger man marginskommandoen til?

Answer 30

Udregner de betingede gennemsnit for forskellige niveauer af x

Question 31

Hvad er intuitionen bag post-treatment bias?

Answer 31

Den er ikke årsag til initielle forskellige mellem grupperne, fordi de ligger efter tid.

Question 32

Hvad viser ACPR-plot?

Answer 32

Den viser sammenhængen mellem y og x, renset for al den variation (alle de residualer), som kan forklares af kontrolvariable.

Question 33

Hvad er løsningen på multikollinearitet?

Answer 33

Hvis to variable er højt korrelerede, så kan det måske give mening at slå dem sammen som indeks?

Question 34

Hvad er trade-off mellem multikollinearitet og usikkerhed (ift. større SE)

Answer 34

Hvis det er en vigtig kontrolvariabel, som skaber multikollinearitet, så vil vi hellere have lidt mere usikkerhed og dermed acceptere en grad af multikollinearitet.

Så ved vigtig z
multi > usikkerhed

Question 35

Er SE > eller < end robuste SE?

Answer 35

SE < robust SE