Regression Flashcards

Inkl. Bivariat regression, multipel regression

1
Q

Hvad er forskellen på en independent, paired, pearson korrelation og bivariat regression?

A

Independent = forskellen mellem variable

Paried = forskellen mellem variable

Pearson korrelationsanalyse = sammenhæng mellem variable

Bivariat = Sammenhæng mellem stigning i variable

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
2
Q

Hvordan måler man, hvor stor effekterne er i hhv. t-test, chi-squared test, korrelationsanalyser og lineær regression?

A

T-test = Cohen’s d
Chi Square Test = Phi og Cramer’s V
Korrelationsanalyse = korrelationskoefficienten
Lineær regression = Regressionskoefficient (betakoefficienten)

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
3
Q

Hvad er regressionsanalyser?

A

Regressionsanalyser handler om at kunne forudsige sammenhænge

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
4
Q

Hvordan måler man effektstørrelsen, såfremt der er signifikans i lineær regressionsanalyser?

A

Det måler man via regressionskoefficienten (betakoefficienten)

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
5
Q

Hvad er R-squared (R^2) ?

A

Hvor meget af variansen er forklaret af vores data.

Jo højere R-squared er, jo mere kan man forklare.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
6
Q

Hvad er ustandardiserede betakoefficient?

A

Det relaterer sig til hældningen, men viser den direkte affekt.

Den måler på den skala, de respektive uafhængige variabler er på (aka den bruger ens skala fra ens spørgeskema).

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
7
Q

Hvad er Standardiserede betakoefficient?

A

Det relaterer sig til hældningen, men viser effekten målt standardafvigelsen.

Man bruger standardafvigelsen til at standardisere, at al ens data bliver standardiseret til én data således forskellige skalaer kan holdes op mod hinanden (F.eks. Kan man sammenligne en 5-skala med en 7-skala)

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
8
Q

Hvad er standardfejl (std. Error of the estimate)?

A

Standardfejl er standardafvigelsen forbundet med de ustandardiserede residualer (forskelle mellem observerede værdier versus det forudsagte)

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
9
Q

Hvornår bruger man de ustandardiserede versus standardiserede betafoefficienter?

A

Hvis man har en analyse hvor alle en uafhængige variabler er på samme skala (e.g. likertskala 1 - 5) kan man sagtens bruge de ustandardiserede betakoefficient. De har samme skala så de kan sagtens sammenlignes direkte.

Hvis vi derimod har forskellige variabler med forskellige skala (e.g. køn, alder, antal års uddannelse, likertskala 1- 5) så skal man bruge de standardiserede betakoefficient for at se hvilken variable har størst effekt. Hvis man ikke gør det ignorer man at de opererer på forskellige skala som gør at de ikke direkte kan sammenlignes.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
10
Q

Hvad er forskellen på homoskedasticitet og heteroskedasticitet? Og hvorfor kan der være et problem?

A

Homoskedasticitet = Dataen er ligeligt fordelt over linjen (dermed er grundantagelse 7 i regressionsnalayseropfyldt)

Heteroskedasticitet = Standardafvigelsen vil variere meget, hvorfor lineær regressionsanalyse ikke vil være muligt, (grundantagelse 7 er dermed ikke er opfyldt, hvis der udvises heteroskedasticitet)

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
11
Q

Forklar dummy variabler

A

Er noget til stede (1), betyder det, at noget andet ikke er til stede (0)

(F.eks. Mand/kvinde)

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
12
Q

Hvad skal man være særlig opmærksom på, hvis man arbejder med kategorisk data i sin regressionsanalyse?

A

Hvis man laver dem på kategorisk data, skal man huske, at de skal have ét reference punkt, og dummy kode de andre variabel

F.eks. Kan ens referencepunkt være ”single”, og så kan hhv. ”gift” og ”fraskilt” være ens dummy koder

Der skal altså være noget over for noget andet.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
13
Q

Hvad er bivariat regression?

A

Man undersøger smamenhæng mellem stigning i variable.

En bivariat regression er, der hvor vi prøver at forudse ændringen i en værdi, baseret på ændringen i en anden værdi (der er dermed to variabler i en bivariat regression = én afhængig og én uafhængig variabel).

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
14
Q

Hvilken form for data bruges til bivariat regression? (kategorisk/kontinuerligt)

A

Kontinuerlig data - såfremt der er kategorisk, skal man dummy kode

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
15
Q

Hvad er de to vigtigste begreber i bivariat regression?

A
  1. Hældning = repræsenterer mængden af ændring i Y som funktion af en enhedsstigning i X. Værdien af en hældning kan enten være positiv eller negativ. Det måles gennem betakoefficient.
  2. Skæringspunktet = kan betragtes som grundlaget for regressionsligningen, da det kan betragtes som udgangspunktet for ligningen. Skæringspunktet repræsenterer den forudsagte værdi af Y, når X er nul
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
16
Q

Hvilke grundantagelser er der i bivariat regression?

A
  1. Tilfældig stikprøve: Alle individer i populationen skal have lige stor chance for at blive udvalgt til stikprøven.
  2. Uafhængighed af observationerne: Deltagere i undersøgelsen har ikke påvirket hinanden med hensyn til variablerne af interesse.
  3. Variable(r) er interval/ratio skala (eller minimum 5-trins skala på den ordinal målestok).
  4. Linearitet: Person korrelation antager et lineært forhold mellem de afhængige og uafhængige variable.
  5. Normalt distribuerede residualer: For at evaluere normalitetsantagelsen undersøge fordelingen af Jeres residualer. Benyt IQRx3 reglen.
  6. Uafhængighed af Fejl (relevant for tidsserie studier): Observationer skal være uafhængige af hinanden. Brug Durbin-Watson her.
  7. Dine data skal vise homoscedasiticitet (Dette skal man teste for, da man skal kunne vurdere, hvor valid ens data er)
17
Q

Hvorfor er det vigtigt at bruge IQR3-reglen i bivariat regression?

A

Outliers vil påvirke bivariate regressioner rigtig meget, hvorfor IQx3 reglen SKAL benyttes

18
Q

Hvilken form for data bruges til multipel regression? (kategorisk/kontinuerligt)

A

Kontinuerligt data

Man kan ikke have kategorisk data i en regressionsanalyse, da de er gensidigt udelukkende, hvorfor man ikke kan udregne gennemsnit. Derfor omsætter man dummy variabler.

19
Q

Hvilke grundantagelser er der i multipel regression?

A
  1. Tilfældig stikprøve: Alle individer i populationen skal have lige stor chance for at blive udvalgt til stikprøven.
  2. Uafhængighed af observationerne: Deltagere i undersøgelsen har ikke påvirket hinanden med hensyn til variablerne af interesse.
  3. Variable(r) er interval/ratio skala (eller minimum 5-trins skala på den ordinal målestok).
  4. Linearitet: Person korrelation antager et lineært forhold mellem de afhængige og uafhængige variable.
  5. Normalt distribuerede residualer: For at evaluere normalitetsantagelsen undersøge fordelingen af Jeres residualer. Benyt IQRx3 reglen.
  6. Uafhængighed af Fejl (relevant for tidsserie studier): Observationer skal være uafhængige af hinanden. Brug Durbin-Watson her.
  7. Dine data skal vise homoscedasiticitet (Dette skal man teste for, da man skal kunne vurdere, hvor valid ens data er)
  8. Fravær af multikollinaritet
20
Q

Hvornår er boksplot nyttige?

A

Boxplots er især nyttige til at vise den centrale tendens og en skæv frekvensfordeling (f.eks. ved skew og dermed interkvartilområdet).

21
Q

Hvad bruges IQR3-reglen til?

A

IQR3-reglen bruges til at identificere outliers i interkvartilområdet.

22
Q

Hvad er Durbin Watson?

A

Kontrollere hvor stor uafhængighed der er mellem observationerne.

Durbin-Watson-statistikken variere fra 0 til 4.

En værdi på 2 indikerer det totale fravær af en seriel korrelation (hvilket er en “god” ting for regressionsanalysen).

Den bruges typisk ved tidsstudie.

23
Q

Forklar seriel korrelation

A

Hvis observationerne ikke er uafhængige af hinanden (ofte tidsmæssig data)

24
Q

Hvordan måles fravær af multikollinaritet i multipel regression?

A

Via tolerance og VIF

Tolerance = Variation i en uafhængig variable som ikke er forklaret af de andre uafhængige variabler. Hvis du rammer 0,10 eller under er du i problemer.

Variance Inflation Factor (VIF) = Måler hvor meget af variansen af en uafhængig variabel er påvirket (eller oppustet) af dens interaktion/korrelation med de andre uafhængige variabler. Maximum VIF af 10.

25
Q

Hvad skal man gøre, hvis man observerer multikollinaritet?

A

Hvis man observerer en multikollinaritet i sit datasæt, skal denne data slettes. Derefter skal man lave testen forfra.

26
Q

Hvad er multikollinaritet?

A

Det er seriel korrelation. Det betyder, at de uafhængige variabler skal sige noget om den afhængige variabel.

I regressionsanalyser ønsker man at have totalt fravær af en seriel korrelation (en Durbin Watson værdi på 2)

27
Q

Hvad er semi-partial correlations?

A

Semi-partial correlation siger noget om det unikke bidrag fra hver uafhængig variabel.

Hvor meget af variansandelen i den afhængige variabel er forklaret af den uafhængige variabel.

28
Q

Hvilke hovedopgaver har Multipel regression?

A
  1. Maksimalt at forudsige den afhængige variabel med en regressionsligning (model R2)
  2. Estimere de unikke bidrag fra hver uafhængige variable på regressionsligningen.
29
Q

Hvad relaterer fejlmargin sig til?

A

Den relaterer sig til grundantagelse 7 om homoskedasticitet.

“Når data opfylder kravene til homoskedasticitet, er fejlmarginen jævnt fordelt og ensartet, hvilket betyder, at fejlene ikke systematisk varierer med stigningen i den afhængige variabel.”