Chapitre 2 : Le modèle linéaire multiple

Question 1

Modèle de régression linéaire multiple :

Answer 1

Y « est expliquée » par un ensemble de variables explicatives X1, X2, …, XK :
Yi= βo + β1 Xi + β2 Xi + … + εi

Question 2

Pour un échantillon 𝑦𝑖 , 𝑥1 ,𝑖, ⋯ , 𝑥𝐾,𝑖 𝑖=1,…,𝑛 :

Answer 2

Yi= βo + β1 Xi + β2 Xi + … + εi
y : variable dépendante
𝑥1, ⋯ , 𝑥𝐾 : variables explicatives (ou régresseurs)
ε : terme d’erreur (facteurs omis affectant y)
𝛽0, 𝛽1, ⋯ , 𝛽𝐾 : coefficients de régression (𝛽0: constante ou « intercept ») : paramètres inconnus

Hypothèses :
• 𝑦𝑖 , 𝑥1,𝑖, ⋯ , 𝑥𝐾,𝑖 𝑖=1,…,𝑛 : échantillon iid
• 𝐸 𝜀𝑖 = 0 (identification)
• 𝐸 𝜀𝑖 𝑥1,𝑖, ⋯ , 𝑥𝐾,𝑖 = 0 (pour interprétation « ceteris paribus »)

Question 3

Interprétation :

Answer 3

𝛽1 : effet sur y d’une variation unitaire de x1, « toutes choses égales par ailleurs » (en maintenant x2 et x3
constantes, et aussi les autres facteurs contenus dans ε) , ou « en contrôlant de l’effet de x2 et x3 » ;
𝛽2 : effet sur y d’une variation unitaire de x2, « toutes choses égales par ailleurs »
𝛽3 : effet sur y d’une variation unitaire de x3, « toutes choses égales par ailleurs »
Coefficients de régression ↔ effets partiels d’un régresseur sur y en maintenant les autres facteurs constants.

Question 4

Ecriture matricielle complète du modèle. On empile les n équations :

Answer 4

Y =X*β + ε

Question 5

si la matrice 𝑿′𝑿 est inversible (régulière), on obtient la formule des estimateurs par MCO :

Answer 5

𝜷= (𝑿′𝑿 )*−𝟏𝑿′𝒀

Question 6

Interprétation de « 𝐗′𝐗 inversible »: les colonnes de X sont linéairement indépendantes ⇔

Answer 6

aucune variable explicative est une combinaison
linéaire des autres variables explicatives. Dans le cas contraire : on parle de multicolinéarité (ou colinéarité parfaite)

Question 7

Comme dans le MRL simple, la variance totale se décompose en variance expliquée et variance résiduelle :

Answer 7

SCT = SCR + SCE

Question 8

coefficient de détermination :

Answer 8

𝑹𝟐 = SCE / SCT = 1 - SCR / SCT

R2 ne diminue jamais quand une variable explicative est ajoutée au modèle (car la SCR ne diminue pas).

Question 9

Les propriétés des estimateur MCO :

Answer 9

. H1 : (𝑥𝑖, 𝑦𝑖)𝑖=1,…,𝑛 : échantillon iid
• H2 : 𝛽0, 𝛽1, ⋯ , 𝛽𝐾 : nombres réels, paramètres du modèle linéaire : 𝑦𝑖 = 𝛽0 + 𝛽1𝑥1,𝑖 + ⋯ + 𝛽1 𝑥𝐾,𝑖 + 𝜀𝑖
→ modèle valable pour la population dans laquelle on a tiré l’échantillon
• H3 : 𝐸( 𝜀𝑖 I 𝑥1) ,𝑖, ⋯ , 𝑥𝐾,𝑖 = 0, ∀𝑖 ⇒ 𝐸( 𝜀I𝑋 )= 0 ( ccar indépendance )
• H4 : rang de 𝑋′𝑋 = 𝐾 + 1 : pas de colinéarité parfaite
H5 : 𝑉( 𝜀𝑖 I 𝑥1) ,𝑖, ⋯ , 𝑥𝐾,𝑖 = 𝜎2, ∀𝑖 = 1, ⋯ , 𝑛 ⇔ 𝑉 (𝜀𝜀’ I 𝑋) = 𝐸 (𝜀𝜀′ I𝑋) = 𝜎2*In (car indépendance)

Question 10

un estimateur sans biais de σ2 est :

Answer 10

𝜎2 = 𝑆C𝑅 / 𝑛 − (𝐾 + 1)

= ∑𝑖=1 𝜀𝑖2* / 𝑛 − (𝐾 + 1)

Question 11

On a alors un estimateur de la matrice des variances-covariances du vecteur ̂ 𝛽:

Answer 11

𝑽 chapeau (𝜷^I𝑿) = 𝝈𝟐* (𝑿′𝑿) −𝟏

Question 12

Sous les hypothèses H1-H5, l’estimateur par MCO est :

Answer 12

le meilleur estimateur linéaire sans biais (BLUE :

best linear unbiased estimator).