Régression Linéaire

L’origine du mot régression [CML07] vient de Sir Francis Galton. En 1885, travaillant sur l’hérédité, il chercha à expliquer la taille des fils en fonction de celle des pères. Il constata que lorsque le père était plus grand que la moyenne, taller than mediocrity, son fils avait tendance à être plus petit que lui et, a contrario, que lorsque le père était plus petit que la moyenne, shorter than mediocrity, son fils avait tendance à être plus grand que lui. Ces résultats l’ont conduit à considérer sa théorie de regression toward mediocrity.

Dans ce cours, nous allons analyser la régression linéaire simple et multiple, ensuite nous allons voir la technique d’otimisation Gradient Descent que nous introduirons dans la régression linéaire. Finalement, nous allons appliquer toutes ces notions ainsi que certaines notions des derniers cours en pratiquant la prédictions de l’indice DJIA.

CML07

Pierre-André Cornillon and Eric Matzner-Lober. Régression: théorie et applications. Springer, 2007.