PASCAL YIM / apprendreRégression linéaire et métriques

RÉGRESSION / 02 · EXPLICATION

Résidus et moindres carrés

La droite ne passe généralement pas par tous les points. Le résidu mesure l’écart de prédiction.

FONCTIONNEMENT

Le critère additionne les carrés des écarts verticaux. Le carré empêche la compensation des erreurs positives et négatives et pénalise davantage les grands écarts.

ei=yi−y^i,J(a,b)=∑i=1n(yi−axi−b)2e_i=y_i-\hat y_i,\qquad J(a,b)=\sum_{i=1}^n (y_i-a x_i-b)^2

Ce critère utilise des écarts sur y ; ce ne sont pas les distances perpendiculaires à la droite.

681012100200300Consommation (L/100 km)CO₂ (g/km)

MSE sur ces six points : 194.00 (g/km)²

Segments jaunes : résidus verticaux, pas distances perpendiculaires à la droite. Illustration limitée aux six premières observations.

À retenir

  1. 01

    Le segment relie une observation à la droite pour le même x.

  2. 02

    Minimiser la somme des carrés ou sa moyenne donne les mêmes paramètres a et b.

  3. 03

    Une valeur atypique peut fortement déplacer la droite.

Les slides d’explication ne donnent pas lieu à une validation de code.

Parcours · chapitres

Droite, moindres carrés, classe Python et mesure des erreurs.

01 / Rappels de Python

02 / Classes et objets en Python

03 / Pandas et DataFrames

04 / Régression linéaire et métriques

05 / Régressions multiple et polynomiale

06 / Évaluer les modèles

07 / KNN et normalisation

Quiz de synthèse · 24 questions →Rejoindre une session →