PASCAL YIM / apprendreRégression linéaire et métriques

RÉGRESSION / 03 · EXPLICATION

Déterminer a et b

Au minimum, les dérivées de J par rapport à a et b sont nulles.

FONCTIONNEMENT

La dérivée en b impose b = ȳ − a x̄. En remplaçant b dans la dérivée en a, on obtient le rapport des produits centrés à la somme des carrés centrés.

∂J∂b=−2∑i(yi−axi−b)=0\frac{\partial J}{\partial b}=-2\sum_i(y_i-a x_i-b)=0

En divisant par n : ȳ − a x̄ − b = 0.

∂J∂a=−2∑ixi(yi−axi−b)=0\frac{\partial J}{\partial a}=-2\sum_i x_i(y_i-a x_i-b)=0

Avec b = ȳ − a x̄, les termes se réécrivent à partir des valeurs centrées.

a=∑i(xi−xˉ)(yi−yˉ)∑i(xi−xˉ)2,b=yˉ−axˉa=\frac{\sum_i(x_i-\bar x)(y_i-\bar y)}{\sum_i(x_i-\bar x)^2},\qquad b=\bar y-a\bar x

La droite ajustée passe par le point moyen (x̄, ȳ).

À retenir

  1. 01

    Les barres désignent les moyennes sur les n observations.

  2. 02

    La somme des carrés centrés de x doit être strictement positive : si tous les x sont identiques, la pente n’est pas identifiable.

  3. 03

    J est une fonction convexe de a et b ; ces équations donnent le minimum global, unique lorsque x varie.

Les slides d’explication ne donnent pas lieu à une validation de code.

Parcours · chapitres

Droite, moindres carrés, classe Python et mesure des erreurs.

01 / Rappels de Python

02 / Classes et objets en Python

03 / Pandas et DataFrames

04 / Régression linéaire et métriques

05 / Régressions multiple et polynomiale

06 / Évaluer les modèles

07 / KNN et normalisation

Quiz de synthèse · 24 questions →Rejoindre une session →