KNN / 01 · EXPLICATION
KNN : prédire à partir des voisins
KNeighborsRegressor recherche les k observations d’entraînement les plus proches de la nouvelle observation.
Exécution→RésultatAvec weights="uniform", la prédiction est la moyenne de leurs cibles. La distance euclidienne est utilisée par défaut. Le modèle apprend une relation locale, sans imposer une droite globale.
Nₖ(x) est l’ensemble des k voisins de x dans les seules données d’entraînement.
À retenir
- 01
fit mémorise les exemples d’entraînement ; predict recherche leurs voisins pour chaque nouvelle observation.
- 02
Petit k : prédictions plus sensibles au bruit ; grand k : prédictions plus lissées.
- 03
k se choisit sur les données de développement, sans sélectionner le meilleur résultat sur le test final.
- 04
Les prédictions restent dans la plage des cibles des voisins : KNN extrapole mal au-delà des exemples connus.
Les slides d’explication ne donnent pas lieu à une validation de code.