Introduction aux data sciences

Programme prévisionnel

• Introduction à l’apprentissage supervisé :

  • caractérisation d’une famille de modèles de régression ou clasification

  • erreur d’apprentissage vs erreur de test

  • choix de modèle par validation croisée

  • exemple des k-plus proches voisins

• Arbres de décision pour la classification et la régression

  • construction d’un arbre de décision via l’algorithme CART

  • caractériser la complexité d’un arbre

  • choix du meilleur arbre par élagage

  • exemples en régression et classification

• Agrégation d’arbres de décision

  • agrégation d’arbres via l’algorithme de bagging

  • réduire la corrélation des arbres agrégés : forêt aléatoire

  • si le temps le permet : agrégation séquentielle par boosting

Logiciel R et livre

• Pour ceux qui ont besoin d’indications, vous pouvez consulter l’aide mémoire de Julien Chiquet.

• Pour gagner en autonomie en programmation, la plateforme stackoverflow est indispensable¹.

• Le livre An Introduction to Statistical Learning est indispensable. Ce livre a largement inspiré le contenu de ce cours !

Introduction : régression, classification et phénomène de sur-apprentissage

Séances du 03 et 06 mars 2026 : traiter les exemples qu’on corrigera lors de la séance de cours.

• Code : séance d’introduction à traiter.

• Code : validation croisée avec caret en classification à traiter.

• Code : validation croisée avec caret en régression à traiter.

• Indispensables à lire pour cette partie (livre ISLR) : chapitres 1 et 2.

Séance du 23 mars 2026 : Nous allons aborder les arbres de décision (brique de base d’un grand nombre de familles de modèles)

• Les slides et notes servent de supports des séances de cours sur les arbres de décision.

• À partir de cette séance, les scripts de TP doivent être codés en temps réel en séance de cours.

• Indispensable à lire pour cette partie (livre ISLR) : chapitre 8 (8.1 pour les arbres et 8.2 pour les forêts aléatoires).

Séance du 06 mai 2026 : Nous allons aborder les arbres de décision pour la classification + retour sur l’élagage

• Code : arbres de décision et élagage pour la régression à traiter.

• Code : arbres de décision et élagage pour la classification à traiter.

Séance du 13 mai 2026 : Indice de Gini en classification + nous allons aborder les forêts aléatoires

Séance (si le temps le permet) : Nous allons aborder l’agrégation séquentielle d’arbre (boosting)

• Les slides

Exemples d’examens pour préparer la session de juin 2026

Examen 2021 juin 2021

Examen 2024 (vous n’avez pas vu adaboost cette année) juin 2024

Jeux de données et packages

Si besoin, le package R ElemStatLearn

Jeu de données mixture example

Jeu de données coûts de soins

Annonce : L’évaluation va reposer uniquement sur l’examen de session 1 (juin 2026) et 2 (septembre 2026). Aucun devoir à rendre.

---

1. Personnellement je consulte énormément cette plateforme où je trouve des réponses à mes questions.↩︎