Arbre de décision (Decision tree)
Modèle supervisé qui classe ou prédit en scindant récursivement les données sur des seuils de caractéristiques, formant un arbre de décisions oui ou non.
Un arbre de décision est un modèle d’apprentissage supervisé qui partitionne les données par une suite de scissions si-alors sur des caractéristiques individuelles. Chaque nœud interne teste un seuil ; chaque branche conduit à une autre scission ou à une feuille qui assigne une classe ou une prédiction numérique. La structure est facile à lire, ce qui a rendu les arbres attractifs en entreprise et en médecine longtemps avant le retour en force des réseaux de neurones.
Un seul arbre profond peut surajuster le bruit en mémorisant les particularités d’entraînement. Les méthodes d’ensemble corrigent cette faiblesse : le bagging entraîne de nombreux arbres sur des échantillons bootstrap et moyenne leurs votes, et la forêt aléatoire de Leo Breiman ajoute des sous-ensembles aléatoires de caractéristiques à chaque scission pour décorréler encore les arbres. Voir l’article sur les forêts aléatoires et l’entrée de chronologie.