Réglage fin (Fine-tuning)
Entraînement supplémentaire à partir d'un modèle existant : généralement avec moins de données et un objectif plus restreint que le pré-entraînement.
Le réglage fin adapte un modèle pré-entraîné, souvent un grand modèle de langage (LLM) en architecture transformeur, vers un domaine, un ton, une politique d’outils ou une tête de classification avec des paires étiquetées spécialisées.
Il suit en général un entraînement à grande échelle (pré-entraînement) et précède le déploiement en inférence. Moins coûteux qu’un entraînement depuis zéro lorsqu’une base solide existe, le biais dans les données de réglage fin peut toutefois s’accumuler. Des étapes comme le RLHF incluent souvent une phase de réglage fin après apprentissage supervisé sur paires fixes.