Feinabstimmung (Fine-Tuning)
Weiteres Training eines bestehenden Modells: meist weniger Daten und spezielleres Ziel als beim Pretraining.
Feinabstimmung (Fine-Tuning) passt ein vortrainiertes Modell an, oft ein großes Sprachmodell (LLM) auf Transformer-Basis, an Domäne, Stil, Aufgaben oder Werkzeugnutzung, meist mit kuratierten Beispielen.
Es folgt auf großes Training (Pretraining) und geht dem Inferenz-Einsatz voraus. Günstiger als Training von Grund auf, kann Bias aus Zusatzdaten aber verstärken. RLHF nutzt oft eine Fine-Tuning-Phase nach überwachtem Lernen auf festen Paaren.