RLHF (Reinforcement Learning from Human Feedback)
Verfeinerung von LLMs aus menschlichen Präferenzvergleichen, oft mit verstärkendem Lernen, zentral für Alignment nach dem Pretraining.
RLHF (Reinforcement Learning from Human Feedback, verstärkendes Lernen aus menschlichem Feedback) verfeinert LLMs anhand menschlicher Präferenzvergleiche, oft Ranking zweier Modellausgaben, und optimiert danach per verstärkendes Lernen (häufig PPO). Es ist ein zentraler Hebel für Alignment nach dem Pretraining, zu unterscheiden von überwachtem Lernen und Fine-Tuning auf festen Eingabe-Ausgabe-Paaren.