Systemkomponente
Reward-Modell
Mechanismus
Ein neuronales Netzwerk zur Schätzung der menschlichen Präferenz-Wahrscheinlichkeit für eine generierte Antwort.
Implikation
Dient im klassischen RLHF als künstlicher Schiedsrichter und liefert das mathematische Belohnungssignal für den Optimierer.