Modellverhalten
Catastrophic Forgetting
Catastrophic Forgetting ist ein Begriff aus dem Bereich Modellverhalten: der vollständige Verlust von zuvor gelerntem Allgemeinwissen während eines aggressiven Feinabstimmungsprozesses.
Mechanismus
Der vollständige Verlust von zuvor gelerntem Allgemeinwissen während eines aggressiven Feinabstimmungsprozesses.
Implikation
Ein kritisches Risiko beim Fine-Tuning, dem durch PEFT-Verfahren oder Regularisierung mathematisch entgegengewirkt werden muss.
Ausführliche Erklärung
Verwandte Begriffe
Artikel zu diesem Begriff
Aktuell sind keine Artikel zu diesem Begriff verknüpft.