Trainingsstrategie
Parameter-Effizienz (PEFT)
Mechanismus
Methoden zur Anpassung von Großmodellen unter bewusster Limitierung der trainierbaren Parameter auf einen minimalen Bruchteil.
Implikation
Reduziert die Speicher- und Rechenkosten im Training dramatisch und verhindert das gefürchtete katastrophale Vergessen.