Parameter-Effizienz
QLoRA
QLoRA ist ein Begriff aus dem Bereich Parameter-Effizienz: loRA-Feinabstimmung auf einem hochgradig quantisierten (meist 4-Bit NormalFloat) und eingefrorenen Basismodell.
Mechanismus
LoRA-Feinabstimmung auf einem hochgradig quantisierten (meist 4-Bit NormalFloat) und eingefrorenen Basismodell.
Implikation
Senkt die Hardware-Eintrittsbarrieren für das professionelle Fine-Tuning massiv und schont wertvolle Rechenressourcen.
Ausführliche Erklärung
Verwandte Begriffe
Artikel zu diesem Begriff
Aktuell sind keine Artikel zu diesem Begriff verknüpft.