Systemgrenze
Context Window (Kontextfenster)
Mechanismus
Die physikalische Obergrenze an Eingangs-Tokens, die ein Transformer in einem Berechnungsdurchlauf verarbeiten kann.
Implikation
Limitiert die maximale Länge an Dokumenten, die das Modell ohne Informationsverlust in einem Schritt analysieren kann.