Zurück zum Glossar
    Transformer-Komponente

    Query (Q)

    Mechanismus

    Ein aus dem Token-Embedding erzeugter Vektor, der die Suchanfrage des aktuellen Tokens an den Kontext repräsentiert.

    Implikation

    Steuert aktiv, nach welchen semantischen Informationen das Modell im aktuellen Berechnungsschritt sucht.

    Ausführliche Erklärung