Mathematik
Entropie (Informationstheorie)
Mechanismus
Das mathematische Maß für den mittleren Informationsgehalt oder die Unordnung einer Wahrscheinlichkeitsverteilung.
Implikation
Dient in Form der Kreuzentropie (Cross Entropy) als universelle Verlustfunktion beim Training von Klassifikatoren.