Netzwerkarchitektur
ReLU (Rectified Linear Unit)
ReLU (Rectified Linear Unit) ist ein Begriff aus dem Bereich Netzwerkarchitektur: aktivierungsfunktion definiert als , die negative Werte hart auf null setzt.
Mechanismus
Aktivierungsfunktion definiert als , die negative Werte hart auf null setzt.
Implikation
Extrem recheneffizient und reduziert das Problem der verschwindenden Gradienten (Vanishing Gradient Problem) in tiefen Netzen.
Ausführliche Erklärung
Verwandte Begriffe
Artikel zu diesem Begriff
Aktuell sind keine Artikel zu diesem Begriff verknüpft.