Softmax-Funktion in LaTeX (\text{softmax})

Verwendung

Name der Softmax-Funktion: bildet einen Vektor von Logits durch Exponentieren und Normieren auf eine Wahrscheinlichkeitsverteilung ab.

Softmax ist komponentenweise definiert als \text{softmax}(z)_i = e^{z_i} / \sum_j e^{z_j} und schließt fast jeden Klassifikator sowie den Attention-Mechanismus ab, wo \text{softmax}(QK^\top/\sqrt{d_k})V steht. Da \text{} die Schrift des umgebenden Textes verwendet, wird es in Satz- oder Hervorhebungsumgebungen kursiv. \operatorname{softmax} ist meist die bessere Wahl: Es ist immer aufrecht und fügt wie \sin einen Operatorabstand vor der Klammer ein. Ein Temperaturparameter wird als \text{softmax}(z/T) geschrieben. Verwenden Sie \left( \right), wenn das Argument einen Bruch enthält. In codelastigen Arbeiten sollten Sie angeben, über welche Achse Softmax normiert, etwa die Klassendimension.

Minimales kompilierbares Beispiel

Fügen Sie dies in eine leere .tex-Datei ein und kompilieren Sie mit pdfLaTeX, XeLaTeX oder LuaLaTeX.

\documentclass{article}
\usepackage{amsmath}
\begin{document}
Softmax: $\text{softmax}$

\[ \text{softmax}(z)_i = \frac{e^{z_i}}{\sum_{j=1}^{K} e^{z_j}} \]
\end{document}

Verwandte Symbole

• Sigma\sigma
• Eingekreister Punkt\odot
• ReLU\text{ReLU}
• Tensorprodukt\otimes
• Nabla\nabla
• Argmin mit Index\arg\min_{\theta}

Häufige Fragen

Wie schreibe ich Softmax-Funktion in LaTeX?

Schreiben Sie \text{softmax} im Mathematikmodus, zum Beispiel $\text{softmax}(z)_i = \frac{e^{z_i}}{\sum_{j=1}^{K} e^{z_j}}$. Laden Sie zuerst amsmath mit \usepackage{amsmath}.

Welches Paket brauche ich für \text{softmax}?

\text{softmax} benötigt amsmath: Fügen Sie \usepackage{amsmath} in die Präambel ein, bevor das Dokument beginnt.

Kann ich \text{softmax} im Textmodus verwenden oder nur im Mathematikmodus?

Beides. \text{softmax} kompiliert im Fließtext ebenso wie innerhalb von $...$; in einer Formel bleibt es im Mathematikmodus, damit es mathematische Schriften und Abstände erhält.