Функция softmax в LaTeX (\text{softmax})

Где используется

Название функции softmax: переводит вектор логитов в распределение вероятностей с помощью взятия экспоненты и нормировки.

Softmax определяется покомпонентно как \text{softmax}(z)_i = e^{z_i} / \sum_j e^{z_j} и завершает почти каждый классификатор и механизм внимания, где \text{softmax}(QK^\top/\sqrt{d_k})V. Поскольку \text{} использует шрифт окружающего текста, внутри теорем или выделенного текста он становится курсивным. Обычно лучше \operatorname{softmax}: он всегда прямой и добавляет операторный пробел перед скобкой, как и \sin. Параметр температуры записывается как \text{softmax}(z/T). Используйте \left( \right), если аргумент содержит дробь. В статьях с большим количеством кода указывайте, по какой оси нормирует softmax, например по измерению классов.

Минимальный компилируемый пример

Вставьте это в пустой файл .tex и скомпилируйте с pdfLaTeX, XeLaTeX или LuaLaTeX.

\documentclass{article}
\usepackage{amsmath}
\begin{document}
Softmax: $\text{softmax}$

\[ \text{softmax}(z)_i = \frac{e^{z_i}}{\sum_{j=1}^{K} e^{z_j}} \]
\end{document}

Похожие символы

• Сигма\sigma
• Точка в круге\odot
• Функция ReLU\text{ReLU}
• Тензорное произведение\otimes
• Набла\nabla
• Аргумент минимума с индексом\arg\min_{\theta}

Частые вопросы

Как написать «Функция softmax» в LaTeX?

Наберите \text{softmax} в математическом режиме, например $\text{softmax}(z)_i = \frac{e^{z_i}}{\sum_{j=1}^{K} e^{z_j}}$. Сначала подключите amsmath: \usepackage{amsmath}.

Какой пакет нужен для \text{softmax}?

Для \text{softmax} нужен amsmath: добавьте \usepackage{amsmath} в преамбулу до начала документа.

Можно ли использовать \text{softmax} в текстовом режиме или только в математическом?

В обоих. \text{softmax} компилируется и в тексте, и внутри $...$; в формуле оставляйте её в математическом режиме ради математических шрифтов и интервалов.