Дивергенция Кульбака — Лейблера в LaTeX (D_{\text{KL}}(P \| Q))

Где используется

Дивергенция Кульбака — Лейблера распределения Q относительно P: ожидаемые дополнительные логарифмические потери при использовании Q вместо истинного распределения P.

KL-дивергенция равна D_{\text{KL}}(P \| Q) = \sum_x P(x) \log \frac{P(x)}{Q(x)}; она занимает центральное место в вариационном выводе, ELBO и регуляризации стратегии в обучении с подкреплением. Она несимметрична, поэтому порядок P и Q важен, а двойная черта разделяет их. \| — обычный символ без пробелов вокруг, что может выглядеть тесно; многие авторы пишут \parallel, получающий интервалы отношения, или добавляют \, с обеих сторон. \text{KL} в нижнем индексе наследует шрифт окружающего текста, поэтому внутри курсивного текста теоремы надёжнее \mathrm{KL}. Для больших дробей внутри используйте \left( \right).

Минимальный компилируемый пример

Вставьте это в пустой файл .tex и скомпилируйте с pdfLaTeX, XeLaTeX или LuaLaTeX.

\documentclass{article}
\usepackage{amsmath}
\begin{document}
KL Divergence: $D_{\text{KL}}(P \| Q)$

\[ D_{\text{KL}}(P \| Q) = \sum_x P(x) \log \frac{P(x)}{Q(x)} \]
\end{document}

Похожие символы

• KL-дивергенция (краткая запись)\text{KL}(P \| Q)
• Математическое ожидание\mathbb{E}[X]
• Аргумент максимума\arg\max
• Математическое ожидание\mathbb{E}
• Аргумент минимума\arg\min
• Рукописная L (лагранжиан)\mathcal{L}

Частые вопросы

Как написать «Дивергенция Кульбака — Лейблера» в LaTeX?

Наберите D_{\text{KL}}(P \| Q) в математическом режиме, например $D_{\text{KL}}(P \| Q) = \sum_x P(x) \log \frac{P(x)}{Q(x)}$. Сначала подключите amsmath: \usepackage{amsmath}.

Какой пакет нужен для D_{\text{KL}}(P \| Q)?

Для D_{\text{KL}}(P \| Q) нужен amsmath: добавьте \usepackage{amsmath} в преамбулу до начала документа.

Можно ли использовать D_{\text{KL}}(P \| Q) в текстовом режиме или только в математическом?

Только в математическом режиме. Вне $...$ LaTeX остановится с ошибкой "Missing $ inserted", поэтому в тексте пишите $D_{\text{KL}}(P \| Q)$.