Divergence de Kullback-Leibler en LaTeX (D_{\text{KL}}(P \| Q))

Où il est utilisé

Divergence de Kullback-Leibler de Q par rapport à P : la perte logarithmique supplémentaire attendue lorsqu'on utilise Q à la place de la vraie distribution P.

La divergence KL s'écrit D_{\text{KL}}(P \| Q) = \sum_x P(x) \log \frac{P(x)}{Q(x)} ; elle est centrale en inférence variationnelle, dans l'ELBO et pour la régularisation des politiques en apprentissage par renforcement. Elle n'est pas symétrique : l'ordre de P et Q compte, et la double barre les sépare. \| est un symbole ordinaire sans espace autour, ce qui peut paraître serré ; beaucoup d'auteurs écrivent \parallel, qui reçoit l'espacement d'une relation, ou ajoutent \, de part et d'autre. \text{KL} en indice hérite de la police du texte environnant, donc \mathrm{KL} est plus sûr dans un énoncé de théorème en italique. Pour de grandes fractions à l'intérieur, utilisez \left( \right).

Exemple minimal compilable

Collez-le dans un fichier .tex vide et compilez avec pdfLaTeX, XeLaTeX ou LuaLaTeX.

\documentclass{article}
\usepackage{amsmath}
\begin{document}
KL Divergence: $D_{\text{KL}}(P \| Q)$

\[ D_{\text{KL}}(P \| Q) = \sum_x P(x) \log \frac{P(x)}{Q(x)} \]
\end{document}

Symboles associés

• Divergence KL (forme abrégée)\text{KL}(P \| Q)
• Espérance\mathbb{E}[X]
• Argmax\arg\max
• Espérance\mathbb{E}
• Argmin\arg\min
• L calligraphique (lagrangien)\mathcal{L}

Questions fréquentes

Comment écrire Divergence de Kullback-Leibler en LaTeX ?

Tapez D_{\text{KL}}(P \| Q) en mode mathématique, par exemple $D_{\text{KL}}(P \| Q) = \sum_x P(x) \log \frac{P(x)}{Q(x)}$. Chargez d’abord amsmath avec \usepackage{amsmath}.

Quel paquet faut-il pour D_{\text{KL}}(P \| Q) ?

D_{\text{KL}}(P \| Q) nécessite amsmath : ajoutez \usepackage{amsmath} au préambule avant le début du document.

Peut-on utiliser D_{\text{KL}}(P \| Q) en mode texte, ou seulement en mode mathématique ?

Seulement en mode mathématique. Hors de $...$, LaTeX s’arrête avec "Missing $ inserted" : dans le texte, écrivez $D_{\text{KL}}(P \| Q)$.