Información mutua en LaTeX (I(X; Y))

Dónde se usa

Información mutua entre X e Y: cuánto reduce el conocimiento de una variable aleatoria la incertidumbre sobre la otra.

La información mutua es I(X; Y) = H(X) - H(X \mid Y) = D_{\text{KL}}(p(x,y) \| p(x)p(y)), y vale cero exactamente cuando X e Y son independientes. El punto y coma es convencional y separa los dos argumentos, que a su vez pueden ser listas, como en I(X_1, X_2; Y); una coma sería ambigua. TeX trata ; como puntuación y añade automáticamente un espacio fino detrás. La información mutua condicional se escribe I(X; Y \mid Z). Es la base del cuello de botella de la información, de las pérdidas contrastivas InfoNCE y de la selección de características.

Ejemplo mínimo compilable

Pégalo en un archivo .tex vacío y compílalo con pdfLaTeX, XeLaTeX o LuaLaTeX.

\documentclass{article}
\begin{document}
Mutual Information: $I(X; Y)$

\[ I(X; Y) = H(X) - H(X \mid Y) \]
\end{document}

Símbolos relacionados

• Log-verosimilitud\log p(x | \theta)
• EntropíaH(X)
• Distribución de probabilidadp(x)
• Entropía cruzadaH(p, q)
• Probabilidad condicionalp(y | x)
• Vector de sesgo\mathbf{b}

Preguntas frecuentes

¿Cómo escribo Información mutua en LaTeX?

Escribe I(X; Y) en modo matemático, por ejemplo $I(X; Y) = H(X) - H(X \mid Y)$. Funciona en LaTeX estándar sin cargar ningún paquete.

¿Qué paquete necesito para I(X; Y)?

Ninguno. I(X; Y) forma parte de LaTeX estándar, así que compila solo con la clase de documento en el preámbulo.

¿Puedo usar I(X; Y) en modo texto o solo en modo matemático?

En ambos. I(X; Y) compila en el texto y dentro de $...$; en una fórmula déjalo en modo matemático para que use fuentes y espaciado matemáticos.