Informazione mutua in LaTeX (I(X; Y))

Dove si usa

Informazione mutua tra X e Y: quanto la conoscenza di una variabile aleatoria riduce l'incertezza sull'altra.

L'informazione mutua è I(X; Y) = H(X) - H(X \mid Y) = D_{\text{KL}}(p(x,y) \| p(x)p(y)), ed è nulla esattamente quando X e Y sono indipendenti. Il punto e virgola è convenzionale e separa i due argomenti, che possono essere a loro volta liste, come in I(X_1, X_2; Y); una virgola sarebbe ambigua. TeX tratta ; come punteggiatura e aggiunge automaticamente uno spazio sottile dopo. L'informazione mutua condizionata si scrive I(X; Y \mid Z). È alla base del collo di bottiglia informativo, delle perdite contrastive InfoNCE e della selezione delle feature.

Esempio minimo compilabile

Incollalo in un file .tex vuoto e compilalo con pdfLaTeX, XeLaTeX o LuaLaTeX.

\documentclass{article}
\begin{document}
Mutual Information: $I(X; Y)$

\[ I(X; Y) = H(X) - H(X \mid Y) \]
\end{document}

Simboli correlati

• Log-verosimiglianza\log p(x | \theta)
• EntropiaH(X)
• Distribuzione di probabilitàp(x)
• Entropia incrociataH(p, q)
• Probabilità condizionatap(y | x)
• Vettore di bias\mathbf{b}

Domande frequenti

Come si scrive Informazione mutua in LaTeX?

Scrivi I(X; Y) in modalità matematica, per esempio $I(X; Y) = H(X) - H(X \mid Y)$. Funziona in LaTeX standard senza caricare alcun pacchetto.

Quale pacchetto serve per I(X; Y)?

Nessuno. I(X; Y) fa parte di LaTeX standard, quindi compila con la sola classe del documento nel preambolo.

Posso usare I(X; Y) in modalità testo o solo in modalità matematica?

Entrambe. I(X; Y) compila nel testo e dentro $...$; in una formula lascialo in modalità matematica, così usa i font e la spaziatura matematici.