Transinformation in LaTeX (I(X; Y))

Verwendung

Transinformation (wechselseitige Information) zwischen X und Y: wie stark die Kenntnis einer Zufallsvariablen die Unsicherheit über die andere verringert.

Die Transinformation ist I(X; Y) = H(X) - H(X \mid Y) = D_{\text{KL}}(p(x,y) \| p(x)p(y)) und genau dann null, wenn X und Y unabhängig sind. Das Semikolon ist üblich und trennt die beiden Argumente, die selbst Listen sein können, wie in I(X_1, X_2; Y); ein Komma wäre mehrdeutig. TeX behandelt ; als Satzzeichen und fügt danach automatisch einen schmalen Abstand ein. Die bedingte Transinformation schreibt man I(X; Y \mid Z). Sie liegt dem Information Bottleneck, kontrastiven InfoNCE-Verlusten und der Merkmalsauswahl zugrunde.

Minimales kompilierbares Beispiel

Fügen Sie dies in eine leere .tex-Datei ein und kompilieren Sie mit pdfLaTeX, XeLaTeX oder LuaLaTeX.

\documentclass{article}
\begin{document}
Mutual Information: $I(X; Y)$

\[ I(X; Y) = H(X) - H(X \mid Y) \]
\end{document}

Verwandte Symbole

• Log-Likelihood\log p(x | \theta)
• EntropieH(X)
• Wahrscheinlichkeitsverteilungp(x)
• KreuzentropieH(p, q)
• Bedingte Wahrscheinlichkeitp(y | x)
• Bias-Vektor\mathbf{b}

Häufige Fragen

Wie schreibe ich Transinformation in LaTeX?

Schreiben Sie I(X; Y) im Mathematikmodus, zum Beispiel $I(X; Y) = H(X) - H(X \mid Y)$. Es funktioniert in Standard-LaTeX, ohne ein Paket zu laden.

Welches Paket brauche ich für I(X; Y)?

Keines. I(X; Y) gehört zum Standardumfang von LaTeX und kompiliert ohne weitere Angaben in der Präambel außer der Dokumentklasse.

Kann ich I(X; Y) im Textmodus verwenden oder nur im Mathematikmodus?

Beides. I(X; Y) kompiliert im Fließtext ebenso wie innerhalb von $...$; in einer Formel bleibt es im Mathematikmodus, damit es mathematische Schriften und Abstände erhält.