Entropia em LaTeX (H(X))

Onde é usado

Entropia de Shannon de uma variável aleatória X: a incerteza média, ou conteúdo de informação, de seus resultados.

A entropia é H(X) = -\sum_x p(x) \log p(x), medida em bits com \log_2 e em nats com \ln. Ela é máxima para a distribuição uniforme, em que H(X) = \log |\mathcal{X}|, e aparece na divisão de árvores de decisão pelo ganho de informação e no aprendizado por reforço de máxima entropia. Grandezas relacionadas compartilham a letra: a entropia condicional H(Y|X), a entropia conjunta H(X, Y) e a entropia diferencial h(X) para variáveis contínuas, geralmente em minúscula. Alguns artigos escrevem \mathbb{H}[X] para evitar confusão com uma hessiana H ou com uma classe de hipóteses.

Exemplo mínimo compilável

Cole isto em um arquivo .tex vazio e compile com pdfLaTeX, XeLaTeX ou LuaLaTeX.

\documentclass{article}
\begin{document}
Entropy: $H(X)$

\[ H(X) = -\sum_{x \in \mathcal{X}} p(x) \log_2 p(x) \]
\end{document}

Símbolos relacionados

• Informação mútuaI(X; Y)
• Entropia cruzadaH(p, q)
• Log-verossimilhança\log p(x | \theta)
• Vetor de viés\mathbf{b}
• Distribuição de probabilidadep(x)
• Matriz de pesos\mathbf{W}

Perguntas frequentes

Como escrever Entropia em LaTeX?

Digite H(X) no modo matemático, por exemplo $H(X) = -\sum_{x \in \mathcal{X}} p(x) \log_2 p(x)$. Funciona no LaTeX padrão sem carregar nenhum pacote.

Qual pacote é necessário para H(X)?

Nenhum. H(X) faz parte do LaTeX padrão, então compila só com a classe do documento no preâmbulo.

Posso usar H(X) no modo texto ou só no modo matemático?

Nos dois. H(X) compila no texto corrido e dentro de $...$; em uma fórmula, mantenha-o no modo matemático para que use as fontes e o espaçamento matemáticos.