Entropy trong LaTeX (H(X))

Dùng ở đâu

Entropy Shannon của biến ngẫu nhiên X: độ bất định trung bình, hay lượng thông tin, của các kết quả của nó.

Entropy là H(X) = -\sum_x p(x) \log p(x), đo bằng bit với \log_2 và bằng nat với \ln. Nó đạt cực đại ở phân phối đều, khi H(X) = \log |\mathcal{X}|, và xuất hiện trong việc chia nhánh cây quyết định qua độ lợi thông tin cũng như trong học tăng cường entropy cực đại. Các đại lượng liên quan dùng chung chữ cái: entropy có điều kiện H(Y|X), entropy đồng thời H(X, Y), và entropy vi phân h(X) cho biến liên tục, thường viết chữ thường. Một số bài báo viết \mathbb{H}[X] để tránh nhầm với ma trận Hessian H hay một lớp giả thuyết.

Ví dụ tối giản biên dịch được

Dán đoạn này vào một tệp .tex trống rồi biên dịch bằng pdfLaTeX, XeLaTeX hoặc LuaLaTeX.

\documentclass{article}
\begin{document}
Entropy: $H(X)$

\[ H(X) = -\sum_{x \in \mathcal{X}} p(x) \log_2 p(x) \]
\end{document}

Ký hiệu liên quan

• Thông tin tương hỗI(X; Y)
• Entropy chéoH(p, q)
• Log hợp lý\log p(x | \theta)
• Vectơ độ lệch\mathbf{b}
• Phân phối xác suấtp(x)
• Ma trận trọng số\mathbf{W}

Câu hỏi thường gặp

Làm thế nào để viết Entropy trong LaTeX?

Gõ H(X) trong chế độ toán, ví dụ $H(X) = -\sum_{x \in \mathcal{X}} p(x) \log_2 p(x)$. Lệnh dùng được trong LaTeX chuẩn mà không cần nạp gói nào.

Cần gói nào để dùng H(X)?

Không cần gói nào. H(X) thuộc LaTeX chuẩn, nên chỉ cần lớp tài liệu trong phần mở đầu là biên dịch được.

Có thể dùng H(X) trong chế độ văn bản không, hay chỉ trong chế độ toán?

Cả hai. H(X) biên dịch được trong văn bản lẫn bên trong $...$; trong công thức hãy để nó ở chế độ toán để dùng phông chữ và khoảng cách toán học.