Hàm softmax trong LaTeX (\text{softmax})

Dùng ở đâu

Tên hàm softmax: biến một vectơ logit thành một phân phối xác suất bằng cách lấy mũ rồi chuẩn hóa.

Softmax được định nghĩa theo từng thành phần là \text{softmax}(z)_i = e^{z_i} / \sum_j e^{z_j}, và nó khép lại gần như mọi bộ phân loại cũng như cơ chế chú ý, với \text{softmax}(QK^\top/\sqrt{d_k})V. Vì \text{} dùng phông chữ văn bản xung quanh, nó bị in nghiêng bên trong môi trường định lý hoặc nhấn mạnh. \operatorname{softmax} thường là lựa chọn tốt hơn: nó luôn là chữ đứng và thêm khoảng cách toán tử trước dấu ngoặc, giống như \sin. Tham số nhiệt độ được viết là \text{softmax}(z/T). Dùng \left( \right) khi đối số chứa phân số. Trong các bài báo nặng về mã nguồn, hãy nói rõ softmax chuẩn hóa theo trục nào, chẳng hạn chiều lớp.

Ví dụ tối giản biên dịch được

Dán đoạn này vào một tệp .tex trống rồi biên dịch bằng pdfLaTeX, XeLaTeX hoặc LuaLaTeX.

\documentclass{article}
\usepackage{amsmath}
\begin{document}
Softmax: $\text{softmax}$

\[ \text{softmax}(z)_i = \frac{e^{z_i}}{\sum_{j=1}^{K} e^{z_j}} \]
\end{document}

Ký hiệu liên quan

• Sigma\sigma
• Dấu chấm trong vòng tròn\odot
• Hàm ReLU\text{ReLU}
• Tích tenxơ\otimes
• Nabla\nabla
• Argmin có chỉ số dưới\arg\min_{\theta}

Câu hỏi thường gặp

Làm thế nào để viết Hàm softmax trong LaTeX?

Gõ \text{softmax} trong chế độ toán, ví dụ $\text{softmax}(z)_i = \frac{e^{z_i}}{\sum_{j=1}^{K} e^{z_j}}$. Trước hết hãy nạp amsmath bằng \usepackage{amsmath}.

Cần gói nào để dùng \text{softmax}?

\text{softmax} cần amsmath: thêm \usepackage{amsmath} vào phần mở đầu, trước khi tài liệu bắt đầu.

Có thể dùng \text{softmax} trong chế độ văn bản không, hay chỉ trong chế độ toán?

Cả hai. \text{softmax} biên dịch được trong văn bản lẫn bên trong $...$; trong công thức hãy để nó ở chế độ toán để dùng phông chữ và khoảng cách toán học.