LaTeX 中的损失函数 L 的梯度（\nabla_{\theta} \mathcal{L}）

用途

损失 L 关于参数 θ 的梯度：训练中使用的偏导数向量。

这正是反向传播所计算的量，它驱动梯度下降的更新 \theta \leftarrow \theta - \eta \nabla_\theta \mathcal{L}。\nabla 的下标说明对哪些变量求导，当损失同时依赖参数和输入时这一点很重要，例如对抗攻击中的 \nabla_x \mathcal{L}。\mathcal 给出花体 L，且只支持大写字母。在行内文本中，下标位于 ∇ 的右下方，这是标准写法。对于随机估计，加上帽子符号会有帮助：\hat{\nabla}_\theta \mathcal{L} 或 \tilde{g}。

最小可编译示例

将其粘贴到空白 .tex 文件中，用 pdfLaTeX、XeLaTeX 或 LuaLaTeX 编译。

\documentclass{article}
\begin{document}
Gradient of L: $\nabla_{\theta} \mathcal{L}$

\[ \theta_{t+1} = \theta_t - \eta \nabla_{\theta} \mathcal{L}(\theta_t) \]
\end{document}

相关符号

• 偏导数\frac{\partial \mathcal{L}}{\partial \theta}
• Nabla 算子\nabla
• 希腊字母 η（eta）\eta
• ReLU 激活函数\text{ReLU}
• 希腊字母 θ（theta）\theta
• 希腊字母 σ（sigma）\sigma

常见问题

如何在 LaTeX 中输入损失函数 L 的梯度？

在数学模式中输入 \nabla_{\theta} \mathcal{L}，例如 $\theta_{t+1} = \theta_t - \eta \nabla_{\theta} \mathcal{L}(\theta_t)$。无需加载任何宏包即可在标准 LaTeX 中使用。

\nabla_{\theta} \mathcal{L} 需要哪个宏包？

不需要。\nabla_{\theta} \mathcal{L} 是标准 LaTeX 的一部分，导言区只需文档类即可编译。

\nabla_{\theta} \mathcal{L} 能在文本模式中使用，还是只能用于数学模式？

只能用于数学模式。在 $...$ 之外，LaTeX 会报错 "Missing $ inserted"，所以在正文中请写 $\nabla_{\theta} \mathcal{L}$。