ReLU em LaTeX (\text{ReLU})

Onde é usado

Nome da função de ativação unidade linear retificada, que devolve max(0, x) e zera as entradas negativas.

A ReLU é definida como \text{ReLU}(x) = \max(0, x), com derivada 1 para entradas positivas e 0 para negativas. É a ativação padrão das camadas ocultas nas redes modernas; variantes incluem a Leaky ReLU, \max(\alpha x, x), e a GELU. Escrever \text{ReLU} funciona, mas segue o estilo do texto ao redor, então inclina em um ambiente itálico; \operatorname{ReLU} ou \mathrm{ReLU} permanecem retos, e \operatorname também cuida do espaçamento antes do argumento. Ao aplicá-la a um vetor, diga que ela age elemento a elemento, como em \text{ReLU}(\mathbf{W}\mathbf{x} + \mathbf{b}).

Exemplo mínimo compilável

Cole isto em um arquivo .tex vazio e compile com pdfLaTeX, XeLaTeX ou LuaLaTeX.

\documentclass{article}
\usepackage{amsmath}
\begin{document}
ReLU: $\text{ReLU}$

\[ \mathbf{h} = \text{ReLU}(\mathbf{W}\mathbf{x} + \mathbf{b}) \]
\end{document}

Símbolos relacionados

• Nabla\nabla
• Sigma\sigma
• Gradiente de L\nabla_{\theta} \mathcal{L}
• Softmax\text{softmax}
• Derivada parcial\frac{\partial \mathcal{L}}{\partial \theta}
• Ponto circulado\odot

Perguntas frequentes

Como escrever ReLU em LaTeX?

Digite \text{ReLU} no modo matemático, por exemplo $\mathbf{h} = \text{ReLU}(\mathbf{W}\mathbf{x} + \mathbf{b})$. Carregue antes amsmath com \usepackage{amsmath}.

Qual pacote é necessário para \text{ReLU}?

\text{ReLU} precisa de amsmath: adicione \usepackage{amsmath} ao preâmbulo antes do início do documento.

Posso usar \text{ReLU} no modo texto ou só no modo matemático?

Nos dois. \text{ReLU} compila no texto corrido e dentro de $...$; em uma fórmula, mantenha-o no modo matemático para que use as fontes e o espaçamento matemáticos.