ReLU in LaTeX (\text{ReLU})

Dove si usa

Nome della funzione di attivazione unità lineare rettificata, che restituisce max(0, x) e azzera gli ingressi negativi.

La ReLU è definita come \text{ReLU}(x) = \max(0, x), con derivata 1 per ingressi positivi e 0 per quelli negativi. È l'attivazione predefinita degli strati nascosti nelle reti moderne; tra le varianti ci sono la Leaky ReLU, \max(\alpha x, x), e la GELU. Scrivere \text{ReLU} funziona, ma segue lo stile del testo circostante, quindi in un ambiente corsivo risulta inclinato; \operatorname{ReLU} o \mathrm{ReLU} restano dritti, e \operatorname gestisce anche la spaziatura prima dell'argomento. Quando la applicate a un vettore, precisate che agisce elemento per elemento, come in \text{ReLU}(\mathbf{W}\mathbf{x} + \mathbf{b}).

Esempio minimo compilabile

Incollalo in un file .tex vuoto e compilalo con pdfLaTeX, XeLaTeX o LuaLaTeX.

\documentclass{article}
\usepackage{amsmath}
\begin{document}
ReLU: $\text{ReLU}$

\[ \mathbf{h} = \text{ReLU}(\mathbf{W}\mathbf{x} + \mathbf{b}) \]
\end{document}

Simboli correlati

• Nabla\nabla
• Sigma\sigma
• Gradiente della perdita\nabla_{\theta} \mathcal{L}
• Funzione softmax\text{softmax}
• Derivata parziale\frac{\partial \mathcal{L}}{\partial \theta}
• Punto cerchiato\odot

Domande frequenti

Come si scrive ReLU in LaTeX?

Scrivi \text{ReLU} in modalità matematica, per esempio $\mathbf{h} = \text{ReLU}(\mathbf{W}\mathbf{x} + \mathbf{b})$. Carica prima amsmath con \usepackage{amsmath}.

Quale pacchetto serve per \text{ReLU}?

\text{ReLU} richiede amsmath: aggiungi \usepackage{amsmath} al preambolo prima dell'inizio del documento.

Posso usare \text{ReLU} in modalità testo o solo in modalità matematica?

Entrambe. \text{ReLU} compila nel testo e dentro $...$; in una formula lascialo in modalità matematica, così usa i font e la spaziatura matematici.