relu

Anwenden einer Rectified Linear Unit-Aktivierung

Syntax

Y = relu(X)

Beschreibung

Die Rectified Linear Unit-Aktivierung (ReLU) führt eine nichtlineare Grenzwert-Operation durch, bei der alle Eingangswerte unter Null auf Null gesetzt werden.

Dieser Vorgang ist äquivalent zu:

$$\text{ReLU}(x)=\{\begin{array}{cc}x,& x>0\\ 0,& x\le 0\end{array}$$

Hinweis

Diese Funktion wendet die ReLU-Operation auf dlarray-Daten an. Wenn Sie die ReLU-Aktivierung innerhalb eines dlnetwork-Objekts anwenden wollen, verwenden Sie reluLayer.

Y = relu(X) berechnet die ReLU-Aktivierung des Eingangs X durch Anwendung einer Grenzwert-Operation. Alle Werte in X, die unter Null liegen, werden auf Null gesetzt.

Beispiele

Anwenden der ReLU-Operation

Erstellen Sie ein formatiertes dlarray-Objekt mit einem Batch von 128 28-mal-28-Bildern mit 3 Kanälen. Geben Sie das Format 'SSCB' (Spatial, Spatial, Channel, Batch) an.

miniBatchSize = 128;
inputSize = [28 28];
numChannels = 3;
X = rand(inputSize(1),inputSize(2),numChannels,miniBatchSize);
X = dlarray(X,"SSCB");

Zeigen Sie die Größe und das Format der Eingangsdaten an.

size(X)

ans = 1×4

    28    28     3   128

dims(X)

ans = 
'SSCB'

Wenden Sie die ReLU-Operation mithilfe der Funktion relu an.

Y = relu(X);

Zeigen Sie die Größe und das Format der Ausgabe an.

size(Y)

ans = 1×4

    28    28     3   128

dims(Y)

ans = 
'SSCB'

Eingabeargumente

X — Eingabedaten

dlarray-Objekt

Eingangsdaten, angegeben als formatiertes oder unformatiertes dlarray-Objekt.

Ausgangsargumente

Y — ReLU-Aktivierungen

dlarray

ReLU-Aktivierungen, ausgegeben als ein dlarray. Die Ausgabe Y hat denselben zugrundeliegenden Datentyp wie die Eingabe X.

Wenn die Eingabedaten X ein formatiertes dlarray sind, hat Y das gleiche Dimensionsformat wie X. Wenn die Eingabedaten kein formatiertes dlarray sind, ist Y ein unformatiertes dlarray mit der gleichen Reihenfolge der Dimensionen wie die Eingabedaten.

Erweiterte Fähigkeiten

C/C++ Codegenerierung
Generieren Sie C und C++ Code mit MATLAB® Coder™.

GPU-Codegenerierung
Generieren von CUDA® Code für NVIDIA® Grafikprozessoren mit dem GPU Coder™.

GPU-Arrays

Schnellere Codeausführung durch Ausführen auf einer Grafikkarte (GPU) mit der Parallel Computing Toolbox™.

Die Funktion relu unterstützt GPU-Array-Eingänge gemäß den folgenden Verwendungshinweisen und Einschränkungen:

• Wenn das Eingangsargument X ein dlarray mit zugrundeliegenden Daten des Typs gpuArray ist, läuft diese Funktion auf der GPU.

Weitere Informationen finden Sie unter Run MATLAB Functions on a GPU (Parallel Computing Toolbox).

Versionsverlauf

Eingeführt in R2019b

Siehe auch

dlarray | dlconv | batchnorm | leakyrelu | gelu | dlgradient | dlfeval

Themen

• Define Custom Training Loops, Loss Functions, and Networks
• Train Network Using Model Function
• List of Functions with dlarray Support