Die Übersetzung dieser Seite ist veraltet. Klicken Sie hier, um die neueste Version auf Englisch zu sehen.

reluLayer

ReLU-Schicht (Rectified Linear Unit)

Beschreibung

Eine ReLU-Schicht führt eine Grenzwert-Operation an jedem Eingangselement aus, wobei jeder Wert unter Null auf Null gesetzt wird.

Dieser Vorgang ist äquivalent zu

$$f\left(x\right)=\{\begin{array}{cc}x,& x\ge 0\\ 0,& x<0\end{array}.$$

Erstellung

Syntax

layer = reluLayer

layer = reluLayer('Name',Name)

Beschreibung

layer = reluLayer erstellt eine ReLU-Schicht.

layer = reluLayer('Name',Name) erstellt eine ReLU-Schicht und setzt die optionale Eigenschaft Name mit einem Namen-Wert-Paar. reluLayer('Name','relu1') erstellt beispielsweise eine ReLU-Schicht mit dem Namen 'relu1'.

Eigenschaften

Name — Schichtname

"" (Standardeinstellung) | Zeichenvektor | String-Skalar

Schichtname, angegeben als Zeichenvektor oder String-Skalar. Bei einem Layer-Array-Eingang weisen die Funktionen trainnet und dlnetwork Schichten mit dem Namen "" automatisch Namen zu.

Das ReLULayer-Objekt speichert diese Eigenschaft als Zeichenvektor.

Datentypen: char | string

NumInputs — Anzahl der Eingänge

Schreibgeschützt: 1 (Standardeinstellung)

Diese Eigenschaft ist schreibgeschützt.

Anzahl der Eingänge der Schicht, ausgegeben als 1. Diese Schicht akzeptiert nur einen Eingang.

Datentypen: double

InputNames — Eingangsnamen

Schreibgeschützt: {'in'} (Standardeinstellung)

Diese Eigenschaft ist schreibgeschützt.

Eingangsnamen, ausgegeben als {'in'}. Diese Schicht akzeptiert nur einen Eingang.

Datentypen: cell

NumOutputs — Anzahl der Ausgänge

Schreibgeschützt: 1 (Standardeinstellung)

Diese Eigenschaft ist schreibgeschützt.

Anzahl der Ausgänge der Schicht, ausgegeben als 1. Diese Schicht verfügt nur über einen einzigen Ausgang.

Datentypen: double

OutputNames — Ausgangsnamen

Schreibgeschützt: {'out'} (Standardeinstellung)

Diese Eigenschaft ist schreibgeschützt.

Ausgangsnamen, ausgegeben als {'out'}. Diese Schicht verfügt nur über einen einzigen Ausgang.

Datentypen: cell

Beispiele

Erstellen einer ReLU-Schicht

Erstellen Sie eine ReLU-Schicht mit dem Namen relu1.

layer = reluLayer(Name="relu1")

layer = 
  ReLULayer with properties:

    Name: 'relu1'

Nehmen Sie eine ReLU-Schicht in ein Layer-Array auf.

layers = [ ...
    imageInputLayer([28 28 1])
    convolution2dLayer(5,20)
    reluLayer
    maxPooling2dLayer(2,Stride=2)
    fullyConnectedLayer(10)
    softmaxLayer]

layers = 
  6x1 Layer array with layers:

     1   ''   Image Input       28x28x1 images with 'zerocenter' normalization
     2   ''   2-D Convolution   20 5x5 convolutions with stride [1  1] and padding [0  0  0  0]
     3   ''   ReLU              ReLU
     4   ''   2-D Max Pooling   2x2 max pooling with stride [2  2] and padding [0  0  0  0]
     5   ''   Fully Connected   10 fully connected layer
     6   ''   Softmax           softmax

Mehr über

ReLU-Schichten

Eine ReLU-Schicht führt eine Grenzwert-Operation an jedem Eingangselement aus, wobei jeder Wert unter Null auf Null gesetzt wird.

Auf Faltungs- und Batch-Normalisierungsschichten folgt üblicherweise eine nichtlineare Aktivierungsfunktion wie eine Rectified Linear Unit (ReLU), festgelegt durch eine ReLU-Schicht. Eine ReLU-Schicht führt eine Grenzwert-Operation an jedem Element aus, wobei jeder Wert unter Null auf Null gesetzt wird; d. h.

$$f\left(x\right)=\{\begin{array}{cc}x,& x\ge 0\\ 0,& x<0\end{array}.$$

Die ReLU-Schicht ändert die Größe ihres Eingangs nicht.

Es gibt weitere nichtlineare Aktivierungsschichten, die verschiedene Operationen durchführen und bei einigen Anwendungen die Netzgenauigkeit verbessern können. Eine Liste der Aktivierungsschichten finden Sie unter Activation Layers.

Referenzen

[1] Nair, Vinod, and Geoffrey E. Hinton. "Rectified linear units improve restricted boltzmann machines." In Proceedings of the 27th international conference on machine learning (ICML-10), pp. 807-814. 2010.

Erweiterte Fähigkeiten

C/C++ Codegenerierung
Generieren Sie C und C++ Code mit MATLAB® Coder™.

GPU-Codegenerierung
Generieren von CUDA® Code für NVIDIA® Grafikprozessoren mit dem GPU Coder™.

Versionsverlauf

Eingeführt in R2016a

Siehe auch

trainnet | trainingOptions | dlnetwork | batchNormalizationLayer | leakyReluLayer | clippedReluLayer | swishLayer | Deep Network Designer | exportNetworkToSimulink | ReLU Layer

Themen

• Erstellen eines einfachen neuronalen Deep-Learning-Netzes für die Klassifizierung
• Trainieren eines Convolutional Neural Network für Regression
• Deep Learning in MATLAB
• Compare Activation Layers
• List of Deep Learning Layers