Die Übersetzung dieser Seite ist veraltet. Klicken Sie hier, um die neueste Version auf Englisch zu sehen.

Operationen

Entwicklung benutzerdefinierter Deep-Learning-Funktionen

Für die meisten Aufgaben können Sie integrierte Schichten verwenden. Wenn es eine integrierte Schicht, die Sie für Ihre Aufgabe benötigen, nicht gibt, können Sie Ihre eigene Ebene definieren. Sie können benutzerdefinierte Schichten mit erlernbaren Parametern und Zustandsparametern definieren. Nachdem Sie eine benutzerdefinierte Schicht definiert haben, können Sie überprüfen, ob die Schicht gültig und GPU-kompatibel ist und korrekt definierte Gradienten ausgibt. Weitere Informationen finden Sie unter Define Custom Deep Learning Layers. Eine Liste der unterstützten Schichten finden Sie unter List of Deep Learning Layers.

Wenn die trainingOptions-Funktion nicht die Trainingsoptionen bietet, die Sie für Ihre Aufgabe benötigen, oder Sie eine Verlustfunktion haben, die die trainnet-Funktion nicht unterstützt, können Sie eine eigene Trainingsschleife definieren. Für Modelle, die nicht als Netz von Schichten angegeben werden können, können Sie das Modell als Funktion definieren. Weitere Informationen finden Sie unter Define Custom Training Loops, Loss Functions, and Networks.

Verwenden Sie Deep Learning-Operationen zur Entwicklung von MATLAB^®-Code für benutzerdefinierte Schichten, Trainingsschleifen und Modellfunktionen.

Funktionen

alle erweitern

Automatische Differenzierung

`dlarray`	Deep learning array for customization
`dims`	Data format of `dlarray` object
`finddim`	Find dimensions with specified label
`stripdims`	Remove `dlarray` data format
`extractdata`	Extrahieren von Daten aus `dlarray`
`isdlarray`	Check if object is `dlarray`

Deep-Learning-Operationen

`dlconv`	Deep learning convolution
`dltranspconv`	Deep learning transposed convolution
`lstm`	Long short-term memory
`gru`	Gated recurrent unit
`attention`	Dot-product attention (Seit R2022b)
`embed`	Embed discrete data
`fullyconnect`	Sum all weighted input data and apply a bias
`dlode45`	Deep learning solution of nonstiff ordinary differential equation (ODE) (Seit R2021b)
`batchnorm`	Normalize data across all observations for each channel independently
`crosschannelnorm`	Cross channel square-normalize using local responses
`groupnorm`	Normalize data across grouped subsets of channels for each observation independently
`instancenorm`	Normalize across each channel for each observation independently (Seit R2021a)
`layernorm`	Normalize data across all channels for each observation independently (Seit R2021a)
`avgpool`	Pool data to average values over spatial dimensions
`maxpool`	Pool data to maximum value
`maxunpool`	Unpool the output of a maximum pooling operation

Aktivierungen

`relu`	Anwenden einer Rectified Linear Unit-Aktivierung
`leakyrelu`	Apply leaky rectified linear unit activation
`gelu`	Apply Gaussian error linear unit (GELU) activation (Seit R2022b)
`softmax`	Apply softmax activation to channel dimension
`sigmoid`	Anwenden der Sigmoid-Aktivierung

Verlustoperationen

`crossentropy`	Cross-entropy loss for classification tasks
`indexcrossentropy`	Index cross-entropy loss for classification tasks (Seit R2024b)
`l1loss`	L₁ loss for regression tasks (Seit R2021b)
`l2loss`	L₂ loss for regression tasks (Seit R2021b)
`huber`	Huber loss for regression tasks (Seit R2021a)
`ctc`	Connectionist temporal classification (CTC) loss for unaligned sequence classification (Seit R2021a)
`mse`	Half mean squared error

Funktionsbeschleunigung

`dlaccelerate`	Accelerate deep learning function for custom training loops (Seit R2021a)
`AcceleratedFunction`	Accelerated deep learning function (Seit R2021a)
`clearCache`	Clear accelerated deep learning function trace cache (Seit R2021a)

Themen

Automatische Differenzierung

List of Functions with dlarray Support
View the list of functions that support dlarray objects.
Automatic Differentiation Background
Learn how automatic differentiation works.
Use Automatic Differentiation In Deep Learning Toolbox
How to use automatic differentiation in deep learning.
Define Custom Deep Learning Operations
Learn how to define custom deep learning operation.
Specify Custom Operation Backward Function
This example shows how to define the SReLU operation as a differentiable function and specify a custom backward function.
Train Model Using Custom Backward Function
This example shows how to train a deep learning model that contains an operation with a custom backward function.

Modellfunktionen

Train Network Using Model Function
This example shows how to create and train a deep learning network by using functions rather than a layer graph or a dlnetwork.
Update Batch Normalization Statistics Using Model Function
This example shows how to update the network state in a network defined as a function.
Make Predictions Using Model Function
This example shows how to make predictions using a model function by splitting data into mini-batches.
Initialize Learnable Parameters for Model Function
Learn how to initialize learnable parameters for custom training loops using a model function.

Deep-Learning-Funktionsbeschleunigung

Deep Learning Function Acceleration for Custom Training Loops
Accelerate model functions and model loss functions for custom training loops by caching and reusing traces.
Accelerate Custom Training Loop Functions
This example shows how to accelerate deep learning custom training loop and prediction functions.
Check Accelerated Deep Learning Function Outputs
This example shows how to check that the outputs of accelerated functions match the outputs of the underlying function.
Evaluate Performance of Accelerated Deep Learning Function
This example shows how to evaluate the performance gains of using an accelerated function.