Automatische Differenzierung

Anpassen von Deep-Learning-Schichten, Netzen, Trainingsschleifen und Verlustfunktionen

Für die meisten Aufgaben können Sie integrierte Schichten verwenden. Wenn es keine integrierte Schicht gibt, die Sie für Ihre Aufgabe benötigen, können Sie eine eigene Schicht definieren. Sie können benutzerdefinierte Schichten mit erlernbaren und Zustandsparametern definieren. Nachdem Sie eine benutzerdefinierte Schicht definiert haben, können Sie überprüfen, ob die Schicht gültig und GPU-kompatibel ist und korrekt definierte Gradienten ausgibt. Eine Liste der unterstützten Schichten finden Sie unter List of Deep Learning Layers.

Wenn die trainingOptions-Funktion nicht die Trainingsoptionen bietet, die Sie für Ihre Aufgabe benötigen, oder Sie eine Verlustfunktion haben, die die trainnet-Funktion nicht unterstützt, können Sie eine eigene Trainingsschleife definieren. Für Modelle, die nicht als Netz von Schichten angegeben werden können, können Sie das Modell als Funktion definieren. Weitere Informationen finden Sie unter Define Custom Training Loops, Loss Functions, and Networks.

Häufig angesehene Themen

Enthaltene Beispiele

Train a Twin Network for Dimensionality Reduction

Train a twin neural network with shared weights to compare handwritten digits using dimensionality reduction.

Live Script öffnen

Train a Twin Neural Network to Compare Images

Train a twin neural network with shared weights to identify similar images of handwritten characters.

Live Script öffnen

Image Captioning Using Attention

Train a deep learning model for image captioning using attention.

Live Script öffnen

Multilabel Text Classification Using Deep Learning

Classify text data that has multiple independent labels.

Live Script öffnen

Sequence-to-Sequence Translation Using Attention

Convert decimal strings to Roman numerals using a recurrent sequence-to-sequence encoder-decoder model with attention.

Live Script öffnen

Train Network in Parallel with Custom Training Loop

Set up a custom training loop to train a network in parallel.

Live Script öffnen

Train Variational Autoencoder (VAE) to Generate Images

Train a deep learning variational autoencoder (VAE) to generate images.

Live Script öffnen

Train Network Using Cyclical Learning Rate for Snapshot Ensembling

Train a network to classify images of objects using a cyclical learning rate schedule and snapshot ensembling for better test accuracy. In the example, you learn how to use a cosine function for the learning rate schedule, take snapshots of the network during training to create a model ensemble, and add L2-norm regularization (weight decay) to the training loss.

Live Script öffnen