Deep Learning Toolbox
Erstellen, Analysieren und Trainieren von Deep-Learning-Netzen
Die Deep Learning Toolbox™ (früher Neural Network Toolbox™) bietet ein Framework für den Entwurf und die Implementierung von tiefen neuronalen Netzen mit Algorithmen, vortrainierten Modellen und Apps. Sie können faltende neuronale Netzwerke (ConvNets, CNNs) und LSTM-Netze (Long Short-Term Memory) verwenden, um die Klassifikation und die Regression für Bild-, Zeitreihen- und Textdaten durchzuführen. Apps und Diagramme helfen Ihnen, Aktivierungen zu visualisieren, Netzarchitekturen zu bearbeiten sowie den Trainingsfortschritt zu überwachen.
Für kleine Trainingsdatensätze können Sie Transfer Learning mit vortrainierten Modellen aus tiefen Netzen (einschließlich SqueezeNet, Inception-v3, ResNet-101, GoogLeNet und VGG-19) und mit importierten Modellen aus TensorFlow™-Keras und Caffe durchführen.
Um das Training anhand großer Datensätze zu beschleunigen, können Sie Berechnungen und Daten auf Mehrkern-Prozessoren und GPUs auf dem Desktop verteilen (mit der Parallel Computing Toolbox™) oder auf Cluster und Clouds hochskalieren, darunter® P2-, P3- und G3-GPU-Instanzen von Amazon EC2 (mit MATLAB Distributed Computing Server™).
Netze und Architekturen
Verwenden Sie die Deep Learning Toolbox, um Deep-Learning-Netze für Klassifikation, Regression und Feature-Learning anhand von Bild-, Zeitreihen- und Textdaten zu trainieren.
Convolutional Neural Networks (CNNs, faltende neuronale Netzwerke)
Finden und erlernen Sie Muster in Bildern, um Objekte, Gesichter und Szenen zu erkennen. Erstellen und trainieren Sie faltende neuronale Netzwerke (CNNs) für die Merkmalsextraktion und Bilderkennung.
LSTM-Netze (Long Short-Term Memory)
Lernen Sie langfristige Abhängigkeiten in sequenziellen Daten, einschließlich Signal-, Audio-, Text- und anderen Zeitreihendaten. Erstellen und trainieren Sie LSTM-Netze (Long Short-Term Memory), um Klassifikations- und Regressionsaufgaben durchzuführen.
Arbeiten mit LSTMs.
Netzarchitekturen
Verwenden Sie verschiedene Netzstrukturen wie serielle Netzwerke, gerichtete azyklische Graphen (DAGs) und rekurrente Architekturen, um Ihr Deep-Learning-Netz zu erstellen. DAG-Architekturen bieten mehrere Netztopologien, wie Topologien mit übersprungenen Schichten oder mit parallel verbundenen Schichten.
Arbeiten mit unterschiedlichen Netzarchitekturen.
Entwurf und Analyse von Netzen
Erstellen, bearbeiten, visualisieren und analysieren Sie Deep-Learning-Netze mit interaktiven Apps.
Entwerfen von Deep-Learning-Netzen
Erstellen Sie mit der Deep Network Designer-App ein tiefes Netz von Grund auf neu. Importieren Sie ein vortrainiertes Modell, visualisieren Sie die Netzstruktur, bearbeiten Sie die Schichten, und optimieren Sie Parameter.
Deep Network Designer-App.
Analysieren von Deep-Learning-Netzen
Analysieren Sie Ihre Netzarchitektur, um Fehler, Warnungen und Probleme der Kompatibilität verbundener Schichten vor dem Training zu erkennen und zu debuggen. Visualisieren Sie die Netztopologie und sehen Sie sich Details wie lernbare Parameter und Aktivierungen an.
Analysieren einer Deep-Learning-Netzarchitektur.
Transfer Learning und vortrainierte Modelle
Importieren Sie vortrainierte Modelle in MATLAB, um sie für die Inferenz zu nutzen.
Transfer Learning
Das Transfer Learning wird im Allgemeinen in Deep-Learning-Anwendungen verwendet. Greifen Sie auf ein vortrainiertes Netz zu, und verwenden Sie es als Ausgangspunkt, um eine neue Aufgabe zu lernen und um gelernte Merkmale anhand von weniger Trainingsbildern schnell auf eine neue Aufgabe zu übertragen.
Vortrainierte Modelle
Greifen Sie mit einer einzigen Codezeile auf die aktuellen Modelle aus der Forschung zu. Importieren Sie vortrainierte Modelle einschließlich AlexNet, GoogLeNet, VGG-16, VGG-19, ResNet-101, Inception-v3 und SqueezeNet. Sehen Sie sich hiereine vollständige Liste vortrainierter Modelle an.
Analyse von Modellen mit tiefen neuronalen Netzen.
Visualisierung
Visualisieren Sie Netztopologien, den Trainingsfortschritt und Aktivierungen der erlernten Merkmale in einem Deep-Learning-Netz.
Visualisierung von Netzen
Visualisieren Sie eine Netztopologie, ihre Schichten und ihre Verbindungen. Verwenden Sie die analyzeNetwork-Funktion, um die Netzarchitektur interaktiv zu analysieren.
Visualisieren einer Deep-Learning-Netzarchitektur.
Trainingsfortschritt
Sehen Sie sich den Trainingsfortschritt in jeder Iteration mithilfe von Diagrammen für verschiedene Metriken an. Stellen Sie die Validierungsmetriken im Vergleich zu den Trainingsmetriken dar, um visuell zu analysieren, ob eine Überanpassung des Netzes vorliegt.
Überwachen des Trainingsfortschritts Ihres Modells.
Netzaktivierungen
Extrahieren Sie Aktivierungen, für eine bestimmte Schicht, visualisieren Sie die gelernten Merkmale und trainieren Sie einen Machine-Learning-Klassifikator mithilfe der Aktivierungen. Verwenden Sie die deepDreamImage -Funktion, um das Netzverhalten zu verstehen und zu diagnostizieren, indem Sie künstliche Bilder darstellen, die Schichten stark aktivieren und die gelernten Merkmale hervorheben.
Visualisieren von Aktivierungen.
Interoperabilität mit Frameworks
Nutzen Sie die Interoperabilität von MATLAB mit Deep-Learning-Frameworks.
ONNX-Konvertierungsfunktion
Importieren und exportieren Sie ONNX-Modelle in MATLAB®, um die Interoperabilität mit anderen Deep-Learning-Frameworks zu nutzen. Mit ONNX können Modelle in einem Framework trainiert und dann für die Inferenz in ein anderes übertragen werden.
Interoperabilität mit Deep-Learning-Frameworks.
Importfunktion für TensorFlow-Keras
Importieren Sie mit der importKerasNetwork-Funktion Modelle aus TensorFlow-Keras in MATLAB, um sie für die Inferenz und das Transfer Learning zu nutzen.
Importfunktion für Caffe
Importieren Sie mit der importCaffeNetwork-Funktion Modelle aus Caffe Model Zoo in MATLAB, um sie für die Inferenz und das Transfer Learning zu nutzen.
Importieren von Modellen aus Caffe Model Zoo in MATLAB.
Beschleunigung des Trainings
Beschleunigen Sie das Training durch Deep Learning mithilfe von GPU-, Cloud- und Verteiltem Rechnen.
GPU-Beschleunigung
Beschleunigen Sie das Training durch Deep Learning und die Inferenz mit leistungsstarken NVIDIA®-GPUs. Sie können das Training auf einer einzelnen GPU Ihrer Workstation durchführen oder es auf mehrere GPUs mit DGX-Systemen in Rechenzentren oder in der Cloud skalieren. Sie können MATLAB mit der Parallel Computing Toolbox und den meisten CUDA® -fähigen NVIDIA-GPUs mit Compute Capability 3.0 oder höher verwenden.
Beschleunigung mit GPUs.
Cloud-Beschleunigung
Beschleunigen Sie das Training für Deep Learning mithilfe von Cloud-Instanzen. Verwenden Sie leistungsstarke GPU-Instanzen für beste Ergebnisse.
Unterstützung der Parallel Computing Toolbox und von MATLAB Distributed Computing Server.
Verteiltes Rechnen
Führen Sie das Training für Deep Learning auf mehreren Prozessoren auf mehreren Servern in einem Netzwerk mit MATLAB Distributed Computing Server durch.
Hochskalieren von Deep Learning durch Parallelisierung und in der Cloud.
Codegenerierung und -bereitstellung
Stellen Sie trainierte Netze auf eingebetteten Systemen bereit oder integrieren Sie sie in ein breites Spektrum an Produktionsumgebungen.
Codegenerierung
Verwenden Sie GPU Coder™, um optimierten CUDA-Code aus MATLAB-Code für Deep Learning, Embedded Vision und autonome Systeme zu generieren. Verwenden Sie MATLAB Coder™, um C/C++-Code zu generieren, mit dem Sie Deep-Learning-Netze auf Intel® Xeon®- und ARM® Cortex®-A-Prozessoren bereitstellen können.
Unterstützung für MATLAB Compiler
Verwenden Sie MATLAB Compiler™ und MATLAB Compiler SDK™, um trainierte Netze von MATLAB-Programmen aus als C/C++ Shared Libraries, Microsoft® .NET-Assemblies, Java®-Klassen und Python®-Pakete bereitzustellen. Sie können auch ein Modell mit einem flachen Netz in der bereitgestellten Anwendung oder Komponente trainieren.
Weitergeben eigenständiger MATLAB-Programme mit dem MATLAB Compiler.
Flache neuronale Netze
Verwenden Sie neuronale Netze mit einer Reihe unterschiedlicher Architekturen für überwachte und nicht überwachte flache neuronale Netze.
Überwachte Netze
Trainieren Sie überwachte flache neuronale Netze, um dynamische Systeme zu modellieren und zu steuern, verrauschte Daten zu klassifizieren und zukünftige Ereignisse vorherzusagen.
Flache neuronale Netze.
Nicht überwachte Netze
Finden Sie Beziehungen innerhalb von Daten, und definieren Sie automatisch Klassifikationsschemas, wobei sich das Netz ständig den neuen Eingaben anpasst. Verwenden Sie selbstorganisierende, nicht überwachte Netze, Competitive-Layers und selbstorganisierende Karten.
Selbstorganisierende Karten.
Geschichtete Auto-Encoder
Führen Sie eine nicht überwachte Merkmalstransformation durch, indem Sie niedrigdimensionale Merkmale mithilfe von Auto-Encodern aus Ihrem Datensatz extrahieren. Sie können außerdem geschichtete Auto-Encoder für das überwachte Lernen verwenden, indem Sie mehrere Encoder trainieren und schichten.
Geschichtete Auto-Encoder.
Neue Funktionen
Deep Network Designer
Bearbeiten und Erstellen von Deep-Learning-Netzen
ONNX-Unterstützung
Importieren und Exportieren von Modellen mithilfe des ONNX -Modellformats für Interoperabilität mit anderen Deep-Learning-Frameworks
Network Analyzer
Visualisieren, Analysieren und Auffinden von Problemen in Netzarchitekturen vor dem Training
TensorFlow-Keras
Importieren von LSTM- und BiLSTM-Schichten aus TensorFlow-Keras
LSTM-Netze (Long Short-Term Memory)
Lösen von Regressionsproblemen mit LSTM-Netzen und Lernen aus einem vollständigen Sequenzkontext mithilfe bidirektionaler LSTM-Ebenen
Deep-Learning-Optimierung
Verbessern des Trainings von Netzen mithilfe von Adam, RMSProp und Gradienten-Clipping
Details zu diesen Merkmalen und den zugehörigen Funktionen finden Sie in den Versionshinweisen.
MATLAB für Deep Learning
Entwerfen, erstellen und visualisieren Sie Deep-Learning-Netze
Haben Sie Fragen?
Kontaktieren Sie Shounak Mitra, den technischen Experten für die Deep Learning Toolbox
