Projektion
Projizieren Sie Schichten durch Durchführung einer Hauptkomponentenanalyse (PCA) auf die Schichtaktivierungen unter Verwendung eines für die Trainingsdaten repräsentativen Datensatzes und Anwendung linearer Projektionen auf die lernbaren Schichtparameter. Vorwärtsdurchläufe eines projizierten tiefen neuronalen Netzes sind in der Regel schneller, wenn Sie das Netz mit bibliotheksfreier C/C++ Codegenerierung auf eingebetteter Hardware bereitstellen.
Einen detaillierten Überblick über die in der Deep Learning Toolbox™ Model Compression Library verfügbaren Komprimierungstechniken finden Sie unter Reduce Memory Footprint of Deep Neural Networks.
Funktionen
compressNetworkUsingProjection | Compress neural network using projection (Seit R2022b) |
neuronPCA | Principal component analysis of neuron activations (Seit R2022b) |
unpackProjectedLayers | Unpack projected layers of neural network (Seit R2023b) |
ProjectedLayer | Compressed neural network layer using projection (Seit R2023b) |
gruProjectedLayer | Gated recurrent unit (GRU) projected layer for recurrent neural network (RNN) (Seit R2023b) |
lstmProjectedLayer | Long short-term memory (LSTM) projected layer for recurrent neural network (RNN) (Seit R2022b) |
Themen
- Compress Neural Network Using Projection
Compress a neural network using projection and principal component analysis (PCA).
- Train Smaller Neural Network Using Knowledge Distillation
Reduce the memory footprint of a deep neural network using knowledge distillation. (Seit R2023b)
Enthaltene Beispiele
Analyze and Compress 1-D Convolutional Neural Network
Analyze 1-D convolutional network for compression and compress it using Taylor pruning and projection.
Evaluate Code Generation Inference Time of Compressed Deep Neural Network
Compare the inference time of a compressed deep neural network for battery state of charge estimation.
