Diese Seite ist für die vorige Version. Die entsprechende englische Seite wurde in der aktuellen Version entfernt.
Präzision
Computerwörter umfassen eine endliche Anzahl Bits. Das bedeutet, dass eine binäre Codierung von Variablen nur eine Annäherung eines beliebigen präzisen Echtwelt-Werts darstellt. Daher gehen mit den Grenzen der binären Darstellung automatisch Einschränkungen hinsichtlich der Präzision des Werts einher.
Themen
- Maximize Precision
To maximize precision, make the slope as small as possible while keeping the range adequately large.
- Rounding Modes
Learn about the different rounding modes available in Fixed-Point Designer™.
- Net Slope and Net Bias Precision
Net slope and bias precision, detecting precision loss, underflow, and overflow.
- Detect Fixed-Point Constant Precision Loss
This example shows how to detect fixed-point constant precision loss.
- Use Scaled Doubles to Avoid Precision Loss
How to avoid precision loss by overriding the data types in your model with scaled doubles.
Enthaltene Beispiele
Compute Quantization Error
Compute and compare the statistics of the signal quantization error when using various rounding methods.
