Festkomma-Konzepte
Quantisierung und Festkomma-Arithmetik
Der dynamische Bereich von Festkommazahlen ist erheblich geringer als der von Gleitkommazahlen mit gleicher Wortgröße. Bei der Arbeit mit Festkomma-Datentypen müssen Sie die Auswirkungen der Quantisierung auf Präzision, Bereich und Skalierung sorgfältig bedenken. Ein Festkomma-Datentyp wird durch die Wortlänge in Bit, die Position des Dezimalzeichens und das Vorliegen oder Fehlen eines Vorzeichens definiert. Die Position des Dezimalzeichens legt fest, wie Festkommawerte skaliert und interpretiert werden.
Kategorien
- Quantisierung
Präzision, Bereich und Skalierung von Festkomma-Datentypen
- Festkomma-Arithmetik
Festkomma-Arithmetikoperationen in der Software und Auswirkungen auf Datentyp und Skalierung