Hauptinhalt

Festkomma-Konzepte

Quantisierung und Festkomma-Arithmetik

Der dynamische Bereich von Festkommazahlen ist erheblich geringer als der von Gleitkommazahlen mit gleicher Wortgröße. Bei der Arbeit mit Festkomma-Datentypen müssen Sie die Auswirkungen der Quantisierung auf Präzision, Bereich und Skalierung sorgfältig bedenken. Ein Festkomma-Datentyp wird durch die Wortlänge in Bit, die Position des Dezimalzeichens und das Vorliegen oder Fehlen eines Vorzeichens definiert. Die Position des Dezimalzeichens legt fest, wie Festkommawerte skaliert und interpretiert werden.

Kategorien

  • Quantisierung
    Präzision, Bereich und Skalierung von Festkomma-Datentypen
  • Festkomma-Arithmetik
    Festkomma-Arithmetikoperationen in der Software und Auswirkungen auf Datentyp und Skalierung