Simulinkでの single型の扱いについて

20 Ansichten (letzte 30 Tage)
katsunori shigematsu
katsunori shigematsu am 23 Nov. 2021
Verschoben: Atsushi Ueno am 17 Aug. 2022
Simulinkで、定数 0.01の出力型をSingleとし、Gainブロックで1000倍すると、出力が10 となります。
Single型での0.01の実際の値は、0.009999... で、1000倍した時に誤差がなくなってしまうのはなぜでしょうか
  5 Kommentare
Atsushi Ueno
Atsushi Ueno am 25 Nov. 2021
Verschoben: Atsushi Ueno am 17 Aug. 2022
余談ですが:
浮動小数点数演算は、規格(IEEE754など)、処理系、CPUや他ハードウェアの違いに依存します。全く同じソフトウェアで演算をしても、処理系やハードウェアが異なると演算誤差が異なる場合があります。

Melden Sie sich an, um zu kommentieren.

Antworten (0)

Tags

Produkte


Version

R2016b

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!