計算の桁数の精度

1 Ansicht (letzte 30 Tage)
rika yamada
rika yamada am 26 Jun. 2020
digit(12) で12桁を指定して作った複素数行列
NN1 = vpa(Zn./ZS)
NL1 = vpa(Zl./ZS)
(Zn, ZS, Zl も複素数）があるのですが、これらに関して
>> NN1(500)
ans =
- 9.29055970603e-17 + 3.76968885557e-17i
>> NL1(500)
ans =
- 9.29055970603e-17 + 3.76968885557e-17i
となっていて、同じ値のように見えるのですが、引き算をすると以下のように、差があるのはなぜでしょうか。
>> NN1(500)-NL1(500)
ans =
8.87468518374e-31 - 7.39557098645e-32i

Melden Sie sich an, um diese Frage zu beantworten.

Antworten (0)

Kategorien

Mehr zu Logical finden Sie in Help Center und File Exchange

Tags

Produkte


Version

R2018a

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!