photo

Sean Doherty


Last seen: etwa 4 Jahre vor |  Aktiv seit 2020

Followers: 0   Following: 0

Statistik

  • Thankful Level 1

Abzeichen anzeigen

Feeds

Anzeigen nach

Frage


machine eps related query
1 + eps > 1 ans = logical 1 % as expcted 1 + eps ans = 1.000000000000000 % unexpected, and indeed 1+2.5*eps a...

etwa 4 Jahre vor | 1 Antwort | 0

1

Antwort

Frage


why does realmax('single') display 8 digits?
most texts agree that IEEE-754 sinlge persision has 7 signicant digits and double percision has 15 so why does realmax('single...

etwa 4 Jahre vor | 2 Antworten | 0

2

Antworten