int型などの整数で表現できる範囲には限りがある.
浮動小数点で表現できる範囲にも限りがある.
浮動小数点には丸め誤差がつきまとう.
上手に計算しないと桁落ちが生じる.
浮動少数点型の丸め誤差:float型,double型,long double型,丸め誤差
浮動少数点型のオーバフロー:float型とdouble型
非常に近い二つの数値の差を計算する際に生じる誤差.
上記の例のように,計算機ではある型で表現できる範囲が決まっている.話を簡単にするために,4桁しか表現できない場合を考える.
(24.4.1) |
この式を左から順に計算すると,
(24.4.2) |
(24.4.3) |
となり,本当の答え0.3432より一割以上小さな答えになってしまう!!
こういう場合は計算順序を考えて同じような大きさの値同士を先に計算する必要がある:
(24.4.4) |
(24.4.5) |