Poshiの中小企業診断士勉強用ブログ(経営情報システム)

中小企業診断士の中小企業政策・経済学・経営情報システムの練習問題

H24-6 計算誤差1

値がほぼ等しく丸め誤差を持つ数値の差を求めた時に、有効数字(位取りを示すだけのゼロを除いた意味のある数字)が大きく減ることによって生じる誤差のことをなんというか。

 ↓↓↓ ↓↓↓ ↓↓↓ ↓↓↓ ↓↓↓ ↓↓↓

桁落ち。

1.23456×10^5 – 1.23455×10^5 = 0.00001×10^5 という計算を行った場合に自動的に小数点位置が調整されて = 1.00000×100 のように有効桁数が減ってしまうことを言います。

桁落ちが発生するのは小数点を含む数値同士の計算時であり、整数型の変数では発生しません。