Poshiの中小企業診断士勉強用ブログ(経営情報システム)

中小企業診断士の中小企業政策・経済学・経営情報システムの練習問題

H24-6 計算誤差2

〇×を答えよ。

どのようなどのようなソフトウェアを利用しても、金額に関する計算では浮動小数点演算の仕組みを利用しないので計算誤差は生じない。

 ↓↓↓ ↓↓↓ ↓↓↓ ↓↓↓ ↓↓↓ ↓↓↓

×です。

金額計算においては整数型を用いますが、金額が大きいと扱える数値範囲の最大値を超えてしまう「桁あふれ」という計算誤差が生じる可能性があります。