Poshiの中小企業診断士勉強用ブログ(経営情報システム)

中小企業診断士の中小企業政策・経済学・経営情報システムの練習問題

H29-2ハードウェアについて2

数値演算を行う場合、同じ数値を整数として演算する場合に比べ小数点付き数値として演算する方が処理が遅いのは、なぜか。

 ↓↓↓ ↓↓↓ ↓↓↓ ↓↓↓ ↓↓↓ ↓↓↓

浮動小数点を用いる仕組みを使用しているため」です。

コンピュータは小数を理解できないので、

「3.14」という数字を記憶できません。

ですので、この数字を

  1. 「314×10^-2」とし、
  2. 「314」と「-2」をコンピューターに記憶させ
  3. 「3.14」を表示するのに「314×10^-2」の計算結果を出す

という方法をとります。314を仮数、-2を指数と言います。

この「314×10^-2」が「3.14」を浮動小数点で表したものです。

 

小数点付きの数値を演算する為には、その数値を浮動小数点で表してから演算を行うので、処理が遅くなります。

 

ちなみに1秒間に何回浮動小数点演算ができるかを表したものが

FLOPS(Floating-point Operations Per Second*浮-点、計算、秒あたり)と言います。