オリジナル模擬試験3 問2

浮動小数点形式で表現される数値の演算において,有効けた数が大きく減少するものはどれか。

  • 絶対値がほぼ等しく,同符号である数値の加算
  • 絶対値がほぼ等しく,同符号である数値の減算
  • 絶対値の大きな数と絶対値の小さな数の加算
  • 絶対値の大きな数と絶対値の小さな数の減算
正解 問題へ
分野:テクノロジ系
中分類:基礎理論
小分類:離散数学
解説
けた落ちは、浮動小数点演算をした結果、有効桁数が減ってしまう計算誤差の一種で「絶対値の非常に近い値同士の減算」または「絶対値が非常に近く符号の異なる値同士の加算」をした場合に生じる現象です。
したがって「イ」が正解となります。

出典


Pagetop