HOME»オリジナル模擬試験3»問2
オリジナル模擬試験3 問2
問2
浮動小数点形式で表現される数値の演算において，有効けた数が大きく減少するものはどれか。
- 絶対値がほぼ等しく，同符号である数値の加算
- 絶対値がほぼ等しく，同符号である数値の減算
- 絶対値の大きな数と絶対値の小さな数の加算
- 絶対値の大きな数と絶対値の小さな数の減算
分類 :
テクノロジ系 » 基礎理論 » 離散数学
正解 :
イ
解説 :
けた落ちは、浮動小数点演算をした結果、有効桁数が減ってしまう計算誤差の一種で「絶対値の非常に近い値同士の減算」または「絶対値が非常に近く符号の異なる値同士の加算」をした場合に生じる現象です。
したがって「イ」が正解となります。
したがって「イ」が正解となります。