修了試験 2014-06-22実施分 基本情報技術者試験 問2
浮動小数点形式で表現される数値の演算において,有効桁数が大きく減少するものはどれか。
正答2
解説
正解はイ。 絶対値がほぼ等しい同符号の数を減算すると,上位の有効桁が互いに打ち消し合い,有効桁数が大きく減少する桁落ちが生じる。 加算や絶対値の大小差が大きい演算では,このような桁落ちは起こりにくい。まとめて解く
修了試験 2014-06-22実施分を通しで解く(80問)→
浮動小数点形式で表現される数値の演算において,有効桁数が大きく減少するものはどれか。
修了試験 2014-06-22実施分を通しで解く(80問)→