修了試験 2015-12-20実施分 基本情報技術者試験 問2
浮動小数点形式で表現される数値の演算において,有効桁数が大きく減少するものはどれか。
正答2
解説
正解はイ。 絶対値がほぼ等しい同符号の数値どうしを減算すると,上位の桁が打ち消し合って有効桁数が大きく減る「桁落ち」が起こる。 加算では桁落ちは生じず,大小差のある数の加算・減算では下位桁が失われる「情報落ち」が問題になる。まとめて解く
修了試験 2015-12-20実施分を通しで解く(80問)→
浮動小数点形式で表現される数値の演算において,有効桁数が大きく減少するものはどれか。
修了試験 2015-12-20実施分を通しで解く(80問)→