修了試験 2011-12-18実施分 基本情報技術者試験 問2
浮動小数点形式で表現される数値の演算において,有効桁数が大きく減少するものはどれか。
正答2
解説
正解はイ。 絶対値がほぼ等しい同符号の数値を減算すると,上位桁が打ち消し合って有効桁数が大きく減少する「桁落ち」が生じる。 加算では桁落ちは起こらず,大小の数の演算では小さい数の下位桁が失われる「情報落ち」が生じる。まとめて解く
修了試験 2011-12-18実施分を通しで解く(80問)→
浮動小数点形式で表現される数値の演算において,有効桁数が大きく減少するものはどれか。
修了試験 2011-12-18実施分を通しで解く(80問)→