修了試験 2014-07-27実施分 基本情報技術者試験 問3
浮動小数点表示の仮数部が23ビットであるコンピュータで計算した場合,情報落ちが発生する計算式はどれか。 ここで,( )_2内の数は2進数とする。
正答3
解説
正解はウ。 情報落ちは,仮数部の桁数に対して指数差が大きい数同士を加減算した際に,小さい方の値が丸められて消えてしまう現象。 ウは2^18と2^-5で指数差23が仮数23ビットとほぼ一致し,小さい項が失われる。 他の選択肢は指数差が小さく該当しない。まとめて解く
修了試験 2014-07-27実施分を通しで解く(80問)→