修了試験 2020-01-26実施分 基本情報技術者試験 問3
浮動小数点形式で表現された数値の演算結果における丸め誤差の説明はどれか。
正答2
解説
正解はイ。 数値表現は有限桁で扱われるため,最下位けたより小さい部分を四捨五入・切上げ・切捨てすることによって生じる誤差が丸め誤差である。 ウは情報落ち,エは桁落ちの説明であり丸め誤差ではない。まとめて解く
修了試験 2020-01-26実施分を通しで解く(80問)→
浮動小数点形式で表現された数値の演算結果における丸め誤差の説明はどれか。
修了試験 2020-01-26実施分を通しで解く(80問)→