修了試験 2014-01-26実施分 基本情報技術者試験 問3
浮動小数点形式で表現された数値の演算結果における丸め誤差の説明はどれか。
正答2
解説
正解はイ。 丸め誤差とは,浮動小数点の仮数部の桁数に限りがあるため,表現しきれない下位の桁を四捨五入や切上げ・切捨てすることで生じる誤差である。 アはオーバフロー誤差,ウは情報落ち,エは桁落ちの説明である。まとめて解く
修了試験 2014-01-26実施分を通しで解く(80問)→
浮動小数点形式で表現された数値の演算結果における丸め誤差の説明はどれか。
修了試験 2014-01-26実施分を通しで解く(80問)→