N個の観測値の平均値を算出する式はどれか。
ここで,SはN個の観測値の和(ただし,S>0)とし,[X]はX以下で最大の整数とする。
また,平均値は,小数第1位を四捨五入して整数値として求める。
正答4
解説
正解は4です。
平均値S/Nを、小数第1位で四捨五入して整数にする式を選ぶ問題です。
[X]はX以下で最大の整数なので、正の数では小数点以下の切捨てと同じ働きをします。
切捨て関数で四捨五入を表すには、0.5を足してから切り捨てるのが定石です。
【計算】
例としてS/N=2.5の場合、四捨五入した値は3です。
[2.5+0.5]=[3.0]=3となり、正しく3が得られます。
S/N=2.4の場合、四捨五入した値は2です。
[2.4+0.5]=[2.9]=2となり、正しく2が得られます。
【選択肢別解説】
1:× [S/N-0.5]は0.5を引いてから切り捨てます。
S/N=2.4のとき[1.9]=1となり、正しい値2になりません。
2:× [S/N-0.4]も値を小さくしてから切り捨てます。
S/N=2.3のとき[1.9]=1となり、正しい値2になりません。
3:× [S/N+0.4]は足す値が0.1不足しています。
S/N=2.5のとき[2.9]=2となり、四捨五入の値3になりません。
4:○ [S/N+0.5]は、小数部が0.5以上なら次の整数に繰り上がり、0.5未満なら元の整数部が残ります。
これは小数第1位の四捨五入そのものです。
【ポイント】
切捨て関数を使った四捨五入は「0.5を足して切り捨てる」と覚えます。
0.4を足す式は「小数部が0.6以上で繰り上げ」になる点と区別しておきましょう。