数値を丸めるときの注意点

数値を丸めるときの注意点

10月の消費税率引き上げに伴い、セブン-イレブンでは商品を税込み価格から税抜き価格に変更しました。これにより、商品を複数個購入した場合と一つずつ分けて会計した場合とで支払い金額が異なるケースが出てきます。

ホームページ上での説明では、例えば一杯93円(税抜)のコーヒーを3杯買いたい時、一杯ずつ3回購入すると、

「93円×1(杯)×1.08%=100(.44)円」×3(回)=300円

ですが、3杯まとめて買うと、

「93円×3(杯)=279円」×1.08%=301円

となります。

単品の税込み価格では切り捨てられていた1円未満の金額(0.44円)が、新方式では残ったまま積み重なる形になるので、複数個まとめ買いすると支払額が増えるわけですね。

ちなみに、ローソンとファミリーマートでは、従来通り商品の税込み価格を足していく計算方法のままのようです。

これとは少し事情が異なりますが、リサーチの結果を見る際にも、スコアの見方に注意が必要な場合があります。

例えば、あるサービスに対する満足度を昨年と比較したら以下の通りだったとしましょう。

あるサービス満足度の前年比較(グラフ)

あるサービス満足度の前年比較(表)

グラフ上のスコアは見やすいように小数点以下の数字を四捨五入して表示しています。
ここで「満足+やや満足」の割合(トップ2ボックス)を比較する際、グラフ上の数字を足し上げると

2018年: 満足(11%)+やや満足(22%)=33%
2019年: 満足(12%)+やや満足(23%)=35%

となり、2019年は前年よりも2ポイント満足度が上がったように見えます。
しかし、実際の回答分布は上表の通りで、「満足」または「やや満足」と回答した人数からトップ2ボックスを求めると、いずれも34%で変わらない、という結果になるのです。

四捨五入などの操作によって桁数を減らすことを“数値を丸める”と言ったりしますが、丸めた数値同士の計算は誤差が大きくなる恐れがあります。

上記の例では、2019年の満足度調査で「満足」の割合は12%、「やや満足」の割合は23%とするのは問題ありませんが、「満足」と「やや満足」を合わせた割合を出す場合に、丸めた数値同士である「12%」と「23%」を足し上げるのは正確ではないのです。

もし、2019年の満足度トップ2ボックスを見る際に、グラフ上の数値の合計(35%)と実際の割合(34%)の不一致がどうしても気になるようでしたら、グラフ上の数値を小数点以下まで細かく載せる必要があるでしょう。

これが他社の調査結果で、上記のグラフしか公表されていないような場合、2019年の「満足+やや満足」の割合は前年よりも増えている、と判断してしまわないでしょうか?
数値の丸めを考えると、もしかしたら昨年と満足度は変わらないのでは?と判断を保留できるようになることも大切なリサーチリテラシーかと思います。

特に自然科学の世界などでは、丸めの数値による誤差が問題となることもあり、JIS規格で数値の丸め方が規定されていたりします。
最後に、ご参考までに紹介しておきましょう。

数値の丸め方のルール

<条件3>が少しわかりにくいでしょうか。

例えば、「2.2507」を小数第1位までの数値に丸める場合(n=1)、小数第2位の数字が5で、それ以下の数字が0ですので<条件3>のケースに当てはまりますが、この場合は小数第1位の2は偶数なので切り捨て、すなわち丸めの数値は「2.2」となるわけです。

通常の四捨五入だと<条件3>のケースもすべて切り上げになりますが、もともと四捨五入では切り捨ての場合(1,2,3,4)よりも切り上げの場合(5,6,7,8,9)の方が多くなるため、真ん中の5の場合には切り捨てと切り上げの場合が均等に近くなるように、とのことでしょう。