有効数字について
実験における有効数字とは、計測値で意味のある桁数までの数値のことである。つまり有効数字は誤差を含む位より上の位にある有意義な数字である。
例えば、計測値が12.3 gであるとき、有効数字は3桁である。
しかしながら、計測器に目盛りがあり、1 g毎にしか目盛りがない状態で、12.3 gと計測した場合は、有効数字は2桁である。
また、0.0123 kgや1.23 × 103 mgなどの測定値の場合は、0の部分は有効数字ではなく、有効数字は両方共3桁ということになる。
当然0は必ずしも有効数字に含まれないわけではなく、0.123 gは有効数字3桁だが、1230 gの場合は、有効数字が4桁となる。
一般的に、1.23 gという測定値は、1.226 g ≦ (測定値) < 1.235 gの範囲の測定値のを有効数字3桁に丸めたもの、もしくは小数点以下3桁目を丸めたものであることを意味する。