ある抵抗器100Ωの校正記録に、測定値100.000Ωと記載してあったとします。小数点以下3桁目までは記載がありますが、それよりも小さい桁の値は知る由もありません。つまり、抵抗器100Ωの値は、99.9995Ω〜100.0004までのどこかにあるという測定結果であり、この範囲内0.001 0Ωはわからないということです。このように、真の値は求めることができないのです。したがって、誤差も求めることができません。
次に時間的な概念で考えます。デジタルマルチメータで抵抗器100Ωを測定すると、表示値が100.000Ωであったとして、その1時間後、もう一度同じ測定をすると100.002Ωと表示されたとします。
この場合、どちらが正しいと言えるのでしょうか。
時間を短くして、1秒単位で10回測定し、100.000Ωが７回、100.001Ωが1回、99.999Ωが1回、99.997Ωが1回測定されたとします。
計測器の個体差や設定にもよりますが、計測器の表示値をしばらく見ていると、値がいくらか振れることがわかります。通常、この振れ幅、つまり、ばらつきの中で最も多く表示される値を測定値とするか、読み取ったデータを単純に平均するのが適切です。ここで、10回測定したものを、100回、1000回と無限に同じ測定を繰り返すと、どのような結果が得られるでしょう。
ここで、正規分布という考えがあります。横軸に測定値、太刀軸にその出現回数をとった場合、出現回数の多い測定値から離れれば離れるほど（縦軸の中心から左右にいくほど）、出現回数は減少します。ちょうど富士山のような図になるということです。つまり、マルチメータを見た瞬間の表示値が100.000Ωだったとしても、実はその周りに、ある範囲の測定値のばらつきが存在し、その代表値として100.000Ωが表示されたということになるのです。
