前回の例に引き続き、誤差について考えていきます。
前回は、丸棒をノギスで測った場合とマイクロメータで測った場合の数値が異なり、丸棒は仕様書に記載されている数値100.000mmに比べ、0.010~0.013mmは“長い”という結果であった場合、この測定結果が正しいのかというお話でした。
ここで考えなければいけないことの一つに、ステンレスの膨張熱があります。SUS304の線膨張係数を調べると、17.3ppm/℃であることがわかります。測定を実施した時に部屋の温度計が23℃を示していたとすると、仕様書記載の温度20℃に比べ3℃高いわけですから、17.3ppm/℃×3℃=51.9ppm長い、すなわち、0.005mmは仕様書の値よりも長くなっている計算になります。
また、丸棒を手に持って測っていた場合、さらに体温で丸棒を温めていたことになります。体温での温度上昇分を最大で5℃ほど見込むとすると、部屋の温度に加えて合計8℃、17.3ppm/℃×8℃=138.4ppm、すなわち0.014mmは長くなる計算になります。もちろん丸棒の温度を測っていたわけではないので、体温で温めた温度上昇分は正確にはわかりません。
しかし、次の3つのことは考えられます。
・仕様書記載の20℃に比べ、測定時の温度は23℃だから3℃分は長くなっていそうであること
・丸棒を手で持って測ったことから、体温で温まり、最大5℃分は長くなっていそうであること
・ノギスで測った時よりもマイクロメータで測ったときの方が後なので、より温度が高くなり、丸棒の長さが長くなっていそうであること