測定の誤差と測定値の取り扱い
A 測定値と誤差
実験にあたっては、様々な測定器具(計器)を用いて、長さや質量などを測定する。
このとき、いろいろな原因によって、測定値と真の値との間にはいくらかの違いが生じる。
測定値と真の値との差を誤差(絶対誤差)といい、誤差と真の値、
または誤差と測定値の比の値を相対誤差という。相対誤差は比の値を100倍して%で表すことが多い。
誤差には、計器の不備や測定者の癖によるものがある。これらはその原因を知れば、
あらかじめこれを避けるとか後で補正するとかして、取り除くことができるものである(系統誤差)。
これに対して、過失などのように測定者が関知できない理由によって偶然起きる誤差(偶然誤差)もあるが、
測定回数を多くして平均をとることによって、その影響を小さくできる。
B 有効数字
ある量を測定するときは、計器の最小目盛の 1/10
まで読む。最後の数字は目測によるもの(目分量)であるから±1程度の誤差がある
かもしれない。たとえば、最小目盛1mmの物差しを用いてある物体の長さを測定して
23.7mmと読みとったとき、23mmまでは信頼できるが、最後の0.7mmには測定者によって
0.1mm程度の差が生じると考えられる。したがって測定結果は 23.7±0.1 mm のように
表わされるが、測定値としては 23.7mm を用いる。2,3,7 はいずれも測定で得た意味のある
数字なので有効数字といい、この場合の
有効数字は3桁であるという。
このように測定値は誤差を含んだ近似値であるので、これらの数値を用いた計算には注意が
必要である。
また、有効数字と有効数字ではない数字とをはっきり区別しなければならない。たとえば
最小目盛1mmの物差しを用いて長さを測ったとき、物体の端が54mmの目盛の線上にあると
判断されるなら、54.0mmとしなければならない(有効数字3桁)。これを54mmとしたの
では2桁の有効数字となり、精度の悪い測定とみなされる。また、0.04mmは有効数字が
1桁であり0は位取りを示す数字である。これらは順に、5.40×10mm,5.4×10mm,
4×10−2mmのようにあらわせば有効数字が何桁あるかがはっきりする。
C 測定値の精度
100.0cmと10.00mmの物体の長さを測定して、それぞれ99.9cmと9.95mmを
得たとする。前者の絶対誤差は0.1cmであるのに対して、後者では0.05mmに過ぎな
い。測定の精粗を絶対誤差であらわせば、後者の方が精である。しかし、相対誤差を
比の値で比較すると、前者では0.1/100すなわち1/1000であるのに対して、後者では
0.05/10すなわち1/200となる。後者は逆に粗となり前者の方が精となる。
このように、測定の精度のよさを表すには相対誤差の方が適しており、有効数字の
桁数が多い値ほど精度が高いことになる。
D 測定値を用いて行なう計算
1 加減の計算
同じ位取りのところに誤差が含まれるように、最後の桁が最も高いものに最
後の桁をそろえてから計算し、結果を出す。
たとえば、ふつうに測定した長さ12.5cmと、きわめて精密に測定した長さ
3.764cmの和を求めるのに、
12.5cm+3.764cm=16.264cm
のような計算は無意味である。12.5cmの数字5は不確かな数字である。した
がって、3.764の小数点以下2桁目を四捨五入して次のようにすべきである。
12.5cm+3.8cm=16.3cm
というようになり、計算結果も同じ位取りのところまでが有効数字となる。
(上位の位取りにおいて、桁上がりや桁落ちが生じる場合には、計算結果の有
効数字の桁数が増えたり減ったりする)
2 乗除の計算
有効数字の桁数が最も少ない数値の桁数に合わせて結果を出す。精度を落と
さぬため、途中の計算の際にはそれより1桁多くとって計算する。
具体的には、有効数字の桁数が最少の数値を探し、これの桁数をnとすると、
他の数値のn+2桁目を四捨五入してn+1桁の数値としてから、乗除の計算
を行い、その結果のn+1桁目を四捨五入してn桁の数値として結果とする。
(四捨五入によってどの数値もn桁の数値としてから計算を行ない、その結果
のn+1桁目を四捨五入してn桁の結果を出す、という流儀もあるが、精度を
落とさぬため、上記のようにするのが普通である)
たとえば、平行四辺形の底辺と高さを測定して32.372cmと7.26cmを得た
とする。その面積を計算すると
32.372×7.26=235.02072cm2
となる。しかし測定値は誤差を含むものであるから、このような計算は無意味
である。まず、有効数字3桁の7.26に着目する。次に、32.372の5桁目の2を
四捨五入して4桁の数値とし、
32.37×7.26=235.0062cm2
を得、その4桁目の0を四捨五入して235cm2を結果とすることが望ましい。
3 平均値
同じ精度で同じ測定を何回も繰り返して得た平均値は、ただ一回の測定値よ
りも真の値に近い。平均値は何回もの測定値を加算し、これを測定回数で割っ
て求める(相加平均、算術平均)。測定回数が多い場合には、次の例のように
仮定平均法で求めるのが簡単である。
練習問題
(1) 0.0051 の有効数字は何桁か。
(2) 1.0000 の有効数字は何桁か。
(3) 10〔cm〕を〔m〕単位で表わしてみよ。
(4) 15〔kg〕を〔g〕単位で表わしてみよ。
(5) 油の体積が 21〔cm3〕、質量が 12〔g〕である。この油の密度を求めよ。
(6) 円の直径を測定して 18.2〔cm〕を得た。この円の面積を求めよ。
(まず、π=3.14159…… の値はいくらにすればよいか)
(8) 18562+291 は、およそいくらか。
(9) 1.052 を有効数字を考慮して計算した結果と、近似式を用いて計算した結果
とを較べよ。
(11) 10.25÷9.74=(1+0.025)×(1−0.026)−1 を近似式を用いて計算せよ。
(12) 円柱の直径Rと高さhを測定して体積を求めるさい、Rとhのどちらをより
精密に測定すべきか。
練習問題解答・解説
(1) 0.0051 の有効数字は何桁か。
頭にある3個の「0」は位取りのためにあるので、
5と1の 2桁。 答.2桁
(2) 1.0000 の有効数字は何桁か。
末尾の4個の「0」にも意味がある。 答.5桁
(3) 10〔cm〕を〔m〕単位で表わしてみよ。
10〔cm〕= 10×10−2〔m〕= 0.10〔m〕 答.0.10〔m〕
(4) 15〔kg〕を〔g〕単位で表わしてみよ。
15〔kg〕= 15×103〔g〕= 1.5×104〔g〕 答.1.5×104〔g〕
(5) 油の体積が 21〔cm3〕、質量が 12〔g〕である。この油の密度を求めよ。
(与えられたのが2桁の値なので、計算値の3桁目を四捨五入して、2桁の数
値として答える。)
(6) 円の直径を測定して 18.2〔cm〕を得た。この円の面積を求めよ。
(まず、π=3.14159…… の値はいくらにすればよいか)
18.2は3桁の数値であるから、答も有効数字3桁で求める。このために途中
の計算では、値のわかっているπは1桁多い4桁として(5桁目の5を四捨五
入した)π=3.142を用い、半径9.10の2乗も同様に4桁の値にして計算する。
最後に、計算結果の4桁目を四捨五入し、3桁の数値として答える。
面積 = π×(半径)2 = π×(18.2/2)2 = 3.142×9.102 = 3.142×82.81 = 260.18902 = 260
この結果は、途中の計算も含めて、与えられた条件の下で最も信用のできる
ものなので、上の式では等号(=)を用い、近似記号(≒)は用いないのが普通で
ある。また、答の有効数字が3桁であることを明示するために、2.60×102 を
答とすることも多い。
なお、簡便に結果を得る方法としては、18.2は3桁の数値であるからπも3
桁としてπ=3.14を用いて計算し、途中計算の結果もすべて4桁目を四捨五入
した3桁の数値として、次の計算をすることも行われる。
π×(18.2/2)2 = 3.14×9.102 = 3.14×82.8 = 259.992 = 260
この場合は、どちらの方法によっても同じ結果になるので、後者の方が計算
が簡単な分だけよいようにも考えられる。しかし、このような場合ばかりでな
いことも明らかである。計算による誤差をできるだけ小さくするために、πの
ような計算のもとになる数値はもちろん、途中の計算の際には、有効数字の桁
数が最小のものより1桁多くとって計算するのが望ましい。
答.260〔cm2〕
(8) 18562+291 は、およそいくらか。
18562+291= 18600+300 =18900 答.およそ 20000
(9) 1.052 を有効数字を考慮して計算した結果と、近似式を用いて計算した結果
とを較べよ。
有効数字を考慮して計算
1.052 = 1.1025 = 1.10 (計算結果の4桁目を四捨五入)
近似式を用いて計算
1.052 = (1+0.05)2 ≒ 1+2×0.05 = 1.10
よって、この場合、結果は等しくなる。 答.どちらも 1.10
―
(11) 10.25÷9.74=(1+0.025)×(1−0.026)−1 を近似式を用いて計算せよ。
10.25÷9.74 =(1+0.025)×(1−0.026)−1
≒(1+0.025)×(1+0.026)
≒ 1+0.025+0.026
= 1.051
有効数字が小さいのは、9.74の3桁なので、結果の4桁目を四捨五入して 答とする。
答.1.05
(12) 円柱の直径Rと高さhを測定して体積を求めるさい、Rとhのどちらをより
精密に測定すべきか。