計算尺の読み取り許容誤差

計算尺の読み取り許容誤差

1.読み取る目盛りの桁数

計算尺を含め、目盛りというのは一般的に目盛りの10分の1まで読み取るのが普通です。計算尺においても、その傾向は変わりません。

多くの場合、10インチの計算尺では、1~2の範囲では有効数字4桁、2~10までは有効数字3桁まで読み取ることができるとされています。また、5インチの計算尺では、1~2の範囲では有効数字3桁、2~10までは有効数字2桁あるいは3桁まで読み取ることが多いでしょう。

2.計算に伴う読み取り誤差

2.1.誤差の許容範囲(2つの数字の掛け算・割り算)

計算尺のようにアナログの計算機では、計算の時に誤差が生じてしまいます。

2つの数字の掛け算・割り算の時のこの誤差の許容範囲が、全国工業高等学校長協会の検定試験や、商工会議所の検定試験において定められています。この値は10インチ計算尺の場合です。

また、後にこれらが協定を結び、±2.8/1000となりました。

2.2.誤差の許容範囲(3つの数字の掛け算・割り算)

2つの数字の掛け算・割り算と同様、3つの数字の掛け算・割り算においても許容範囲が全国工業高等学校長協会の検定試験や、商工会議所の検定試験において定められています。この値は10インチ計算尺の場合です。

2.3.具体例

たとえば、6÷3の答えは2になりますが、全国工業高等学校長協会の検定試験の許容範囲は2×(±2.5/1000)=±0.005となり、1.995~2.005となります。しかし、2.005の部分は有効数字3桁で読み取るとすると、切り上げて2.01となります。したがって、6÷3の答えは1.995~2.01が正答となります。

2.4.10インチ計算尺でない場合

もし、5インチの計算尺を用いていた場合はどうなるでしょうか。単純に考えて、長さが半分になるので、誤差は2倍になりそうです。

実際その通りで、5インチ計算尺の誤差の許容範囲は、10インチ計算尺の2倍で、たとえば、協定後の2つの掛け算・割り算においては±2.8/1000×2=±5.6/1000となります。

一般に、長さがxインチの計算尺の誤差の許容範囲は、10インチの計算尺の10/x倍となります。