前のページでは10インチ計算尺で説明をしてきましたが、他にもいろいろな長さの計算尺があります。どの長さの計算尺でも、上で述べたのと同じように長いメモリから順番に考えていけば、それぞれのメモリがどの値を示しているのかは簡単に分かります。その例として、10インチの計算尺と同じくらい広く流通している5インチの計算尺で見てみたいと思います。
5インチの計算尺の1～2は、次の絵のようになっています。
「1.0, 1.5, 2.0」が一番長い線で、0.1ごとに二番目に長い線が引かれています。一番長い線とあわせると、「1.0, 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0」となります。
さらに、0.02ごとに一番短い線が引かれています。従って、1～2の間に振られているメモリは、「1.00, 10.2, 1.04, …, 1.98, 2.00」となります。
この範囲では、メモリとメモリの半分の位置を読むことで、0.01単位で読むことができます。つまり、有効数字3桁で求めることができます。
さらに、まれにメモリとメモリの間を20等分することで、0.001単位で読むことがありますが、やはり精度は落ちてしまいます。
次に、2～5です。
この場合、0.5ごとに一番長い目盛り線が引かれています。また、0.1ごとに二番目に長いメモリ線が引かれています。
さらに、0.05ごとに一番短いメモリ線が引かれています。以上をあわせると、「2.00, 2.05, 2.10, 2.15, …, 4.95, 5.00」に目盛り線が引かれていることが分かります。
さらに、この短い目盛り線と目盛り線の間を5等分することで、0.01単位で読むことができます。つまり、有効数字3桁で値を読み取ることができます。
最後に5～10を見てみましょう。
この計算尺では、1ごとに一番長い線が、0.5ごとに二番目に長い線が、0.1ごとに一番短いメモリ線が引かれていることが分かります。つまり、目盛り線を全てあわせると、「5.0, 5.1, 5.2, …, 9.9, 10.0」に引かれていることが分かります。
さらに、メモリとメモリの間を10等分して読み取ることで、0.01単位、すなわち有効数字3桁で読むことができます。
今まで見てきたように、計算尺が違っても、長いメモリから順番に考えていけば、それぞれのメモリがどの値を示しているのかは簡単に分かります。また、一番短いメモリとメモリの間を2, 5, 10等分することで、さらに詳細な精度で求めることができます。
今まで見てきたことから、計算尺のD尺上で1～10の数字のメモリの位置は分かりました。それでは、それ以外の数字はどうすればいいのでしょうか。
今まであまり触れてきませんでしたが、計算尺は6.02×1023といったふうに表示された数字の6.02の部分を計算する計算道具だと考えることができます。つまり、有効数字○桁という部分のみを計算して、位取りは計算尺で計算することはできません。
具体的に見てみましょう。
計算尺のD尺には、2というメモリがあります。しかし、このメモリは2をあらわすだけではありません。そのほかにも、例えば、20を表すときもありますし、0.02を表すときもあります。
同様に、1.46は、146や0.0146を表すこともあります。
実際に計算尺で計算した答えがこのどれに当るかは、計算する人が概算などをすることによって判断するしかありません。