ライブラリ

よくある質問(FAQ)

端数処理の衰退 — 有効桁数はどれだけ重要なのか?
Q: 測定データや算出データを記載するときには何桁の表示が必要でしょうか?

数値は多くの桁数で表示したり印刷したりすることができます。私の卓上計算機(電卓)は最大8桁まで表示できます。コンピュータのExcelではかなり大きい数まで計算でき、最大15桁の整数とそれに続く一連のゼロを表示できます(それでも、米国の債務を最後のセントまで表示することはできませんが!)。現代のエンジニアはこういった強力なツールを手に入れましたが、場合によってはすばらしいこの精度が間違った使われ方をされることがあります。。

1945年、ウースター工科大学の新入生だった私はKeuffel & Esser社のLog-Log Duplex Decitrig計算尺を購入しました。この計算尺はその後数年間、私の座右のツールとなりました。このツールで乗算と除算、あるいは累乗と根、対数と指数、三角関数の計算、さらにはインチ測定もできました。初歩的なものとはいえ、まさに立派な機械式アナログ計算機でした。

もちろん大きな制約(と言われるもの)もありました。この計算尺は加算や減算には不向きであり、どこに小数点を置いてよいかがわかりません。こういった制約のよい点は、数学の機能に精通する必要があることです。ユーザの方で間違いがないかチェックすることをいつも要求されるのです。連続して計算するときは、各ステップの結果をかなりうまく予測しなければならず、暗算の上達を助けることにもなります。

そのツールの精度はよくても1/1000程度ですが、当時としては多くの用途にとって十分な精度です。それは現在でも同じでしょう。

私としては、素粒子の粒子構造から銀河系宇宙空間のギガ構造にいたる範囲で多くの発見が行なわれたり、細部の開発を進めることができるようになることと、テラビット級の計算との間に有益な関係があることを否定するものではありません。

しかし、出版物では有効桁数のことを少し考えてもらいたいものです。たとえば、代表的な回路のゲインは5.15と記されていました。このゲインをDC入出力プロットから計算すると、次のようになります。

(3.3V– 1.65 V)/0.32 V = 5.15625

一方、測定値では5.165になりました。同じ例で、公称オフセットは1.65 Vと記載されていましたが、測定値では1.641497Vとなっていました。

有効桁数を統一しようとしていたら、公称ゲインの5.15と計算ゲインの5.16、測定ゲインの5.17と並べてみたはずです。また、公称オフセットの1.65Vと測定オフセットの1.64Vを並べてみたはずです。マイクロボルトの精度で1.6 Vを測定できるボルトメータをもっているのはすばらしいことですが、何もそれを見せびらかす必要はありません。

データや計算を他人に伝えるときはいつでもこの問題を考えることが重要です。桁数は、データの性質やその用途を考慮して初めて意味をなします。データの精度について混乱や誤解を避けるためには、桁数が少なすぎても多すぎてもいけません。この問題についてやや不安がある方は、お好みの検索エンジンで「有効桁数」と入力すれば、役に立つ情報がたくさん得られるでしょう。



すべてのRAQを見る


その他の関連情報

Analog Dialogue:
Settling Time of Operational Amplifiers(pdf)