- 日本電気計器検定所TOP
- 校正業務
- 校正サービスのご案内
- テクニカルコラム
- 「測定結果などを表す数字の有効数字について」
「測定結果などを表す数字の有効数字について」
小学校の算数で学習する小数のたし算の問題では、計算の結果の小数点以下が「0」になったとき、その0を消さないと減点されるという指導があるそうです。
例 3.9+5.1=9.0 → 小数点以下が0なので、その0を消して答えを9にしなければ減点
この指導については、賛否両論あるようですが、測定結果に関わる計算結果を表すときには、有効数字の計算ルールに従いますので、例の場合は9.0と記載しなければなりません。有効数字の概念で、「9」と「9.0」では意味が異なります。ということで、今回は有効数字について記載したいと思います。
JIS Z 8103：2019（計測用語）によりますと、有効数字とは、「測定結果などを表わす数字のうちで、位取りを示すだけのゼロを除いた意味のある数字。」とあります。
例えば、
① 0以外の数字で始まる場合は、単純に数字の数をカウントします。
1.234は有効数字４桁です。
② 0で始まる数字の場合は、0以外の数字が出てきてからカウントします。
0.012 345は有効数字５桁です。
1.02は有効数字３桁です。
③ 0以外の数字に挟まれた0は、有効桁数にカウントします。
1.02は有効数字３桁です。
④ 小数点より右側にある0は、有効桁数にカウントします。
1.000は有効数字４桁です。
②の例で、有効数字にカウントされなかった0が、「位取りを示すだけのゼロ」です。③や④で、有効数字にカウントされた0は、その位の値が0から9までのうちの0であるということを示しています。
次に有効数字の計算ルールについて解説します。
和と差の有効数字は、最小桁の位が最も高い数値に合わせます。
例えば、1.234＋5.6＝6.834という計算結果について、
1.234は小数第３位まで有効
5.6は小数第１位まで有効
数字の最小の桁の位が最も高いのは5.6の小数第１位ですから、足し算の結果1.235+5.6＝6.834は小数第１位までに丸め6.8とします。
積と商の有効数字は、有効数字の桁数が最も少ない数値に合わせます。
例えば、1.234×5.6＝6.9104という計算結果について、
1.234は有効数字４桁
5.6は有効数字２桁
5.6は小数第１位まで有効
有効数字の桁数が一番小さいのは5.6の有効数字２桁ですから、掛け算の結果1.234×5.6＝6.9104は有効数字の桁数２桁に丸め6.9とします。
有効数字の意味
例えば、有効数字４桁で表された「100.0」という数値があったとします。私たちはよく、数値の書いてない位は0をあてはめて考えがちですが、「100.0」は小数第２位以下も0が無限に続く100ぴったりの値を意味するものではありません。100.0は計算結果が99.95以上、100.05未満のどこかの数値であり、その数値を丸めた結果が100.0であるということを表しています。
冒頭の計算例で「9.0」と書かれた場合は、8.95以上、9.05未満のどこかの数値を丸めた結果が「9.0」であり、「9」と書かれた場合は、8.5以上9.5未満のどこかの数値を丸めた結果が「9」である、という意味なります。9と9.0は同じ大きさと見えるかもしれませんが、数値のあいまいさが異なります。
有効数字とは、その数値が持つあいまいさの情報を記載する桁数で表す方法であるということになります。
（2024.10 M）
計測器の校正業務
校正サービス
