測定値は誤差が含まれます。
例えば 1.23g と量りが示した場合、最小の桁の数値「3」に誤差が含まれます。誤差も考慮すると 1.225g ~ 1.235g です。誤差を含む桁までの数値を有効数字といいます。有効数字までの桁数を有効桁数といいます。「初めて 0 でない数が出てきた所を 1 桁目」とします。有効桁数の例として、1.23 の有効桁数は 3 桁です。0.12 の有効桁数は 2 桁です。
有効数字の足し算、引き算を行う時は、とりあえず数字をそのまま計算します。そして、それぞれの有効数字において最も有効桁が大きい桁に結果を合わせます。
具体例として、1.23 + 0.128 を考えましょう。
とりあえず足すと 1.358 です。それぞれの有効数字は 1.23 が小数第 2 位、0.128 が小数第 3 位です。有効桁が大きいのは小数第 2 位です。従って、計算結果を小数第２位までに、四捨五入により丸めます。1.358 → 1.36 となります。
※ 実際の計算で
例えば 2.34567 + 0.12 + 3.456789 をそのまま計算するのは、明らかに 0.12 の有効桁が大きく、あまり小さな桁の計算をするのは無駄です。そこで途中計算では最も有効桁が多い桁のさらに１桁多くとり（それより下は四捨五入）、最後に桁を合わせるのが慣例です。すなわち 2.34567 → 2.346、3.456789 → 3.457 としておき計算します。2.346 + 0.12 + 3.457 = 5.923 → 5.92 とします。
有効数字の掛け算、割り算についても、とりあえず計算します。そして、有効桁数の小さい方が、答えの有効桁数となります。ここで足し算・引き算との違いを意識してほしいのですが、こちらは「桁数」に注目です。
具体例として、1234 × 0.12 を考えます。
1234 の有効桁数は 4 桁、0.12 は 2 桁です。とりあえず計算すると 1234 × 0.12 = 148.08 です。結果を 2 桁にします。150 と書くと 有効桁が 3 桁に見えるため、15 × 101 と表します。
ちなみに四捨五入についてですが
最後の桁の次の数字が 5 の場合について、丸め誤差がより小さくなるように『常に偶数に近似』するという JIS や ISO により定められた丸め方が用いられることもあります。
具体例として
1.225,1.235,1.245 をそれぞれ有効桁数 3 桁に丸めます。結果は
1.225 → 1.22
1.235 → 1.24
1.245 → 1.24 です。
四捨五入については、他にも薬価計算における五捨五超入など、独自ルールがある場合があります。頭の片隅においておくとよいです。
コメント