問 題
計測によって得られた数値の表記に関する次の記述の ㋐、㋑、㋒ に当てはまるものの組合せとして最も妥当なのはどれか。
「0.10 は有効数字が ㋐ 桁であり、1.0 は有効数字が ㋑ 桁である。また、0.000917 は9.17 × ㋒ と表される。」
㋐ ㋑ ㋒
1. 1 1 10-4
2. 2 1 10-3
3. 2 2 10-4
4. 3 2 10-3
5. 3 2 10-4
正解 (3)
解 説
㋐ですが
小数の場合、初めに0でない数値が出てきた所が有効数値1桁目です。よって、0.10 は有効数値 2 桁です。正解は 2 or 3 です。
㋑ですが
1.0 は有効数値 2 桁です。
㋒ですが
まず 0.000917 は有効数値 3 桁です。そのため 9.17 ×… の形で表します。そして、元の数値に戻すには「× 10-4」 が適切です。
以上より、正解は 3 です。
コメント