問 題
有効数字を考慮して以下の計算をせよ。
① 1. 2 × 0. 355
② 6. 30 + 5. 222
③ 0. 50 ÷ 3. 20
解 説
① 1.2 →有効数字 2 桁、0.355→有効数字 3 桁
1.2 × 0.355 = 0.426 です。答えを最も小さい有効数字の桁に丸めます。従って、0.43 です。
② 6.30 →有効数字 3 桁、有効桁位が 小数 第 2 位 です。5.222 →有効数字 4 桁、有効桁位が小数第 3 位です。
6.30 + 5.222 = 11.522 です。最も大きい有効桁位まで丸めます。従って、11.52 です。
③ 0.50 →有効数字 2 桁、3.20 →有効数字 3 桁
0.50 ÷ 3.20 = 0.15625 です。答えを最も小さい有効数字の桁に丸めます。従って、0.16 です。
類題 H29No1Ⅰ(2)
コメント