問 題
次の(1)～(5)は、計測の結果、得られた測定値を用いた計算である。これらのうち、有効数字と単位の取り扱い方がともに正しいものを一つ選べ。
解 説
(1)について、単位については[V]と[V]を足すと[V]となっているので、特に問題ありません。
一方、数値のほうは問題があります。0.51は小数点以下第2位まで示されていますが、2.2のほうは小数点以下第1位となっています。
2.2という表記では、「2.15以上2.25未満」ということしかわからないため、仮に2.22であるなら、(1)の式は
0.51+2.22=2.73
となるので、(1)の右辺の通りになりませんが、2.7の部分まで(小数点以下第1位まで)は一致しています。
つまり、小数点以下の桁数が異なるもの同士を足したり引いたりする場合は、桁数の少ないほうに合わせた数までしか求められません。よって、(1)は誤りです。
(2)について、(1)では足し算・引き算は小数点以下の桁数で少ないほうに合わせると書きましたが、掛け算・割り算のときには有効数字の桁数の少ないほうに合わせて計算します。
有効数字というのは、その数値の数字の数(ただし、頭が0のときは数えない)のことなので、0.670は有効数字3桁(6と7と0)、1.2は有効数字2桁となります。
よって、0.670÷1.2の計算結果が0.558であっても、信頼できるのは有効数字2桁までなので、正確な計算としては、
0.670V÷1.2A=0.56Ω
なので、(2)も誤りです。
(3)は有効数字2桁同士の掛け算で、答えも有効数字2桁になっているので、
1.4×3.9=5.5
という数値計算は問題ありませんが、右辺にある「10-6」が間違っています。
1Aの電流が1秒間流れたときの電気量が1Cであり、m(ミリ)は1000分の1(10-3)なので、(3)の式を正しく計算すると、
1.4A×3.9ms=1.4A×3.9×10-3s=5.5×10-3C
となります。
(4)について、「m(ミリ)」というのは1000分の1を表す接頭辞なので、これ単独では単位になりません。よって、(4)の計算は明らかにおかしく、正しく表記すると以下のようになります。
0.12A-10mA=0.12A-0.010A=0.11A
(5)は有効数字が左から1桁、2桁、1桁、1桁となっているものの掛け算なので、計算結果の有効数字は1桁にするべきです。よって、数値計算は正しく、単位のほうも問題ないので、これが正しい選択肢です。
ちなみに、(5)はコンデンサに蓄えられるエネルギーを表す式から取っていると考えられます。重要な公式なので、ぜひ押さえておいてください。
- W：コンデンサに蓄えられるエネルギー[J]
- C：静電容量[F]
- V：電圧[V]
コメント