ぱと隊長日誌

ブログ運用もエンジニアとしての生き方も模索中

「正確な数」は有効数字を制限しない

「正確な数」の定義と扱い

「ズンダール基礎化学(東京化学同人)」の「2・5 有効数字」では、計算結果における有効数字の決め方が説明されています。ここではその補足として、測定値ではない 「正確な数」を含む計算で、有効数字をどのように扱うかを、明示的な計算例で確認します。

まず、「正確な数」の定義を引用します。

測定値ではなく、10 回の実験、3 個のリンゴ、8 分子などのように数を数えることで決められる数を含む計算がある。このような数は正確な数といい、有効数字の桁数には関係しない。定義に由来する正確な数もある。たとえば、1 インチは正確に 2.54 センチメートルと定義されるので、1 in. = 2.54 cm と書けるが、計算では 2.54 や 1 は有効数字の桁数を規定するものではない。
ズンダ-ル基礎化学

ここで「正確な数は有効数字の桁数に関係しない」とある一方、四則計算の有効数字の規則では、計算に用いる値の有効桁数を意識して結果を丸めます。このギャップは、正確な数は(丸めの観点では)有効数字が無限桁だとみなせる、と考えると整理できます。つまり、正確な数は計算結果の有効数字に「関係しない」ため、結果の丸めは測定値側だけで決まる、ということです。

「正確な数」を含む計算例

(問題)
2.50×102 mLの水を 5 個のビーカーに均等に分けた。1 個のビーカーに分けられた水の量を有効数字を考慮して求めよ。

(解答)
水の量 2.50×102 mL は有効数字 3 桁の測定値です。一方、ビーカーの個数 5 は「数えた数」であり正確な数なので、有効数字の桁数に関係しません。したがって、除法の結果は測定値側の最小桁数(ここでは 3 桁)に合わせます。

2.50×102 mL ÷ 5 = 5.00×101 mL = 50.0 mL

よって、答えは 50.0 mL(有効数字 3 桁) です。

※表記上の注意:250 mL のように末尾が 0 の整数表記は、有効数字が 2 桁か 3 桁か曖昧になりやすいので、ここでは 2.50×102 mL のように有効数字が明確になる書き方にしています。

本文の例に見られる「厳密さ」についての補足

本書は有効数字の規則適用をかなり厳密に扱っている印象があります。たとえば、炭素の物質量が 10 mol として与えられ(この例では「正確な数」として扱います)、炭素のモル質量を 12.01 g/mol(有効数字 4 桁)として計算する場面で、
10 × 12.01 g = 120.1 g
のように、結果を 120.1 g としています。計算途中の桁を温存して 120.10 g のように書きたくなるかもしれませんが、120.10 g は有効数字が 5 桁になってしまうため不適切です。結果として 120.1 g(有効数字4桁) が妥当、という整理になります。

例題や練習問題で自分の答えと有効数字が合わないときは、(1) 測定値か正確な数か、(2) 各数値の有効数字の桁数は何か、(3) 四則計算における有効数字の規則を厳密に適用しているか、定義に立ち戻って再点検するとよいかもしれません。