有効数字 と 誤差伝播 及びその実践的計算

有効数字

12.5mgと12.50mgの違いは?
$$12.45≦12.5≦12.55(有効数字3桁)\\
12.495≦12.50≦12.505(有効数字4桁)$$→有効数字が大きければより精密

位取りのための0の扱いに注意
・0.00125g→有効数字3桁
誤解を生まないためには指数表示が適切
・0.00125g→1.25×10-3

四捨五入

有効数字の次の桁が5より大きい場合、切り上げ、5より小さい場合切り捨て。5の時は末尾が偶数になる最近接値に丸める

(JIS.ISO式四捨五入.全体的に偏りが小さくなる)

例)以下の数値を有効数字2桁に

5.04→5.0
5.06→5.1
5.05→5.0(5.1にすると末尾が奇数になるので×)
5.15→5.2(5.1にすると末尾が奇数になるので×)

足し算、引き算の有効数字の取り扱い

小数点の位置と位取りを揃えて計算し、最終桁の有効数字が小さいのものに合わせる。

例1)2.1035+61.5+5.03=68.6(最終桁の有効数字が小さい61.5に合わせる)

例2)61.5-5.0341=56.5

掛け算.割り算の有効数字

最も有効数字が小さいものに合わせる

例)100.0×55.6×0.1154=641.624=642

(一番有効数字が小さい55.6の有効数字3桁に合わせる)

対数の有効数字

指数部と仮数部の扱いに注意。

指数部:絶対値

仮数部:有効数字に影響

例)5.0×10-3molのHClのpH

$ \begin{eqnarray}
\rm pH&=&-\log({5.0×10^{-3}})\\
&=&-\log(5.0)-\log(10^{-3})\\ &=&-0.699+3^{(注)}\\
&=&-0.70+3^{(注)}(仮数部を有効数字2桁で丸めた)\\
&=&2.30(結果的に有効数字が3桁に増えた)
\end{eqnarray}$
()無限に3である。

誤差の有効数字

一般的に誤差は1桁に丸める。(ただし、先頭の値が1となる場合には2桁を使用)
例)$1.02±0.0283 →  1.02±0.03$

最良推定値は有効数字の最終桁と誤差の最終桁が一致するように表す。
例)$3.776±0.08 → 3.78±0.08$

誤差の伝播(でんぱ)

誤差のある量同士の演算は?

足し算、引き算の場合

一般に
$(a±σ_a)=(b+±σ_b)+(c±σ_c)+(d±σ_d)$の場合、
$$σ_a=\sqrt{σ^2_b+σ^2_c+σ^2_d}$$例)
\begin{eqnarray}
(115.2±2)+(1085±8)+(538±4)&=&(115.2+1085+538)±\sqrt{2^2+8^2+4^2}\\
&=&1738.2±9.17\\
&=&1738±9(誤差は必ず1桁で丸める)
\end{eqnarray}
$$

掛け算、割り算の場合

一般に

$$(a±S_a)=(b±S_b)×(c±S_c)÷(d±S_d)$$の場合、$${\fp{S_a}{a}}^2=\fp{S_b}{b}^2+\fp{S_c}{c}^2+\fp{S_d}{d}^2$$が成り立つ
例)$(25.4±0.5)×(1.56±0.01)÷(13.5±0.2)=a±S_a$の場合
$$a=\f{25.4×1.56}{13.5}=2.9351…=2.93\\$$ \begin{eqnarray}
{\fp{S_a}{a}}^2&=&\fp{0.5}{25.4}^2+\fp{1.56}{0.01}^2+\fp{13.5}{0.2}^2\\
{\fp{S_a}{a}}^2&=&6.48×10^{-4}\\
{\fp{S_a}{a}}&=&2.54×10^{-2}\\
S_a&=&(2.54×10^{-2})×({2.94})\\
S_a&=&0.074=0.07(誤差は必ず1桁で丸める)
\end{eqnarray}
よって
$$(25.4±0.5)×(1.56±0.01)÷(13.5±0.2)=2.94±0.07$$

指数の場合(※例はなし)

一般に
$$(a±σ_a)=(b±σ_b)^c$$の場合、

$$\f{σ_a}{a}=c×\f{σ_b}{b}$$


一般に
$$(b±σ_b)=10^{(a±σ_a)}$$の場合
$$σ_a=0.434×\f{σ_b}{b}$$

スポンサーリンク