Find me　〜薬学生的日常記〜

今回は有効数字の表記、計算法について。
　
一般的な表記法は
　a×10^n （0<a<10、「10^n」は「10のn乗」）
という形です。
たとえば
　2.50×10^4
　3.00×10^-3
などとなります。
これらはいずれも有効数字３桁です。（aの部分が３桁めまでありますね）
この表記法には、「有効数字が何桁なのか」「その数値がどれほどの大きさなのか」の両方が把握しやすいという利点があります。
ただし、nの部分が-1,0,1になる場合は慣例的にこの表記法をとらないことも多いです。
（例：5.03×10^1を50.3、2.0×10^-1を0.20と表す）
　
有効数字を考える上で、「2.50×10^4」と「2.5×10^4」は同じものではありません。
測定値は、信頼をもって測定できる限界の次の位を四捨五入した値だと言えるので、前者は
　2.495×10^4 ≦ 2.50×10^4 ＜ 2.505×10^4
であり、後者は
　2.45×10^4 ≦ 2.5×10^4 ＜ 2.55×10^4
です。
こうしてみると全然違いますね。


これを踏まえて、計算の注意です。
　
測定値同士の加減の場合、答えの末尾の桁を
　測定値のうち最も末尾の桁が大きいものに合わせる
のが原則です。
たとえば1.234×10^3と3.01×10^3を加える場合、答えは4.24×10^3となります。
1.234×10^3と3.01×10^3と5.01×10^2を加える場合、答えは4.75×10^3となります。
いずれも末尾の桁は十の位（10^1の位）までの3.01×10^3が最も大きいので、一の位（10^0の位）を四捨五入するわけです。

測定値同士の乗除の場合、
　測定値のうち最も有効数字の桁数が少ないものに合わせる
のが原則です。
たとえば1.234×10^3と3.01×10^3と5.01×10^2をかける場合、答えは1.86×10^9となります。
有効数字の桁数が最も少ないのは3.01×10^3と5.01×10^2の３桁なので、答えは４桁めを四捨五入するわけです。