有効数字と数値の計算(8)

前へ ホームページへ 次へ 


【和・差】

例題

「長さ 12.3 cm の棒と、長さ 2.55 cm の棒を直線状に繋ぎ足したら、長さは何 cm になりますか。」

 
【解説】

上の、丸で囲った数字が、誤差を含む数字です。

上の例の場合、和の
小数点第1位の「8」の段階で誤差を含むことになりますので、
さらにその下の位の「5」は、信頼性がない
ことになります

そこで、解答は、小数点第1位までとし、次の第2位を四捨五入して、

  
 14.9 cm  

(1.49×10 cm もOKだが、14.9のままでも有効数字3桁が明らかなので、そのままでも良い)

となります。

 計算のたびに、有効数字の最後の数字に丸をつける訳にはいきません。
そこで、上の例から分かるように、きまりとして、

和・差の計算結果の有効数字は、
「数値の末位が高い方の位に合わせる」
ことにしています。



 

 → 積・商の計算へ
 
   
前へ ホームページへ 次へ