有効数字と数値の計算（１３） |
   |
有効数字と数値の計算（１３） |
|
【その他】 ルートや（パイ）などが入った数値計算の問題（１） ２．０×ルート３ ＝ （２） ２．０×（パイ） ＝ 解説 （１）は、最後は有効数字２桁で解答する問題だと分かります。そこで、 ２．０×１．７ ＝ ３．４ とすると、ダメ！ ルートや（パイ）などを数値計算で使うときは、誤差が大きくならないよう、 「求めたい有効数字の桁数より１桁余裕をもった数値にして計算する」 つまり、有効数字２桁の解答が求めたいなら、ルート３は、１．７ではなくて、１．７３にして計算することが必要です。 【解答】 ２．０×１．７３ ＝ ３．４６ ＝ ３．５ （２）も同様に、 ２．０×３．１４ ＝ ６．２８ ＝ ６．３ となります。 |
||
＜注意＞ 文字式の問題（質量を  とする、時間を  とする など）では、解答は数値を求めるモノではありませんので、ルートや分数、（パイ）などは、数値にはしません。ルートや分数、（パイ）などのままで解答します。 以上、「有効数字と数値の計算」は終わりです。 |
||
 |
||
→ 初めに戻る |
|
|
| |
||