化学の新研究という問題集について、例えば答えの有効数字が3桁の時に計算途中で4桁目まで取ってそれより下は切り捨てて計算しているのですが答えと最後の一桁が異なることが多くあります、
化学の新研究という問題集について、例えば答えの有効数字が3桁の時に計算途中で4桁目まで取ってそれより下は切り捨てて計算しているのですが答えと最後の一桁が異なることが多くあります、 この有効数字の取り方って間違ってますか?(計算はかけ算です)
ベストアンサー
計算途中で有効桁より1桁多く計算するのは、手計算しか許されない受験などでは精一杯の方法で、答えと最後の一桁が異なることがあるのは致し方ないとあきらめていいです。 一点だけ:「それより下は切り捨てて計算している」 なんで切り捨てるの? 四捨五入の方が明らかにましでしょう。
質問者からのお礼コメント
化学セミナーという問題集に計算中は有効数字より一桁多く取ってそれより下の位は切り捨て、と書いていたのですが四捨五入が正しい計算法ですか?
お礼日時:5/22 22:01