高校物理の簡単な問題です。 測定値どうしの加減乗除のことです。 ワークには 誤差を含む最も高い位の数値まで求めるとかいているのですが

高校物理の簡単な問題です。 測定値どうしの加減乗除のことです。 ワークには 誤差を含む最も高い位の数値まで求めるとかいているのですが どういうことなんでしょうか。 例えば 1.93-1.24 答えは0.69ですが 私は0.7と考えてしまいます。 なぜでしょうか。

物理学657閲覧xmlns="http://www.w3.org/2000/svg">25

ベストアンサー

0

乗法・除法は有効数字の最小桁数に答えを合わせる 例 1.930(4桁)×1.24(3桁)=2.3932≒2.39(3桁) 測定値の最小桁数が3桁なので、答えも3桁にする。 加法・減法では、位を揃えて、その最大桁数に合わせる 例 1.930(少数第3位まで)-1.24(少数第2位まで)=0.690≒0.69(少数第2位まで) 筆算でかくと分かりやすいですが、 筆算でかいたとき、有効数字の最後の桁が一番左にあるほうに合わせます。 分かりにくいと思うので他の例を 例2 19.300-12.4=180.60≒180.6 (12.4の少数第1位に合わせる) 193-12.4=180.6≒181 (193の1の位に合わせる)

ThanksImg質問者からのお礼コメント

わかりやすい回答ありがとうございました。

お礼日時:2010/12/3 16:12