ID非公開

2022/1/21 22:31

11回答

減算の際の有効数字の取り扱いについて質問です。

減算の際の有効数字の取り扱いについて質問です。 12.0mm × 16.0mm ー 10.0mm × 14.0mmという計算はどうなりますか？理由とともに教えてくださると幸いです。よろしくお願いいたします。

数学 | 工学・20閲覧

ベストアンサー

0
poc********

2022/1/21 22:35

すべて有効数字3桁なので、積の有効数字も3桁であり 12.0mm × 16.0mm ー 10.0mm × 14.0mm ＝192mm² ー 140mm² 加減算では末尾の桁が高い方に合わせるので ＝52mm² =5.2×10mm²

ID非公開

質問者2022/1/21 22:51

ご回答いただきありがとございます。 ＞加減算では末尾の桁が高い方に合わせるので お手数ですがこちらの意味をもう少し詳しく教えていただくことは可能でしょうか・・・？