ここから本文です

有効数字の問題です。

アバター

ID非公開さん

2017/6/2005:49:01

有効数字の問題です。

3.72×10^6-2.5×10^5
の答えが3.47×10^6となっていますが
2.5がもっとも高い末位なので3.5×10^6じゃないんですか?
なぜこうなるのですか?

閲覧数:
27
回答数:
3
お礼:
250枚

違反報告

ベストアンサーに選ばれた回答

mam********さん

2017/6/2007:24:27

>>2.5がもっとも高い末位なので

どこが?

3.72×10^6 = 3,720,000
2.5×10^5 = 250,000

なのだから、3.72×10^6の2のある位と、2.5×10^5の5のある位はどちらも同じ位にある。だから最も高い末位もくそもなく共通である1万の位までが有効桁になる。

ベストアンサー以外の回答

1〜2件/2件中

並び替え:回答日時の
新しい順
|古い順

プロフィール画像

カテゴリマスター

fri********さん

2017/6/2007:21:49

加減算における最も高い末位は、
同一指数で比較しなければいけません。
3.72×10⁶-0.25×10⁶
37.2×10⁵-2.5×10⁵
3720000-250000

プロフィール画像

カテゴリマスター

cup********さん

2017/6/2006:35:06

>3.72×10^6-2.5×10^5

10^6でまとめると

(3.72-0.25)×10^6

()内の引き算はどちらも小数第2位までなので計算結果も小数第2位まで出すので

=3.47×10^6

となります。

この質問につけられたタグ

みんなで作る知恵袋 悩みや疑問、なんでも気軽にきいちゃおう!

Q&Aをキーワードで検索:

Yahoo! JAPANは、回答に記載された内容の信ぴょう性、正確性を保証しておりません。
お客様自身の責任と判断で、ご利用ください。
本文はここまでです このページの先頭へ

「追加する」ボタンを押してください。

閉じる

※知恵コレクションに追加された質問は選択されたID/ニックネームのMy知恵袋で確認できます。

不適切な投稿でないことを報告しました。

閉じる