ここから本文です

有効数字の問題です。

アバター

ID非公開さん

2017/6/2005:49:01

有効数字の問題です。

3.72×10^6-2.5×10^5
の答えが3.47×10^6となっていますが
2.5がもっとも高い末位なので3.5×10^6じゃないんですか？
なぜこうなるのですか？

閲覧数：
30
回答数：
3
お礼：
250枚

違反報告

ベストアンサーに選ばれた回答

プロフィール画像

mam********さん

2017/6/2007:24:27

>>2.5がもっとも高い末位なので

どこが？

3.72×10^6 = 3,720,000
2.5×10^5 = 250,000

なのだから、3.72×10^6の２のある位と、2.5×10^5の5のある位はどちらも同じ位にある。だから最も高い末位もくそもなく共通である1万の位までが有効桁になる。

違反報告

ベストアンサー以外の回答

1〜2件/2件中

並び替え：回答日時の
新しい順
|古い順

プロフィール画像

カテゴリマスター

fri********さん

2017/6/2007:21:49

加減算における最も高い末位は、
同一指数で比較しなければいけません。
3.72×10⁶－0.25×10⁶
37.2×10⁵－2.5×10⁵
3720000－250000

違反報告

プロフィール画像

カテゴリマスター

cup********さん

2017/6/2006:35:06

＞3.72×10^6-2.5×10^5

10^6でまとめると

(3.72－0.25)×10^6

()内の引き算はどちらも小数第2位までなので計算結果も小数第2位まで出すので

＝3.47×10^6

となります。

違反報告

この質問につけられたタグ

みんなで作る知恵袋　悩みや疑問、なんでも気軽にきいちゃおう！

Q&Aをキーワードで検索：

Yahoo! JAPANは、回答に記載された内容の信ぴょう性、正確性を保証しておりません。
お客様自身の責任と判断で、ご利用ください。
本文はここまでです このページの先頭へ

「追加する」ボタンを押してください。

閉じる

※知恵コレクションに追加された質問は選択されたID/ニックネームのMy知恵袋で確認できます。

不適切な投稿でないことを報告しました。

閉じる