ここから本文です

電卓で計算した答えとエクセルで計算した答えが

sun********さん

2010/10/1517:35:27

電卓で計算した答えとエクセルで計算した答えが

違います。

同じ数字で計算しているのに。。

電卓 280443×24=6730632

エクセル 280443×24=6730633 下一桁が違ってきます。


なんで違ってくるんでしょうか?

わかるかたお願いします。
できれば直し方もお願いします。

補足もう少し大きい数字になると、5ぐらいずれてきます。

小数点をいじっても直りません。(涙)

閲覧数:
456
回答数:
3
お礼:
50枚

違反報告

ベストアンサーに選ばれた回答

なずなさん

2010/10/1521:50:03

1つのセル内で、
=280443*24
という数式で演算すれば、「6730632」という結果になる筈です。

「280443」 か 「24」 の何れか、または両方が、何かの計算によって得られた数値ではないでしょうか?
そしてそれは、少数以下が表示されていないだけで、実際には少数以下に有効桁があるのでは?

もしこれに該当する場合は、直すとすればそこまでの計算の過程を知る必要があります。
どこかで少数以下を丸めるにしても、何の為の計算で、どこで誤差が生じるかによって、丸めて良いタイミングやパターンが違ってきます。

この回答は投票によってベストアンサーに選ばれました!

ベストアンサー以外の回答

1〜2件/2件中

並び替え:回答日時の
新しい順
|古い順

Chiquilinさん

2010/10/1600:05:02

この説明だけじゃ 何が原因か。どっちが原因かもよく分かりません。

安物の電卓は 一定以上の桁数は勝手に丸めてしまうのでそれに
よってずれる可能性がありますし 一方で Excelは演算誤差が起き
る可能性をもっています。

回答者の人が指摘していることに ちゃんと答えるべきでしたね。
原因を特定しようとしないと 話が前に進みません。

日経PC21 / エクセル「演算誤差」対策講座
http://pc.nikkeibp.co.jp/pc21/special/gosa/

多分 皆さんこれを疑っています。

bwd********さん

2010/10/1517:40:43

セルの設定だと思います。

一度確認してください。

表示される桁以下を、四捨五入していると思います。

この質問につけられたタグ

みんなで作る知恵袋 悩みや疑問、なんでも気軽にきいちゃおう!

Q&Aをキーワードで検索:

Yahoo! JAPANは、回答に記載された内容の信ぴょう性、正確性を保証しておりません。
お客様自身の責任と判断で、ご利用ください。
本文はここまでです このページの先頭へ

「追加する」ボタンを押してください。

閉じる

※知恵コレクションに追加された質問は選択されたID/ニックネームのMy知恵袋で確認できます。

不適切な投稿でないことを報告しました。

閉じる