ここから本文です

浮動小数点に関する質問です。 計算は全てMathematicaで行いました。また、桁数は...

アバター

ID非公開さん

2019/1/3117:17:40

浮動小数点に関する質問です。
計算は全てMathematicaで行いました。また、桁数は100桁で行なっております。
割り算をした値が1.0*10^-99や1.0*10^-98になりました。

これらが0とみなせるのはなぜでしょうか。

閲覧数:
38
回答数:
1
お礼:
100枚

違反報告

ベストアンサーに選ばれた回答

san********さん

2019/1/3120:01:23

> これらが0とみなせるのはなぜでしょうか。
これは本当ですか?
ここをしっかりと考慮する必要があります。

0とみなしても良い条件としては、
・あとの計算で十分大きな数字と加減算されて情報落ちが発生する
または
・それまでの計算で桁落ちが発生し、有効桁数が減ってしまっている
あたりが挙げられます。

0とみなして良い条件が満たされていれば0とみなして良いですが、
満たされていなければ0とみなしてはいけません。

アバター

質問した人からのコメント

2019/2/1 16:47:02

どのような計算をしていたか前に戻ってみたら、桁落ちがありました。
丁寧なご回答まことにありがとうございました。
とても助かります。

みんなで作る知恵袋 悩みや疑問、なんでも気軽にきいちゃおう!

Q&Aをキーワードで検索:

Yahoo! JAPANは、回答に記載された内容の信ぴょう性、正確性を保証しておりません。
お客様自身の責任と判断で、ご利用ください。
本文はここまでです このページの先頭へ

「追加する」ボタンを押してください。

閉じる

※知恵コレクションに追加された質問は選択されたID/ニックネームのMy知恵袋で確認できます。

不適切な投稿でないことを報告しました。

閉じる