ここから本文です

Accessで選択クエリを作成し、その際、式1 : [A]-[B] という項目を作ったのですが...

アバター

ID非公開さん

2018/4/2322:51:17

Accessで選択クエリを作成し、その際、式1 : [A]-[B] という項目を作ったのですが、そこで計算された値が7.00000000000003E-02、というおかしな値になりました。

計算対象のデータを見る限り、小数点が第2位まで入っていますが特段おかしなデータだったわけではありません。(はっきりした値は覚えていないのですが、0.32-0.11みたいな普通の計算でした)

上記のようになる理由とそれを回避する為にどうすれば良いかをおしえてください。
宜しくお願いします。

閲覧数:
45
回答数:
1
お礼:
100枚

違反報告

ベストアンサーに選ばれた回答

プロフィール画像

カテゴリマスター

hat********さん

2018/4/2409:20:24

演算対象のフィールドのフィールドサイズが、単精度浮動小数点型 か 倍精度浮動小数点型になっているのだと思います。原因は、 「小数 演算誤差」でWEB検索してみてください。

対策は、データ型を通貨型にしてください。これなら、誤差は出ずに、小数4桁まで入力できます。

ちなみに、round で四捨五入しても誤差がでるときはあります。

この回答は投票によってベストアンサーに選ばれました!

みんなで作る知恵袋 悩みや疑問、なんでも気軽にきいちゃおう!

Q&Aをキーワードで検索:

Yahoo! JAPANは、回答に記載された内容の信ぴょう性、正確性を保証しておりません。
お客様自身の責任と判断で、ご利用ください。
本文はここまでです このページの先頭へ

「追加する」ボタンを押してください。

閉じる

※知恵コレクションに追加された質問は選択されたID/ニックネームのMy知恵袋で確認できます。

不適切な投稿でないことを報告しました。

閉じる