ある式を関数電卓、C言語、Excelで解いたときの値が違うのですがどれが合っているのでしょうか。また合っている式をその値にするにはどのようにすればよいでしょうか。 関数電卓
ある式を関数電卓、C言語、Excelで解いたときの値が違うのですがどれが合っているのでしょうか。また合っている式をその値にするにはどのようにすればよいでしょうか。 関数電卓 √-2*log(0.4928) * sin(s*π*0.5523) = 0.047455189 C言語 =sqrt(-2*log(0.4928)) * sin(s*M_PI*0.5523) = -0.383939 Excel =SQRT(-2*LOG(0.4928)) * SIN(2*PI()*0.5523) = -0.2540799
ベストアンサー
全部誤りです。計算機誤差と言います。 なので 浮動小数点演算をする時にはIEEE規格で演算して どの計算機でも結果が一致するようにします。 演算精度と言います。 また 演算精度で言えばPythonの10進数演算を使えば 計算機誤差が少なくなります。
1人がナイス！しています
