このページに関してのお問い合わせはこちら
スレを勃てるまでもないC/C++の質問はここで 16
ツイート
437
:
デフォルトの名無しさん
:
2010/08/16(月) 18:50:11
すみません。
floatで-3.4549897 と -3.4549899 の引き算を行った所、
答えが-0.0000002(7桁をオーバー)ではなく 2.3841858e-007 になり、
割り算を当てるとゼロ割り算と同じエラーを吐きます。
時折見かける、この e-007 などは扱える数を超えたという意味なのでしょうか。
こういった場合ifで桁数を超えないか監視するのが定番なのでしょうか?