このページに関してのお問い合わせはこちら
gnuplot を使おう。 その3
ツイート
74
:
名無しさん@お腹いっぱい。
:
2012/05/28(月) 22:16:09.31
gnuplot> q=1.60e-19
gnuplot> print q**16
1.84467440737095e-301
gnuplot> print q**20
0.0
上記のように、q=1.60e-19の累乗が大きい値になると、計算結果が0.0になってしまいます。
どうすれば、正確な値がでてきますか?
(次に続く)