C言語なら俺に聞け(入門篇) Part 21

このエントリーをはてなブックマークに追加
683デフォルトの名無しさん
684デフォルトの名無しさん:2007/11/23(金) 23:51:45
>>682
doubleの有効桁数を超えてるとか。
685デフォルトの名無しさん:2007/11/23(金) 23:57:53
多売長ライブラリ
686デフォルトの名無しさん:2007/11/24(土) 00:15:23
>683

倍精度浮動小数点で普通使われるIEEE 754 形式だと仮数部52ビットだけど、
pow(5,23)で52bitを超えるから、以降は誤差が出る。
誤差を避けるためには自分で作るしかない。
でも多分そういうアルゴリズムは探せばあるよ。