数値計算の誤差

このエントリーをはてなブックマークに追加
3名無しさん@1周年

打ち切り誤差: 混むピューターの扱える数字は有限桁です。例えば、1,2,3,4.11,
19.193847459,0.100083, etc。従って、1/3 は0.333333......
のどこかで切れてしまいます, 例えば0.3333。どこで切れるかは
精度の問題でこれが単精度、倍精度などと言われるものです。
と言う訳で、この切れてしまった部分を打ち切り誤差と言います。

丸め誤差: 。。。。。。。。。。。。。。。。。。。。。。。。。。。。?