★★★★★電卓マニア★★★★★

このエントリーをはてなブックマークに追加
110名無しの愉しみ
有効桁12と言ったら、11桁までは真値に一致しているのが当然で、
ずれて良いのは最後の一桁だけ。

HPのは単に表示してるだけであってなんら精度に対する保証がない。
詐欺商品だろこれ。
Sin(π-0.01)
Mathematicaによる正確な値40桁
0.009999833334166664682542438269099729038964
TI Voyage200(TI-89,TI-92etc)
0.0099998333341667
HP-49G
0.00999983333396

TI圧勝。TI完璧。
HPは総じて手抜き商品ですな。
いつどこでどうウソ付かれるか判ったもんじゃない。怖くて使えない。

ちなみに、Mathematicaで
ArcSin[0.009999833334166664682542438269099729038964]
=0.01000000000000000000000000000000000000000
なのでこの値は完璧ね。