関数電卓、買うならどれが良い?@電気・電子 Part2

このエントリーをはてなブックマークに追加
2774ワット発電中さん
有効桁12と言ったら、11桁までは真値に一致しているのが当然で、
ずれて良いのは最後の一桁だけ。

HPのは単に表示してるだけであってなんら精度に対する保証がない。
詐欺商品だろこれ。
Sin(π-0.01)
Mathematicaによる正確な値40桁
0.009999833334166664682542438269099729038964
TI Voyage200(TI-89,TI-92etc)
0.0099998333341667
HP-49G
0.00999983333396

TI圧勝。TI完璧。
HPは総じて手抜き商品ですな。
いつどこでどうウソ付かれるか判ったもんじゃない、怖くて使えない。
数表以下。
ちなみに、Mathematicaで
ArcSin[0.009999833334166664682542438269099729038964]
=0.01000000000000000000000000000000000000000
なのでこの値は完璧ね。